ServiceMesh 實(shí)現(xiàn)控制面灰度

在控制面，早期灰度發(fā)布采用 APIGW 的方式實(shí)現(xiàn)。APIGW 通常僅部署在用戶流量的入口，完全灰度發(fā)布就需要完整地部署兩套系統(tǒng)。但在微服務(wù)化的時(shí)代，任何一個(gè)微服務(wù)發(fā)生變更都需要完整地部署兩套系統(tǒng)，這不僅成本高且嚴(yán)重影響產(chǎn)品變更速度。ServiceMesh 以類似于將 APIGateway 部署到本地，同時(shí)提供集中化控制的方式，完美地解決了這些問題。 

UCloud 的輕量級 ServiceMesh 平臺基于 Istio，繼續(xù)使用 Envoy 代理，修改 Pilot 在保留完整的 DSL 支持的基礎(chǔ)上實(shí)現(xiàn)了脫離 K8S 運(yùn)行。

因此網(wǎng)絡(luò)團(tuán)隊(duì)對 Pilot 做了高度定制，從而更能滿足自身的需求。

? 定制方案三：采用 docker-compose 管理容器實(shí)現(xiàn) sidecar。新方案中仍然采用容器的方式打包和部署微服務(wù)，但采用 Host 的網(wǎng)絡(luò)方式簡化了現(xiàn)存服務(wù)的網(wǎng)絡(luò)通信方式。通過這種方式實(shí)現(xiàn)了一個(gè)簡單的服務(wù)管理、版本管理、集群管理、路由策略管理層，為集群中的每臺 Node（虛擬機(jī)或物理服務(wù)器）生成 docker-compose 配置文件，從而部署和管理每臺 Node 的服務(wù)。

可編程交換機(jī)實(shí)現(xiàn)轉(zhuǎn)發(fā)面灰度

在轉(zhuǎn)發(fā)面灰度的方案選擇上，團(tuán)隊(duì)采用了可編程交換機(jī)（基于 Barefoot Tofino 芯片）來實(shí)現(xiàn)灰度網(wǎng)關(guān)，替換普通交換機(jī)實(shí)現(xiàn)強(qiáng)灰度能力。 

灰度網(wǎng)關(guān)較大提供 64 個(gè) 100G 的接口、6.4T 帶寬，PPS 性能可達(dá) 4400 兆，延遲為 us 級別，能夠很好支持網(wǎng)絡(luò)寬帶的高性能要求。灰度網(wǎng)關(guān)可以提供：一致性哈希 ECMP 的能力；可以基于任意定制字段（包括內(nèi)層虛擬網(wǎng)絡(luò)地址以及租戶 ID）計(jì)算哈希；在計(jì)算哈希前優(yōu)先應(yīng)用灰度規(guī)則，可以根據(jù)任意字段定制灰度規(guī)則，最小粒度可以做到按 TCP 流來灰度。

轉(zhuǎn)發(fā)面灰度示例

有了上述這些新工具，可以通過部署新的策略實(shí)現(xiàn)更加細(xì)粒的灰度發(fā)布，具體方案為：可編程交換機(jī) BGP 宣告集群 VIP 引流，根據(jù)選擇字段計(jì)算一致性哈希后將流量量分發(fā)給后端服務(wù)器，并按照選擇字段（VNI、源地址、目的地址）配置灰度規(guī)則。

灰度步驟如下：