發(fā)現(xiàn)最近最近很多號(hào)主發(fā)網(wǎng)關(guān)的文章，質(zhì)量參差不齊，建議直接看這篇，有理論，有實(shí)戰(zhàn)。

不 BB，上文章目錄：

1 API網(wǎng)關(guān)基礎(chǔ)

1.1 什么是API網(wǎng)關(guān)

API網(wǎng)關(guān)是一個(gè)服務(wù)器，是系統(tǒng)的唯一入口。從面向?qū)ο笤O(shè)計(jì)的角度看，它與外觀模式類似。

API網(wǎng)關(guān)封裝了系統(tǒng)內(nèi)部架構(gòu)，為每個(gè)客戶端提供一個(gè)定制的API。它可能還具有其它職責(zé)，如身份驗(yàn)證、監(jiān)控、負(fù)載均衡、緩存、協(xié)議轉(zhuǎn)換、限流熔斷、靜態(tài)響應(yīng)處理。

API網(wǎng)關(guān)方式的核心要點(diǎn)是，所有的客戶端和消費(fèi)端都通過統(tǒng)一的網(wǎng)關(guān)接入微服務(wù)，在網(wǎng)關(guān)層處理所有的非業(yè)務(wù)功能。通常，網(wǎng)關(guān)也是提供REST/HTTP的訪問API。

1.2 網(wǎng)關(guān)的主要功能

微服務(wù)網(wǎng)關(guān)作為微服務(wù)后端服務(wù)的統(tǒng)一入口，它可以統(tǒng)籌管理后端服務(wù)，主要分為數(shù)據(jù)平面和控制平面：

數(shù)據(jù)平面主要功能是接入用戶的HTTP請求和微服務(wù)被拆分后的聚合。使用微服務(wù)網(wǎng)關(guān)統(tǒng)一對外暴露后端服務(wù)的API和契約，路由和過濾功能正是網(wǎng)關(guān)的核心能力模塊。另外，微服務(wù)網(wǎng)關(guān)可以實(shí)現(xiàn)攔截機(jī)制和專注跨橫切面的功能，包括協(xié)議轉(zhuǎn)換、安全認(rèn)證、熔斷限流、灰度發(fā)布、日志管理、流量監(jiān)控等。

控制平面主要功能是對后端服務(wù)做統(tǒng)一的管控和配置管理。例如，可以控制網(wǎng)關(guān)的彈性伸縮；可以統(tǒng)一下發(fā)配置；可以對網(wǎng)關(guān)服務(wù)添加標(biāo)簽；可以在微服務(wù)網(wǎng)關(guān)上通過配置Swagger功能統(tǒng)一將后端服務(wù)的API契約暴露給使用方，完成文檔服務(wù)，提高工作效率和降低溝通成本。

路由功能：路由是微服務(wù)網(wǎng)關(guān)的核心能力。通過路由功能微服務(wù)網(wǎng)關(guān)可以將請求轉(zhuǎn)發(fā)到目標(biāo)微服務(wù)。在微服務(wù)架構(gòu)中，網(wǎng)關(guān)可以結(jié)合注冊中心的動(dòng)態(tài)服務(wù)發(fā)現(xiàn)，實(shí)現(xiàn)對后端服務(wù)的發(fā)現(xiàn)，調(diào)用方只需要知道網(wǎng)關(guān)對外暴露的服務(wù)API就可以透明地訪問后端微服務(wù)。

負(fù)載均衡：API網(wǎng)關(guān)結(jié)合負(fù)載均衡技術(shù)，利用Eureka或者Consul等服務(wù)發(fā)現(xiàn)工具，通過輪詢、指定權(quán)重、IP地址哈希等機(jī)制實(shí)現(xiàn)下游服務(wù)的負(fù)載均衡。

統(tǒng)一鑒權(quán)：一般而言，無論對內(nèi)網(wǎng)還是外網(wǎng)的接口都需要做用戶身份認(rèn)證，而用戶認(rèn)證在一些規(guī)模較大的系統(tǒng)中都會(huì)采用統(tǒng)一的單點(diǎn)登錄（Single Sign On）系統(tǒng)，如果每個(gè)微服務(wù)都要對接單點(diǎn)登錄系統(tǒng)，那么顯然比較浪費(fèi)資源且開發(fā)效率低。API網(wǎng)關(guān)是統(tǒng)一管理安全性的絕佳場所，可以將認(rèn)證的部分抽取到網(wǎng)關(guān)層，微服務(wù)系統(tǒng)無須關(guān)注認(rèn)證的邏輯，只關(guān)注自身業(yè)務(wù)即可。

協(xié)議轉(zhuǎn)換：API網(wǎng)關(guān)的一大作用在于構(gòu)建異構(gòu)系統(tǒng)，API網(wǎng)關(guān)作為單一入口，通過協(xié)議轉(zhuǎn)換整合后臺(tái)基于REST、AMQP、Dubbo等不同風(fēng)格和實(shí)現(xiàn)技術(shù)的微服務(wù)，面向Web Mobile、開放平臺(tái)等特定客戶端提供統(tǒng)一服務(wù)。

指標(biāo)監(jiān)控：網(wǎng)關(guān)可以統(tǒng)計(jì)后端服務(wù)的請求次數(shù)，并且可以實(shí)時(shí)地更新當(dāng)前的流量健康狀態(tài)，可以對URL粒度的服務(wù)進(jìn)行延遲統(tǒng)計(jì)，也可以使用Hystrix Dashboard查看后端服務(wù)的流量狀態(tài)及是否有熔斷發(fā)生。

限流熔斷：在某些場景下需要控制客戶端的訪問次數(shù)和訪問頻率，一些高并發(fā)系統(tǒng)有時(shí)還會(huì)有限流的需求。在網(wǎng)關(guān)上可以配置一個(gè)閾值，當(dāng)請求數(shù)超過閾值時(shí)就直接返回錯(cuò)誤而不繼續(xù)訪問后臺(tái)服務(wù)。當(dāng)出現(xiàn)流量洪峰或者后端服務(wù)出現(xiàn)延遲或故障時(shí)，網(wǎng)關(guān)能夠主動(dòng)進(jìn)行熔斷，保護(hù)后端服務(wù)，并保持前端用戶體驗(yàn)良好。

黑白名單：微服務(wù)網(wǎng)關(guān)可以使用系統(tǒng)黑名單，過濾HTTP請求特征，攔截異常客戶端的請求，例如DDoS攻擊等侵蝕帶寬或資源迫使服務(wù)中斷等行為，可以在網(wǎng)關(guān)層面進(jìn)行攔截過濾。比較常見的攔截策略是根據(jù)IP地址增加黑名單。在存在鑒權(quán)管理的路由服務(wù)中可以通過設(shè)置白名單跳過鑒權(quán)管理而直接訪問后端服務(wù)資源。

灰度發(fā)布：微服務(wù)網(wǎng)關(guān)可以根據(jù)HTTP請求中的特殊標(biāo)記和后端服務(wù)列表元數(shù)據(jù)標(biāo)識(shí)進(jìn)行流量控制，實(shí)現(xiàn)在用戶無感知的情況下完成灰度發(fā)布。

流量染色：和灰度發(fā)布的原理相似，網(wǎng)關(guān)可以根據(jù)HTTP請求的Host、Head、Agent等標(biāo)識(shí)對請求進(jìn)行染色，有了網(wǎng)關(guān)的流量染色功能，我們可以對服務(wù)后續(xù)的調(diào)用鏈路進(jìn)行跟蹤，對服務(wù)延遲及服務(wù)運(yùn)行狀況進(jìn)行進(jìn)一步的鏈路分析。

文檔中心：網(wǎng)關(guān)結(jié)合Swagger，可以將后端的微服務(wù)暴露給網(wǎng)關(guān)，網(wǎng)關(guān)作為統(tǒng)一的入口給接口的使用方提供查看后端服務(wù)的API規(guī)范，不需要知道每一個(gè)后端微服務(wù)的Swagger地址，這樣網(wǎng)關(guān)起到了對后端API聚合的效果。

日志審計(jì)：微服務(wù)網(wǎng)關(guān)可以作為統(tǒng)一的日志記錄和收集器，對服務(wù)URL粒度的日志請求信息和響應(yīng)信息進(jìn)行攔截。

2 API網(wǎng)關(guān)選型

2.1 常用API網(wǎng)關(guān)

先簡單看一下市面上常用的API網(wǎng)關(guān)：

Nginx

Nginx是一個(gè)高性能的HTTP和反向代理服務(wù)器。Nginx一方面可以做反向代理，另外一方面可以做靜態(tài)資源服務(wù)器，接口使用Lua動(dòng)態(tài)語言可以完成靈活的定制功能。

Nginx 在啟動(dòng)后，會(huì)有一個(gè) Master 進(jìn)程和多個(gè) Worker 進(jìn)程，Master 進(jìn)程和 Worker 進(jìn)程之間是通過進(jìn)程間通信進(jìn)行交互的，如圖所示。Worker 工作進(jìn)程的阻塞點(diǎn)是在像 select()、epoll_wait() 等這樣的 I/O 多路復(fù)用函數(shù)調(diào)用處，以等待發(fā)生數(shù)據(jù)可讀 / 寫事件。Nginx 采用了異步非阻塞的方式來處理請求，也就是說，Nginx 是可以同時(shí)處理成千上萬個(gè)請求的。

Zuul

Zuul 是 Netflix 開源的一個(gè)API網(wǎng)關(guān)組件，它可以和 Eureka、Ribbon、Hystrix 等組件配合使用。社區(qū)活躍，融合于 SpringCloud 完整生態(tài)，是構(gòu)建微服務(wù)體系前置網(wǎng)關(guān)服務(wù)的最佳選型之一。

Zuul 的核心是一系列的過濾器，這些過濾器可以完成以下功能：

統(tǒng)一鑒權(quán) + 動(dòng)態(tài)路由 + 負(fù)載均衡 + 壓力測試

審查與監(jiān)控：與邊緣位置追蹤有意義的數(shù)據(jù)和統(tǒng)計(jì)結(jié)果，從而帶來精確的生產(chǎn)視圖。

多區(qū)域彈性：跨越 AWS Region 進(jìn)行請求路由，旨在實(shí)現(xiàn) ELB（Elastic Load Balancing，彈性負(fù)載均衡）使用的多樣化，以及讓系統(tǒng)的邊緣更貼近系統(tǒng)的使用者。

Zuul 目前有兩個(gè)大的版本：Zuul1 和 Zuul2

Zuul1 是基于 Servlet 框架構(gòu)建，如圖所示，采用的是阻塞和多線程方式，即一個(gè)線程處理一次連接請求，這種方式在內(nèi)部延遲嚴(yán)重、設(shè)備故障較多情況下會(huì)引起存活的連接增多和線程增加的情況發(fā)生。

Netflix 發(fā)布的 Zuul2 有重大的更新，它運(yùn)行在異步和無阻塞框架上，每個(gè) CPU 核一個(gè)線程，處理所有的請求和響應(yīng)，請求和響應(yīng)的生命周期是通過事件和回調(diào)來處理的，這種方式減少了線程數(shù)量，因此開銷較小。

Spring Cloud GetWay

Spring Cloud Gateway 是Spring Cloud的一個(gè)全新的API網(wǎng)關(guān)項(xiàng)目，目的是為了替換掉Zuul1，它基于Spring5.0 + SpringBoot2.0 + WebFlux（基于?性能的Reactor模式響應(yīng)式通信框架Netty，異步?阻塞模型）等技術(shù)開發(fā)，性能?于Zuul，官?測試，Spring Cloud GateWay是Zuul的1.6倍，旨在為微服務(wù)架構(gòu)提供?種簡單有效的統(tǒng)?的API路由管理?式。

Spring Cloud Gateway可以與Spring Cloud Discovery Client（如Eureka）、Ribbon、Hystrix等組件配合使用，實(shí)現(xiàn)路由轉(zhuǎn)發(fā)、負(fù)載均衡、熔斷、鑒權(quán)、路徑重寫、?志監(jiān)控等，并且Gateway還內(nèi)置了限流過濾器，實(shí)現(xiàn)了限流的功能。

Kong

Kong是一款基于OpenResty（Nginx + Lua模塊）編寫的高可用、易擴(kuò)展的，由Mashape公司開源的API Gateway項(xiàng)目。Kong是基于NGINX和Apache Cassandra或PostgreSQL構(gòu)建的，能提供易于使用的RESTful API來操作和配置API管理系統(tǒng)，所以它可以水平擴(kuò)展多個(gè)Kong服務(wù)器，通過前置的負(fù)載均衡配置把請求均勻地分發(fā)到各個(gè)Server，來應(yīng)對大批量的網(wǎng)絡(luò)請求。

Kong主要有三個(gè)組件：

Kong Server ：基于Nginx的服務(wù)器，用來接收API請求。

Apache Cassandra/PostgreSQL ：用來存儲(chǔ)操作數(shù)據(jù)。

Kong dashboard：官方推薦UI管理工具，也可以使用 restfull 方式管理admin api。

Kong采用插件機(jī)制進(jìn)行功能定制，插件集（可以是0或N個(gè)）在API請求響應(yīng)循環(huán)的生命周期中被執(zhí)行。插件使用Lua編寫，目前已有幾個(gè)基礎(chǔ)功能：HTTP基本認(rèn)證、密鑰認(rèn)證、CORS（Cross-Origin Resource Sharing，跨域資源共享）、TCP、UDP、文件日志、API請求限流、請求轉(zhuǎn)發(fā)以及Nginx監(jiān)控。

Kong網(wǎng)關(guān)具有以下的特性：

可擴(kuò)展性: 通過簡單地添加更多的服務(wù)器，可以輕松地進(jìn)行橫向擴(kuò)展，這意味著您的平臺(tái)可以在一個(gè)較低負(fù)載的情況下處理任何請求；

模塊化: 可以通過添加新的插件進(jìn)行擴(kuò)展，這些插件可以通過RESTful Admin API輕松配置；

在任何基礎(chǔ)架構(gòu)上運(yùn)行: Kong網(wǎng)關(guān)可以在任何地方都能運(yùn)行。您可以在云或內(nèi)部網(wǎng)絡(luò)環(huán)境中部署Kong，包括單個(gè)或多個(gè)數(shù)據(jù)中心設(shè)置，以及public，private 或invite-only APIs。

Traefik

Tr?f?k 是一個(gè)為了讓部署微服務(wù)更加便捷而誕生的現(xiàn)代HTTP反向代理、負(fù)載均衡工具。它支持多種后臺(tái) (Docker, Swarm, Kubernetes, Marathon, Mesos, Consul, Etcd, Zookeeper, BoltDB, Rest API, file…) 來自動(dòng)化、動(dòng)態(tài)的應(yīng)用它的配置文件設(shè)置。

重要特性：

它非常快，無需安裝其他依賴，通過Go語言編寫的單一可執(zhí)行文件；

多種后臺(tái)支持：Docker, Swarm, Kubernetes, Marathon, Mesos, Consul, Etcd；

支持支持Rest API、Websocket、HTTP/2、Docker鏡像；

監(jiān)聽后臺(tái)變化進(jìn)而自動(dòng)化應(yīng)用新的配置文件設(shè)置；

配置文件熱更新，無需重啟進(jìn)程；

后端斷路器、負(fù)載均衡、容錯(cuò)機(jī)制；

清爽的前端頁面，可監(jiān)控服務(wù)指標(biāo)。

關(guān)于Traefik的更多內(nèi)容，可以查看官網(wǎng)：https://traefik.cn/

2.2 API網(wǎng)關(guān)對比

上面是網(wǎng)關(guān)對比截圖，偷個(gè)懶，大家主要關(guān)注Kong、Traefik和Zuul即可：

從開源社區(qū)活躍度來看，無疑是Kong和Traefik較好；

從成熟度來看，較好的是Kong、Tyk、Traefik；

從性能來看，Kong要比其他幾個(gè)領(lǐng)先一些；

從架構(gòu)優(yōu)勢的擴(kuò)展性來看，Kong、Tyk有豐富的插件，Ambassador也有插件但不多，而Zuul是完全需要自研，但Zuul由于與Spring Cloud深度集成，使用度也很高，近年來Istio服務(wù)網(wǎng)格的流行，Ambassador因?yàn)槟軌蚝虸stio無縫集成也是相當(dāng)大的優(yōu)勢。

下面是其它網(wǎng)友的思考結(jié)論，可供參考：

性能：Nginx+Lua形式必然是高于Java語言實(shí)現(xiàn)的網(wǎng)關(guān)的，Java技術(shù)棧里面Zuul1.0是基于Servlet實(shí)現(xiàn)的，剩下都是基于webflux實(shí)現(xiàn)，性能是高于基于Servlet實(shí)現(xiàn)的。在性能方面我覺得選擇網(wǎng)關(guān)可能不算那么重要，多加幾臺(tái)機(jī)器就可以搞定。

可維護(hù)性和擴(kuò)展性：Nginx+Lua這個(gè)組合掌握的人不算多，如果團(tuán)隊(duì)有大神，大佬們就隨意了，當(dāng)沒看到這段話，對于一般團(tuán)隊(duì)來說的話，選擇自己團(tuán)隊(duì)擅長的語言更重要。Java技術(shù)棧下的3種網(wǎng)關(guān)，對于Zuul和Spring Cloud Getway需要或多或少要搞一些集成和配置頁面來維護(hù)，但是對于Soul我就無腦看看文章，需要哪個(gè)搬哪個(gè)好了，尤其是可以無腦對接Dubbo美滋滋，此外Soul2.0以后版本可以擺脫ZK，在我心里再無詬病，我就喜歡無腦操作。

高可用：對于網(wǎng)關(guān)高可用基本都是統(tǒng)一的策略都是采用多機(jī)器部署的方式，前面掛一個(gè)負(fù)載，對于而外需要用的一些組件大家注意一下。

3 基于Traefik自研的微服務(wù)網(wǎng)關(guān)

這個(gè)是我司自研的微服務(wù)網(wǎng)關(guān)，基于Traefik進(jìn)行開發(fā)，下面從技術(shù)選型、網(wǎng)關(guān)框架、網(wǎng)關(guān)后臺(tái)、協(xié)議轉(zhuǎn)換進(jìn)行講解，絕對干貨！

3.1 技術(shù)棧選型

Traefik：一款開源的反向代理與負(fù)載均衡工具，它最大的優(yōu)點(diǎn)是能夠與常見的微服務(wù)系統(tǒng)直接整合，可以實(shí)現(xiàn)自動(dòng)化動(dòng)態(tài)配置。traefik較為輕量，非常易于使用和設(shè)置，性能比較好，已在全球范圍內(nèi)用于生產(chǎn)環(huán)境。

Etcd：一個(gè)Go言編寫的分布式、高可用的一致性鍵值存儲(chǔ)系統(tǒng)，用于提供可靠的分布式鍵值存儲(chǔ)、配置共享和服務(wù)發(fā)現(xiàn)等功能。（更多內(nèi)容可以查看文章 肝了一個(gè)月的ETCD，從Raft原理到實(shí)踐 ）

Go：并發(fā)能力強(qiáng)，性能媲美C，處理能力是PHP的4倍，效率高，語法簡單，易上手，開發(fā)效率接近PHP。

3.3 網(wǎng)關(guān)框架

整個(gè)網(wǎng)關(guān)框架分為3塊：

網(wǎng)關(guān)后臺(tái)（hal-fe和hal-admin）：用于應(yīng)用、服務(wù)和插件的配置，然后將配置信息發(fā)布到ETCD；

Traefik：讀取ETCD配置，根據(jù)配置信息對請求進(jìn)行路由分發(fā)，如果需要鑒權(quán)，會(huì)直接通過hal-agent模塊進(jìn)行統(tǒng)一鑒權(quán)。鑒權(quán)完畢后，如果是Http請求，直接打到下游服務(wù)，如果是Grpc和Thrift協(xié)議，會(huì)通過hal-proxy模塊進(jìn)行協(xié)議轉(zhuǎn)換。

協(xié)議轉(zhuǎn)換模塊：讀取ETCD配置，對Traefik分發(fā)過來的請求，進(jìn)行Grpc和Thrift協(xié)議轉(zhuǎn)換（更多內(nèi)容可以查看文章 RPC框架：從原理到選型，一文帶你搞懂RPC），并通過服務(wù)發(fā)現(xiàn)機(jī)制，獲取服務(wù)下游機(jī)器，并通過負(fù)載均衡，將轉(zhuǎn)換后的數(shù)據(jù)打到下游服務(wù)機(jī)器。

3.4 網(wǎng)關(guān)后臺(tái)

主要由3大模塊組成：

應(yīng)用：主要包括應(yīng)用名、域名、路徑前綴、所屬組、狀態(tài)等，比如印度海外商城、印度社區(qū)；

服務(wù)：主要包括服務(wù)名、注冊方式、協(xié)議類型、所屬組、狀態(tài)等，比如評論服務(wù)、地址服務(wù)、搜索服務(wù)。

插件：主要包括插件名稱、插件類型、插件屬性配置等，比如路徑前綴替換插件、鑒權(quán)插件。

一個(gè)應(yīng)用只能綁定一個(gè)服務(wù)，但是可以綁定多個(gè)插件。通過后臺(tái)完成網(wǎng)關(guān)配置后，將這些配置信息生成Config文件，發(fā)布到ETCD中，Config文件需要遵循嚴(yán)格的數(shù)據(jù)格式，比如Traefix配置需要遵循官方的文件配置格式，才能被Traefik識(shí)別。

3.5 協(xié)議轉(zhuǎn)換模塊

hal-proxy模塊是整個(gè)微服務(wù)網(wǎng)關(guān)最復(fù)雜，也是技術(shù)含量最高的模塊，所以給大家詳細(xì)講解一下。

問題引入

在講這個(gè)模塊前，我們先看下面幾個(gè)問題：

當(dāng)請求從上游的trafik過來時(shí)，需要知道訪問下游的機(jī)器IP和端口，才能將請求發(fā)送給下游，這些機(jī)器如何獲取呢？

有了機(jī)器后，我們需要和下游機(jī)器建立連接，如果連接用一次就直接釋放，肯定對服務(wù)會(huì)造成很大的壓力，這就需要引入Client緩存池，那這個(gè)Client緩存池我們又該如何實(shí)現(xiàn)呢？

最后就是需要對協(xié)議進(jìn)行轉(zhuǎn)換，因?yàn)椴煌南掠畏?wù)，支持的協(xié)議類型是不一樣的，這個(gè)網(wǎng)關(guān)又是如何動(dòng)態(tài)支持的呢？

實(shí)現(xiàn)原理

我們還是先看一下hal-proxy內(nèi)部有哪些模塊，首先是Resolver模塊，這個(gè)模塊的是什么作用呢？這里我簡單介紹一下，目前公司內(nèi)部通過服務(wù)獲取到機(jī)器列表的方式有多種，比如MIS平臺(tái)、服務(wù)樹等，也就是有的是通過平臺(tái)配置的，有的是直接掛在服務(wù)樹下，無論哪種方式，我們都通過服務(wù)名，通過一定的方式，找到該服務(wù)下面所有的主機(jī)。

所以Resolver模塊的作用，其實(shí)就是通過服務(wù)名，找到該服務(wù)下的所有機(jī)器的IP和服務(wù)端口，然后持久化到內(nèi)存中，并定時(shí)更新。

協(xié)議模塊就是支持不同的協(xié)議轉(zhuǎn)換，每個(gè)協(xié)議類型的轉(zhuǎn)換，都需要單獨(dú)實(shí)現(xiàn)，這些協(xié)議轉(zhuǎn)換，無非就是先通過機(jī)器IP和端口初始化Client，然后再將數(shù)據(jù)進(jìn)行轉(zhuǎn)換后，直接發(fā)送到下游的機(jī)器。

最后就是連接池，之前我們其實(shí)也用到go自帶的pool來做，但是當(dāng)對pool數(shù)據(jù)進(jìn)行更新時(shí)，需要加鎖，所以性能一直起不來，后來改成了環(huán)形隊(duì)列，然后對數(shù)據(jù)的操作全部通過原子操作方式，就實(shí)現(xiàn)了無鎖操作，大大提高的并發(fā)性能。環(huán)形隊(duì)列的代碼，也給你安排上，可以直接看這篇文章 Go語言核心手冊-10.原子操作。

實(shí)現(xiàn)邏輯

這個(gè)是hal-proxy的邏輯實(shí)現(xiàn)圖，畫了2天，包含所有核心對象的交互方式，這里就不去細(xì)講，能掌握多少，靠大家自己領(lǐng)悟，如果有任何疑問(或者看不清圖片)，可以關(guān)注我公眾號(hào)，加我微信溝通。

審核編輯 ：李倩