什么是負(fù)載均衡

---

負(fù)載均衡（Load Balance）是分布式系統(tǒng)架構(gòu)設(shè)計中必須考慮的因素之一，它通常是指，將請求/數(shù)據(jù)【均勻】分?jǐn)偟蕉鄠€操作單元上執(zhí)行，負(fù)載均衡的關(guān)鍵在于【均勻】。

常見的負(fù)載均衡方案

常見互聯(lián)網(wǎng)分布式架構(gòu)如上，分為客戶端層、反向代理nginx層、站點層、服務(wù)層、數(shù)據(jù)層。可以看到，每一個下游都有多個上游調(diào)用，只需要做到，每一個上游都均勻訪問每一個下游，就能實現(xiàn)“將請求/數(shù)據(jù)【均勻】分?jǐn)偟蕉鄠€操作單元上執(zhí)行”。

【客戶端層】到【反向代理層】的負(fù)載均衡，是通過“DNS輪詢”實現(xiàn)的：DNS-server對于一個域名配置了多個解析ip，每次DNS解析請求來訪問DNS-server，會輪詢返回這些ip，保證每個ip的解析概率是相同的。這些ip就是nginx的外網(wǎng)ip，以做到每臺nginx的請求分配也是均衡的。

【反向代理層】到【站點層】的負(fù)載均衡，是通過“nginx”實現(xiàn)的。通過修改nginx.conf，可以實現(xiàn)多種負(fù)載均衡策略：

1）請求輪詢：和DNS輪詢類似，請求依次路由到各個web-server

2）最少連接路由：哪個web-server的連接少，路由到哪個web-server

3）ip哈希：按照訪問用戶的ip哈希值來路由web-server，只要用戶的ip分布是均勻的，請求理論上也是均勻的，ip哈希均衡方法可以做到，同一個用戶的請求固定落到同一臺web-server上，此策略適合有狀態(tài)服務(wù)，例如session（58沈劍備注：可以這么做，但強烈不建議這么做，站點層無狀態(tài)是分布式架構(gòu)設(shè)計的基本原則之一，session最好放到數(shù)據(jù)層存儲）

【站點層】到【服務(wù)層】的負(fù)載均衡，是通過“服務(wù)連接池”實現(xiàn)的。

上游連接池會建立與下游服務(wù)多個連接，每次請求會“隨機”選取連接來訪問下游服務(wù)。

上一篇文章《RPC-client實現(xiàn)細(xì)節(jié)》中有詳細(xì)的負(fù)載均衡、故障轉(zhuǎn)移、超時處理的細(xì)節(jié)描述，歡迎點擊link查閱，此處不再展開。

【數(shù)據(jù)層】的負(fù)載均衡

在數(shù)據(jù)量很大的情況下，由于數(shù)據(jù)層（db，cache）涉及數(shù)據(jù)的水平切分，所以數(shù)據(jù)層的負(fù)載均衡更為復(fù)雜一些，它分為“數(shù)據(jù)的均衡”，與“請求的均衡”。

數(shù)據(jù)的均衡是指：水平切分后的每個服務(wù)（db，cache），數(shù)據(jù)量是差不多的。

請求的均衡是指：水平切分后的每個服務(wù)（db，cache），請求量是差不多的。

業(yè)內(nèi)常見的水平切分方式有這么幾種：

每一個數(shù)據(jù)服務(wù)，存儲一定范圍的數(shù)據(jù)，上圖為例：

user1服務(wù)，存儲uid范圍1kw-2kw

這個方案的好處是：

（3）比較容易擴展，可以隨時加一個uid[2kw,3kw]的數(shù)據(jù)服務(wù)

不足是：

每一個數(shù)據(jù)服務(wù)，存儲某個key值hash后的部分?jǐn)?shù)據(jù)，上圖為例：

user0服務(wù)，存儲偶數(shù)uid數(shù)據(jù)

user1服務(wù)，存儲奇數(shù)uid數(shù)據(jù)

這個方案的好處是：

（3）請求均勻性較好

不足是：

總結(jié)

負(fù)載均衡（Load Balance）是分布式系統(tǒng)架構(gòu)設(shè)計中必須考慮的因素之一，它通常是指，將請求/數(shù)據(jù)【均勻】分?jǐn)偟蕉鄠€操作單元上執(zhí)行，負(fù)載均衡的關(guān)鍵在于【均勻】。

（1）【客戶端層】到【反向代理層】的負(fù)載均衡，是通過“DNS輪詢”實現(xiàn)的

（2）【反向代理層】到【站點層】的負(fù)載均衡，是通過“nginx”實現(xiàn)的

（3）【站點層】到【服務(wù)層】的負(fù)載均衡，是通過“服務(wù)連接池”實現(xiàn)的

（4）【數(shù)據(jù)層】的負(fù)載均衡，要考慮“數(shù)據(jù)的均衡”與“請求的均衡”兩個點，常見的方式有“按照范圍水平切分”與“hash水平切分”