億級流量網站架構核心技術-第二部分 高可用

2.負載均衡與反向代理

 

爲什麼用同時使用LVS+Nginx：

但是僅僅使用lvs作爲負載均衡的話，一旦後端接受到請求的服務器出了問題，那麼這次請求就失敗了。但是如果在lvs的後端在添加一層nginx（多個），每個nginx後端再有幾臺應用服務器，那麼結合兩者的優勢，既能避免單nginx的流量集中瓶頸，又能避免單lvs時一錘子買賣的問題

可以查看https://blog.csdn.net/BuquTianya/article/details/52076153

負載均衡算法

 1、輪詢（默認）

        每個請求按時間順序逐一分配到不同的後端服務，如果後端某臺服務器死機，自動剔除故障系統，使用戶訪問不受影響。

    2、weight（輪詢權值）

        weight的值越大分配到的訪問概率越高，主要用於後端每臺服務器性能不均衡的情況下。或者僅僅爲在主從的情況下設置不同的權值，達到合理有效的地利用主機資源。

    3、ip_hash

        每個請求按訪問IP的哈希結果分配，使來自同一個IP的訪客固定訪問一臺後端服務器，並且可以有效解決動態網頁存在的session共享問題。

    4、fair

        比 weight、ip_hash更加智能的負載均衡算法，fair算法可以根據頁面大小和加載時間長短智能地進行負載均衡，也就是根據後端服務器的響應時間 來分配請求，響應時間短的優先分配。Nginx本身不支持fair，如果需要這種調度算法，則必須安裝upstream_fair模塊。

    5、url_hash

        按訪問的URL的哈希結果來分配請求，使每個URL定向到一臺後端服務器，可以進一步提高後端緩存服務器的效率。Nginx本身不支持url_hash，如果需要這種調度算法，則必須安裝Nginx的hash軟件包。

詳情查看https://www.cnblogs.com/lvgg/p/6140584.html

 

3 隔離術

     3.1 線程隔離

線程隔離主要有線程池隔離，在實際使用時我們會把請求分類，然後交給不同的線程池處理，當一種業務的請求處理髮生問題時，不會將故障擴散到其他線程池，從而保證其他服務可用

3.2進程隔離

3.5讀寫隔離

3.8熱點隔離

3.10 使用Hystrix實現隔離 

4 限流詳解 

4.1限流算法

   令牌桶算法和漏桶算法

4.2.2限流總資源數

  線程池，數據庫連接池

 4.2.3限制某個接口的總併發數

4.2.5平滑限流某個接口的請求數

    使用GUAVA RateLimiter提供的令牌桶算法

4.3分佈式限流

 Redis+Lua

 Nginx+lug