大型網站架構的演化

一個成熟的大型網站（如淘寶、京東等）的系統架構並非開始設計就具有完整的高性能、高可用、安全等特性，它老是隨着用戶量的增長，業務功能的擴展逐漸演變完善的，在這個過程當中，開發模式、技術架構、設計思想也發生了很大的變化，就連技術人員也從幾我的發展到一個部門甚至一條產品線。

（歡迎你們訪問個人我的網站：工學1號館）

因此成熟的系統架構是隨業務擴展而完善出來的，並非一蹴而就；不一樣業務特徵的系統，會有各自的側重點，例如淘寶，要解決海量的商品信息的搜索、下單、支付，例如騰訊，要解決數億的用戶實時消息傳輸，百度它要處理海量的搜索請求，他們都有各自的業務特性，系統架構也有所不一樣。儘管如此咱們也能夠從這些不一樣的網站背景下，找出其中共用的技術，這些技術和手段能夠普遍運行在大型網站系統的架構中，下面就經過介紹大型網站系統的演化過程，來認識這些技術和手段。

一、初始階段的網站架構

應用程序、數據庫、文件等都在一臺服務器上，典型的LAMP結構

二、應用服務和數據服務分離

隨着業務的擴展，一臺服務器已經不能知足性能需求，故將應用程序、數據庫、文件各自部署在獨立的服務器上，這 3 臺服務器對硬件資源的要求各不相同：應用服務器須要處理大量的業務邏輯，所以須要更快更強大的CPU；數據庫服務器須要快速磁盤檢索和數據緩存，所以須要更快的磁盤和更大的內存；文件服務器須要存儲大量用戶上傳的文件，所以須要更大的硬盤。

應用和數據分離後，不一樣特性的服務器承擔不一樣的服務角色，網站的併發處理能力和數據存儲空間獲得了很大改善，支持網站業務進一步發展。可是隨着用戶逐漸增多，網站又一次面臨挑戰：數據庫壓力太大致使訪問延遲，進而影響整個網站的性能，用戶體驗受到影響。這時須要對網站架構進一步優化。

三、使用緩存改善網站性能

網站訪問的特色和現實世界的財富分配同樣遵循二八定律：80% 的業務訪問集中在20% 的數據上。既然大部分業務訪問集中在一小部分數據上，那麼若是把這一小部分數據緩存在內存中，就能夠減小數據庫的訪問壓力，提升整個網站的數據訪問速度，改善數據庫的寫入性能了。 網站使用的緩存能夠分爲兩種：緩存在應用服務器上的本地緩存和緩存在專門的分佈式緩存服務器上的遠程緩存。

本地緩存的訪問速度更快一些，可是受應用服務器內存限制，其緩存數據量有限，並且會出現和應用程序爭用內存的狀況。遠程分佈式緩存可使用集羣的方式，部署大內存的服務器做爲專門的緩存服務器，能夠在理論上作到不受內存容量限制的緩存服務。

使用緩存後，數據訪問壓力獲得有效緩解，可是單一應用服務器可以處理的請求鏈接有限，在網站訪問高峯期，應用服務器成爲整個網站的瓶頸。

四、使用應用服務器集羣改善網站的併發處理能力

使用集羣是網站解決高併發、海量數據問題的經常使用手段。當一臺服務器的處理能力、存儲空間不足時，不要企圖去更換更強大的服務器，對大型網站而言，無論多麼強大的服務器，都知足不了網站持續增加的業務需求。這種狀況下，更恰當的作法是增長一臺服務器分擔原有服務器的訪問及存儲壓力。 對網站架構而言，只要能經過增長一臺服務器的方式改善負載壓力，就能夠以一樣的方式持續增長服務器不斷改善系統性能，從而實現系統的可伸縮性。應用服務器實現集羣是網站可伸縮架構設計中較爲簡單成熟的一種。

經過負載均衡調度服務器，能夠未來自用戶瀏覽器的訪問請求分發到應用服務器集羣中的任何一臺服務器上，若是有更多用戶，就在集羣中加入更多的應用服務器，使應用服務器的壓力再也不成爲整個網站的瓶頸。

五、數據庫讀寫分離

網站在使用緩存後，使對大部分數據讀操做訪問均可以不經過數據庫就能完成，可是仍有一部分讀操做（緩存訪問不命中、緩存過時）和所有的寫操做都須要訪問數據庫，在網站的用戶達到必定規模後，數據庫由於負載壓力太高而成爲網站的瓶頸。 目前大部分的主流數據庫都提供主從熱備功能，經過配置兩臺數據庫主從關係，能夠將一臺數據庫服務器的數據更新同步到另外一臺服務器上。網站利用數據庫的這一功能，實現數據庫讀寫分離，從而改善數據庫負載壓力。

應用服務器在寫數據的時候，訪問主數據庫，主數據庫經過主從複製機制將數據更新同步到從數據庫，這樣當應用服務器讀數據的時候，就能夠經過從數據庫得到數據。爲了便於應用程序訪問讀寫分離後的數據庫，一般在應用服務器端使用專門的數據訪問模塊，使數據庫讀寫分離對應用透明。

六、使用反向代理和 CDN 加速網站響應

隨着網站業務不斷髮展，用戶規模愈來愈大，因爲中國複雜的網絡環境，不一樣地區的用戶訪問網站時，速度差異也極大。有研究代表，網站訪問延遲和用戶流失率正相關，網站訪問越慢，用戶越容易失去耐心而離開。爲了提供更好的用戶體驗，留住用戶，網站須要加速網站訪問速度。主要手段有使用 CDN 和方向代理。

CDN 和反向代理的基本原理都是緩存。CDN 部署在網絡提供商的機房，使用戶在請求網站服務時，能夠從距離本身最近的網絡提供商機房獲取數據。反向代理則部署在網站的中心機房，當用戶請求到達中心機房後，首先訪問的服務器是反向代理服務器，若是反向代理服務器中緩存着用戶請求的資源，就將其直接返回給用戶

使用 CDN 和反向代理的目的都是儘早返回數據給用戶，一方面加快用戶訪問速度，另外一方面也減輕後端服務器的負載壓力。

七、使用分佈式文件系統和分佈式數據庫系統

任何強大的單一服務器都知足不了大型網站持續增加的業務需求。數據庫通過讀寫分離後，從一臺服務器拆分紅兩臺服務器，可是隨着網站業務的發展依然不能知足需求，這時須要使用分佈式數據庫。文件系統也同樣，須要使用分佈式文件系統。

分佈式數據庫是網站數據庫拆分的最後手段，只有在單表數據規模很是龐大的時候才使用。不到不得已時，網站更經常使用的數據庫拆分手段是業務分庫，將不一樣業務的數據部署在不一樣的物理服務器上。

八、使用 NoSQL 和搜索引擎

隨着網站業務愈來愈複雜，對數據存儲和檢索的需求也愈來愈複雜，網站須要採用一些非關係數據庫技術如 NoSQL 和非數據庫查詢技術如搜索引擎。

NoSQL 和搜索引擎都是源自互聯網的技術手段，對可伸縮的分佈式特性具備更好的支持。應用服務器則經過一個統一數據訪問模塊訪問各類數據，減輕應用程序管理諸多數據源的麻煩。

九、業務拆分

大型網站爲了應對日益複雜的業務場景，經過使用分而治之的手段將整個網站業務分紅不一樣的產品線。如大型購物交易網站都會將首頁、商鋪、訂單、買家、賣家等拆分紅不一樣的產品線，分歸不一樣的業務團隊負責。

具體到技術上，也會根據產品線劃分，將一個網站拆分紅許多不一樣的應用，每一個應用獨立部署。應用之間能夠經過一個超連接創建關係（在首頁上的導航連接每一個都指向不一樣的應用地址），也能夠經過消息隊列進行數據分發，固然最多的仍是經過訪問同一個數據存儲系統來構成一個關聯的完整系統。

十、分佈式服務

隨着業務拆分愈來愈小，存儲系統愈來愈龐大，應用系統的總體複雜度呈指數級增長，部署維護愈來愈困難。因爲全部應用要和全部數據庫系統鏈接，在數萬臺服務器規模的網站中，這些鏈接的數目是服務器規模的平方，致使數據庫鏈接資源不足，拒絕服務。

既然每個應用系統都須要執行許多相同的業務操做，好比用戶管理、商品管理等，那麼能夠將這些共用的業務提取出來，獨立部署。由這些可複用的業務鏈接數據庫，提供共用業務服務，而應用系統只須要管理用戶界面，經過分佈式服務調用共用業務服務完成具體業務操做。

大型網站的架構演化到這裏，基本上大多數的技術問題都得以解決，諸如跨數據中心的實時數據同步和具體網站業務相關的問題也均可以經過組合改進現有技術架構解決。

參考資料：

《大型網站技術架構——核心原理與案例分析》