一個小型的站點。比方我的站點,可以使用最簡單的html靜態頁面就實現了。配合一些圖片達到美化效果,所有的頁面均存放在一個文件夾下,這種站點對系統架構、性能的要求都很是easy。隨着互聯網業務的不斷豐富。站點相關的技術通過這些年的發展,已經細分到很是細的方方面面,尤爲對於大型站點來講,所採用的技術更是涉及面很是廣,從硬件到軟件、編程語言、數據庫、WebServer、防火牆等各個領域都有了很是高的要求,已經不是原來簡單的html靜態站點所能比擬的。前端
大型站點,比方門戶站點。java
在面對大量用戶訪問、高併發請求方面,主要的解決方式集中在這樣幾個環節:使用高性能的server、高性能的數據庫、高效率的編程語言、還有高性能的Web容器。web
但是除了這幾個方面,還無法根本解決大型站點面臨的高負載和高併發問題。算法
上面提供的幾個解決思路在必定程度上也意味着更大的投入,並且這種解決思路具有瓶頸,沒有很是好的擴展性。如下我從低成本、高性能和高擴張性的角度來講說個人一些經驗。數據庫
HTML靜態化apache
事實上你們都知道,效率最高、消耗最小的就是純靜態化的html頁面,因此咱們儘量使咱們的站點上的頁面採用靜態頁面來實現,這個最簡單的方法事實上也是最有效的方法。編程
但是對於大量內容並且頻繁更新的站點,咱們沒法全部手動去挨個實現。因而出現了咱們常見的信息公佈系統CMS,像咱們常訪問的各個門戶站點的新聞頻道。甚至他們的其它頻道,都是經過信息公佈系統來管理和實現的。信息公佈系統可以實現最簡單的信息錄入本身主動生成靜態頁面,還能具有頻道管理、權限管理、本身主動抓取等功能,對於一個大型站點來講,擁有一套高效、可管理的CMS是不可缺乏的。緩存
除了門戶和信息公佈類型的站點,對於交互性要求很是高的社區類型站點來講,儘量的靜態化也是提升性能的必要手段,將社區內的帖子、文章進行實時的靜態化,有更新的時候再又一次靜態化也是大量使用的策略,像Mop的大雜燴就是使用了這種策略,網易社區等也是如此。
眼下很是多博客也都實現了靜態化,我使用的這個Blog程序WordPress尚未靜態化,因此假設面對高負載訪問,www.toplee.com必定不能承受
同一時候,html靜態化也是某些緩存策略使用的手段。對於系統中頻繁使用數據庫查詢但是內容更新很是小的應用。可以考慮使用html靜態化來實現,比方論壇中論壇的公用設置信息。這些信息眼下的主流論壇都可以進行後臺管理並且存儲再數據庫中,這些信息事實上大量被前臺程序調用,但是更新頻率很是小,可以考慮將這部份內容進行後臺更新的時候進行靜態化,這樣避免了大量的數據庫訪問請求。
在進行html靜態化的時候可以使用一種折中的方法。就是前端使用動態實現,在必定的策略下進行定時靜態化和定時推斷調用。這個能實現很是多靈活性的操做。我開發的檯球站點故人居(www.8zone.cn)就是使用了這個方案,我經過設定一些html靜態化的時間間隔來對動態站點內容進行緩存。達到分擔大部分的壓力到靜態頁面上,可以應用於中小型站點的架構上。
故人居站點的地址:http://www.8zone.cn。順便提一下。有喜歡檯球的朋友多多支持我這個免費站點:)
圖片server分離
你們知道。對於Webserver來講,不管是Apache、IIS仍是其它容器,圖片是最消耗資源的。因而咱們有必要將圖片與頁面進行分離。這是基本上大型站點都會採用的策略。他們都有獨立的圖片server,甚至很是多臺圖片server。
這種架構可以減小提供頁面訪問請求的server系統壓力,並且可以保證系統不會因爲圖片問題而崩潰。
在應用server和圖片server上,可以進行不一樣的配置優化,比方Apache在配置ContentType的時候可以儘可能少支持,儘量少的LoadModule,保證更高的系統消耗和運行效率。
個人檯球站點故人居8zone.cn也使用了圖片server架構上的分離,眼下是不過架構上分離,物理上沒有分離,由於沒有錢買不少其它的server:),你們可以看到故人居上的圖片鏈接都是相似img.9tmd.com或者img1.9tmd.com的URL。
另外。在處理靜態頁面或者圖片、js等訪問方面,可以考慮使用lighttpd取代Apache,它提供了更輕量級和更高效的處理能力
數據庫集羣和庫表散列
大型站點都有複雜的應用,這些應用必須使用數據庫,那麼在面對大量訪問的時候。數據庫的瓶頸很是快就能顯現出來。這時一臺數據庫將很是快沒法知足應用,因而咱們需要使用數據庫集羣或者庫表散列。
在數據庫集羣方面,很是多數據庫都有本身的解決方式,Oracle、Sybase等都有很是好的方案,常用的MySQL提供的Master/Slave也是相似的方案。您使用了什麼樣的DB,就參考對應的解決方式來實施就能夠。
上面提到的數據庫集羣由於在架構、成本、擴張性方面都會受到所採用DB類型的限制。因而咱們需要從應用程序的角度來考慮改善系統架構,庫表散列是常用並且最有效的解決方式。咱們在應用程序中安裝業務和應用或者功能模塊將數據庫進行分離,不一樣的模塊相應不一樣的數據庫或者表,再依照必定的策略對某個頁面或者功能進行更小的數據庫散列,比方用戶表,依照用戶ID進行表散列,這樣就行低成本的提高系統的性能並且有很是好的擴展性。
sohu的論壇就是採用了這種架構,將論壇的用戶、設置、帖子等信息進行數據庫分離,而後對帖子、用戶依照板塊和ID進行散列數據庫和表。終於能夠在配置文件裏進行簡單的配置便能讓系統隨時添加一臺低成本的數據庫進來補充系統性能。
緩存
緩存一詞搞技術的都接觸過,很是多地方用到緩存。
站點架構和站點開發中的緩存也是很是重要。這裏先講述最主要的兩種緩存。
高級和分佈式的緩存在後面講述。
架構方面的緩存。對Apache比較熟悉的人都能知道Apache提供了本身的mod_proxy緩存模塊,也可以使用外加的Squid進行緩存,這兩種方式均可以有效的提升Apache的訪問響應能力。
站點程序開發方面的緩存,Linux上提供的Memcached是常用的緩存方案,很多web編程語言都提供memcache訪問接口,php、perl、c和java都有。可以在web開發中使用,可以實時或者Cron的把數據、對象等內容進行緩存。策略很靈活。
一些大型社區使用了這種架構。
另外,在使用web語言開發的時候,各類語言基本都有本身的緩存模塊和方法,PHP有Pear的Cache模塊和eAccelerator加速和Cache模塊,還要知名的Apc、XCache(國人開發的,支持!)php緩存模塊。Java就不少其它了,.net不是很是熟悉,相信也確定有。
鏡像
鏡像是大型站點常採用的提升性能和數據安全性的方式,鏡像的技術可以解決不一樣網絡接入商和地域帶來的用戶訪問速度差別。比方ChinaNet和EduNet之間的差別就促使了很是多站點在教育網內搭建鏡像站點。數據進行定時更新或者實時更新。在鏡像的細節技術方面,這裏不闡述太深,有很是多專業的現成的解決架構和產品可選。也有便宜的經過軟件實現的思路,比方Linux上的rsync等工具。
負載均衡
負載均衡將是大型站點解決高負荷訪問和大量併發請求採用的終極解決的方法。負載均衡技術發展了多年,有很是多專業的服務提供商和產品可以選擇,我我的接觸過一些解決方法,當中有兩個架構可以給你們作參考。
另外有關0基礎的負載均衡DNS輪循和較專業的CDN架構就很少說了。
硬件四層交換
第四層交換使用第三層和第四層信息包的報頭信息,依據應用區間識別業務流,將整個區間段的業務流分配到合適的應用server進行處理。 第四層交換功能就象是虛IP,指向物理server。
它傳輸的業務服從的協議多種多樣,有HTTP、FTP、NFS、Telnet或其它協議。
這些業務在物理server基礎上。需要複雜的載量平衡算法。在IP世界。業務類型由終端TCP或UDPport地址來決定,在第四層交換中的應用區間則由源端和終端IP地址、TCP和UDPport共同決定。
在硬件四層交換產品領域。有一些知名的產品能夠選擇。比方Alteon、F5等,這些產品很是昂貴,但是物有所值。能夠提供很是優秀的性能和很是靈活的管理能力。
Yahoo中國當初接近2000臺server使用了三四臺Alteon就搞定了。
軟件四層交換
你們知道了硬件四層交換機的原理後。基於OSI模型來實現的軟件四層交換也就應運而生。這種解決方式實現的原理一致,只是性能稍差。但是知足必定量的壓力仍是遊刃有餘的,有人說軟件實現方式事實上更靈活。處理能力全然看你配置的熟悉能力。
軟件四層交換咱們可以使用Linux上常用的LVS來解決。LVS就是Linux Virtual Server。他提供了基於心跳線heartbeat的實時災難應對解決方式,提升系統的魯棒性,同一時候可供了靈活的虛擬VIP配置和管理功能,可以同一時候知足多種應用需求,這對於分佈式的系統來講不可缺乏。
一個典型的使用負載均衡的策略就是,在軟件或者硬件四層交換的基礎上搭建squid集羣,這種思路在很是多大型站點包含搜索引擎上被採用,這種架構低成本、高性能還有很是強的擴張性,隨時往架構裏面增減節點都很是easy。這種架構我準備空了專門具體整理一下和你們探討。
總結
對於大型站點來講。前面提到的每個方法可能都會被同一時候使用到,Michael這裏介紹得比較淺顯,詳細實現過程當中很是多細節還需要你們慢慢熟悉和體會,有時一個很是小的squid參數或者apache參數設置,對於系統性能的影響就會很是大,但願你們一塊兒討論,達到拋磚引玉之效。