web性能優化(三)反爬蟲策略

[文章作者:狂奔的鹿(陸松林) 本文版本:v1.0 轉載請註明原文鏈接:http://dynamiclu.iteye.com/] 反爬蟲策略,表面上看似乎跟WEB系統優化沒有關係,經過分析,發現該策略是可以歸到WEB性能優化的系列之中。 通過分析apache日誌發現,某系統40%的帶寬和服務器資源都消耗在爬蟲上,如果除去10%-15%搜索引擎的爬蟲,做好反爬蟲策略,能節省20%-25%的資源,其實
相關文章
相關標籤/搜索