使用如下方法制做直方圖,能夠發現可疑的爬蟲nginx
1) 觀察nginx活躍的連接用戶,若是持續時間較長,可能爲爬蟲或者外掛.服務器
2) 觀察nginx具體某個uri請求,在一段時間內ip的分佈狀況.好比登錄,或者搜索,或者查看商品詳情性能
3) 持續觀察nginx日誌請求總數,發現可疑ip,可能爲爬蟲,日誌
使用kibana挖掘出可疑爬蟲.ip
針對柱狀圖裏面的ip進行行爲分析,發現佔比最高的6個IP是抓取數據的,搜索
能夠封ip,或者使用waf策略限制請求次數,避免對服務器性能有影響.kibana