Python 爬蟲程序的定時功能與監視

簡介 我們的爬蟲程序在執行過程中,可能需要滿足以下條件: 1、可以每天定時執行,爬取指定電商等網站內容。 2、可以對分佈式爬蟲進行監控,當爬蟲程序掛掉之後,可以通知管理員。   下面我們來介紹如何實現這兩個功能。   注意: 這裏我們主要演示定時執行和監控功能,所以爬蟲程序只是僞代碼。如果想要詳細瞭解如何實現網絡爬蟲,可以參考如下一些文章: http://blog.csdn.NET/u011204
相關文章
相關標籤/搜索