爬蟲框架NetDiscovery有一個Admin模塊,今天學習了一下,分享以下。html
1) 技術介紹
2) 功能介紹
2.1 爬蟲管理:監控爬蟲引擎裏爬蟲的工做狀態
2.2 代理管理:經過按期任務獲取代理網頁上的免費IP並按期清理
- 服務器啓動後,會把數據庫裏的全部Job加載到調度器(state:Normal)
- 內置的CheckProxyJob不能刪除,用來按期遍歷檢查ProxyPool.proxyList裏的代理IP是否還有效,若是無效就刪除掉
3) 配置運行
- JDK8
- Idea IDE (對我來講,比eclipse用起來更溜)
- gradle(NetDiscovery框架優先使用gradle)
- 參考模塊代碼中的application.properties
- 建立MySql數據庫 /resource/static/sql/net_admin.sql
總結,經過前端layUI和後端SpringBoot搭建了一個Web框架。而後結合quartz實現定時job的控制。
參考:https://github.com/whvcse/EasyWeb前端