NetDiscovery框架的Admin模塊介紹

爬蟲框架NetDiscovery有一個Admin模塊,今天學習了一下,分享以下。html

1) 技術介紹

2) 功能介紹

2.1 爬蟲管理:監控爬蟲引擎裏爬蟲的工做狀態

2.2 代理管理:經過按期任務獲取代理網頁上的免費IP並按期清理

配置Job用的資源

配置Job

  • 服務器啓動後,會把數據庫裏的全部Job加載到調度器(state:Normal)
  • 內置的CheckProxyJob不能刪除,用來按期遍歷檢查ProxyPool.proxyList裏的代理IP是否還有效,若是無效就刪除掉

監控調度器裏的Job

3) 配置運行

  • JDK8
  • Idea IDE (對我來講,比eclipse用起來更溜)
  • gradle(NetDiscovery框架優先使用gradle)
  • 參考模塊代碼中的application.properties
  • 建立MySql數據庫 /resource/static/sql/net_admin.sql

總結,經過前端layUI和後端SpringBoot搭建了一個Web框架。而後結合quartz實現定時job的控制。

參考:https://github.com/whvcse/EasyWeb前端

相關文章
相關標籤/搜索