使用Kotlin Coroutines簡單改造原有的爬蟲框架

NetDiscover 是一款基於 Vert.x、RxJava2 實現的爬蟲框架。因爲我最近正好在學習 Kotlin 的 Coroutines,在學習過程中嘗試改造一下自己的爬蟲框架。所以,我爲它新添加了一個模塊:coroutines 模塊。 一. 爬蟲框架的基本原理: 對於單個爬蟲而言,從消息隊列 queue 中獲取 request,然後通過下載器 downloader 完成網絡請求並獲得 ht
相關文章
相關標籤/搜索