golang ----------- 併發版爬蟲實現二

一、要解決的問題:html 1)、把request直接發給worker會卡住,以下架構圖。網絡 2)也不想每一個request都開一個goroutine,控制力比較小,以下架構圖。同時但願對worker加以控制。架構 二、解決上面問題:app 把request和worker都放到相應隊列,把咱們選擇的request發給咱們選擇的worker。以下架構圖fetch 三、代碼實現:url 發送請求:s
相關文章
相關標籤/搜索