Python爬蟲學習筆記 asyncio+aiohttp 異步爬蟲原理和解析

爬蟲是 IO 密集型任務,好比若是咱們使用 requests 庫來爬取某個站點的話,發出一個請求以後,程序必需要等待網站返回響應以後才能接着運行,而在等待響應的過程當中,整個爬蟲程序是一直在等待的,實際上沒有作任何的事情。html 1. 基本概念 阻塞 阻塞狀態指程序未獲得所需計算資源時被掛起的狀態。程序在等待某個操做完成期間,自身沒法繼續處理其餘的事情,則稱該程序在該操做上是阻塞的。 常見的阻塞
相關文章
相關標籤/搜索