Redis 中的布隆過濾器

什麼是『布隆過濾器』   布隆過濾器是一個神奇的數據結構,能夠用來判斷一個元素是否在一個集合中。很經常使用的一個功能是用來去重。在爬蟲中常見的一個需求:目標網站 URL 千千萬,怎麼判斷某個 URL 爬蟲是否寵幸過?簡單點能夠爬蟲每採集過一個 URL,就把這個 URL 存入數據庫中,每次一個新的 URL 過來就到數據庫查詢下是否訪問過。git select id from table where
相關文章
相關標籤/搜索