【原創！推薦！】不瞭解布隆過濾器？一文給你整的明明白白！

海量數據處理以及緩存穿透這兩個場景讓我認識了 布隆過濾器 ，我查閱了一些資料來了解它，可是不少現成資料並不知足個人需求，因此就決定本身總結一篇關於布隆過濾器的文章。但願經過這篇文章讓更多人瞭解布隆過濾器，而且會實際去使用它！

下面咱們將分爲幾個方面來介紹布隆過濾器：

1. 什麼是布隆過濾器？
2. 布隆過濾器的原理介紹。
3. 布隆過濾器使用場景。
4. 經過 Java 編程手動實現布隆過濾器。
5. 利用Google開源的Guava中自帶的布隆過濾器。
6. Redis 中的布隆過濾器。

1.什麼是布隆過濾器？

首先，咱們須要瞭解布隆過濾器的概念。

布隆過濾器（Bloom Filter）是一個叫作 Bloom 的老哥於1970年提出的。咱們能夠把它看做由二進制向量（或者說位數組）和一系列隨機映射函數（哈希函數）兩部分組成的數據結構。相比於咱們平時經常使用的的 List、Map 、Set 等數據結構，它佔用空間更少而且效率更高，可是缺點是其返回的結果是機率性的，而不是很是準確的。理論狀況下添加到集合中的元素越多，誤報的可能性就越大。而且，存放在布隆過濾器的數據不容易刪除。

位數組中的每一個元素都只佔用 1 bit ，而且每一個元素只能是 0 或者 1。這樣申請一個 100w 個元素的位數組只佔用 1000000 / 8 = 125000 B = 15625 byte ≈ 15.3kb 的空間。

總結：一個名叫 Bloom 的人提出了一種來檢索元素是否在給定大集合中的數據結構，這種數據結構是高效且性能很好的，但缺點是具備必定的錯誤識別率和刪除難度。而且，理論狀況下，添加到集合中的元素越多，誤報的可能性就越大。

2.布隆過濾器的原理介紹

當一個元素加入布隆過濾器中的時候，會進行以下操做：

1. 使用布隆過濾器中的哈希函數對元素值進行計算，獲得哈希值（有幾個哈希函數獲得幾個哈希值）。
2. 根據獲得的哈希值，在位數組中把對應下標的值置爲 1。

當咱們須要判斷一個元素是否存在於布隆過濾器的時候，會進行以下操做：

1. 對給定元素再次進行相同的哈希計算；
2. 獲得值以後判斷位數組中的每一個元素是否都爲 1，若是值都爲 1，那麼說明這個值在布隆過濾器中，若是存在一個值不爲 1，說明該元素不在布隆過濾器中。

舉個簡單的例子：

如圖所示，當字符串存儲要加入到布隆過濾器中時，該字符串首先由多個哈希函數生成不一樣的哈希值，而後在對應的位數組的下表的元素設置爲 1（當位數組初始化時 ，全部位置均爲0）。當第二次存儲相同字符串時，由於先前的對應位置已設置爲1，因此很容易知道此值已經存在（去重很是方便）。

若是咱們須要判斷某個字符串是否在布隆過濾器中時，只須要對給定字符串再次進行相同的哈希計算，獲得值以後判斷位數組中的每一個元素是否都爲 1，若是值都爲 1，那麼說明這個值在布隆過濾器中，若是存在一個值不爲 1，說明該元素不在布隆過濾器中。

不一樣的字符串可能哈希出來的位置相同，這種狀況咱們能夠適當增長位數組大小或者調整咱們的哈希函數。

綜上，咱們能夠得出：布隆過濾器說某個元素存在，小几率會誤判。布隆過濾器說某個元素不在，那麼這個元素必定不在。

3.布隆過濾器使用場景

1. 判斷給定數據是否存在：好比判斷一個數字是否在於包含大量數字的數字集中（數字集很大，5億以上！）、 防止緩存穿透（判斷請求的數據是否有效避免直接繞過緩存請求數據庫）等等、郵箱的垃圾郵件過濾、黑名單功能等等。
2. 去重：好比爬給定網址的時候對已經爬取過的 URL 去重。

4.經過 Java 編程手動實現布隆過濾器

咱們上面已經說了布隆過濾器的原理，知道了布隆過濾器的原理以後就能夠本身手動實現一個了。

若是你想要手動實現一個的話，你須要：

1. 一個合適大小的位數組保存數據
2. 幾個不一樣的哈希函數
3. 添加元素到位數組（布隆過濾器）的方法實現
4. 判斷給定元素是否存在於位數組（布隆過濾器）的方法實現。

下面給出一個我以爲寫的還算不錯的代碼（參考網上已有代碼改進獲得，對於全部類型對象皆適用）：

import java.util.BitSet;

public class MyBloomFilter {

    /** * 位數組的大小 */
    private static final int DEFAULT_SIZE = 2 << 24;
    /** * 經過這個數組能夠建立 6 個不一樣的哈希函數 */
    private static final int[] SEEDS = new int[]{3, 13, 46, 71, 91, 134};

    /** * 位數組。數組中的元素只能是 0 或者 1 */
    private BitSet bits = new BitSet(DEFAULT_SIZE);

    /** * 存放包含 hash 函數的類的數組 */
    private SimpleHash[] func = new SimpleHash[SEEDS.length];

    /** * 初始化多個包含 hash 函數的類的數組，每一個類中的 hash 函數都不同 */
    public MyBloomFilter() {
        // 初始化多個不一樣的 Hash 函數
        for (int i = 0; i < SEEDS.length; i++) {
            func[i] = new SimpleHash(DEFAULT_SIZE, SEEDS[i]);
        }
    }

    /** * 添加元素到位數組 */
    public void add(Object value) {
        for (SimpleHash f : func) {
            bits.set(f.hash(value), true);
        }
    }

    /** * 判斷指定元素是否存在於位數組 */
    public boolean contains(Object value) {
        boolean ret = true;
        for (SimpleHash f : func) {
            ret = ret && bits.get(f.hash(value));
        }
        return ret;
    }

    /** * 靜態內部類。用於 hash 操做！ */
    public static class SimpleHash {

        private int cap;
        private int seed;

        public SimpleHash(int cap, int seed) {
            this.cap = cap;
            this.seed = seed;
        }

        /** * 計算 hash 值 */
        public int hash(Object value) {
            int h;
            return (value == null) ? 0 : Math.abs(seed * (cap - 1) & ((h = value.hashCode()) ^ (h >>> 16)));
        }

    }
}
複製代碼

測試：

String value1 = "https://javaguide.cn/";
        String value2 = "https://github.com/Snailclimb";
        MyBloomFilter filter = new MyBloomFilter();
        System.out.println(filter.contains(value1));
        System.out.println(filter.contains(value2));
        filter.add(value1);
        filter.add(value2);
        System.out.println(filter.contains(value1));
        System.out.println(filter.contains(value2));
複製代碼

Output:

false
false
true
true
複製代碼

測試：

Integer value1 = 13423;
        Integer value2 = 22131;
        MyBloomFilter filter = new MyBloomFilter();
        System.out.println(filter.contains(value1));
        System.out.println(filter.contains(value2));
        filter.add(value1);
        filter.add(value2);
        System.out.println(filter.contains(value1));
        System.out.println(filter.contains(value2));
複製代碼

Output:

false
false
true
true
複製代碼

5.利用Google開源的 Guava中自帶的布隆過濾器

本身實現的目的主要是爲了讓本身搞懂布隆過濾器的原理，Guava 中布隆過濾器的實現算是比較權威的，因此實際項目中咱們不須要手動實現一個布隆過濾器。

首先咱們須要在項目中引入 Guava 的依賴：

<dependency>
            <groupId>com.google.guava</groupId>
            <artifactId>guava</artifactId>
            <version>28.0-jre</version>
        </dependency>
複製代碼

實際使用以下：

咱們建立了一個最多存放 最多 1500個整數的布隆過濾器，而且咱們能夠容忍誤判的機率爲百分之（0.01）

// 建立布隆過濾器對象
        BloomFilter<Integer> filter = BloomFilter.create(
                Funnels.integerFunnel(),
                1500,
                0.01);
        // 判斷指定元素是否存在
        System.out.println(filter.mightContain(1));
        System.out.println(filter.mightContain(2));
        // 將元素添加進布隆過濾器
        filter.put(1);
        filter.put(2);
        System.out.println(filter.mightContain(1));
        System.out.println(filter.mightContain(2));
複製代碼

在咱們的示例中，當mightContain（） 方法返回true時，咱們能夠99％肯定該元素在過濾器中，當過濾器返回false時，咱們能夠100％肯定該元素不存在於過濾器中。

Guava 提供的布隆過濾器的實現仍是很不錯的（想要詳細瞭解的能夠看一下它的源碼實現），可是它有一個重大的缺陷就是隻能單機使用（另外，容量擴展也不容易），而如今互聯網通常都是分佈式的場景。爲了解決這個問題，咱們就須要用到 Redis 中的布隆過濾器了。

6.Redis 中的布隆過濾器

6.1介紹

Redis v4.0 以後有了 Module（模塊/插件） 功能，Redis Modules 讓 Redis 可使用外部模塊擴展其功能 。布隆過濾器就是其中的 Module。詳情能夠查看 Redis 官方對 Redis Modules 的介紹 ：redis.io/modules。

另外，官網推薦了一個 RedisBloom 做爲 Redis 布隆過濾器的 Module,地址：github.com/RedisBloom/…

• redis-lua-scaling-bloom-filter （lua 腳本實現）：github.com/erikdubbelb…
• pyreBloom（Python中的快速Redis 布隆過濾器） ：github.com/seomoz/pyre…
• ......

RedisBloom 提供了多種語言的客戶端支持，包括：Python、Java、JavaScript 和 PHP。

6.2使用Docker安裝

若是咱們須要體驗 Redis 中的布隆過濾器很是簡單，經過 Docker 就能夠了！咱們直接在 Google 搜索docker redis bloomfilter 而後在排除廣告的第一條搜素結果就找到了咱們想要的答案（這是我日常解決問題的一種方式，分享一下），具體地址：hub.docker.com/r/redislabs… （介紹的很詳細 ）。

具體操做以下：

➜  ~ docker run -p 6379:6379 --name redis-redisbloom redislabs/rebloom:latest
➜  ~ docker exec -it redis-redisbloom bash
root@21396d02c252:/data# redis-cli
127.0.0.1:6379> 
複製代碼

6.3經常使用命令一覽

注意： key:布隆過濾器的名稱，item : 添加的元素。

1. BF.ADD：將元素添加到布隆過濾器中，若是該過濾器尚不存在，則建立該過濾器。格式：BF.ADD {key} {item}。
2. BF.MADD : 將一個或多個元素添加到「布隆過濾器」中，並建立一個尚不存在的過濾器。該命令的操做方式BF.ADD與之相同，只不過它容許多個輸入並返回多個值。格式：BF.MADD {key} {item} [item ...] 。
3. **BF.EXISTS ** : 肯定元素是否在布隆過濾器中存在。格式：BF.EXISTS {key} {item}。
4. BF.MEXISTS ： 肯定一個或者多個元素是否在布隆過濾器中存在格式：BF.MEXISTS {key} {item} [item ...]。

另外，BF.RESERVE 命令須要單獨介紹一下：

這個命令的格式以下：

BF.RESERVE {key} {error_rate} {capacity} [EXPANSION expansion]。

下面簡單介紹一下每一個參數的具體含義：

1. key：布隆過濾器的名稱
2. error_rate :誤報的指望機率。這應該是介於0到1之間的十進制值。例如，對於指望的誤報率0.1％（1000中爲1），error_rate應該設置爲0.001。該數字越接近零，則每一個項目的內存消耗越大，而且每一個操做的CPU使用率越高。
3. capacity: 過濾器的容量。當實際存儲的元素個數超過這個值以後，性能將開始降低。實際的降級將取決於超出限制的程度。隨着過濾器元素數量呈指數增加，性能將線性降低。

可選參數：

• expansion：若是建立了一個新的子過濾器，則其大小將是當前過濾器的大小乘以expansion。默認擴展值爲2。這意味着每一個後續子過濾器將是前一個子過濾器的兩倍。

6.4實際使用

127.0.0.1:6379> BF.ADD myFilter java
(integer) 1
127.0.0.1:6379> BF.ADD myFilter javaguide
(integer) 1
127.0.0.1:6379> BF.EXISTS myFilter java
(integer) 1
127.0.0.1:6379> BF.EXISTS myFilter javaguide
(integer) 1
127.0.0.1:6379> BF.EXISTS myFilter github
(integer) 0
複製代碼