哈希函數的離散性,可以打亂樣本規律。html
經過大量的異或,交換。打亂本來的樣本結構,放大樣本差別。算法
正常一個hash函數的結果h爲16字節,每一個字節爲一個16進制(0~9,a~f中的)的任意值。將前8爲做爲h1,後8位做爲h2。數組
經過h1 + k * h2生成一個新的結果。而且他將於本來的h無關。服務器
大任務(hash % n
)分流成N個小任務。數據結構
經典的哈希表結構經過數組+鏈表的結構實現負載均衡
哈希表的本質是一個數組,數組中每個元素稱爲一個箱子(bin),箱子中存放的是鏈表,鏈表節點中存放的鍵值對。dom
當哈希表的效率因數組量過大形成損耗,進行擴容並從新簡歷哈希表函數
對key進行hash,經過下標尋址,查找一個短鏈表均爲常數時間操做。設計
時間複雜度===》O(1)3d
【題目】 設計一種結構,在該結構中有以下三個功能:
insert(key):將某個key加入到該結構,作到不重複加入。
delete(key):將本來在結構中的某個key移除。
getRandom(): 等機率隨機返回結構中的任何一個key。
【要求】 Insert、delete和getRandom方法的時間複雜度都是 O(1)
兩個哈希表,一個size變量計數
每次添加一個新的key23:
讀取隨機key時,在第二個hashMap中用(1~size)做爲key進行查詢返回
刪除key時,將末尾元素與刪除元素的index互換,刪除該元素。並將size-1。
布隆過濾器能夠用於檢索一個元素是否在一個集合中。它的優勢是空間效率和查詢時間都比通常的算法要好的多,缺點是有必定的誤識別率和刪除困難。
能夠解決爬蟲去重,黑名單問題。
以一個100長度的Int數組([bit]長度爲3200)arr爲例,當咱們想修改第3000個bit:
3000/32得到arr組的indexI
3000%32得到arr[indexI]下,[bit]想要修改的indexB
經過arr[indexI] = (arr[IndexI] | (1 << indexB))
進行修改
1
左移indexB
個位置,將會變成00000010000
這種形式。而後與本來的arr[IndexI]
相交,對應位置將會被修改成1
以Int數組爲例
[1000]的數組能夠表明3200個bit位
[1000][1000]的矩陣則能夠表明3200*1000個bit位
通過這個處理以後的數組,就是布隆過濾器。
因爲數組長度的限制,有可能致使描黑位置過多,致使失誤命中機率太高。
經過調整hash函數個個數k,以及數組長度m。能夠獲得不一樣的失誤率。
因爲內部經過hash函數定位,最終過濾器所佔內存的大小與單樣本的內存大小無關。
好比一個長度爲1000000的字符串,也並不須要存進數組。只須要在數組中修改k個位置便可。
[bit]的長度m,樣本量n,預期失誤率p,ln是天然對數
當m和k肯定以後的失誤率
經過對key進行hash % n 能夠將讀寫的壓力均勻的分佈給三個服務器
而這種結構,當加入新的服務器或減小原有的服務器。咱們須要像hashMap的自動擴容同樣須要重建整個映射。
經典抗壓結構在擴容時,須要對數據作全量遷移,計算每一條數據的歸屬。
一致性哈希能夠下降數據遷移的代價,同時保證負載均衡。
正常的工做流程
數據遷移的流程
只須要將黑色部分數據從1號服務器遷移給4號服務器便可。
經過將每一個服務器分配N個虛擬節點映射,讓整個環上的分割區域約等於平均。
很是快的:
- 肯定兩個元素是否屬於同一集合
- 合併兩個元素所在的集合
集合結構以樹的形式實現,樹的頭部元素做爲表明元
,只要某元素所在樹的表明元
相同,兩者所在的集合就相同。 在合併的過程當中,將其中一個集合樹的頭部表明元
的上一級指向另外一個表明元
便可。
具體能夠參閱其餘的帖子: