轉載自 Java7/8 中的 HashMap 和 ConcurrentHashMap 全解析
網上關於 HashMap 和 ConcurrentHashMap 的文章確實不少,不過缺斤少兩的文章比較多,所以纔想自己也寫一篇,把細節說清楚說透,尤其像 Java8 中的 ConcurrentHashMap,大部分文章都說不清楚。終歸是希望能降低大家學習的成本,不希望大家到處找各種不是很靠譜的文章,看完一篇又一篇,可是還是模模糊糊。
閱讀建議:四節基本上可以進行獨立閱讀,建議初學者可按照 Java7 HashMap -> Java7 ConcurrentHashMap -> Java8 HashMap -> Java8 ConcurrentHashMap 順序進行閱讀,可適當降低閱讀門檻。
閱讀前提:本文分析的是源碼,所以至少讀者要熟悉它們的接口使用,同時,對於併發,讀者至少要知道 CAS、ReentrantLock、UNSAFE 操作這幾個基本的知識,文中不會對這些知識進行介紹。Java8 用到了紅黑樹,不過本文不會進行展開,感興趣的讀者請自行查找相關資料。
HashMap 是最簡單的,一來我們非常熟悉,二來就是它不支持併發操作,所以源碼也非常簡單。
首先,我們用下面這張圖來介紹 HashMap 的結構。
這個僅僅是示意圖,因爲沒有考慮到數組要擴容的情況,具體的後面再說。
大方向上,HashMap 裏面是一個數組,然後數組中每個元素是一個單向鏈表。
上圖中,每個綠色的實體是嵌套類 Entry 的實例,Entry 包含四個屬性:key, value, hash 值和用於單向鏈表的 next。
capacity:當前數組容量,始終保持 2^n,可以擴容,擴容後數組大小爲當前的 2 倍。
loadFactor:負載因子,默認爲 0.75。
threshold:擴容的閾值,等於 capacity * loadFactor
還是比較簡單的,跟着代碼走一遍吧。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
|
public
V put(K key, V value) {
// 當插入第一個元素的時候,需要先初始化數組大小
if
(table == EMPTY_TABLE) {
inflateTable(threshold);
}
// 如果 key 爲 null,感興趣的可以往裏看,最終會將這個 entry 放到 table[0] 中
if
(key ==
null
)
return
putForNullKey(value);
// 1. 求 key 的 hash 值
int
hash = hash(key);
// 2. 找到對應的數組下標
int
i = indexFor(hash, table.length);
// 3. 遍歷一下對應下標處的鏈表,看是否有重複的 key 已經存在,
// 如果有,直接覆蓋,put 方法返回舊值就結束了
for
(Entry<K,V> e = table[i]; e !=
null
; e = e.next) {
Object k;
if
(e.hash == hash && ((k = e.key) == key || key.equals(k))) {
V oldValue = e.value;
e.value = value;
e.recordAccess(
this
);
return
oldValue;
}
}
modCount++;
// 4. 不存在重複的 key,將此 entry 添加到鏈表中,細節後面說
addEntry(hash, key, value, i);
return
null
;
}
|
在第一個元素插入 HashMap 的時候做一次數組的初始化,就是先確定初始的數組大小,並計算數組擴容的閾值。
1
2
3
4
5
6
7
8
9
10
|
private
void
inflateTable(
int
toSize) {
// 保證數組大小一定是 2 的 n 次方。
// 比如這樣初始化:new HashMap(20),那麼處理成初始數組大小是 32
int
capacity = roundUpToPowerOf2(toSize);
// 計算擴容閾值:capacity * loadFactor
threshold = (
int
) Math.min(capacity * loadFactor, MAXIMUM_CAPACITY +
1
);
// 算是初始化數組吧
table =
new
Entry[capacity];
initHashSeedAsNeeded(capacity);
//ignore
}
|
這裏有一個將數組大小保持爲 2 的 n 次方的做法,Java7 和 Java8 的 HashMap 和 ConcurrentHashMap 都有相應的要求,只不過實現的代碼稍微有些不同,後面再看到的時候就知道了。
這個簡單,我們自己也能 YY 一個:使用 key 的 hash 值對數組長度進行取模就可以了。
1
2
3
4
|
static
int
indexFor(
int
hash,
int
length) {
// assert Integer.bitCount(length) == 1 : "length must be a non-zero power of 2";
return
hash & (length-
1
);
}
|
這個方法很簡單,簡單說就是取 hash 值的低 n 位。如在數組長度爲 32 的時候,其實取的就是 key 的 hash 值的低 5 位,作爲它在數組中的下標位置。
找到數組下標後,會先進行 key 判重,如果沒有重複,就準備將新值放入到鏈表的表頭。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
void
addEntry(
int
hash, K key, V value,
int
bucketIndex) {
// 如果當前 HashMap 大小已經達到了閾值,並且新值要插入的數組位置已經有元素了,那麼要擴容
if
((size >= threshold) && (
null
!= table[bucketIndex])) {
// 擴容,後面會介紹一下
resize(
2
* table.length);
// 擴容以後,重新計算 hash 值
hash = (
null
!= key) ? hash(key) :
0
;
// 重新計算擴容後的新的下標
bucketIndex = indexFor(hash, table.length);
}
// 往下看
createEntry(hash, key, value, bucketIndex);
}
// 這個很簡單,其實就是將新值放到鏈表的表頭,然後 size++
void
createEntry(
int
hash, K key, V value,
int
bucketIndex) {
Entry<K,V> e = table[bucketIndex];
table[bucketIndex] =
new
Entry<>(hash, key, value, e);
size++;
}
|
這個方法的主要邏輯就是先判斷是否需要擴容,需要的話先擴容,然後再將這個新的數據插入到擴容後的數組的相應位置處的鏈表的表頭。
前面我們看到,在插入新值的時候,如果當前的 size 已經達到了閾值,並且要插入的數組位置上已經有元素,那麼就會觸發擴容,擴容後,數組大小爲原來的 2 倍。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
void
resize(
int
newCapacity) {
Entry[] oldTable = table;
int
oldCapacity = oldTable.length;
if
(oldCapacity == MAXIMUM_CAPACITY) {
threshold = Integer.MAX_VALUE;
return
;
}
// 新的數組
Entry[] newTable =
new
Entry[newCapacity];
// 將原來數組中的值遷移到新的更大的數組中
transfer(newTable, initHashSeedAsNeeded(newCapacity));
table = newTable;
threshold = (
int
)Math.min(newCapacity * loadFactor, MAXIMUM_CAPACITY +
1
);
}
|
擴容就是用一個新的大數組替換原來的小數組,並將原來數組中的值遷移到新的數組中。
由於是雙倍擴容,遷移過程中,會將原來 table[i] 中的鏈表的所有節點,分拆到新的數組的 newTable[i] 和 newTable[i + oldLength] 位置上。如原來數組長度是 16,那麼擴容後,原來 table[0] 處的鏈表中的所有元素會被分配到新數組中 newTable[0] 和 newTable[16] 這兩個位置。代碼比較簡單,這裏就不展開了。
相對於 put 過程,get 過程是非常簡單的。
1
2
3
4
5
6
7
8
9
|
public
V get(Object key) {
// 之前說過,key 爲 null 的話,會被放到 table[0],所以只要遍歷下 table[0] 處的鏈表就可以了
if
(key ==
null
)
return
getForNullKey();
//
Entry<K,V> entry = getEntry(key);
return
null
== entry ?
null
: entry.getValue();
}
|
getEntry(key):
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
final
Entry<K,V> getEntry(Object key) {
if
(size ==
0
) {
return
null
;
}
int
hash = (key ==
null
) ?
0
: hash(key);
// 確定數組下標,然後從頭開始遍歷鏈表,直到找到爲止
for
(Entry<K,V> e = table[indexFor(hash, table.length)];
e !=
null
;
e = e.next) {
Object k;
if
(e.hash == hash &&
((k = e.key) == key || (key !=
null
&& key.equals(k))))
return
e;
}
return
null
;
}
|
ConcurrentHashMap 和 HashMap 思路是差不多的,但是因爲它支持併發操作,所以要複雜一些。
整個 ConcurrentHashMap 由一個個 Segment 組成,Segment 代表」部分「或」一段「的意思,所以很多地方都會將其描述爲分段鎖。注意,行文中,我很多地方用了「槽」來代表一個 segment。
簡單理解就是,ConcurrentHashMap 是一個 Segment 數組,Segment 通過繼承 ReentrantLock 來進行加鎖,所以每次需要加鎖的操作鎖住的是一個 segment,這樣只要保證每個 Segment 是線程安全的,也就實現了全局的線程安全。
concurrencyLevel:並行級別、併發數、Segment 數,怎麼翻譯不重要,理解它。默認是 16,也就是說 ConcurrentHashMap 有 16 個 Segments,所以理論上,這個時候,最多可以同時支持 16 個線程併發寫,只要它們的操作分別分佈在不同的 Segment 上。這個值可以在初始化的時候設置爲其他值,但是一旦初始化以後,它是不可以擴容的。
再具體到每個 Segment 內部,其實每個 Segment 很像之前介紹的 HashMap,不過它要保證線程安全,所以處理起來要麻煩些。
initialCapacity:初始容量,這個值指的是整個 ConcurrentHashMap 的初始容量,實際操作的時候需要平均分給每個 Segment。
loadFactor:負載因子,之前我們說了,Segment 數組不可以擴容,所以這個負載因子是給每個 Segment 內部使用的。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
|
public
ConcurrentHashMap(
int
initialCapacity,
float
loadFactor,
int
concurrencyLevel) {
if
(!(loadFactor >
0
) || initialCapacity <
0
|| concurrencyLevel <=
0
)
throw
new
IllegalArgumentException();
if
(concurrencyLevel > MAX_SEGMENTS)
concurrencyLevel = MAX_SEGMENTS;
// Find power-of-two sizes best matching arguments
int
sshift =
0
;
int
ssize =
1
;
// 計算並行級別 ssize,因爲要保持並行級別是 2 的 n 次方
while
(ssize < concurrencyLevel) {
++sshift;
ssize <<=
1
;
}
// 我們這裏先不要那麼燒腦,用默認值,concurrencyLevel 爲 16,sshift 爲 4
// 那麼計算出 segmentShift 爲 28,segmentMask 爲 15,後面會用到這兩個值
this
.segmentShift =
32
- sshift;
this
.segmentMask = ssize -
1
;
if
(initialCapacity > MAXIMUM_CAPACITY)
initialCapacity = MAXIMUM_CAPACITY;
// initialCapacity 是設置整個 map 初始的大小,
// 這裏根據 initialCapacity 計算 Segment 數組中每個位置可以分到的大小
// 如 initialCapacity 爲 64,那麼每個 Segment 或稱之爲"槽"可以分到 4 個
int
c = initialCapacity / ssize;
if
(c * ssize < initialCapacity)
++c;
// 默認 MIN_SEGMENT_TABLE_CAPACITY 是 2,這個值也是有講究的,因爲這樣的話,對於具體的槽上,
// 插入一個元素不至於擴容,插入第二個的時候纔會擴容
int
cap = MIN_SEGMENT_TABLE_CAPACITY;
while
(cap < c)
cap <<=
1
;
// 創建 Segment 數組,
// 並創建數組的第一個元素 segment[0]
Segment<K,V> s0 =
new
Segment<K,V>(loadFactor, (
int
)(cap * loadFactor),
(HashEntry<K,V>[])
new
HashEntry[cap]);
Segment<K,V>[] ss = (Segment<K,V>[])
new
Segment[ssize];
// 往數組寫入 segment[0]
UNSAFE.putOrderedObject(ss, SBASE, s0);
// ordered write of segments[0]
this
.segments = ss;
}
|
初始化完成,我們得到了一個 Segment 數組。
我們就當是用 new ConcurrentHashMap() 無參構造函數進行初始化的,那麼初始化完成後:
我們先看 put 的主流程,對於其中的一些關鍵細節操作,後面會進行詳細介紹。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
public
V put(K key, V value) {
Segment<K,V> s;
if
(value ==
null
)
throw
new
NullPointerException();
// 1. 計算 key 的 hash 值
int
hash = hash(key);
// 2. 根據 hash 值找到 Segment 數組中的位置 j
// hash 是 32 位,無符號右移 segmentShift(28) 位,剩下低 4 位,
// 然後和 segmentMask(15) 做一次與操作,也就是說 j 是 hash 值的最後 4 位,也就是槽的數組下標
int
j = (hash >>> segmentShift) & segmentMask;
// 剛剛說了,初始化的時候初始化了 segment[0],但是其他位置還是 null,
// ensureSegment(j) 對 segment[j] 進行初始化
if
((s = (Segment<K,V>)UNSAFE.getObject
// nonvolatile; recheck
(segments, (j << SSHIFT) + SBASE)) ==
null
)
// in ensureSegment
s = ensureSegment(j);
// 3. 插入新值到 槽 s 中
return
s.put(key, hash, value,
false
);
}
|
第一層皮很簡單,根據 hash 值很快就能找到相應的 Segment,之後就是 Segment 內部的 put 操作了。
Segment 內部是由 數組+鏈表 組成的。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
|
final
V put(K key,
int
hash, V value,
boolean
onlyIfAbsent) {
// 在往該 segment 寫入前,需要先獲取該 segment 的獨佔鎖
// 先看主流程,後面還會具體介紹這部分內容
HashEntry<K,V> node = tryLock() ?
null
:
scanAndLockForPut(key, hash, value);
V oldValue;
try
{
// 這個是 segment 內部的數組
HashEntry<K,V>[] tab = table;
// 再利用 hash 值,求應該放置的數組下標
int
index = (tab.length -
1
) & hash;
// first 是數組該位置處的鏈表的表頭
HashEntry<K,V> first = entryAt(tab, index);
// 下面這串 for 循環雖然很長,不過也很好理解,想想該位置沒有任何元素和已經存在一個鏈表這兩種情況
for
(HashEntry<K,V> e = first;;) {
if
(e !=
null
) {
K k;
if
((k = e.key) == key ||
(e.hash == hash && key.equals(k))) {
oldValue = e.value;
if
(!onlyIfAbsent) {
// 覆蓋舊值
e.value = value;
++modCount;
}
break
;
}
// 繼續順着鏈表走
e = e.next;
}
else
{
// node 到底是不是 null,這個要看獲取鎖的過程,不過和這裏都沒有關係。
// 如果不爲 null,那就直接將它設置爲鏈表表頭;如果是null,初始化並設置爲鏈表表頭。
if
(node !=
null
)
node.setNext(first);
else
node =
new
HashEntry<K,V>(hash, key, value, first);
int
c = count +
1
;
// 如果超過了該 segment 的閾值,這個 segment 需要擴容
if
(c > threshold && tab.length < MAXIMUM_CAPACITY)
rehash(node);
// 擴容後面也會具體分析
else
// 沒有達到閾值,將 node 放到數組 tab 的 index 位置,
// 其實就是將新的節點設置成原鏈表的表頭
setEntryAt(tab, index, node);
++modCount;
count = c;
oldValue =
null
;
break
;
}
}
}
finally
{
// 解鎖
unlock();
}
return
oldValue;
}
|
整體流程還是比較簡單的,由於有獨佔鎖的保護,所以 segment 內部的操作並不複雜。至於這裏面的併發問題,我們稍後再進行介紹。
到這裏 put 操作就結束了,接下來,我們說一說其中幾步關鍵的操作。
ConcurrentHashMap 初始化的時候會初始化第一個槽 segment[0],對於其他槽來說,在插入第一個值的時候進行初始化。
這裏需要考慮併發,因爲很可能會有多個線程同時進來初始化同一個槽 segment[k],不過只要有一個成功了就可以。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
|
private
Segment<K,V> ensureSegment(
int
k) {
final
Segment<K,V>[] ss =
this
.segments;
long
u = (k << SSHIFT) + SBASE;
// raw offset
Segment<K,V> seg;
if
((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u)) ==
null
) {
// 這裏看到爲什麼之前要初始化 segment[0] 了,
// 使用當前 segment[0] 處的數組長度和負載因子來初始化 segment[k]
// 爲什麼要用「當前」,因爲 segment[0] 可能早就擴容過了
Segment<K,V> proto = ss[
0
];
int
cap = proto.table.length;
float
lf = proto.loadFactor;
int
threshold = (
int
)(cap * lf);
// 初始化 segment[k] 內部的數組
HashEntry<K,V>[] tab = (HashEntry<K,V>[])
new
HashEntry[cap];
if
((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u))
==
null
) {
// 再次檢查一遍該槽是否被其他線程初始化了。
Segment<K,V> s =
new
Segment<K,V>(lf, threshold, tab);
// 使用 while 循環,內部用 CAS,當前線程成功設值或其他線程成功設值後,退出
while
((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u))
==
null
) {
if
(UNSAFE.compareAndSwapObject(ss, u,
null
, seg = s))
break
;
}
}
}
return
seg;
}
|
總的來說,ensureSegment(int k) 比較簡單,對於併發操作使用 CAS 進行控制。
我沒搞懂這裏爲什麼要搞一個 while 循環,CAS 失敗不就代表有其他線程成功了嗎,爲什麼要再進行判斷?
前面我們看到,在往某個 segment 中 put 的時候,首先會調用 node = tryLock() ? null : scanAndLockForPut(key, hash, value),也就是說先進行一次 tryLock() 快速獲取該 segment 的獨佔鎖,如果失敗,那麼進入到 scanAndLockForPut 這個方法來獲取鎖。
下面我們來具體分析這個方法中是怎麼控制加鎖的。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
|
private
HashEntry<K,V> scanAndLockForPut(K key,
int
hash, V value) {
HashEntry<K,V> first = entryForHash(
this
, hash);
HashEntry<K,V> e = first;
HashEntry<K,V> node =
null
;
int
retries = -
1
;
// negative while locating node
// 循環獲取鎖
while
(!tryLock()) {
HashEntry<K,V> f;
// to recheck first below
if
(retries <
0
) {
if
(e ==
null
) {
if
(node ==
null
)
// speculatively create node
// 進到這裏說明數組該位置的鏈表是空的,沒有任何元素
// 當然,進到這裏的另一個原因是 tryLock() 失敗,所以該槽存在併發,不一定是該位置
node =
new
HashEntry<K,V>(hash, key, value,
null
);
retries =
0
;
}
else
if
(key.equals(e.key))
retries =
0
;
else
// 順着鏈表往下走
e = e.next;
}
// 重試次數如果超過 MAX_SCAN_RETRIES(單核1多核64),那麼不搶了,進入到阻塞隊列等待鎖
// lock() 是阻塞方法,直到獲取鎖後返回
else
if
(++retries > MAX_SCAN_RETRIES) {
lock();
break
;
}
else
if
((retries &
1
) ==
0
&&
// 這個時候是有大問題了,那就是有新的元素進到了鏈表,成爲了新的表頭
// 所以這邊的策略是,相當於重新走一遍這個 scanAndLockForPut 方法
(f = entryForHash(
this
, hash)) != first) {
e = first = f;
// re-traverse if entry changed
retries = -
1
;
}
}
return
node;
}
|
這個方法有兩個出口,一個是 tryLock() 成功了,循環終止,另一個就是重試次數超過了 MAX_SCAN_RETRIES,進到 lock() 方法,此方法會阻塞等待,直到成功拿到獨佔鎖。
這個方法就是看似複雜,但是其實就是做了一件事,那就是獲取該 segment 的獨佔鎖,如果需要的話順便實例化了一下 node。
重複一下,segment 數組不能擴容,擴容是 segment 數組某個位置內部的數組 HashEntry\[] 進行擴容,擴容後,容量爲原來的 2 倍。
首先,我們要回顧一下觸發擴容的地方,put 的時候,如果判斷該值的插入會導致該 segment 的元素個數超過閾值,那麼先進行擴容,再插值,讀者這個時候可以回去 put 方法看一眼。
該方法不需要考慮併發,因爲到這裏的時候,是持有該 segment 的獨佔鎖的。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
|
// 方法參數上的 node 是這次擴容後,需要添加到新的數組中的數據。
private
void
rehash(HashEntry<K,V> node) {
HashEntry<K,V>[] oldTable = table;
int
oldCapacity = oldTable.length;
// 2 倍
int
newCapacity = oldCapacity <<
1
;
threshold = (
int
)(newCapacity * loadFactor);
// 創建新數組
HashEntry<K,V>[] newTable =
(HashEntry<K,V>[])
new
HashEntry[newCapacity];
// 新的掩碼,如從 16 擴容到 32,那麼 sizeMask 爲 31,對應二進制 ‘000...00011111’
int
sizeMask = newCapacity -
1
;
// 遍歷原數組,老套路,將原數組位置 i 處的鏈表拆分到 新數組位置 i 和 i+oldCap 兩個位置
for
(
int
i =
0
; i < oldCapacity ; i++) {
// e 是鏈表的第一個元素
HashEntry<K,V> e = oldTable[i];
if
(e !=
null
) {
HashEntry<K,V> next = e.next;
// 計算應該放置在新數組中的位置,
// 假設原數組長度爲 16,e 在 oldTable[3] 處,那麼 idx 只可能是 3 或者是 3 + 16 = 19
int
idx = e.hash & sizeMask;
if
(next ==
null
)
// 該位置處只有一個元素,那比較好辦
newTable[idx] = e;
else
{
// Reuse consecutive sequence at same slot
// e 是鏈表表頭
HashEntry<K,V> lastRun = e;
// idx 是當前鏈表的頭結點 e 的新位置
int
lastIdx = idx;
// 下面這個 for 循環會找到一個 lastRun 節點,這個節點之後的所有元素是將要放到一起的
for
(HashEntry<K,V> last = next;
last !=
null
;
last = last.next) {
int
k = last.hash & sizeMask;
if
(k != lastIdx) {
lastIdx = k;
lastRun = last;
}
}
// 將 lastRun 及其之後的所有節點組成的這個鏈表放到 lastIdx 這個位置
newTable[lastIdx] = lastRun;
// 下面的操作是處理 lastRun 之前的節點,
// 這些節點可能分配在另一個鏈表中,也可能分配到上面的那個鏈表中
for
(HashEntry<K,V> p = e; p != lastRun; p = p.next) {
V v = p.value;
int
h = p.hash;
int
k = h & sizeMask;
HashEntry<K,V> n = newTable[k];
newTable[k] =
new
HashEntry<K,V>(h, p.key, v, n);
}
}
}
}
// 將新來的 node 放到新數組中剛剛的 兩個鏈表之一 的 頭部
int
nodeIndex = node.hash & sizeMask;
// add the new node
node.setNext(newTable[nodeIndex]);
newTable[nodeIndex] = node;
table = newTable;
}
|
這裏的擴容比之前的 HashMap 要複雜一些,代碼難懂一點。上面有兩個挨着的 for 循環,第一個 for 有什麼用呢?
仔細一看發現,如果沒有第一個 for 循環,也是可以工作的,但是,這個 for 循環下來,如果 lastRun 的後面還有比較多的節點,那麼這次就是值得的。因爲我們只需要克隆 lastRun 前面的節點,後面的一串節點跟着 lastRun 走就是了,不需要做任何操作。
我覺得 Doug Lea 的這個想法也是挺有意思的,不過比較壞的情況就是每次 lastRun 都是鏈表的最後一個元素或者很靠後的元素,那麼這次遍歷就有點浪費了。不過 Doug Lea 也說了,根據統計,如果使用默認的閾值,大約只有 1/6 的節點需要克隆。
相對於 put 來說,get 真的不要太簡單。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
|
public
V get(Object key) {
Segment<K,V> s;
// manually integrate access methods to reduce overhead
HashEntry<K,V>[] tab;
// 1. hash 值
int
h = hash(key);
long
u = (((h >>> segmentShift) & segmentMask) << SSHIFT) + SBASE;
// 2. 根據 hash 找到對應的 segment
if
((s = (Segment<K,V>)UNSAFE.getObjectVolatile(segments, u)) !=
null
&&
(tab = s.table) !=
null
) {
// 3. 找到segment 內部數組相應位置的鏈表,遍歷
for
(HashEntry<K,V> e = (HashEntry<K,V>) UNSAFE.getObjectVolatile
(tab, ((
long
)(((tab.length -
1
) & h)) << TSHIFT) + TBASE);
e !=
null
; e = e.next) {
K k;
if
((k = e.key) == key || (e.hash == h && key.equals(k)))
return
e.value;
}
}
return
null
;
}
|
現在我們已經說完了 put 過程和 get 過程,我們可以看到 get 過程中是沒有加鎖的,那自然我們就需要去考慮併發問題。
添加節點的操作 put 和刪除節點的操作 remove 都是要加 segment 上的獨佔鎖的,所以它們之間自然不會有問題,我們需要考慮的問題就是 get 的時候在同一個 segment 中發生了 put 或 remove 操作。
remove 操作我們沒有分析源碼,所以這裏說的讀者感興趣的話還是需要到源碼中去求實一下的。
get 操作需要遍歷鏈表,但是 remove 操作會」破壞」鏈表。
如果 remove 破壞的節點 get 操作已經過去了,那麼這裏不存在任何問題。
如果 remove 先破壞了一個節點,分兩種情況考慮。 1、如果此節點是頭結點,那麼需要將頭結點的 next 設置爲數組該位置的元素,table 雖然使用了 volatile 修飾,但是 volatile 並不能提供數組內部操作的可見性保證,所以源碼中使用了 UNSAFE 來操作數組,請看方法 setEntryAt。2、如果要刪除的節點不是頭結點,它會將要刪除節點的後繼節點接到前驅節點中,這裏的併發保證就是 next 屬性是 volatile 的。
Java8 對 HashMap 進行了一些修改,最大的不同就是利用了紅黑樹,所以其由 數組+鏈表+紅黑樹 組成。
根據 Java7 HashMap 的介紹,我們知道,查找的時候,根據 hash 值我們能夠快速定位到數組的具體下標,但是之後的話,需要順着鏈表一個個比較下去才能找到我們需要的,時間複雜度取決於鏈表的長度,爲 O(n)。
爲了降低這部分的開銷,在 Java8 中,當鏈表中的元素超過了 8 個以後,會將鏈表轉換爲紅黑樹,在這些位置進行查找的時候可以降低時間複雜度爲 O(logN)。
來一張圖簡單示意一下吧:
注意,上圖是示意圖,主要是描述結構,不會達到這個狀態的,因爲這麼多數據的時候早就擴容了。
下面,我們還是用代碼來介紹吧,個人感覺,Java8 的源碼可讀性要差一些,不過精簡一些。
Java7 中使用 Entry 來代表每個 HashMap 中的數據節點,Java8 中使用 Node,基本沒有區別,都是 key,value,hash 和 next 這四個屬性,不過,Node 只能用於鏈表的情況,紅黑樹的情況需要使用 TreeNode。
我們根據數組元素中,第一個節點數據類型是 Node 還是 TreeNode 來判斷該位置下是鏈表還是紅黑樹的。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
|
public
V put(K key, V value) {
return
putVal(hash(key), key, value,
false
,
true
);
}
// 第三個參數 onlyIfAbsent 如果是 true,那麼只有在不存在該 key 時纔會進行 put 操作
// 第四個參數 evict 我們這裏不關心
final
V putVal(
int
hash, K key, V value,
boolean
onlyIfAbsent,
boolean
evict) {
Node<K,V>[] tab; Node<K,V> p;
int
n, i;
// 第一次 put 值的時候,會觸發下面的 resize(),類似 java7 的第一次 put 也要初始化數組長度
// 第一次 resize 和後續的擴容有些不一樣,因爲這次是數組從 null 初始化到默認的 16 或自定義的初始容量
if
((tab = table) ==
null
|| (n = tab.length) ==
0
)
n = (tab = resize()).length;
// 找到具體的數組下標,如果此位置沒有值,那麼直接初始化一下 Node 並放置在這個位置就可以了
if
((p = tab[i = (n -
1
) & hash]) ==
null
)
tab[i] = newNode(hash, key, value,
null
);
else
{
// 數組該位置有數據
Node<K,V> e; K k;
// 首先,判斷該位置的第一個數據和我們要插入的數據,key 是不是"相等",如果是,取出這個節點
if
(p.hash == hash &&
((k = p.key) == key || (key !=
null
&& key.equals(k))))
e = p;
// 如果該節點是代表紅黑樹的節點,調用紅黑樹的插值方法,本文不展開說紅黑樹
else
if
(p
instanceof
TreeNode)
e = ((TreeNode<K,V>)p).putTreeVal(
this
, tab, hash, key, value);
else
{
// 到這裏,說明數組該位置上是一個鏈表
for
(
int
binCount =
0
; ; ++binCount) {
// 插入到鏈表的最後面(Java7 是插入到鏈表的最前面)
if
((e = p.next) ==
null
) {
p.next = newNode(hash, key, value,
null
);
// TREEIFY_THRESHOLD 爲 8,所以,如果新插入的值是鏈表中的第 9 個
// 會觸發下面的 treeifyBin,也就是將鏈表轉換爲紅黑樹
if
(binCount >= TREEIFY_THRESHOLD -
1
)
// -1 for 1st
treeifyBin(tab, hash);
break
;
}
// 如果在該鏈表中找到了"相等"的 key(== 或 equals)
if
(e.hash == hash &&
((k = e.key) == key || (key !=
null
&& key.equals(k))))
// 此時 break,那麼 e 爲鏈表中[與要插入的新值的 key "相等"]的 node
break
;
p = e;
}
}
// e!=null 說明存在舊值的key與要插入的key"相等"
// 對於我們分析的put操作,下面這個 if 其實就是進行 "值覆蓋",然後返回舊值
if
(e !=
null
) {
V oldValue = e.value;
if
(!onlyIfAbsent || oldValue ==
null
)
e.value = value;
afterNodeAccess(e);
return
oldValue;
}
}
++modCount;
// 如果 HashMap 由於新插入這個值導致 size 已經超過了閾值,需要進行擴容
if
(++size > threshold)
resize();
afterNodeInsertion(evict);
return
null
;
}
|
和 Java7 稍微有點不一樣的地方就是,Java7 是先擴容後插入新值的,Java8 先插值再擴容,不過這個不重要。
resize() 方法用於初始化數組或數組擴容,每次擴容後,容量爲原來的 2 倍,並進行數據遷移。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
|
final
Node<K,V>[] resize() {
Node<K,V>[] oldTab = table;
int
oldCap = (oldTab ==
null
) ?
0
: oldTab.length;
int
oldThr = threshold;
int
newCap, newThr =
0
;
if
(oldCap >
0
) {
// 對應數組擴容
if
(oldCap >= MAXIMUM_CAPACITY) {
threshold = Integer.MAX_VALUE;
return
oldTab;
}
// 將數組大小擴大一倍
else
if
((newCap = oldCap <<
1
) < MAXIMUM_CAPACITY &&
oldCap >= DEFAULT_INITIAL_CAPACITY)
// 將閾值擴大一倍
newThr = oldThr <<
1
;
// double threshold
}
else
if
(oldThr >
0
)
// 對應使用 new HashMap(int initialCapacity) 初始化後,第一次 put 的時候
newCap = oldThr;
else
{
// 對應使用 new HashMap() 初始化後,第一次 put 的時候
newCap = DEFAULT_INITIAL_CAPACITY;
newThr = (
int
)(DEFAULT_LOAD_FACTOR * DEFAULT_INITIAL_CAPACITY);
}
if
(newThr ==
0
) {
float
ft = (
float
)newCap * loadFactor;
newThr = (newCap < MAXIMUM_CAPACITY && ft < (
float
)MAXIMUM_CAPACITY ?
(
int
)ft : Integer.MAX_VALUE);
}
threshold = newThr;
// 用新的數組大小初始化新的數組
Node<K,V>[] newTab = (Node<K,V>[])
new
Node[newCap];
table = newTab;
// 如果是初始化數組,到這裏就結束了,返回 newTab 即可
if
(oldTab !=
null
) {
// 開始遍歷原數組,進行數據遷移。
for
(
int
j =
0
; j < oldCap; ++j) {
Node<K,V> e;
if
((e = oldTab[j]) !=
null
) {
oldTab[j] =
null
;
// 如果該數組位置上只有單個元素,那就簡單了,簡單遷移這個元素就可以了
if
(e.next ==
null
)
newTab[e.hash & (newCap -
1
)] = e;
// 如果是紅黑樹,具體我們就不展開了
else
if
(e
instanceof
TreeNode)
((TreeNode<K,V>)e).split(
this
, newTab, j, oldCap);
else
{
// 這塊是處理鏈表的情況,
// 需要將此鏈表拆成兩個鏈表,放到新的數組中,並且保留原來的先後順序
// loHead、loTail 對應一條鏈表,hiHead、hiTail 對應另一條鏈表,代碼還是比較簡單的
Node<K,V> loHead =
null
, loTail =
null
;
Node<K,V> hiHead =
null
, hiTail =
null
;
Node<K,V> next;
do
{
next = e.next;
if
((e.hash & oldCap) ==
0
) {
if
(loTail ==
null
)
loHead = e;
else
loTail.next = e;
loTail = e;
}
else
{
if
(hiTail ==
null
)
hiHead = e;
else
hiTail.next = e;
hiTail = e;
}
}
while
((e = next) !=
null
);
if
(loTail !=
null
) {
loTail.next =
null
;
// 第一條鏈表
newTab[j] = loHead;
}
if
(hiTail !=
null
) {
hiTail.next =
null
;
// 第二條鏈表的新的位置是 j + oldCap,這個很好理解
newTab[j + oldCap] = hiHead;
}
}
}
}
}
return
newTab;
}
|
相對於 put 來說,get 真的太簡單了。
1
2
3
4
|
public
V get(Object key) {
Node<K,V> e;
return
(e = getNode(hash(key), key)) ==
null
?
null
: e.value;
}
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
|
final
Node<K,V> getNode(
int
hash, Object key) {
Node<K,V>[] tab; Node<K,V> first, e;
int
n; K k;
if
((tab = table) !=
null
&& (n = tab.length) >
0
&&
(first = tab[(n -
1
) & hash]) !=
null
) {
// 判斷第一個節點是不是就是需要的
if
(first.hash == hash &&
// always check first node
((k = first.key) == key || (key !=
null
&& key.equals(k))))
return
first;
if
((e = first.next) !=
null
) {
// 判斷是否是紅黑樹
if
(first
instanceof
TreeNode)
return
((TreeNode<K,V>)first).getTreeNode(hash, key);
// 鏈表遍歷
do
{
if
(e.hash == hash &&
((k = e.key) == key || (key !=
null
&& key.equals(k))))
return
e;
}
while
((e = e.next) !=
null
);
}
}
return
null
;
}
|
Java7 中實現的 ConcurrentHashMap 說實話還是比較複雜的,Java8 對 ConcurrentHashMap 進行了比較大的改動。建議讀者可以參考 Java8 中 HashMap 相對於 Java7 HashMap 的改動,對於 ConcurrentHashMap,Java8 也引入了紅黑樹。
說實話,Java8 ConcurrentHashMap 源碼真心不簡單,最難的在於擴容,數據遷移操作不容易看懂。
我們先用一個示意圖來描述下其結構:
結構上和 Java8 的 HashMap 基本上一樣,不過它要保證線程安全性,所以在源碼上確實要複雜一些。
1
2
3
4
5
6
7
8
9
10
11
|
// 這構造函數裏,什麼都不幹
public
ConcurrentHashMap() {
}
public
ConcurrentHashMap(
int
initialCapacity) {
if
(initialCapacity <
0
)
throw
new
IllegalArgumentException();
int
cap = ((initialCapacity >= (MAXIMUM_CAPACITY >>>
1
)) ?
MAXIMUM_CAPACITY :
tableSizeFor(initialCapacity + (initialCapacity >>>
1
) +
1
));
this
.sizeCtl = cap;
}
|
這個初始化方法有點意思,通過提供初始容量,計算了 sizeCtl,sizeCtl = 【 (1.5 * initialCapacity + 1),然後向上取最近的 2 的 n 次方】。如 initialCapacity 爲 10,那麼得到 sizeCtl 爲 16,如果 initialCapacity 爲 11,得到 sizeCtl 爲 32。
sizeCtl 這個屬性使用的場景很多,不過只要跟着文章的思路來,就不會被它搞暈了。
如果你愛折騰,也可以看下另一個有三個參數的構造方法,這裏我就不說了,大部分時候,我們會使用無參構造函數進行實例化,我們也按照這個思路來進行源碼分析吧。
仔細地一行一行代碼看下去:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
|
public
V put(K key, V value) {
return
putVal(key, value,
false
);
}
final
V putVal(K key, V value,
boolean
onlyIfAbsent) {
if
(key ==
null
|| value ==
null
)
throw
new
NullPointerException();
// 得到 hash 值
int
hash = spread(key.hashCode());
// 用於記錄相應鏈表的長度
int
binCount =
0
;
for
(Node<K,V>[] tab = table;;) {
Node<K,V> f;
int
n, i, fh;
// 如果數組"空",進行數組初始化
if
(tab ==
null
|| (n = tab.length) ==
0
)
// 初始化數組,後面會詳細介紹
tab = initTable();
// 找該 hash 值對應的數組下標,得到第一個節點 f
else
if
((f = tabAt(tab, i = (n -
1
) & hash)) ==
null
) {
// 如果數組該位置爲空,
// 用一次 CAS 操作將這個新值放入其中即可,這個 put 操作差不多就結束了,可以拉到最後面了
// 如果 CAS 失敗,那就是有併發操作,進到下一個循環就好了
if
(casTabAt(tab, i,
null
,
new
Node<K,V>(hash, key, value,
null
)))
break
;
// no lock when adding to empty bin
}
// hash 居然可以等於 MOVED,這個需要到後面才能看明白,不過從名字上也能猜到,肯定是因爲在擴容
else
if
((fh = f.hash) == MOVED)
// 幫助數據遷移,這個等到看完數據遷移部分的介紹後,再理解這個就很簡單了
tab = helpTransfer(tab, f);
else
{
// 到這裏就是說,f 是該位置的頭結點,而且不爲空
V oldVal =
null
;
// 獲取數組該位置的頭結點的監視器鎖
synchronized
(f) {
if
(tabAt(tab, i) == f) {
if
(fh >=
0
) {
// 頭結點的 hash 值大於 0,說明是鏈表
// 用於累加,記錄鏈表的長度
binCount =
1
;
// 遍歷鏈表
for
(Node<K,V> e = f;; ++binCount) {
K ek;
// 如果發現了"相等"的 key,判斷是否要進行值覆蓋,然後也就可以 break 了
if
(e.hash == hash &&
((ek = e.key) == key ||
(ek !=
null
&& key.equals(ek)))) {
oldVal = e.val;
if
(!onlyIfAbsent)
e.val = value;
break
;
}
// 到了鏈表的最末端,將這個新值放到鏈表的最後面
Node<K,V> pred = e;
if
((e = e.next) ==
null
) {
pred.next =
new
Node<K,V>(hash, key,
value,
null
);
break
;
}
}
}
else
if
(f
instanceof
TreeBin) {
// 紅黑樹
Node<K,V> p;
binCount =
2
;
// 調用紅黑樹的插值方法插入新節點
if
((p = ((TreeBin<K,V>)f).putTreeVal(hash, key,
value)) !=
null
) {
oldVal = p.val;
if
(!onlyIfAbsent)
p.val = value;
}
}
}
}
// binCount != 0 說明上面在做鏈表操作
if
(binCount !=
0
) {
// 判斷是否要將鏈表轉換爲紅黑樹,臨界值和 HashMap 一樣,也是 8
if
(binCount >= TREEIFY_THRESHOLD)
// 這個方法和 HashMap 中稍微有一點點不同,那就是它不是一定會進行紅黑樹轉換,
// 如果當前數組的長度小於 64,那麼會選擇進行數組擴容,而不是轉換爲紅黑樹
// 具體源碼我們就不看了,擴容部分後面說
treeifyBin(tab, i);
if
(oldVal !=
null
)
return
oldVal;
break
;
}
}
}
//
addCount(1L, binCount);
return
null
;
}
|
put 的主流程看完了,但是至少留下了幾個問題,第一個是初始化,第二個是擴容,第三個是幫助數據遷移,這些我們都會在後面進行一一介紹。
這個比較簡單,主要就是初始化一個合適大小的數組,然後會設置 sizeCtl。
初始化方法中的併發問題是通過對 sizeCtl 進行一個 CAS 操作來控制的。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
|
private
final
Node<K,V>[] initTable() {
Node<K,V>[] tab;
int
sc;
while
((tab = table) ==
null
|| tab.length ==
0
) {
// 初始化的"功勞"被其他線程"搶去"了
if
((sc = sizeCtl) <
0
)
Thread.yield();
// lost initialization race; just spin
// CAS 一下,將 sizeCtl 設置爲 -1,代表搶到了鎖
else
if
(U.compareAndSwapInt(
this
, SIZECTL, sc, -
1
)) {
try
{
if
((tab = table) ==
null
|| tab.length ==
0
) {
// DEFAULT_CAPACITY 默認初始容量是 16
int
n = (sc >
0
) ? sc : DEFAULT_CAPACITY;
// 初始化數組,長度爲 16 或初始化時提供的長度
Node<K,V>[] nt = (Node<K,V>[])
new
Node<?,?>[n];
// 將這個數組賦值給 table,table 是 volatile 的
table = tab = nt;
// 如果 n 爲 16 的話,那麼這裏 sc = 12
// 其實就是 0.75 * n
sc = n - (n >>>
2
);
}
}
finally
{
// 設置 sizeCtl 爲 sc,我們就當是 12 吧
sizeCtl = sc;
}
break
;
}
}
return
tab;
}
|
前面我們在 put 源碼分析也說過,treeifyBin 不一定就會進行紅黑樹轉換,也可能是僅僅做數組擴容。我們還是進行源碼分析吧。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
|
private
final
void
treeifyBin(Node<K,V>[] tab,
int
index) {
Node<K,V> b;
int
n, sc;
if
(tab !=
null
) {
// MIN_TREEIFY_CAPACITY 爲 64
// 所以,如果數組長度小於 64 的時候,其實也就是 32 或者 16 或者更小的時候,會進行數組擴容
if
((n = tab.length) < MIN_TREEIFY_CAPACITY)
// 後面我們再詳細分析這個方法
tryPresize(n <<
1
);
// b 是頭結點
else
if
((b = tabAt(tab, index)) !=
null
&& b.hash >=
0
) {
// 加鎖
synchronized
(b) {
if
(tabAt(tab, index) == b) {
// 下面就是遍歷鏈表,建立一顆紅黑樹
TreeNode<K,V> hd =
null
, tl =
null
;
for
(Node<K,V> e = b; e !=
null
; e = e.next) {
TreeNode<K,V> p =
new
|