想玩轉JAVA高併發，這些概念你必須懂！

咱們在找工做時，常常在招聘信息上看到有這麼一條:有構建大型互聯網服務及高併發等經驗，你第一時間想到的是媒體常說的雙十一嗎？帶着問題，咱們一塊兒思考技術….

高併發高併發

它是互聯網分佈式系統架構設計中必須考慮的因素之一，一般是指，保證系統可以同時並行化處理海量請求

同步和異步

• 同步：發送一個請求，等待返回，而後再發送下一個請求。提交請求 -> 等待服務器處理 -> 處理完返回，此期間客戶端瀏覽器不能幹任何事
• 異步：發送一個請求，不等待返回，隨時能夠再發送下一個請求。提交請求 -> 服務器處理（這時瀏覽器仍然能夠作其餘事情）-> 處理完畢

從上圖能夠知道，隨着實時間的軌跡，同步一步一步的執行着，在異步中，當一個異步過程調用發出後，調用者不能當即獲得結果，實際上會開啓一個線程執行這部份內容，這個線程處理完了以後，經過狀態，通知和回調來通知調用者來處理。

併發和並行

單核CPU(單處理器)上，只可能存在併發而不可能存在並行。 並行在多處理器系統中存在，而併發能夠在單處理器和多處理器系統中都存在，併發可以在單處理器系統中存在是由於併發是並行的假象，並行要求程序可以同時執行多個操做，而併發只是要求程序僞裝同時執行多個操做（每一個小時間片執行一個操做，多個操做快速切換執行

臨界區

臨界區用來表示一種公共資源或者說是共享數據，能夠被多個線程使用，可是每一次，只能有一個線程使用它，一旦臨界去資源被佔用，其餘線程想要使用這個資源，就必須等待。

這就是咱們編程中常常要加鎖的地方，如 Synchronized 關鍵字，或是 Lock 接口。

阻塞和非阻塞

• 阻塞(Blocking)和非阻塞(Non-Blocking)一般用來形容多線程間的相互影響，好比一個線程佔用臨界區資源，那麼其餘全部須要這個資源的線程就必須在這個臨界區中進行等待，等待會致使線程掛起，這種狀況就是阻塞。若是佔用資源的線程一直不肯意釋放資源，那麼其它全部阻塞在這個臨界區上的線程都不能工做。
• 非阻塞容許多個線程同時進入臨界區。

死鎖、飢餓、活鎖

死鎖： 指兩個或兩個以上的進程（或線程）在執行過程當中，因爭奪資源而形成的一種互相等待的現象，若無外力做用，它們都將沒法推動下去。此時稱系統處於死鎖狀態或系統產生了死鎖，這些永遠在互相等待的進程稱爲死鎖進程。

互斥條件：線程對資源的訪問是排他性的，若是一個線程對佔用了某資源，那麼其餘線程必須處於等待狀態，直到資源被釋放。 請求和保持條件：線程T1至少已經保持了一個資源R1佔用,但又提出對另外一個資源R2請求，而此時，資源R2被其餘線程T2佔用，因而該線程T1也必須等待，但又對本身保持的資源R1不釋放。 不剝奪條件：線程已得到的資源，在未使用完以前，不能被其餘線程剝奪，只能在使用完之後由本身釋放。 環路等待條件：在死鎖發生時，必然存在一個「進程-資源環形鏈」，即：{p0,p1,p2,…pn},進程p0（或線程）等待p1佔用的資源，p1等待p2佔用的資源，pn等待p0佔用的資源。（最直觀的理解是，p0等待p1佔用的資源，而p1而在等待p0佔用的資源，因而兩個進程就相互等待

活鎖： 指線程T1可使用資源，但它很禮貌，讓其餘線程先使用資源，線程T2也可使用資源，但它很紳士，也讓其餘線程先使用資源。這樣你讓我，我讓你，最後兩個線程都沒法使用資源。

在街上遇到一妹子，恰好她朝着你的反方向走，與你正面碰到，大家都想讓彼此過去。你往左邊移，她也往左邊移，兩人仍是沒法過去。這時你往右邊移，她也往右邊移，如此循環下去。

飢餓： 指若是線程T1佔用了資源R，線程T2又請求封鎖R，因而T2等待。T3也請求資源R，當T1釋放了R上的封鎖後，系統首先批准了T3的請求，T2仍然等待。而後T4又請求封鎖R，當T3釋放了R上的封鎖以後，系統又批准了T4的請求……，T2可能永遠等待。

有兩條道A和B上都堵滿了車輛，其中A道堵的時間最長，B相對相對堵的時間較短，這時，前面道路已疏通，交警按照最佳分配原則，示意B道上車輛先過，B道路上過了一輛又一輛，A道上排隊時間最長的確無法經過，只能等B道上沒有車輛經過的時候再等交警發指令讓A道依次經過，這也就是 ReentrantLock 顯示鎖裏提供的不公平鎖機制（固然了，ReentrantLock 也提供了公平鎖的機制，由用戶根據具體的使用場景而決定到底使用哪一種鎖策略），不公平鎖可以提升吞吐量但不可避免的會形成某些線程的飢餓。

併發級別

分爲 阻塞 和 非阻塞（非阻塞分爲無障礙、無鎖、無等待）

阻塞

當一個線程進入臨界區後，其餘線程必須等待

無障礙

• 無障礙是一種最弱的非阻塞調度
• 可自由出入臨界區
• 無競爭時，有限步內完成操做
• 有競爭時，回滾數據

和非阻塞調度相比呢，阻塞調度是一種悲觀的策略，它會認爲說一塊兒修改數據是頗有可能把數據改壞的。而非阻塞調度呢，是一種樂觀的策略，它認爲你們修改數據未必把數據改壞。 可是它是一種 寬進嚴出 的策略，當它發現一個進程在臨界區內發生了數據競爭，產生了衝突，那麼無障礙的調度方式則會回滾這條數據。

在這個無障礙的調度方式當中，全部的線程都至關於在拿去一個系統當前的一個快照。他們一直會嘗試拿去的快照是有效的爲止。

無鎖

• 是無障礙的
• 保證有一個線程能夠勝出 與無障礙相比，無障礙並不保證有競爭時必定能完成操做，由於若是它發現每次操做都會產生衝突，那它則會不停地嘗試。若是臨界區內的線程互相干擾，則會致使全部的線程會卡死在臨界區，那麼系統性能則會有很大的影響。

而無鎖增長了一個新的條件，保證每次競爭有一個線程能夠勝出，則解決了無障礙的問題。至少保證了全部線程都順利執行下去。

下面代碼是Java中典型的無鎖計算代碼

while (!atomicVar.compareAndSet(localVar, localVar+1)) {    localVar = atomicVar.get();}

無等待

• 無鎖的
• 要求全部的線程都必須在有限步內完成
• 無飢餓的

無等待的前提是無鎖的基礎上的，無鎖它只保證了臨界區確定有進也有出，可是若是進的優先級都很高，那麼臨界區內的某些優先級低的線程可能發生飢餓，一直出不了臨界區。那麼無等待解決了這個問題，它保證全部的線程都必須在有限步內完成，天然是無飢餓的。

無等待是並行的最高級別，它能使這個系統達到最優狀態。無等待的典型案例：只有讀線程，沒有寫線程，那麼這個則必然是無等待的。 若是既有讀線程又有寫線程，而每一個寫線程以前，都把數據拷貝一份副本，而後修改這個副本，而不是修改原始數據，由於修改副本，則沒有衝突，那麼這個修改的過程也是無等待的。最後須要作同步的只是將寫完的數據覆蓋原始數據。因爲無等待要求比較高，實現起來比較困難，因此無鎖使用得會更加普遍一些。

關於並行的2個重要定律

兩個定律都與加速比有關

阿姆達爾定律

Amdahl定律(阿姆達爾定律)：定義了串行系統並行化後的加速比的計算公式和理論上限（加速比=優化前系統耗時/優化後系統耗時） 一個程序（或者一個算法）能夠按照 是否能夠被並行化 分爲下面兩個部分：

• 能夠被並行化的部分
• 不能夠被並行化的部

假設一個程序處理磁盤上的文件。這個程序的一小部分用來掃描路徑和在內存中建立文件目錄。作完這些後，每一個文件交個一個單獨的線程去處理。掃描路徑和建立文件目錄的部分不能夠被並行化，不過處理文件的過程能夠。

增長CPU處理器的數量並不必定能起到有效的做用，提升系統內可並行化的模塊比重，合理增長並行處理器數量，才能以最小的投入，獲得最大的加速比

古斯塔夫森定律

Gustafson定律(古斯塔夫森)：說明處理器個數，串行比例和加速比之間的關係

只要有足夠的並行化，那麼加速比和CPU個數成正比