CPU緩存L1/L2/L3工做原理

1、前言

在過去的幾年中，計算機處理器取得了至關大的進步，晶體管的尺寸每一年都在變小，並且這種進步達到了摩爾定律迅速變得多餘的地步。

當涉及處處理器時，不只晶體管和頻率很重要，高速緩存也很重要。

在討論CPU(Central Processing Units)時，您可能據說太高速緩存。可是，咱們並無過多地關注這些數字，它們也不是這些CPU廣告的主要亮點。

那麼，CPU緩存到底有多重要，它又是如何工做的?

2、什麼是CPU緩存?

首先，緩存只是一種很是快速的內存類型。您可能知道，計算機內部有多種內存類型。有一個主存儲(如硬盤或SSD)，用於存儲大量數據(操做系統和全部程序)。

接下來，咱們有隨機存取存儲器，一般稱爲RAM。這比主存儲要快得多。

最後，CPU自身具備更快的存儲單元，咱們稱之爲緩存。

計算機的內存具備基於速度的層次結構，而緩存位於該層次結構的頂部，是最快的。它也是最靠近中央處理的地方，它是CPU自己的一部分。

高速緩存是靜態RAM(SRAM)，而系統RAM是動態RAM(DRAM)。靜態RAM是一種能夠保存數據可是不要用一直刷新的存儲器，與DRAM不一樣，SRAM更加適合用於高速緩存。

3、CPU緩存如何工做?

咱們已經知道，程序被設計爲一組指令，最終由CPU運行。

當咱們運行程序的時候，這些指令必須從主存儲器取指令到CPU。這是內存層次結構起做用的地方。

數據首先被加載到RAM中，而後被髮送到CPU。由於CPU每秒都可以執行大量指令。爲了充分利用其功能，CPU須要訪問超高速內存，這是緩存的來源。

內存控制器執行從RAM中獲取數據並將其發送到緩存的工做。根據系統中使用的CPU，此控制器能夠位於主板的北橋芯片組上，也能夠位於CPU自己內部。

https://www.cxybug.com/

而後，高速緩存在CPU內執行數據的來回傳輸。內存的層次結構也存在於緩存中。

4、緩存級別：L1，L2和L3

CPU緩存分爲三個主要的級別，即L1，L2和L3。這裏的層次結構是根據緩存速度來劃分的。

L1(1級)高速緩存是計算機系統中存在的最快的內存。就訪問優先級而言，L1緩存具備CPU在完成特定任務時最可能須要的數據。

就其大小而言，L1高速緩存一般最多可達256KB。可是，一些真正功能強大的CPU如今將其佔用近1MB。如今，某些服務器芯片組(如Intel的高端Xeon CPU)具備1-2MB的一級緩存。

L1緩存一般也分爲兩種方式，分爲指令緩存和數據緩存。指令高速緩存處理有關CPU必須執行的操做的信息，而數據高速緩存則保留要在其上執行操做的數據。

L2(2級)緩存比L1緩存慢，但大小更大。它的大小一般在256KB到8MB之間，儘管更新，功能強大的CPU每每會超過此大小。L2高速緩存保存下一步可能由CPU訪問的數據。在大多數現代CPU中，L1和L2高速緩存位於CPU內核自己，每一個內核都有本身的高速緩存。

L3(3級)高速緩存是最大的高速緩存存儲單元，也是最慢的一個。它的範圍從4MB到50MB以上。現代CPU在CPU裸片上具備用於L3高速緩存的專用空間，而且佔用了很大一部分空間。

5、緩存命中或未命中以及延遲

數據會從RAM依次流到L3高速緩存，而後是L2，最後是L1。

當處理器正在尋找要執行操做的數據時，它首先嚐試在L1高速緩存中找到它。若是CPU可以找到它，則該狀況稱爲高速緩存命中。而後，它繼續在L2和L3中找到它。

若是找不到數據，它將嘗試從主內存訪問數據。這稱爲高速緩存未命中。

如今，衆所周知，高速緩存旨在加快主內存和CPU之間的數據傳輸。

從內存訪問數據所需的時間稱爲延遲，L1具備最低的延遲，是最快的，而且最接近核心，而L3具備最高的延遲。緩存未命中時，延遲會增長不少。這是由於CPU必須從主存儲器中獲取數據。

隨着計算機變得愈來愈快和愈來愈好，咱們看到延遲減小了。如今，咱們擁有低延遲的DDR4 RAM，以及具備低訪問時間的超高速SSD做爲主要存儲，這兩項都大大下降了總體延遲。

之前，緩存設計曾經使L2和L3緩存位於CPU外部，這對延遲產生了負面影響。

然而，CPU製造工藝的進步使得在比之前更小的空間中安裝數十億個晶體管。所以，爲緩存留出了更多空間，這使緩存儘量地靠近核心，從而大大減小了延遲。

6、緩存的將來

緩存設計一直在發展，尤爲是隨着內存變得更便宜，更快和更密集。英特爾和AMD在緩存設計方面進行了至關多的試驗，英特爾甚至還在試驗L4緩存。CPU市場正在之前所未有的速度向前發展。

這樣，咱們一定會看到緩存設計跟上CPU不斷增加的能力。

緩存設計方面進行了至關多的試驗，英特爾甚至還在試驗L4緩存。CPU市場正在之前所未有的速度向前發展。

這樣，咱們一定會看到緩存設計跟上CPU不斷增加的能力。

此外，還有不少工做能夠減小現代計算機的瓶頸。減小內存延遲多是其中最大的一部分。業界正在爲相同的解決方案而努力，而且將來看起來確實充滿但願。