【底層原理】用戶進程緩衝區和內核緩衝區

 

　　經常聽到有程序員會跟你討論：「咱們在讀寫文件的時候，系統是有緩存的」。但實際上有一部分人把用戶進程緩存區和系統空間緩存區的概念混淆了，包括這兩種緩衝區的用法和所要解決的問題，還有其它相似的概念。本文就來區分一下不一樣的緩衝區概念（主要針對類unix平臺）。

　　用戶進程和操做系統的關係，首先我用一張圖來解釋「用戶進程和操做系統的關係

　　這是一個計算機系統運行時的簡化模型，咱們把全部運行在操做系統上的進程成爲用戶進程，它們都運行在用戶空間（能夠看到用戶空間有不少進程）。把操做系統運行的空間成爲系統空間

　　爲何將進程分爲用戶進程和系統進程，首先你必定據說過內核態和用戶態（kernel mode和user mode），在內核態能夠訪問系統資源，好比：

處理器cpu：cpu控制着一個程序的執行。

輸入輸出IO：linux有句話叫「一切都是流」，也就是全部輸入輸出設備的數據，包括硬盤，內存，終端均可以像流同樣操做。

進程管理：相似對進程的建立，休眠，喚醒，釋放之類的調度。好比linux下的fork和windows下的CreateProcess()函數。

內存：包括內存的申請，釋放等管理操做。

設備：這個就是經常說的外設了，好比鼠標，鍵盤。

計時器：計算機能計時是由於晶體振盪器產生的電磁脈衝。那麼全部的定時任務都是以它爲基礎的。

進程間通訊IPC：進程之間是不可以互相訪問內存的，因此進程與進程之間的交互須要通訊，而通訊也是一種資源。

網絡通訊：網絡通訊能夠看作是進程見通訊的特殊形式。

　　而上面所說的這些系統資源，在用戶進程中是沒法被直接訪問的，只能經過操做系統來訪問，因此也把操做系統提供的這些功能成爲:「系統調用」。

好比下圖，展現一個用戶經過shell控制計算機所通過的數據流向：文件讀寫和終端控制，都是經過內核進行的。

　　提供這些限制的基礎就是cpu提供的內核態和用戶態。好比intel x86 CPU有四種不一樣的執行級別0-3，linux只使用了其中的0級和3級分別來表示內核態和用戶態。

　　在用戶態，不只僅是系統資源了，就是別的進程的內存對於你來講，都是「透明的」（並非沒辦法訪問，不然遊戲做弊器怎麼實現？）

用戶進程緩存區

前面提到，用戶進程經過系統調用訪問系統資源的時候，須要切換到內核態，而這對應一些特殊的堆棧和內存環境，必須在系統調用前創建好。而在系統調用結束後，cpu會從核心模式切回到用戶模式，而堆棧又必須恢復成用戶進程的上下文。而這種切換就會有大量的耗時。

你看一些程序在讀取文件時，會先申請一塊內存數組，稱爲buffer，而後每次調用read，讀取設定字節長度的數據，寫入buffer。（用較小的次數填滿buffer）。以後的程序都是從buffer中獲取數據，當buffer使用完後，在進行下一次調用，填充buffer。因此說：用戶緩衝區的目的是爲了減小系統調用次數，從而下降操做系統在用戶態與核心態切換所耗費的時間。除了在進程中設計緩衝區，內核也有本身的緩衝區。

內核緩存區

當一個用戶進程要從磁盤讀取數據時，內核通常不直接讀磁盤，而是將內核緩衝區中的數據複製到進程緩衝區中。

但如果內核緩衝區中沒有數據，內核會把對數據塊的請求，加入到請求隊列，而後把進程掛起，爲其它進程提供服務。

等到數據已經讀取到內核緩衝區時，把內核緩衝區中的數據讀取到用戶進程中，纔會通知進程，固然不一樣的io模型，在調度和使用內核緩衝區的方式上有所不一樣，下一小結介紹。

你能夠認爲，read是把數據從內核緩衝區複製到進程緩衝區。write是把進程緩衝區複製到內核緩衝區。固然，write並不必定致使內核的寫動做，好比os可能會把內核緩衝區的數據積累到必定量後，再一次寫入。這也就是爲何斷電有時會致使數據丟失。因此說內核緩衝區，是爲了在OS級別，提升磁盤IO效率，優化磁盤寫操做。

流程

在《Unix網絡編程》中的五種io模型，也提到過進程緩衝區和內核緩衝區。由於這個並非此篇文章的重點，因此這裏只對比阻塞模型和非阻塞。

　　對比阻塞和非阻塞，在阻塞io中，直到數據從內核緩衝區拷貝到用戶緩衝區才通知用戶進程調用完成並喚醒，而非阻塞，在輪訓得知數據準備好後，數據仍是在內核緩衝區中，等你去讀取，這也就是說數據準備好，並不表明已經讀好可使用。固然也不表明必定能讀。

緩存區和緩存

還有一部分人把緩衝區和緩存混淆，後來我明白這也是由於翻譯致使的把兩種東西進行混淆。緩衝區的英文是buffer，而緩存的應爲是cache。

　　CPU緩存（Cache Memory）是位於CPU與內存之間的臨時存儲器，由於cpu的計算速度要比內存的讀寫速度快不少，而把這些可能會被重複訪問到的數據存儲於cpu緩存中，就會提升讀取速度。能夠說緩存是cpu和內存之間的臨時存儲器。

　　也就是說，buffer是由於減小調用次數，集中調用，提升系統性能。而cache是將讀取過的數據保存起來，從新讀取時若命中（找到須要的數據）就不要去讀硬盤了，若沒有命中就讀硬盤。