咱們使用的計算機的全稱叫電子計算機,前面有電子兩個字,這說的是整個計算機中的核心元器件基本上都是電子單元組成的。但機械硬盤倒是一個特殊的例外,它更可能是用機械技術作出來的一個產品。當把帶有機械技術基因的磁盤搭到計算機,尤爲是再應用到服務器領域的時候,暴露出了機械技術的兩個嚴重問題:緩存
第一,速度慢。若是把內存和CPU的速度比做汽車和飛機的話,這個大哥毫秒級別的延遲幾乎就是牛車級別的。 安全
第二,容易壞。常常據說誰誰的磁盤壞了,不多有據說過誰的內存條,CPU壞了。筆者就有在讀研期間實驗室裏正在拷貝資料,忽然一個斷電直接廢了一塊硬盤的經歷。服務器
要想保證服務器運轉的穩定和高速,就必須解決硬盤從孃胎裏帶出來的這兩個缺陷。ide
1多硬盤鏈接函數
問題簡單明瞭,咱們要解決速度慢、容易壞兩個問題。很天然,單兵做戰不行,那咱們就想到往上懟一個班,多塊硬盤一塊兒上。但問題是,假如給你N塊硬盤,讓你來出一個技術方案,你會怎麼設計呢?
工具
第一個方案就是,把一個文件分紅N片,每一片都散列在不一樣的硬盤上。這樣當文件進行讀取的時候,就能夠N塊硬盤一塊兒來工做,從而達到讀取速度提升到N倍的效果,這就是RAID 0。
性能
圖1 Raid 0方案ui
不過這個方案沒有解決容易壞的問題,任何一塊硬盤壞了都會致使存儲系統故障。spa
第二個方案就是,仍然把文件分片,可是全部的分片都存在一塊硬盤上,其它的硬盤只存拷貝。這既提升了硬盤的訪問速度,也解決了壞的問題。任意一塊硬盤壞了,存儲系統均可以正常使用,只不過速度會打一點折扣。操作系統
圖2 Raid 1方案
不過這個方案又帶來了新的問題,那就是實現成本有點高了。假如咱們用256G硬盤想實現512G的存儲容量的話,最少得須要4塊硬盤才能實現。
有沒有折中一點的方案呢?有,並且不少。咱們這裏只說下最多見的raid5 RAID 5一樣要對文件進行分片,可是不對存儲的數據進行備份,而是會再單獨存一個校驗數據片。假如文件分爲A1 A2 A3,而後須要再存一個校驗片到別的磁盤上。這樣無論A1,A2仍是A3那一片丟失了,均可以根據另外兩片和校驗片合成出來。既保證了數據的安全性,又只用了一塊磁盤作冗餘存儲。
圖3 Raid5 方案
假如咱們有8塊256GB的硬盤,那麼RAID5方案下的磁盤陣列從用戶角度來看可用的存儲空間是7*256GB,只「浪費」了一塊盤的空間,因此目前RAID5應用比較普遍~~
2RAID卡緩存
硬盤延遲是毫秒級別的,即便是多快硬盤並行,也只能提高數倍而已,不可以達到量級的提高。和CPU內存的納秒級別工做頻率比起來,仍是太慢了。在計算機界,沒有緩存解決不了的速度問題,若是有,那就再加一層。現代磁盤自己也基本都帶了緩存,另外在一些比較新的raid卡里,硬件開發者們又搞出來了一層「內存」,而且還本身附帶一塊電池,這就是RAID卡緩存。咱們看下幾款主流RAID卡的配置:
PERC S120 入門軟件陣列卡,主板集成無緩存 支持RAID0 1
PERC H330 入門硬件RAID卡,無板載緩存, 支持RAID 0 1 5 10 50
PERC H730 主流硬件RAID卡帶有1G緩存和電池 支持RAID 0 1 5 6 10 50 60
PERC H730P 高性能硬件RAID卡帶有2G緩存和電池 支持RAID 0 1 5 6 10 50 60
PERC H830 同H730P,沒有內置接口,使用外置接口鏈接附加存儲磁盤櫃用
拿目前服務器端出鏡率比較高的H730和H730P來看,他們分別帶了1G和2G的緩存卡,而且自帶電池。電池的做用就是當發現主機意外斷電的時候,可以快速把緩存中的數據寫回到磁盤中去。對於寫入,通常操做系統寫到這個RAID卡里就完事了,因此速度快。對於讀取也是,只要緩存裏有,就不會透傳到磁盤的機械軸上。
另外想再補充說一點的就是文件相關函數裏設置DIRECT I/O僅僅只能繞開操做系統自己的Page Cache,而RAID卡里的緩存,對於Linux來講,能夠說算是一個黑盒。換句話說,就是操做系統並不清楚RAID卡是從緩存裏吐的數據,仍是真正從硬盤裏讀的。
3動手查看RAID
瞭解了raid基本原理之後,咱們能夠實際動手查看一下機器上的raid狀況。這裏拿我手頭的一臺服務器舉例。經過cat /proc/scsi/scsi
,咱們能夠查看到raid卡的型號
Host: scsi10 Channel: 02 Id: 01 Lun: 00
Vendor: DELL Model: PERC H730 Mini Rev: 4.27
Type: Direct-Access ANSI SCSI revision: 05
能夠看到個人這臺服務器raid卡使用的是PERC H730, 這塊RAID卡帶有1G緩存和電池。再看咱們的硬盤陣列
# /opt/MegaRAID/MegaCli/MegaCli64 -LDInfo -Lall -aALL
Virtual Drive: 1 (Target Id: 1)
Name :
RAID Level : Primary-5, Secondary-0, RAID Level Qualifier-3
Size : 1.633 TB
Sector Size : 512
Is VD emulated : No
Parity Size : 278.875 GB
State : Optimal
Strip Size : 128 KB
Number Of Drives : 7
Span Depth : 1
RAID Level列標明的就是當前RAID組的RAIN級別。對照下面,能夠看到,本機RAID Level是RAID5。
RAID 1: Primary-1, Secondary-0, RAID Level Qualifier-0
RAID 0: Primary-0, Secondary-0, RAID Level Qualifier-0
RAID 5: Primary-5, Secondary-0, RAID Level Qualifier-3
RAID 10: Primary-1, Secondary-3, RAID Level Qualifier-0
另外Strip Size
叫作條帶大小,我機器上的配置是128KB。假若有一個512KB的文件,它就會被分紅4個條帶,每一個128KB。這些條帶可能會分散在不一樣的磁盤上,若是一次性讀取的話,多個硬盤就能夠一塊兒轉動機械軸,讀取速度就會提升到原來的數倍。不過要說明的是,若是文件小於這個條帶大小,小於128K,那麼RAID下的多塊硬盤對於該文件的讀取耗時也不會有幫助。繼續查看組成RAID的全部的磁盤的情況:
#/opt/MegaRAID/MegaCli/MegaCli64 -PDList -aALL
......
Drive's position: DiskGroup: 1, Span: 0, Arm: 0
Device Id: 1
.....
Raw Size: 279.396 GB [0x22ecb25c Sectors]
Non Coerced Size: 278.896 GB [0x22dcb25c Sectors]
Coerced Size: 278.875 GB [0x22dc0000 Sectors]
Sector Size: 512
Logical Sector Size: 512
Physical Sector Size: 512
Inquiry Data: SEAGATE ST300MM0008 TT31S42310JR
...
Drive's position: DiskGroup: 1, Span: 0, Arm: 6
Device Id: 7
Raw Size: 279.396 GB [0x22ecb25c Sectors]
Non Coerced Size: 278.896 GB [0x22dcb25c Sectors]
Coerced Size: 278.875 GB [0x22dc0000 Sectors]
看到屬於DiskGroup 1的總共有7塊硬盤,每塊的大小都是278GB左右。6塊盤的總容量大小就是1.6T左右,確實是只「浪費」了一塊硬盤的容量來保障數據的安全性!
另外Inquiry Data
也顯示了硬盤的製造商,已經型號。這些磁盤都是希捷的300G的機械硬盤,經Google查詢其轉速爲1萬轉每分鐘。
4本文小結
機械技術和電子技術比較起來,穩定性要差不少。因此機械背景出身的硬盤既慢又容易壞。爲了解決這個問題,RAID技術應運而生。經過必定的冗餘原始存儲或者校驗數據提供安全性的保障,經過增長帶電子基因的緩存,合理調度多塊磁盤的機械軸,提升了磁盤IO的讀寫速度。在Linux下能夠經過MegaCli工具來查看你的RAID組狀況,強烈你建議實際動手查看一下!