總結HDFS的IO操作

數據完整性 用戶希望儲存和處理數據的時候,不會有任何損失或者損壞。 Hadoop提供兩種校驗: 1. 校驗和(常用循環冗餘校驗CRC-32) 2. 運行後臺進程來檢測數據塊 HDFS是用CRC-32(32位循環冗餘校驗,4個字節大小)作爲其數據完整性校驗方式,下面分兩種常態情況介紹其校驗過程: IO操作 在通過client向DataNode節點寫數據時,會先在client端針對寫的數據每個io.b
相關文章
相關標籤/搜索