kafka 中的術語

kafka 中的術語 解釋
broker
topic
partition 一個topic下有多個不一樣partition,每一個partition爲一個目錄,partition命名規則爲topic名稱+有序序號,第一個partition序號從0開始,序號最大值爲partitions數量減1;
每一個partion(目錄)至關於一個巨型文件被平均分配到多個大小相等segment(段)數據文件中。但每一個段segment file消息數量不必定相等,這種特性方便old segment file快速被刪除;
partiton支持順序讀寫;
segment segment 文件組成:由2大部分組成,分別爲index file和data file,此2個文件一一對應,成對出現,後綴」.index」和「.log」分別表示爲segment索引文件、數據文件;
segment文件命名規則:partion全局的第一個segment從0開始,後續每一個segment文件名爲上一個segment文件最後一條消息的offset值。數值最大爲64位long大小,19位數字字符長度,沒有數字用0填充;
索引文件存儲大量元數據,數據文件存儲大量消息,索引文件中元數據指向對應數據文件中message的物理偏移地址。 其中以索引文件中元數據3,497爲例,依次在數據文件中表示第3個message(在全局partiton表示第368772個message)、以及該消息的物理偏移地址爲497;
segment文件生命週期由服務端配置參數決定;
message 在partition(分區)內的每條消息都有一個有序的id號,這個id號被稱爲偏移(offset),它能夠惟一肯定每條消息在partition(分區)內的位置,即offset表示partition的第多少條message;
相關文章
相關標籤/搜索