FastDFS 基礎知識

FastDFS 是一個開源的輕量級分佈式文件系統，它用純C語言實現，支持Linux、FreeBSD、AIX等UNIX系統。它只能經過專有API對文件進行存取訪問，不支持POSIX接口方式，不能mount使用，不是系統級的分佈式文件系統，而是應用級的分佈式文件存儲服務。

 

他主要的功能包括：文件存儲，同步和訪問，設計基於高可用和負載均衡，fastfd很是適用於基於文件服務的站點，例如圖片分享和視頻分享網站。

 

     fastfds有兩個角色： 跟蹤服務、存儲服務

跟蹤服務控制（Tracker server），調度文件以負載均衡的方式訪問；

存儲服務包括（Storage server）：文件存儲，文件同步，提供文件訪問接口，同時以key value的方式管理文件的元數據。

 

     跟蹤器和存儲節點均可以由一臺或多臺服務器構成。跟蹤器和存儲節點中的服務器都可以隨時增長或下線而不會影響線上服務。其中跟蹤器中的全部服務器都是對等的，能夠根據服務器的壓力狀況隨時增長或減小。

     爲了支持大容量，存儲節點（服務器）採用了分卷（或分組）的組織方式。存儲系統由一個或多個卷組成，卷與卷之間的文件是相互獨立的，全部卷的文件容量累加就是整個存儲系統中的文件容量。一個卷能夠由一臺或多臺存儲服務器組成，一個卷下的存儲服務器中的文件都是相同的，卷中的多臺存儲服務器起到了冗餘備份和負載均衡的做用。

      在卷中增長服務器時，同步已有的文件由系統自動完成，同步完成後，系統自動將新增服務器切換到線上提供服務。

      當存儲空間不足或即將耗盡時，能夠動態添加捲。只須要增長一臺或多臺服務器，並將它們配置爲一個新的卷，這樣就擴大了存儲系統的容量。

 

安裝目錄

配置文件： /etc/fdfs

tracker.conf

http.conf

storage.conf

client.conf

安裝路徑：/usr/local/bin

 

修改%FastDFS%/tracker.conf 文件信息

#設置base_path 目錄，根目錄必須存在，子目錄會自動建立

base_path=/home/<username>/FastDFS_Tracker

注：Tracker Server目錄及文件結構：

 

 tracker server目錄及文件結構

 ${base_path}   |__data 
  |     |__storage_groups.dat：存儲分組信息 
  |     |__storage_servers.dat：存儲服務器列表  
  |__logs 
        |__trackerd.log：Tracker Server日誌文件

 

數據文件storage_groups.dat和storage_servers.dat中的記錄之間以換行符（n）分隔，字段之間以西文逗號（,）分隔。

storage_groups.dat

各個參數以下

#  group_name：組名 

#  storage_port：storage server端口號

storage_servers.dat

各個參數以下

#  group_name：所屬組名 

#  ip_addr：ip地址 

#  status：狀態 

#  sync_src_ip_addr：向該storage server同步已有數據文件的源服務器 

#  sync_until_timestamp：同步已有數據文件的截至時間（UNIX時間戳） 

#  stat.total_upload_count：上傳文件次數 

#  stat.success_upload_count：成功上傳文件次數 

#  stat.total_set_meta_count：更改meta data次數

#  stat.success_set_meta_count：成功更改meta data次數 

#  stat.total_delete_count：刪除文件次數

#  stat.success_delete_count：成功刪除文件次數 

#  stat.total_download_count：下載文件次數 

#  stat.success_download_count：成功下載文件次數 

#  stat.total_get_meta_count：獲取meta data次數 

#  stat.success_get_meta_count：成功獲取meta data次數 

# stat.last_source_update：最近一次源頭更新時間（更新操做來自客戶端） 

# stat.last_sync_update：最近一次同步更新時間（更新操做來自其餘storage server的同步）

 

storage server目錄及文件結構

|__data
|     |__.data_init_flag：當前storage server初始化信息
|     |__storage_stat.dat：當前storage server統計信息
|     |__sync：存放數據同步相關文件
|     |     |__binlog.index：當前的binlog（更新操做日誌）文件索引號
|     |     |__binlog.###：存放更新操做記錄（日誌）
|     |     |__${ip_addr}_${port}.mark：存放向目標服務器同步的完成狀況
|     |
|     |__一級目錄：256個存放數據文件的目錄，目錄名爲十六進制字符，如：00, 1F
|           |__二級目錄：256個存放數據文件的目錄，目錄名爲十六進制字符，如：0A, CF
|__logs
      |__storaged.log：storage server日誌文件

 

.data_init_flag文件格式爲ini配置文件方式

各個參數以下

# storage_join_time：本storage server建立時間 

# sync_old_done：本storage server是否已完成同步的標誌（源服務器向本服務器同步已有數據） 

# sync_src_server：向本服務器同步已有數據的源服務器IP地址，沒有則爲空 

# sync_until_timestamp：同步已有數據文件截至時間（UNIX時間戳） 

 

storage_stat.dat文件格式爲ini配置文件方式

各個參數以下：

# total_upload_count：上傳文件次數

# success_upload_count：成功上傳文件次數 

# total_set_meta_count：更改meta data次數 

# success_set_meta_count：成功更改meta data次數 

# total_delete_count：刪除文件次數 

# success_delete_count：成功刪除文件次數 

# total_download_count：下載文件次數 

# success_download_count：成功下載文件次數 

# total_get_meta_count：獲取meta data次數 

# success_get_meta_count：成功獲取meta data次數 

# last_source_update：最近一次源頭更新時間（更新操做來自客戶端） 

# last_sync_update：最近一次同步更新時間（更新操做來自其餘storage server）

 

sync 目錄及文件結構

binlog.index中只有一個數據項：當前binlog的文件索引號 binlog.###，

binlog.###爲索引號對應的3位十進制字符，不足三位，前面補0。索引號基於0，最大爲999。

一個binlog文件最大爲1GB。記錄之間以換行符（n）分隔，字段之間以西文空格分隔。

字段依次爲： 

1. timestamp：更新發生時間（Unix時間戳） 

2. op_type：操做類型，一個字符 

3. filename：操做（更新）的文件名，包括相對路徑，如：5A/3D/FE_93_SJZ7pAAAO_BXYD.S

${ip_addr}_${port}.mark：

ip_addr爲同步的目標服務器IP地址，port爲本組storage server端口。例如：10.0.0.1_23000.mark。

各個參數以下： 

# binlog_index：已處理（同步）到的binlog索引號 

# binlog_offset：已處理（同步）到的binlog文件偏移量（字節數）

# need_sync_old：同步已有數據文件標記，0表示沒有數據文件須要同步 

# sync_old_done：同步已有數據文件是否完成標記，0表示未完成，1表示已完成 

# until_timestamp：同步已有數據截至時間點（UNIX時間戳） 

# scan_row_count：已掃描的binlog記錄數 

# sync_row_count：已同步的binlog記錄數

 

啓動tracker服務器，執行

(1) fdfs_trackerd %FastDFS%/tracker.conf

(2) 編寫shell腳本

1 vim start-tracker.sh (建立腳本)
2 /usr/local/bin/fdfs_trackerd /%FastDFS%tracker.conf
3 chmod +x start-tracker.sh
4 ./start-tracker.sh (執行腳本便可啓動track服務器)

 

中止fastDFS服務

直接kill便可讓server進程正常退出，可使用killall命令，如：

killall fdfs_trackerd
killall fdfs_storaged

也可使用FastDFS自帶的腳本

/usr/local/bin/stop.sh  /
/usr/local/bin/restart.sh

 

fastDFS數據清空重整

中止storage server和tracker server,刪除base_path下的data子目錄便可。