分佈式文件系統 - fastDFS

時間 2019-12-11

原文原文鏈接

fastDSF介紹java

FastDFS是用c語言編寫的一款開源的分佈式文件系統，它是由淘寶資深架構師餘慶編寫並開源。FastDFS專爲互聯網量身定製，充分考慮了冗餘備份、負載均衡、線性擴容等機制，並注重高可用、高性能等指標，使用FastDFS很容易搭建一套高性能的文件服務器集羣提供文件上傳、下載等服務。nginx

fastDSF架構 web

FastDFS架構包括 Tracker server和Storageserver。客戶端請求Tracker server進行文件上傳、下載，經過Tracker server調度最終由Storage server完成文件上傳和下載。spring

以下圖：apache

1）Tracker服務器

Tracker Server做用是負載均衡和調度，經過Tracker server在文件上傳時能夠根據一些策略找到Storage server提供文件上傳服務。能夠將tracker稱爲追蹤服務器或調度服務器。FastDFS集羣中的Tracker server能夠有多臺，Tracker server之間是相互平等關係同時提供服務，Tracker server 不存在單點故障。客戶端請求Tracker server採用輪詢方式，若是請求的tracker沒法提供服務則換另外一個tracker。架構

2）Storage負載均衡

Storage Server做用是文件存儲，客戶端上傳的文件最終存儲在Storage服務器上，Storage server沒有實現本身的文件系統而是使用操做系統的文件系統來管理文件。能夠將storage稱爲存儲服務器。Storage集羣採用了分組存儲方式。storage集羣由一個或多個組構成，集羣存儲總容量爲集羣中全部組的存儲容量之和。一個組由一臺或多臺存儲服務器組成，組內Storage server之間是平等關係，不一樣組的Storage server之間不會相互通訊，同組內的Storage server之間會相互鏈接進行文件同步，從而保證同組內每一個storage上的文件徹底一致的。一個組的存儲容量爲該組內的存儲服務器容量最小的那個，因而可知組內存儲服務器的軟硬件配置最好是一致的。採用分組存儲方式的好處是靈活、可控性較強。好比上傳文件時，能夠由客戶端直接指定上傳到的組也能夠由 tracker進行調度選擇。一個分組的存儲服務器訪問壓力較時，能夠在該組增長存儲服務器來擴充服務能力（縱向擴容）。當系統容量不足時，能夠增長組來擴充存儲容量（橫向擴容）。 maven

3）Storage狀態收集分佈式

Storage server會鏈接集羣中全部的Tracker server，定時向他們報告本身的狀態，包括磁盤剩餘空間、文件同步情況、文件上傳下載次數等統計信息。

文件上傳流程

客戶端上傳文件後存儲服務器將文件ID返回給客戶端，此文件ID用於之後訪問該文件的索引信息。文件索引信息

包括：組名，虛擬磁盤路徑，數據兩級目錄，文件名。

組名：文件上傳後所在的storage組名稱，在文件上傳成功後有storage服務器返回，須要客戶端自行保存。
虛擬磁盤路徑：storage配置的虛擬路徑，與磁盤選項store_path*對應。若是配置了store_path0則是M00，若是配置了store_path1則是M01，以此類推。
數據兩級目錄：storage服務器在每一個虛擬磁盤路徑下建立的兩級目錄，用於存儲數據文件。
文件名：與文件上傳時不一樣。是由存儲服務器根據特定信息生成，文件名包含：源存儲服務器IP地址、文件創建時間戳、文件大小、隨機數和文件拓展名等信息。

文件下載流程

tracker根據請求的文件路徑即文件ID 來快速定義文件。

好比請求下邊的文件：

1.經過組名tracker可以很快的定位到客戶端須要訪問的存儲服務器組是group1，並選擇合適的存儲服務器提供客戶端訪問。

2.存儲服務器根據「文件存儲虛擬磁盤路徑」和「數據文件兩級目錄」能夠很快定位到文件所在目錄，並根據文件名找到客戶端須要訪問的文件。

fastDF tracker 配置

fastDFS的配置文件目錄：/etc/fdfs

主要的配置文件：/etc/fdfs/tracker.conf （tracker配置文件）；storage.conf（storage配置文件）

tracker.conf配置內容以下：

端口：port=22122

存儲策略：store_lookup=

取值範圍：0（輪詢向storage存儲文件）、1（指定具體的group）、2負載均衡，選擇空閒的storage存儲

指定具體的group：store_group= 若是store_lookup設置爲1則這裏必須指定一個具體的group。

tracker 基礎目錄：base_path=/home/fastdfs，tracker在運行時會向此目錄存儲storage的管理數據。

storage配置

storage.conf配置內容以下：

組名：group_name=group1

端口：port=23000

向tracker心跳間隔（秒）：heart_beat_interval=30

storage基礎目錄：base_path=/home/fastdfs

磁盤存儲目錄，可定義多個store_path：

store_path0=/home/fastdfs/fdfs_storage 此目錄下存儲上傳的文件，在/home/fastdfs/fdfs_storage/data下

store_path1=...

...

上報tracker的地址：tracker_server=192.168.101.64:22122

若是有多個tracker則配置多個tracker，好比：

tracker_server=192.168.101.64:22122

tracker_server=192.168.101.65:22122

啓動中止

fastDFS啓動/中止腳本目錄：

fdfs_trackerd：tracker腳本，經過此腳本對 tracker進行啓動和中止

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

fdfs_storaged：storage腳本，經過此腳本對 storage進行啓動和中止

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

文件上傳下載測試

1）建立maven工程

<dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <!-- https://mvnrepository.com/artifact/net.oschina.zcx7878/fastdfs-client-java -->
        <dependency>
            <groupId>net.oschina.zcx7878</groupId>
            <artifactId>fastdfs-client-java</artifactId>
            <version>1.27.0.0</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
        <dependency>
            <groupId>org.apache.commons</groupId>
            <artifactId>commons-io</artifactId>
            <version>1.3.2</version>
        </dependency>
    </dependencies>

2 ) 配置文件
在classpath:config下建立fastdfs-client.properties文件

fastdfs.connect_timeout_in_seconds = 5 fastdfs.network_timeout_in_seconds = 30 fastdfs.charset = UTF-8 fastdfs.tracker_servers = 192.168.85.129:22122(配置的地址)

3) 文件上傳

@SpringBootTest @RunWith(SpringRunner.class) public class TestFastDFS { //上傳文件
 @Test public void testUpload(){ try { //加載fastdfs-client.properties配置文件
            ClientGlobal.initByProperties("config/fastdfs-client.properties"); //定義TrackerClient，用於請求TrackerServer
            TrackerClient trackerClient = new TrackerClient(); //鏈接tracker
            TrackerServer trackerServer = trackerClient.getConnection(); //獲取Stroage
            StorageServer storeStorage = trackerClient.getStoreStorage(trackerServer); //建立stroageClient
            StorageClient1 storageClient1 = new StorageClient1(trackerServer,storeStorage); //向stroage服務器上傳文件 //本地文件的路徑
            String filePath = "F:/壁紙/003.jpg"; //上傳成功後拿到文件Id
            String fileId = storageClient1.upload_file1(filePath, "jpg", null); System.out.println(fileId); //group1/M00/00/00/wKhVgVw-qbmAXdpRAAp2uCv_JwU096.jpg
 } catch (Exception e) { e.printStackTrace(); } } }

4) 文件查詢

 //查詢文件
    @Test
    public void testQueryFile() throws IOException, MyException {
        ClientGlobal.initByProperties("config/fastdfs-client.properties");
        TrackerClient tracker = new TrackerClient();
        TrackerServer trackerServer = tracker.getConnection();
        StorageServer storageServer = null;
        StorageClient storageClient = new StorageClient(trackerServer,storageServer);
 
        FileInfo fileInfo = storageClient.query_file_info("group1",
                "M00/00/00/wKhVgVw-qbmAXdpRAAp2uCv_JwU096.jpg");
        System.out.println(fileInfo);
    }

5) 文件下載

//下載文件
    @Test
    public void testDownload(){
        try {
            //加載fastdfs-client.properties配置文件
            ClientGlobal.initByProperties("config/fastdfs-client.properties");
            //定義TrackerClient，用於請求TrackerServer
            TrackerClient trackerClient = new TrackerClient();
            //鏈接tracker
            TrackerServer trackerServer = trackerClient.getConnection();
            //獲取Stroage
            StorageServer storeStorage = trackerClient.getStoreStorage(trackerServer);
            //建立stroageClient
            StorageClient1 storageClient1 = new StorageClient1(trackerServer,storeStorage);
            //下載文件
            //文件id
            String fileId = "group1/M00/00/00/wKhVgVw-qbmAXdpRAAp2uCv_JwU096.jpg";
            byte[] bytes = storageClient1.download_file1(fileId);
            //使用輸出流保存文件
            FileOutputStream fileOutputStream = new FileOutputStream(new File("F:/003.jpg"));
            fileOutputStream.write(bytes);
        } catch (IOException e) {
            e.printStackTrace();
        } catch (MyException e) {
            e.printStackTrace();
        }
    }

6) 配置Nginx圖片服務虛擬機主機

圖片服務虛擬主機的做用是負載均衡，將圖片請求轉發到storage server上。

在nginx圖片代理服務上配置圖片服務器虛擬主機 :

#圖片服務
        upstream img_server_pool{
        #server 192.168.101.64:80 weight=10;
        server 192.168.0.133:8888 weight=10;
        }
#服務
    server {
        listen 8888;
        server_name img.xuecheng.com;
        #我的中心
        location /group1 {
        proxy_pass http://img_server_pool;
        }

圖片服務器啓動

1、啓動tracker：/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart
2、啓動storage：/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart
3、啓動storage上的nginx：/usr/local/nginx/sbin/nginx ‐c /usr/local/nginx/conf/nginx‐fdfs.conf
4、啓動圖片虛擬主機 nginx