技術html |
優勢git |
缺點github |
總結shell |
一、 HDFSapache |
一、大數據批量讀寫,吞吐量高;swift 二、一次寫入,屢次讀取,順序讀寫;segmentfault |
一、交互式應用,低延遲很難知足;restful 二、不支持多用戶併發寫相同文件。架構 |
若是是不少小文件,nameNode壓力大併發 |
二、 googleFs |
一、成本低,運行在廉價的普通硬件上 |
一、不開源 |
不開源,使用困難 |
三、 Tfs |
一、 開源 |
一、小於1M的文件 二、TFS內部是沒有任何數據的內存緩衝的 |
適合單個文件比較小的系統 |
四、 Lustre |
一、 開源 二、 支持POSIX 三、 文件被分割成若干的Chunk,每一個chunk是通常爲1MB-4MB |
|
|
五、 Ceph
|
一、支持POSIX 二、開源 |
|
一、 在Linux主流內核中找到ceph 二、不成熟,處於測試推廣階段 |
六、 MogileFs |
一、開源 |
|
比FastDFS 差 |
七、 FastDFS |
一、 開源 二、 適合以文件爲載體的在線服務 三、 FastDFS沒有對文件作分塊存儲 四、 不須要二次開發便可直接使用 五、 比mogileFS更易維護和使用 六、 直接使用socket通訊方式,相對於MogileFS的HTTP方式,效率更高。 |
一、文件訪問方式使用專有API,不支持POSIX |
|
八、swiftfs |
|
|
一、基於HDFS |
九、NFS |
一、用戶和程序能夠象訪問本地文件同樣訪問遠端系統上的文件 |
|
|
開源的分佈式文件/對象系統比較有名的包括Lustre(HPC)GlusterFS(NAS NFS)、HDFS(hadoop)、ceph(虛機塊存儲)、swift(restful對象存儲),各有不一樣的領域。
http://tech.it168.com/a2012/1029/1414/000001414776.shtml
hadoop文檔 :http://hadoop.apache.org/
https://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html
開源首頁:http://tfs.taobao.org/
http://lustre.org/
http://lustre.org/getting-started-with-lustre/
社區網站地址:
http://ceph.org.cn/
中文文檔:
http://docs.ceph.org.cn/start/intro/
源碼:https://github.com/ceph/ceph
https://www.oschina.net/translate/ceph
http://dockone.io/article/307
http://elf8848.iteye.com/blog/1739596
MogileFs 和FastDFS 對比:http://blog.csdn.net/wishfly/article/details/6940504
http://bbs.chinaunix.net/thread-2001101-1-1.html
https://wiki.openstack.org/wiki/Swift
https://support.rackspace.com/how-to/swift-filesystem-for-hadoop/
https://www.zhihu.com/question/19832447
https://segmentfault.com/q/1010000000449947
http://os.51cto.com/art/201007/212689_all.htm
索引樹:http://bbs.chinaunix.net/tree/index_304_1/
http://os.51cto.com/art/201007/212689_all.htm