Hadoop支持Lzo和分片

Hadoop支持Lzo和分片 爲了節省磁盤空間,文件的存儲往往需要壓縮,有的需要壓縮比大,有的需要壓縮速度快。而對於一套計算的結果存儲,如多個MapReduce之間,需要能支持分片的壓縮方式。lzop就是個可以支持分片的壓縮方式,非常適合用於多個MapReduce之間的計算中間結果存儲。 在Hadoop上安裝lzop與在hive上的使用,並且支持分片功能 參考:http://www.javashu
相關文章
相關標籤/搜索