kafka manger 安裝

#0-項目介紹 Kafka在雅虎內部被不少團隊使用,媒體團隊用它作實時分析流水線,能夠處理高達20Gbps(壓縮數據)的峯值帶寬。html

爲了簡化開發者和服務工程師維護Kafka集羣的工做,構建了一個叫作Kafka管理器的基於Web工具,叫作 Kafka Manager。這個管理工具能夠很容易地發現分佈在集羣中的哪些topic分佈不均勻,或者是分區在整個集羣分佈不均勻的的狀況。它支持管理多個集羣、選擇副本、副本從新分配以及建立Topic。同時,這個管理工具也是一個很是好的能夠快速瀏覽這個集羣的工具。java

該軟件是用Scala語言編寫的。目前(2015年02月03日)雅虎已經開源了Kafka Manager工具。這款Kafka集羣管理工具主要支持如下幾個功能:git

  一、管理幾個不一樣的集羣;github

  二、很容易地檢查集羣的狀態(topics, brokers, 副本的分佈, 分區的分佈);ubuntu

  三、選擇副本;服務器

  四、產生分區分配(Generate partition assignments)基於集羣的當前狀態;微信

  五、從新分配分區。app

工具的截圖及詳細介紹參考 源 出處~

項目在github上獲取 https://github.com/yahoo/kafka-manager框架

1-安裝sbt

sbt是scala的打包構建工具。
    http://www.scala-sbt.org/download.html
mac下安裝
    brew install sbt
ubuntu下安裝
    echo "deb https://dl.bintray.com/sbt/debian /" | sudo tee -a /etc/apt/sources.list.d/sbt.list
    sudo apt-get update
    sudo apt-get install sbt

2-下載+編譯

下載
    git clone git@github.com:yahoo/kafka-manager.git
編譯,生成發佈包
    cd kafka-manager
    ./sbt clean dist
生成的包會在kafka-manager/target/universal 下面。生成的包只須要java環境就能夠運行了,在部署的機器上不須要安裝sbt。

通常打包很慢,那麼就配置代理。

sbt的配置http代理的參考文檔:
    http://www.scala-sbt.org/0.12.1/docs/Detailed-Topics/Setup-Notes.html#http-proxy    
經過-D設置叄數便可:
    java -Dhttp.proxyHost=myproxy -Dhttp.proxyPort=8080 -Dhttp.proxyUser=username -Dhttp.proxyPassword=mypassword
也能夠用下面這種方式,設置一下SBT_OPTS的環境變量便可:
    export SBT_OPTS="$SBT_OPTS -Dhttp.proxyHost=myproxy -Dhttp.proxyPort=myport"
要注意的是,myproxy,這個值裏不要帶http前綴,也不要帶端口號。
好比,你的代理是http://localhost:8123,那麼應該這樣配置:
    export SBT_OPTS="$SBT_OPTS -Dhttp.proxyHost=localhost -Dhttp.proxyPort=8123"

3-部署

打好包好,在部署機器上解壓,修改好配置文件,就能夠運行了。
解壓
    unzip kafka-manager-1.0-SNAPSHOT.zip
修改conf/application.conf,把kafka-manager.zkhosts改成本身的zookeeper服務器地址
    kafka-manager.zkhosts="localhost:2181"
啓動
    cd kafka-manager-1.0-SNAPSHOT/bin
    ./kafka-manager -Dconfig.file=../conf/application.conf
查看幫助 和 後臺運行:
    ./kafka-manager -h
    nohup ./kafka-manager -Dconfig.file=../conf/application.conf >/dev/null 2>&1 &
默認http端口是9000,能夠修改配置文件裏的http.port的值,或者經過命令行參數傳遞:
    ./kafka-manager -Dhttp.port=9001
正常來講,play框架應該會自動加載conf/application.conf配置裏的內容,可是貌似這個不起做用,要顯式指定才行。
    參考: https://github.com/yahoo/kafka-manager/issues/16

donation:

若有捐贈意向的朋友,請捐贈到支付寶帳號:qdcccc@gmail.com 帳戶名:楊春煉工具

ask for help:

如需幫助,請加QQ:1028750558或微信:lian-ye

相關文章
相關標籤/搜索