Kubeflow 快速入門

• 機器學習筆記，https://feisky.xyz/machine-learning/

• https://kairen.github.io/2018/03/21/kubernetes/k8s-federation/

Kubeflow 快速入門

Kubeflow 是 Google 發佈的用於在 Kubernetes 集羣中部署和管理 tensorflow 任務的框架。主要功能包括

• 用於管理 Jupyter 的 JupyterHub 服務
• 用於管理訓練任務的 Tensorflow Training Controller
• 用於模型服務的 TF Serving 容器

部署

部署以前須要確保

• 一套部署好的 Kubernetes 集羣或者 Minikube，並配置好 kubectl 命令行工具
• 安裝 ksonnet 0.8.0 以上版本

對於開啓 RBAC 的 Kubernetes 集羣，首先要建立管理員角色綁定：

kubectl create clusterrolebinding tf-admin --clusterrole=cluster-admin --serviceaccount=default:tf-job-operator

而後運行如下命令部署

ks init my-kubeflow
cd my-kubeflow
ks registry add kubeflow github.com/google/kubeflow/tree/master/kubeflow
ks pkg install kubeflow/core
ks pkg install kubeflow/tf-serving
ks pkg install kubeflow/tf-job
ks generate core kubeflow-core --name=kubeflow-core
ks apply default -c kubeflow-core

For Error rate limit, as follow:

https_proxy=http://192.168.199.99:9999 GITHUB_TOKEN=f7b4140133f6b77e6a987a0dae62db3551737*** ks pkg install kubeflow/core

若是有多個 Kubernetes 集羣，也能夠切換到其餘其集羣中部署，如

kubectl config use-context gke
ks env add gke
ks apply gke -c kubeflow-core

稍等一會，就能夠看到 tf-hub-lb 服務的公網 IP，也就是 JupyterHub 的訪問地址

kubectl get svc tf-hub-lb

對於不支持 LoadBalancer Service 的集羣，還能夠經過端口轉發（http://127.0.0.1:8100）的方式來訪問：

kubectl port-forward tf-hub-0 8100:8000

JupyterHub 默承認以用任意用戶名和密碼登陸。登錄後，能夠使用自定義鏡像來啓動 Notebook Server，好比使用

• gcr.io/kubeflow/tensorflow-notebook-cpu
• gcr.io/kubeflow/tensorflow-notebook-gpu

訓練示例

使用 CPU：

ks generate tf-cnn cnn --name=cnn
ks apply gke -c cnn

使用 GPU：

ks param set cnn num_gpus 1
ks param set  cnn num_workers 1
ks apply default -c cnn

部署模型

MODEL_COMPONENT=serveInception
MODEL_NAME=inception
MODEL_PATH=gs://cloud-ml-dev_jlewi/tmp/inception
ks generate tf-serving ${MODEL_COMPONENT} --name=${MODEL_NAME} --namespace=default --model_path=${MODEL_PATH}

ks apply gke -c ${MODEL_COMPONENT}

參考文檔

• Introducing Kubeflow - A Composable, Portable, Scalable ML Stack Built for Kubernetes
• https://github.com/google/kubeflow