急速搭建 Serverless AI 應用：爲你寫詩

點擊這裏，查看克隆 poetry 項目，安裝依賴，本地運行函數，部署函數等重要內容

簡介：AI model serving 是函數計算一個比較典型的應用場景。數據科學家訓練好模型之後每每須要找軟件工程師把模型變成系統或者服務，一般把這個過程稱之爲 model serving。函數計算無需運維和彈性伸縮的特性，正好符合數據科學家對高可用分佈式系統的訴求。本文將介紹把一個 TensorFlow CharRNN 訓練的自動寫五言絕句古詩的模型部署到函數計算的例子。

前言

首先介紹下在本文出現的幾個比較重要的概念：

函數計算（Function Compute）: 函數計算是一個事件驅動的服務，經過函數計算，用戶無需管理服務器等運行狀況，只需編寫代碼並上傳。函數計算準備計算資源，並以彈性伸縮的方式運行用戶代碼，而用戶只需根據實際代碼運行所消耗的資源進行付費。函數計算更多信息 參考。
Fun: Fun 是一個用於支持 Serverless 應用部署的工具，能幫助您便捷地管理函數計算、API 網關、日誌服務等資源。它經過一個資源配置文件（template.yml），協助您進行開發、構建、部署操做。Fun 的更多文檔 參考。

備註: 本文介紹的技巧須要 Fun 版本大於等於 3.2.0。

依賴工具

本項目是在 MacOS 下開發的，涉及到的工具是平臺無關的，對於 Linux 和 Windows 桌面系統應該也一樣適用。在開始本例以前請確保以下工具已經正確的安裝，更新到最新版本，並進行正確的配置。

• Docker
• Fun
• Fcli

Fun 和 Fcli 工具依賴於 docker 來模擬本地環境。
對於 MacOS 用戶可使用homebrew進行安裝：

brew cask install docker
brew tap vangie/formula
brew install fun
brew install fcli

Windows 和 Linux 用戶安裝請參考：

1. https://github.com/aliyun/fun/blob/master/docs/usage/installation.md
2. https://github.com/aliyun/fcli/releases

安裝好後，記得先執行fun config初始化一下配置。

注意, 若是你已經安裝過了 fun，確保 fun 的版本在 3.2.0 以上。

$ fun --version
3.2.2

背景

AI model serving 是函數計算一個比較典型的應用場景。數據科學家訓練好模型之後每每須要找軟件工程師把模型變成系統或者服務，一般把這個過程稱之爲 model serving。函數計算無需運維和彈性伸縮的特性，正好符合數據科學家對高可用分佈式系統的訴求。本文將介紹把一個 TensorFlow CharRNN 訓練的自動寫五言絕句古詩的模型部署到函數計算的例子。

基本上全部的 FaaS 平臺爲了減小平臺的冷啓動，都會設置代碼包限制，函數計算也不例外。因爲 python TensorFlow 依賴庫和訓練的模型的文件有數百兆，即便壓縮也遠超了函數計算 50M 代碼包大小的限制。對於這類超大致積的文件，函數計算命令行 Fun 工具原生支持了這種大依賴部署（3.2.0 版本以上），按照嚮導的提示操做便可。

快速開始

關鍵字：彈性計算 人工智能 Cloud Native Serverless Shell TensorFlow 文件存儲 算法框架/工具 Docker 容器