相信不少人都體驗過手機沒有網時的焦慮,沒有網什麼也作不了。而機器人也會遇到這樣的時刻,沒有網或者網絡環境很差的狀況下,沒法識別用戶在說什麼,也沒法回覆用戶。在AIoT(AI+物聯網)飛速普及的如今,智能對話已經滲透在許多行業場景中,融入在無數的智能設備裏,好比智能家居、智能車載等。這些設備的智能化能力一般都依賴在線服務實現,但智能設備尤爲是移動型智能設備可能存在無網狀況。html
在將來的AIoT領域中,大多場景都要求終端具有本地自主決斷及響應能力,每一個設備端都須要具有不依賴雲端的獨立計算能力,完成智能對話的本地識別,實現端計算,讓設備不管在什麼網絡環境下都可以響應用戶對話。針對這種場景的痛點,百度UNIT 3.0推出嵌入式對話理解技術,利用這項技術,能夠實現本地化不聯網的語義識別能力,結合語音的本地識別能力,結合雲端的AI,讓本地和雲端的有效配合,以知足用戶隨時隨地的對話需求。服務器
【嵌入式對話理解技術解讀】網絡
嵌入式對話理解技術框架如上圖所示,總體經過SDK提供給開發者,開發者可根據本身系統的狀況,封裝成系統應用,再總體集成入本身的設備中。其中SDK內部將提供離線中控的能力,來控制多個場景的分發與管理。在SDK中支持多個場景的集成,並提供通用的離線中控對它們進行分發、優先級排序等管理能力。框架
每個單獨場景的垂類技能主要包含了離線語義解析能力,包括基礎分析、啓發式語義理解技術、結果選擇等技術模塊,以及離線語義解析模型。工具
其中基礎分析分析包含了query的特徵、paddle模型結果、通用成分分析(分詞、命名實體識別等)等技術。post
啓發式語義理解技術,包含了啓發式的模板匹配識別、樣本泛化匹配識別、結果融合推導等技術。性能
結果選擇模塊包含了非多輪結果的選擇能力。開發工具
總體方案中,還提供了日誌統計及分析能力,供開發者分析和提高效果使用。優化
【如何使用嵌入式對話理解技術】3d
目前,嵌入式對話理解技術已提供Android SDK,後續將逐步提供多種系統和平臺,如QNX、Linux等。同時提供了開發者可自行修改和本地化訓練的工具,包含完善的說明文檔,開發者都可以在UNIT平臺上下載試用。
進入UNIT平臺「創新技術」區,點擊「語義解析 離線使用」便可進入詳情,按照操做步驟,能夠下載對應的開發工具和安裝包。
【四步獲取資源,源碼級控制】
第一步:肯定業務是否適用離線解析
離線(斷網)環境下的語義解析,對設備終端的性能是有必定要求。開發者須要確認本身的業務場景是否須要得到離線的語義能力,設備終端可否支持離線語義能力運行。
第二步:獲取現有的離線場景文件,源碼級修改
UNIT 3.0已有多個場景下的技能,能夠直接在平臺上下載對應的文件。部分場景下的解析文件,須要開發者向UNIT提交郵件申請獲取,官方會溝通使用需求並提供支持。下載的技能文件,開發者若有更改技能的需求或者是提高識別的效果要求,都可以自行修改其中的模板等內容,平臺上提供了數據優化配置的說明。
第三步:調用工具完成本地化訓練
步驟二中的場景文件若有更改,開發者須要使用訓練工具將該場景自行完成訓練,訓練後能夠得到新的模型文件。訓練工具和調用的方法、說明等均在UNIT平臺上,支持開發者隨時下載查閱和使用。
第四步:集成模型,使用SDK
步驟三生成的模型文件,按照SDK的要求放在對應的目錄下,開發者能夠在UNIT平臺上直接下載SDK,按照調用說明直接使用便可。
【離在線融合對話能力的部署方案】
不一樣的業務場景會用到不一樣的解析和對話能力,在線服務具有更好的對話理解與知足,離線能力保證設備在各類環境下的核心智能交互穩定性;UNIT3.0提供了離在線融合的對話理解框架,開發者能夠根據自身的業務狀況,靈活選擇離線與在線能力。
開發者能夠檢測本身的終端設備網絡信號狀況。當信號比較強時,能夠統一走在線解析,在線的雲端服務器擁有過更好的計算資源,理解效果會更好。當終端信號比較弱時,建議同時走在線和離線的部分,離線SDK會很快給出響應,在線SDK會根據不穩定的網絡狀況,可能存在必定的延時;此時開發者能夠根據本身業務對性能的要求,來選擇使用離線的結果,仍是等待在線的結果。當終端無網絡時,開發者只能選擇離線SDK的方案,快速響應用戶。
相關文章閱讀: