AI快車道之端側落地的祕密武器Paddle Lite專場開講！9月21日百度科技園見

本文做者：楊蕊1002

早上起牀，睡眼朦朧之時，叫聲「小度小度」便能喚醒家裏的智能音箱，問問它如今幾點，今每天氣怎麼樣；出國在外，也沒必要精通各國語言，拿着百度共享Wi-Fi 翻譯機就能暢行無阻。現在，愈來愈多搭載AI技術的硬件產品正在「把AI帶進生活」，而對於AI在硬件端的落地應用，端側推理引擎的做用相當重要。

     今年8月，百度深度學習平臺飛槳(PaddlePaddle)對端側推理引擎進行全新升級，重磅發佈Paddle Lite，旨在推進人工智能應用在端側更好落地。該推理引擎在多硬件、多平臺以及硬件混合調度的支持上更加完備。這是飛槳在Paddle Mobile的基礎上進行的一次大規模升級迭代。經過對底層架構設計的改進，拓展性和兼容性等方面實現顯著提高。目前，Paddle Lite已經支持了ARM CPU，Mali GPU，Adreno GPU，華爲NPU以及FPGA等諸多硬件平臺，是目前首個支持華爲NPU在線編譯的深度學習推理框架。

    9月21日，百度AI快車道將在百度科技園舉辦Paddle Lite專場活動，由百度深度學習技術平臺資深架構師、百度深度學習平臺系統工程師主講，詳細解讀Paddle Lite的技術特色、使用方法和相關應用，同時也會經過實踐，實現目標檢測模型在手機上的部署，完總體驗Paddle Lite在實際業務中的應用。還爲學員準備了在FPGA設備上進行蔬菜識別的部署實踐，進行實戰練習。

活動主題：

Paddle Lite

活動時間：

2019年9月21日

活動地點：

北京·百度科技園

課程安排： 

13:30–14:00 簽到，現場交流

14:00–14:15 百度深度學習平臺-飛槳全景介紹

14:15–15:00 Paddle Lite深度技術解讀及應用

15:00–15:30 Q&A

15:50-16:50 基於Paddle Lite的移動端目標檢測部署實戰

16:50–18:00 Paddle Lite在Edgeboard（FPGA）上的部署實踐

報名連接

https://iwenjuan.baidu.com/?code=9l9bml

 

關於Paddle Lite

     Paddle Lite 的架構有一系列自主研發技術，整合了百度內部多個預測庫架構優點能力，並重點增長了多種計算模式（硬件、量化方法、 Data Layout ）混合調度的完備性設計，新架構設計以下：

其中最上面一層是模型層，直接接受飛槳訓練的模型，經過模型優化工具轉化爲 NaiveBuffer 特殊格式，以便更好地適應移動端的部署場景。

第二層是程序層，是 operator 序列構成的執行程序。

第三層是一個完整的分析模塊，包括了 MIR （ Machine IR ） 相關模塊，可以對原有的模型的計算圖針對具體的硬件列表進行算子融合、計算裁剪在內的多種優化。

不一樣于飛槳訓練過程當中的 IR （ Internal Representation ），硬件和執行信息也在這一層加入到分析中。

最底層是執行層，也就是一個 Kernel 序列構成的 Runtime Program 。執行層的框架調度框架極低，只涉及到 Kernel 的執行，且能夠單獨部署，以支持極致的輕量級部署。

總體上來看，不只着重考慮了對多硬件和平臺的支持，並且也強化了多個硬件在一個模型中混合執行的能力、多個層面的性能優化處理，以及對端側應用的輕量化設計。

 

關於AI快車道

百度AI快車道——企業深度學習實戰營是百度依託自身深厚的深度學習技術實踐經驗，面向有AI技術需求企業的算法工程師、架構師羣體提供的快速應用扶持計劃。該計劃的學習內容囊括了6套工程實施與深度學習技術落地結合的詳細方案，覆蓋百度領先的AI技術和業務應用場景的深刻剖析，如OCR、精密儀器質檢、推薦排序經典場景、遙感圖像處理等；源於百度業務實踐的深度學習框架飛槳的性能優點、模型優點、生態優點的解讀；百度自研和頂級學術會議魁首算法、預訓練模型的詳細介紹，還有與案例與算法緊密相扣的在線實驗，並以「短平快」的課程，進行對業務問題定位、框架及算法的快速應用培訓，爲更多企業帶去深度學習技術和經驗分享，並計劃在年內於上海、深圳、杭州等多地，支持1000家企業的深度學習技術快速應用。

快掃描二維碼，報名百度AI快車道Paddle Lite專場吧！

報名二維碼

原文連接地址：https://developer.baidu.com/topic/show/290298