飛槳重磅升級:支持千萬規模分類任務訓練,部署能力全面提高

 

2020 年 2 月 27 日飛槳核心框架(如下簡稱Paddle)發佈了1.7版本,這也是Paddle在2020年首個重大更新,下面讓咱們來看看具體的更新內容。前端

Paddle 1.7版本對框架功能層面進行了重點加強,預測部署能力全面提高,分佈式訓練發佈PLSC支持千萬規模分類任務,並對參數服務器模式進行了優化整合。對編譯選項、編譯依賴以及代碼庫進行了全面清理優化。模型庫持續完善,優化了總體層次結構,增長了動態圖模型實現。端到端開發套件和工具組件進一步完善。git

 

01 訓練框架

 

  • 增長自動混合精度訓練AMP接口和新控制流接口。github

  • 優化Tensor使用方式和顯存分配策略。算法

  • 新增支持NVIDIA DALI GPU數據預處理庫。後端

  • 持續優化基礎OP的功能和性能。服務器

  • 動態圖的功能進一步完善,性能大幅提高,對Data Independent的動態圖模型提供轉爲靜態圖可預測部署模型的功能。框架

  • 框架調試分析功能和易用性全面提高。異步

 

02 預測部署

 

  • 服務器端預測庫的Python API大幅優化,新增R語言、Go語言的預測API,並增長相關的使用方法和示例,強化了量化支持能力。分佈式

  • Paddle Lite支持無校準數據的訓練後量化方法生成的模型,增強對OpenCL的支持,支持崑崙XPU的預測。工具

  • 模型壓縮庫PaddleSlim重構裁剪、量化、蒸餾、搜索接口,與模型庫充分打通,新增大規模可擴展知識蒸餾框架Pantheon。

 

03 分佈式訓練

 

  • 參數服務器模式下統一了Transpiler半異步、全異步和GEO的實現模式,後端實現上統一到Communicator中,前端接口統一到fleet中,經過fleet strategy靈活選擇不一樣模式。

  • 發佈大規模分類庫PLSC,經過模型並行支持超多類別的分類任務。

 

04 基礎模型庫

 

  • 發佈語音合成庫Parakeet,包括多個前沿合成算法。

  • PaddleCV新增14個圖像分類預訓練模型,3D和跟蹤方向模型持續豐富。

  • PaddleNLP的分詞和詞性標註模型支持jieba分詞。

  • PaddleRec增長多任務模型MMoE。

  • 模型庫總體增長了普遍的動態圖模型實現。模型庫總體層次結構作了調整優化。

 

05 端到端開發套件

 

  • PaddleDetection和PaddleSeg新增大量模型實現及預訓練模型,提高了典型模型的訓練速度和精度,大幅提升模型壓縮和部署能力,使用體驗獲得了全面優化。

  • 發佈ElasticRec推薦排序系統,經過K8S進行部署,支持流式訓練和在線預測服務。

 

06 工具組件

 

  • PaddleHub新增52個預訓練模型,總數超過100,功能和體驗持續優化。

  • 多任務學習框架PALM升級內核,開放API調用,支持更多的任務類型。

  • 聯邦學習PaddleFL新增了公開數據集。

  • 深度強化學習框架PARL和飛槳圖學習框架PGL也對應版本升級,支持更多功能,開放更多算法和基線。

 

具體更新內容請參考:

https://github.com/PaddlePaddle/FluidDoc/blob/release/1.7/doc/fluid/release_note_cn.md

 

若是您加入官方QQ羣,您將趕上大批志同道合的深度學習同窗。官方QQ羣:703252161。

若是您想詳細瞭解更多飛槳的相關內容,請參閱如下文檔。

官網地址:https://www.paddlepaddle.org.cn/?fr=osc

飛槳項目地址:https://github.com/PaddlePaddle

>> 訪問 PaddlePaddle 官網,瞭解更多相關內容

相關文章
相關標籤/搜索