瑞芯微AI平臺三大更新 誰說中國沒有研發實力

@font-face{ font-family:"Times New Roman"; } @font-face{ font-family:"宋體"; } @font-face{ font-family:"Arial 333.pngUnicode MS"; } @font-face{ font-family:"Calibri"; } @font-face{ font-family:"微軟雅黑"; } p.MsoNormal{ mso-style-name:正文; mso-style-parent:""; margin-top:0.0000pt; margin-right:0.0000pt; margin-bottom:0.0000pt; margin-left:0.0000pt; text-indent:0.0000pt; padding:0pt 0pt 0pt 0pt ; mso-pagination:widow-orphan; text-align:left; font-family:Calibri; color:rgb(0,0,0); letter-spacing:0.0000pt; text-underline:rgb(0,0,0); font-size:12.0000pt; } span.msoIns{ mso-style-type:export-only; mso-style-name:""; text-decoration:underline; text-underline:single; color:blue; } span.msoDel{ mso-style-type:export-only; mso-style-name:""; text-decoration:line-through; color:red; } @page{mso-page-border-surround-header:no; mso-page-border-surround-footer:no;}@page Section0{ } div.Section0{page:Section0;}框架

1、交互方式更加友好,RKNN-Toolkit新版本將支持圖形界面工具

通過多個版本的不斷迭代完善,RKNN-Toolkit已日益成熟。瑞芯微即將推出的新版將加入圖形交互界面(GUI),開發者經過鼠標點擊便可完成模型的轉換、量化、性能分析、內存耗費分析等任務,快速完成AI模型在端側部署的評估和轉換工做。特別是對於混合量化等較爲複雜的任務,相比於過去的命令行交互,經過圖形界面可大幅提升效率並下降操做錯誤的機率。另外,新版RKNN-Toolkit的圖形界面一樣在Linux/Mac OSX/Windows三個平臺上都可運行。性能

2、模型轉化更加簡便,RKNN-Toolkit將對MXNetPyTorch提供原生支持測試

在過去RKNN-Toolkit經過ONNX來完成MXNet和PyTorch等模型的支持,開發者須要先將模型轉換爲ONNX格式,再進一步轉換爲RKNN模型,這一過程較爲繁瑣,而且提升了引入問題的機率使得最終轉換失敗。spa

MXNet及PyTorch發展很是迅速,普及度快速提升, RKNN-Toolkit新版本將原生支持MXNet及PyTorch模型的轉換,在端側AI平臺的框架和模型支持覆蓋度上繼續保持領先。命令行

3、模型推理性能更加穩定,瑞芯微 AI平臺支持經過Docker快速部署端側AI應用code

隨着端側設備數量的成倍增加,須要以更具可擴展性的方式部署端側AI應用軟件。Docker容器技術是業界普遍通行的解決這一挑戰的有力工具。orm

RK1808平臺系統將提供對Docker的支持,經過硬件抽象層,在容器中仍可調用NPU的強勁算力,經測試,容器中的AI模型推理性能幾乎沒有損失。blog

an.bu�9內存

相關文章
相關標籤/搜索