RISC-V產業生態已經進入快速發展期,隨着大量的公司加入到RISC-V研究和生產,基於RISC-V架構的芯片也如雨後春筍般涌入市場。能夠預見的是,RISC-V的時代正在到來。算法
在AI熱潮的推進下,RISC-V上面部署AI的需求也愈加凸顯。可是目前在RISC-V基金會標準協議上尚未統一的AI標準,也沒有對應的加速庫和推理框架,面對此種愈加強烈的需求和困境,基於RISC-V芯片架構進行AI部署與推理也成爲了各大芯片以及應用開發公司的重點關注點。架構
這次合做中,OPEN AI LAB 基於芯來科技的NMSIS-NN計算庫,成功開發了語音關鍵字識別的Demo,該語言Demo以音頻文件做爲輸入,基於KWS關鍵字識別模型推理出正確的結果。框架
RISC-V + Tengine的里程碑意義工具
2020年10月,OPEN AI LAB——專一AI邊緣智能計算及應用的公司,攜手芯來科技——中國大陸首家專業RISC-V處理器內核IP和解決方案公司,兩個科技公司技術團隊打破技術邊界,強強聯合,成功打通了基於RISC-V芯片架構進行無門檻AI部署和推理的這道牆,讓基於RISC-V進行AI推理變得高效和便捷。性能
這次合做中,OPEN AI LAB 基於芯來科技的NMSIS-NN計算庫,成功開發了語音關鍵字識別的Demo,該語言Demo以音頻文件做爲輸入,基於KWS關鍵字識別模型推理出正確的結果。測試
此Demo的製做完成標誌着Tengine的底層硬件平臺成長的更加硬核,在嵌入式低端平臺上能同時基於Cortex-M內核和RISC-V內核進行AI的推理,是業界惟一能同時支持此兩種處理器內核架構進行推理的推理框架,同時讓AI在RISC-V芯片上的推理變得高效可行且便捷,芯片開發者能夠經過Tengine無門檻切入RISC-V芯片上AI的推理。人工智能
以下是實際項目推理運行的截圖,以打印的方式輸出推理結果,基於芯來科技的Nuclei Studio IDE工具:3d
此Demo的測試硬件平臺是芯來科技提供的FPGA板卡:(以下圖)blog
關於芯來科技開發
芯來科技是中國大陸第一家專業RISC-V處理器IP和解決方案公司,持續聚焦RISC-V處理器內核研發,引領RISC-V產業生態。芯來科技已經推出從低功耗到高性能全系列嵌入處理器IP系列產品,具有了高性能、低功耗和易於使用的特色,在性能、面積、功耗、成熟度、價格及開發平臺等方面具備優點。芯來科技一直處於中國RISC-V嵌入式處理器研發與產業化的最前列,是首家實現多款RISC-V芯片量產的本土企業,並聯合兆易創新推出全球首款基於RISC-V的量產通用MCU。公司是RISC-V基金會銀級會員、中國RISC-V產業聯盟副理事長單位、中國開放指令生態(RISC-V)聯盟會員單位。
關於OPEN AI LAB
開放智能專一邊緣智能計算及應用,致力於推進芯片級算力、算法、產品工程化、行業應用等完整產業鏈的深度協做,加速人工智能產業化部署和場景的邊界拓展,賦能場景化細分行業快速實現+AI。爲AIoT產業上下游合做夥伴提供端、邊、雲一體化人工智能基礎軟硬件開發平臺及應用級解決方案。
開放智能與芯來科技的合做爲RISC-V生態的發展注入新的活力,讓AI在RISC-V架構芯片上的部署變得更加順暢。