【昇騰學院】昇騰AI處理器軟件棧--框架管理器(Framework)離線模型生成

離線模型生成 以卷積神經網絡爲例,在深度學習框架下構造好相應的網絡模型,並且訓練好原始數據,再通過離線模型生成器進行算子調度優化、權重數據重排和壓縮、內存優化等,最終生成調優好的離線模型。離線模型生成器主要用來生成可以高效執行在昇騰AI處理器上的離線模型。 離線模型生成器的工作原理如上圖所示,在接收到原始模型後,對卷積神經網絡模型進行模型解析、量化、編譯和序列化四個步驟: 1.解析 在解析過程中,
相關文章
相關標籤/搜索