百度跨平臺AI推理加速引擎：Anakin

一、前言\\ AI技術包含訓練和推理兩個階段。推理階段的性能好壞既關係到用戶體驗，又關係到企業的服務成本，甚至在一些極端應用上（比如無人駕駛）直接關係到個人生命財產安全。目前AI落地面臨的挑戰主要來源於兩方面，一方面是AI算法的日新月異，帶來了計算量的猛增，從AlexNet到AlphaGo，5年多的時間裏計算量提升了30w倍。另一方面是底層硬件異構化的趨勢愈發明顯，近年來涌現出非常多優秀的架構來解

>>阅读原文<<