|
面向端側大語言模型應用，加速邊緣AI生態發展 芯原股份（芯原，股票代碼：688521.SH）近日宣布與谷歌聯合推出面向始終在線、超低能耗端側大語言模型應用的Coral NPU IP。該IP基于谷歌在開放機器學習編譯器方面的基礎研究成果，并結合AI的安全特性進行了強化，為開發者提供統一的開源技術平臺，以構建強大的邊緣AI生態系統。 
Coral NPU基于RISC-V開放指令集架構標準構建，引入原生張量處理能力，支持主流機器學習框架，如JAX、PyTorch和TensorFlow Lite（TFLite），并采用基于開放標準的工具，例如來自低級虛擬機（LLVM）項目的多級中間表示（MLIR），作為編譯器基礎設施。其設計面向始終在線、超低能耗的邊緣AI應用，尤其適用于可穿戴設備和泛在感知系統。 Coral NPU IP已在谷歌開發者網站開源，面向全球開發者開放。芯原將提供商業化的企業級IP版本，并結合自身豐富的IP儲備以及芯片設計與驗證能力，為客戶的相關芯片提供一站式芯片定制等服務。目前，芯原正在開發基于Coral NPU IP的驗證芯片，面向AI/AR眼鏡與智能家居等應用，以加速大語言模型在邊緣端的部署。 芯原執行副總裁，定制芯片平臺事業部總經理汪志偉表示：“此次項目基于我們在Open Se Cura開源項目上的既有經驗，也標志著谷歌開源技術與芯原在芯片設計和產業化支持上的持續深度合作。芯原將繼續發揮在芯片設計、驗證及系統級優化方面的優勢，推動邊緣AI生態建設，助力開源技術在實際終端產品中的落地應用，并為行業創新提供有力支持。” |
