項(xiàng)目簡(jiǎn)介

　OpenI 海藻是鵬城實(shí)驗(yàn)室和北京大學(xué)聯(lián)合開發(fā)，并貢獻(xiàn)到啟智平臺(tái)的一款可配置指令集和微架構(gòu)的AI開源芯片。

此項(xiàng)目可用于以下三個(gè)方面：

01 教育

提供復(fù)現(xiàn)已有技術(shù)和嘗試新技術(shù)的基礎(chǔ)框架，降低處理器開發(fā)的入門門檻

02 新場(chǎng)景

商用AI芯片未必有足夠利潤(rùn)動(dòng)力滿足大量碎片化的需求(物聯(lián)網(wǎng)的特征) ，以開源AI處理器作為基礎(chǔ)，賦能小市場(chǎng)針對(duì)碎片化需求的定制開發(fā)。

03 新算法

現(xiàn)有AI芯片未能優(yōu)化的計(jì)算模式(如圖神經(jīng)網(wǎng)絡(luò)、結(jié)合MLP/LSTM和圖計(jì)算特征) ，以開源AI處理器作為基礎(chǔ)，積累開源的算法部件，賦能新算法的敏捷開發(fā)。

開源AI處理器海藻（Varec）的使用流程

海藻（Varec）的使用流程

海藻 (Varec) 項(xiàng)目介紹

Varec 微架構(gòu)

• v0.1版約5000行代碼
• 架構(gòu)級(jí) Load/Execute/Store 模塊
• 系統(tǒng)級(jí) AXI 和 Shell 模塊支持 Xilinx 加速卡

Varec 指令集

•  “宏指令+微操作”兩層架構(gòu)
•  MEM和EXEC兩類宏指令
• 年底支持多種數(shù)據(jù)精度表示

指令集:架構(gòu)和編譯的解耦合

• 編譯根據(jù)指令性能估算生成指令
• 架構(gòu)重新分配資源調(diào)整指令性能
• 重復(fù)以上步驟，迭代優(yōu)化

Varec 編譯后端

• 兼容TVM前端

• 可根據(jù)后端硬件自動(dòng)生成CPU和加速器指令，以支持多種網(wǎng)絡(luò)推理
  

• 支持AutoTVM和AutoTune工具進(jìn)行編譯優(yōu)化

海藻FPGA部署示意圖

海藻 (Varec) 項(xiàng)目目標(biāo)

1、架構(gòu)可配置的開源AI硬件

2、算子可配置的開源AI硬件

未來(lái)目標(biāo)

項(xiàng)目動(dòng)態(tài)

1. 與國(guó)網(wǎng)聯(lián)研院合作開發(fā)，VAREC支持Yolo模型推理，在嵌入式開發(fā)板上驗(yàn)證效果

2. 擴(kuò)展加速器為多核加速器，并修改編譯后端支持多核執(zhí)行

• 單核yolo推理速度：2.43fps

• 雙核yolo推理速度：3.23fps

3. 集成Systolic array到Execute模塊提高計(jì)算性能

• 原先性能：35.1GOPS

• 集成SA性能：74.3GOPS