人腦能夠運行非常復雜且龐大的神經(jīng)網(wǎng)絡(luò )，總功耗卻僅為20瓦，遠小于現有的人工智能系統。因此，在算力比拼加速，能耗日益攀升的今日，借鑒人腦的低功耗特性發(fā)展新型智能計算系統成為極具潛力的方向。 

　　近日，中國科學(xué)院自動(dòng)化研究所李國齊、徐波課題組與時(shí)識科技公司等單位合作設計了一套能夠實(shí)現動(dòng)態(tài)計算的算法-軟件-硬件協(xié)同設計的類(lèi)腦神經(jīng)形態(tài)SOC（System on Chip）系統Speck(圖1) ，展示了類(lèi)腦神經(jīng)形態(tài)計算在融合高抽象層次大腦機制時(shí)的天然優(yōu)勢，相關(guān)研究在線(xiàn)發(fā)表于《自然·通訊》（Nature Communications）。 

　　該研究提出了“神經(jīng)形態(tài)動(dòng)態(tài)計算”的概念，通過(guò)設計了一種類(lèi)腦神經(jīng)形態(tài)系統Speck來(lái)實(shí)現基于注意力機制的動(dòng)態(tài)計算，在硬件層面做到“沒(méi)有輸入，沒(méi)有功耗”，在算法層面做到“有輸入時(shí)，根據輸入重要性程度動(dòng)態(tài)調整計算”，從而在典型視覺(jué)場(chǎng)景任務(wù)功耗可低至0.7豪瓦，進(jìn)一步挖掘了神經(jīng)形態(tài)計算在性能和能效上的潛力。 

　　Speck是一款異步感算一體類(lèi)腦神經(jīng)形態(tài)SoC，采用全異步設計，在一塊芯片上集成了動(dòng)態(tài)視覺(jué)傳感器（DVS相機）和類(lèi)腦神經(jīng)形態(tài)芯片，具有極低的靜息功耗（僅為0.42豪瓦）。Speck能夠以微秒級的時(shí)間分辨率感知視覺(jué)信息，以全異步方式設計拋棄了全局時(shí)鐘控制信號，避免時(shí)鐘空翻帶來(lái)的能耗開(kāi)銷(xiāo)，僅在有事件輸入時(shí)才觸發(fā)稀疏加法運算。 

　　針對脈沖神經(jīng)網(wǎng)絡(luò )（SNN）在更高層面，比如時(shí)間維度中不能根據輸入難易度調整其脈沖發(fā)放等“動(dòng)態(tài)失衡”問(wèn)題，該研究基于注意力機制的神經(jīng)形態(tài)脈沖動(dòng)態(tài)計算框架(圖2) ，在多種粒度上實(shí)現對不同的輸入進(jìn)行有區分地動(dòng)態(tài)響應；同時(shí)Speck軟件工具鏈Sinabs編程框架支持動(dòng)態(tài)計算SNN算法訓練和部署。實(shí)驗結果表明，注意力機制可使得SNN具備動(dòng)態(tài)計算能力，即根據輸入難易度調整其脈沖發(fā)放模式解決“動(dòng)態(tài)失衡”問(wèn)題，在顯著(zhù)降低功耗的同時(shí)，提升任務(wù)性能。在DVS128 Gesture數據集上，融合脈沖動(dòng)態(tài)計算的Speck在任務(wù)精度提升9%的同時(shí)，平均功耗由9.5毫瓦降低至3.8毫瓦（圖3）。 

　　該工作的實(shí)踐證實(shí)高、低抽象層次大腦機制的融合能進(jìn)一步激發(fā)類(lèi)腦計算潛力，為未來(lái)將大腦進(jìn)化過(guò)程中產(chǎn)生的各種高級神經(jīng)機制融合至神經(jīng)形態(tài)計算提供積極啟發(fā)。 

　　相關(guān)工作得到了國家杰出青年科學(xué)基金、北京市杰出青年基金、國家自然科學(xué)基金委重點(diǎn)項目、區域創(chuàng )新聯(lián)合重點(diǎn)項目等項目的支持。 

圖1.類(lèi)腦神經(jīng)形態(tài)SOC系統Speck設計框架

圖2.人腦中的注意力機制 

圖3.融合了注意力脈沖動(dòng)態(tài)計算的Speck 

　　 　　論文地址：https://www.nature.com/articles/s41467-024-47811-6 

來(lái)源：中國科學(xué)院自動(dòng)化研究所