跨出類腦芯片的關鍵一步，成立僅兩年aiCTX有望先于IBM和Intel產業落地
科技巨頭往往是前沿科技的引領者，在AI、5G、物聯網逐步普及的當下，IBM、谷歌、微軟、百度、阿里等國內外巨頭都在投入巨大資源爭搶新一輪科技浪潮的話語權。其中顛覆傳統馮諾依曼架構，被譽為未來全新一代人工智能處理器的類腦芯片也引發了不少關注，IBM和Intel等都已發布類腦芯片，國內的華為、阿里、百度等巨頭都在爭相競逐這個領域。類腦芯片是人類腦研究和半導體技術的全新結合，具有巨大的發展前景。
aiCTX，一家位于瑞士蘇黎世，成立僅2年的初創公司，其類腦芯片產品將有望領先全球各巨頭實現產業化落地？
AI、量子計算、類腦芯片都被不少人視作“黑科技”，但其實這些概念首次被提出都很早，類腦芯片或者說神經形態計算的概念，至少可以追溯到20世紀80年代，當時傳奇的加州理工學院研究員Carver Mead提出設計集成電路來模仿活神經元細胞的組織。然而，由于生物神經元的發射是非確定性的，經典計算架構馮諾依曼是確定性的架構，這一因素在很大程度上讓計算機無法模仿人類大腦。
除了技術的難題，類腦研究人員的心態也是一個重要影響。在類腦研究起步較早的歐洲，許多研究人員進行相關的研究是覺得類腦研究很有意義，并且很享受研究的過程，而不是考慮如何去應用或實現商業化。
業界也出現了對類腦芯片可行性的質疑。對此，aiCTX首席執行官喬寧博士表示：“因為看不到應用，出現質疑的聲音很正常。我進入這一領域前是中科院半導體研究所博士，主要進行低功耗數模混合電路的設計。自2012年起加入蘇黎世大學及蘇黎世聯邦理工大學的神經信息研究所INI進行類腦芯片研究，從12年到16年底，基本每年都會設計1-2款神經形態處理器，對類腦芯片有很深的理解。”
除了各高校及科研院所，可以觀察到的是包括IBM、Intel等在內的科技巨頭都在投入資金研發并陸續推出類腦芯片。
那么，研究開發類腦芯片的意義到底是什么？這就得從本質上去理解。神經形態裝置（包含傳感和處理等）的工程涉及開發其功能類似于大腦部分的組件。人腦的活體神經細胞有四個主要的功能成分，如下圖所示：
大腦的神奇之處在于實時處理復雜信息的同時只消耗極少的能量。而神經擬態工程的目標不是模仿大腦，而是理解大腦如此高效的工作機制，并把這些機制用到的芯片中去。這些機制中，細粒度并行計算，神經動力學，時域編碼，基于時間的信息處理等等，直接啟發了新特征，新架構，新算法對計算系統的能力以及效率的突破。
正如Intel前不久發表聲明指出，脈沖神經網絡是目前深度神經網絡的必然繼承者，脈沖神經網絡在運算中利用了時域動力學，因此非常適合于實時處理真實世界的傳感器數據，例如聲音或者視頻，尤其是在需要快速實時響應的情況下。
從算法角度看，脈沖神經元提供了可以在時間域進行實時信息處理的神經網絡的基本方法。從硬件實現角度看，類腦架構可以利用脈沖機制進行高度稀疏的脈沖驅動運算，大大節省了能耗。所有這些優勢對邊緣計算在能效和實時性上有極大的提升，尤其是邊緣設備需要對實施動態數據的實時本地處理，比如生產車間，自動駕駛汽車或者機器人等。
可以看到，2011年8月IBM率先研發出具有感知、認知功能的脈沖神經網絡芯片原型，推出第一代TrueNorth。到了2014年，TrueNorth第二代誕生，功耗為每平方厘米20毫瓦，是第一代的百分之一。總體看，第二代TrueNorth芯片由4096 個內核，100 萬個 “神經元”、2.56 億個“突觸”集成。
IBM當時表示如果 48 顆TrueNorth芯片組建起具有 4800 萬個神經元的網絡，帶來的智力水平將相似于普通老鼠。但這款芯片亮相之后就沒有大動作，也未應用到其人工智能系統Watson中。
到了2018年，Intel展示了耗時多年研發的其首款自學習脈沖神經元芯片Loihi。Intel稱Loihi內部包含了128個計算核心，每個核心集成1024個人工神經元，總計13.1萬個神經元，彼此之間通過1.3億個突觸相互連接。
即便如此，相比人腦內的800多億個神經元的Loihi仍然相對簡單。不過，Intel給出的數據指出，Loihi的學習效率比其他智能芯片高100萬倍，而在完成同一個任務所消耗的能源可節省近1000倍。
與IBM一樣，Intel類腦芯片發布之后也未見其有在產業端有進一步的消息。
之所以會出現這樣的情況，喬寧博士認為，無論是IBM還是Intel，他們目前對神經擬態智能（Neuromorphic Intelligence）或者說類腦芯片的投入更多聚焦在科研層面，針對的用戶也大都是科研院所，并沒有在商業應用方面做更多考慮。
與學校科研不同，公司層面最重要的還是技術與產品的落地。喬寧博士強調，我們創立公司做類腦芯片從一開始就是以應用為主導，類腦芯片最擅長的是超低功耗的實時動態信息處理，針對的應用場景是IoT端的傳感器信息的本地實時超低功耗處理。“目前aiCTX的類腦芯片按應用分為兩大類：一類是針對動態視覺的處理器芯片。這類芯片是類腦與傳統深度學習的結合體，在算法上依賴的是深度學習的CNN，而運算的觸發機制則為脈沖觸發。另一類是對有時間維度（語音，心電信號，肌電信號，溫度壓強等）的自然信號實時處理的脈沖神經網絡處理器。這一類處理器在算法層面依賴的是神經動力學，依靠脈沖神經網絡進行超低功耗實時動態傳感器信息處理。”
當然，選擇與研究機構和巨頭不同的道路，以應用為驅動去設計類腦芯片自然還不足以超越他們，最關鍵的還是需要技術上的積累與突破。aiCTX背靠的是在神經擬態（neuromorphic）領域全球領先的蘇黎世大學及蘇黎世聯邦理工大學神經信息研究所（Institute of Neuroinformatics，簡稱INI)，有20多年成熟的腦科學，神經形態架構、算法、芯片等各方向的研發經驗。據了解，該研究所于1995年由蘇黎世聯邦理工學院（ETH Zurich，2019年QS世界大學排名第7名）和蘇黎世大學（UZH，2019年QS世界大學排名第78名）聯合創辦。
深耕科研，基于多年世界領先的科研成果，喬寧博士與業界大牛Giacomo Indiveri教授一起于2017年2月底在瑞士蘇黎世創立類腦芯片公司aiCTX。喬寧博士告訴雷鋒網，aiCTX = AI-CorTex，CTX是英文中Cortex（腦皮層）的縮寫。aiCTX的名字與“腦皮層”緊密相連，代表aiCTX神經擬態運算在硬件中實現，以期解決人工智能中的問題。
喬寧博士表示：“從2012年起加入INI領導歐洲類腦芯片項目開發，我和團隊已經成功研發多款aiCTX的核心研發團隊在脈沖神經網絡模型、算法、類腦芯片架構，芯片設計等領域擁有國際頂級學術文章500多篇，引用量達12000多次。”
事件驅動運算是脈沖神經網絡的天然屬性，而傳統的深度學習很難做到這一點，這是實現脈沖神經網絡的類腦芯片在超低功耗邊緣運算上極大的優勢。喬寧博士認為，每個人對類腦芯片的理解和定義有所不同，但其最天然的屬性是事件驅動運算。只有做到事件驅動運算，才可能實現真正意義上的“聽著看著又不耗電”的適用于IoT的可以Alawys On邊緣AI應用。
設計事件驅動或者說脈沖神經網絡處理器時無法回避的就是脈沖的生成與傳遞是隨機的，如果用時鐘就會大大降低效率，也因為引入額外功耗很難做到Always On，如果想做高效的脈沖神經網絡處理器，異步電路必不可少。而設計異步電路時，由于沒有很好的EDA軟件支持，不能像設計傳統數字電路那樣借助EDA快速且方便的完成設計，因此異步電路設計對大部分公司而言這非常困難。
“我們從2012年就開始做基于異步電路的類腦芯片設計，并且發展了一整套內部的EDA軟件支持我們完成異步電路的自動化設計與驗證，這是很大的優勢。”喬寧博士指出。
并且，DynapCNN的高靈活性和可重新配置性也為開發和實現一系列AI模型提供了可能性，基于動態視覺的事件觸發運算機制使得芯片達到亞mW級的功率。此外，芯片使用稀疏計算對場景中的物體移動進行處理，進一步降低了芯片的動態功耗。
另外，DynapCNN處理器集成專用接口電路，可直連絕大多數動態攝像頭，進行臉部識別、手勢識別、高速移動物體追蹤、歸類、行為識別等。
據介紹，DynapCNN可以對像素級動態數據流進行連續計算，對移動物體實時識別可實現低于5ms的超低延遲。相較于已有的深度學習實時視覺處理方案，DynapCNN所提供的超低延時動態視覺解決方案對比與DL加速器技術，將識別響應延時縮短了10倍以上，同時功耗降低100倍以上，能為車載及高速飛行器等高速視覺場景提供更好的解決方案。喬寧博士表示，DynapCNN相應的開發套件將于2019年第三季度上市。
除了路線、技術與巨頭的不同，能讓aiCTX在商用方面取得領先的第三個關鍵就是產品模組化。喬寧博士在接受專訪的時候也提到，即便一個很完善的類眼DVS（Dynamic Vision Sensor ，動態視覺傳感器），搭配傳統CPU或者DL加速器進行動態視覺處理，效率也會大打折扣。新一代的神經擬態智能必須是完整的系統級的解決方案，才能發揮出最大的優勢。
因此，aiCTX將在今年三季度將會推出首款整體功耗 <1mW的SoC級動態視覺智能傳感器Speck。該芯片基于65nm工藝設計，片上集成動態攝像頭及動態處理器。作為一個完整的動態視覺解決方案，Speck的整體峰值功耗將低于1mW；而在通常智能家居等應用場景下，整體平均功耗將在0.5mW以下 （1節5號電池可驅動近1年的時間）。對于輕量級的邊緣視覺智能應用，使用者將不需要再添加額外的處理器或攝像頭，即插即用。這樣做無疑也是為了降低類腦芯片的使用門檻。
喬寧博士也表示，aiCTX的產品的應用也有一個短期、中期、長期的規劃，短期看視覺物聯網的應用會更快。 對于動態信息實時處理的超低功耗，超低延時以及成本是我們方案的競爭力所在。現在公司與許多潛在客戶都有接觸，包括瑞士的IoT公司，國內的Tier1車企、AI芯片公司等，無論是項目層面還是產品層面，短期可能都會有一些合同達成。
另據雷鋒網了解，為了滿足車企的需求，aiCTX已經將車軌級認證的要求加入了下一代芯片設計的考量中，這也將是他們近期工作的重點之一。
aiCTX也得到了資本的認可，2017年底，獲得十維資本領投的數百萬美元天使輪融資。2018年底，獲得BV（百度風投）領投的數百萬美元Pre-A輪融資，用于加速研發及技術成果落地。2018年初，成功獲批了歐盟H2020關于腦機接口的為期4年的科研項目“SYNCH”及歐盟動態機器視覺科研項目“TEMPO”，并獲得相應經費支持。下一步，aiCTX計劃于2019年6月完成A輪融資。
至此，從原理上看我們已經可以明確類腦芯片具備超低功耗和超低延時，更適合IoT邊緣傳感器的動態信息本地實時處理等優點。不僅如此，由于aiCTX的SNN處理器算力主要是用于稀疏點數據流的實時處理，因此并不強調算力。并且，對于先進工藝的需求也并不十分強烈。
喬寧表示：“類腦芯片對工藝的需求主要取決于應用，如果對于網絡資源有較大的需求，比如用于無人車或者無人機超低延時動態視覺AI應用，才需要22nm等先進工藝；但是如果是語音識別或者心電信號檢測，因為需要的硬件資源很小，只需要65nm甚至180nm的工藝，這也能在很大程度上降低成本。”
不過，對于目前的云端計算而言，并不適合類腦芯片。喬寧表示：“類腦芯片更擅長的是超低功耗動態信息實時處理，因此更適合用在端上。而比如傳統攝像頭生成的基于幀的靜態數據，則更適合用傳統的深度學習芯片處理。但以現在的趨勢看，多傳感器融合進行動態數據處理將是主要發展方向之一，類腦芯片未來也可在云加端發揮優勢。”
來源 | 雷鋒網
作者 | 包永剛
aiCTX，一家位于瑞士蘇黎世，成立僅2年的初創公司，其類腦芯片產品將有望領先全球各巨頭實現產業化落地？
類腦芯片真的可實現？
除了技術的難題，類腦研究人員的心態也是一個重要影響。在類腦研究起步較早的歐洲，許多研究人員進行相關的研究是覺得類腦研究很有意義，并且很享受研究的過程，而不是考慮如何去應用或實現商業化。
業界也出現了對類腦芯片可行性的質疑。對此，aiCTX首席執行官喬寧博士表示：“因為看不到應用，出現質疑的聲音很正常。我進入這一領域前是中科院半導體研究所博士，主要進行低功耗數模混合電路的設計。自2012年起加入蘇黎世大學及蘇黎世聯邦理工大學的神經信息研究所INI進行類腦芯片研究，從12年到16年底，基本每年都會設計1-2款神經形態處理器，對類腦芯片有很深的理解。”
除了各高校及科研院所，可以觀察到的是包括IBM、Intel等在內的科技巨頭都在投入資金研發并陸續推出類腦芯片。
aiCTX首席執行官喬寧博士
近幾年，美國DARPA投巨資支持IBM及Intel等美國巨頭高科技公司開展TrueNorth及Loihi類腦芯片開發項目，并已經在多個領域得到應用。美國勞倫斯-利弗莫爾國家實驗室、美國空軍研究實驗室（AFRL）也均購買過IBM的TrueNorth芯片。這也能說明研發類腦芯片的可行性以及重大的戰略意義。
類腦芯片的優勢何在？
- Synapses（突觸）：電化學脈沖通過稱為突觸的微小界面點進入細胞
- Dendrites（樹突）：突觸分散在稱為樹突的樹根狀纖維的表面上
- Cell Body（細胞體）：樹突伸展到周圍的神經組織，從突觸中收集脈沖，并將脈沖傳回神經元的心臟，稱為細胞體。
- Axon（軸突）：一種樹狀纖維，將細胞體的輸出脈沖傳導到神經組織，最終在其他細胞的樹突上突觸。
大腦的神奇之處在于實時處理復雜信息的同時只消耗極少的能量。而神經擬態工程的目標不是模仿大腦，而是理解大腦如此高效的工作機制，并把這些機制用到的芯片中去。這些機制中，細粒度并行計算，神經動力學，時域編碼，基于時間的信息處理等等，直接啟發了新特征，新架構，新算法對計算系統的能力以及效率的突破。
正如Intel前不久發表聲明指出，脈沖神經網絡是目前深度神經網絡的必然繼承者，脈沖神經網絡在運算中利用了時域動力學，因此非常適合于實時處理真實世界的傳感器數據，例如聲音或者視頻，尤其是在需要快速實時響應的情況下。
從算法角度看，脈沖神經元提供了可以在時間域進行實時信息處理的神經網絡的基本方法。從硬件實現角度看，類腦架構可以利用脈沖機制進行高度稀疏的脈沖驅動運算，大大節省了能耗。所有這些優勢對邊緣計算在能效和實時性上有極大的提升，尤其是邊緣設備需要對實施動態數據的實時本地處理，比如生產車間，自動駕駛汽車或者機器人等。
可以看到，2011年8月IBM率先研發出具有感知、認知功能的脈沖神經網絡芯片原型，推出第一代TrueNorth。到了2014年，TrueNorth第二代誕生，功耗為每平方厘米20毫瓦，是第一代的百分之一。總體看，第二代TrueNorth芯片由4096 個內核，100 萬個 “神經元”、2.56 億個“突觸”集成。
IBM當時表示如果 48 顆TrueNorth芯片組建起具有 4800 萬個神經元的網絡，帶來的智力水平將相似于普通老鼠。但這款芯片亮相之后就沒有大動作，也未應用到其人工智能系統Watson中。
到了2018年，Intel展示了耗時多年研發的其首款自學習脈沖神經元芯片Loihi。Intel稱Loihi內部包含了128個計算核心，每個核心集成1024個人工神經元，總計13.1萬個神經元，彼此之間通過1.3億個突觸相互連接。
即便如此，相比人腦內的800多億個神經元的Loihi仍然相對簡單。不過，Intel給出的數據指出，Loihi的學習效率比其他智能芯片高100萬倍，而在完成同一個任務所消耗的能源可節省近1000倍。
與IBM一樣，Intel類腦芯片發布之后也未見其有在產業端有進一步的消息。
aiCTX超越兩大巨頭的三大關鍵
與學校科研不同，公司層面最重要的還是技術與產品的落地。喬寧博士強調，我們創立公司做類腦芯片從一開始就是以應用為主導，類腦芯片最擅長的是超低功耗的實時動態信息處理，針對的應用場景是IoT端的傳感器信息的本地實時超低功耗處理。“目前aiCTX的類腦芯片按應用分為兩大類：一類是針對動態視覺的處理器芯片。這類芯片是類腦與傳統深度學習的結合體，在算法上依賴的是深度學習的CNN，而運算的觸發機制則為脈沖觸發。另一類是對有時間維度（語音，心電信號，肌電信號，溫度壓強等）的自然信號實時處理的脈沖神經網絡處理器。這一類處理器在算法層面依賴的是神經動力學，依靠脈沖神經網絡進行超低功耗實時動態傳感器信息處理。”
當然，選擇與研究機構和巨頭不同的道路，以應用為驅動去設計類腦芯片自然還不足以超越他們，最關鍵的還是需要技術上的積累與突破。aiCTX背靠的是在神經擬態（neuromorphic）領域全球領先的蘇黎世大學及蘇黎世聯邦理工大學神經信息研究所（Institute of Neuroinformatics，簡稱INI)，有20多年成熟的腦科學，神經形態架構、算法、芯片等各方向的研發經驗。據了解，該研究所于1995年由蘇黎世聯邦理工學院（ETH Zurich，2019年QS世界大學排名第7名）和蘇黎世大學（UZH，2019年QS世界大學排名第78名）聯合創辦。
深耕科研，基于多年世界領先的科研成果，喬寧博士與業界大牛Giacomo Indiveri教授一起于2017年2月底在瑞士蘇黎世創立類腦芯片公司aiCTX。喬寧博士告訴雷鋒網，aiCTX = AI-CorTex，CTX是英文中Cortex（腦皮層）的縮寫。aiCTX的名字與“腦皮層”緊密相連，代表aiCTX神經擬態運算在硬件中實現，以期解決人工智能中的問題。
喬寧博士表示：“從2012年起加入INI領導歐洲類腦芯片項目開發，我和團隊已經成功研發多款aiCTX的核心研發團隊在脈沖神經網絡模型、算法、類腦芯片架構，芯片設計等領域擁有國際頂級學術文章500多篇，引用量達12000多次。”
事件驅動運算是脈沖神經網絡的天然屬性，而傳統的深度學習很難做到這一點，這是實現脈沖神經網絡的類腦芯片在超低功耗邊緣運算上極大的優勢。喬寧博士認為，每個人對類腦芯片的理解和定義有所不同，但其最天然的屬性是事件驅動運算。只有做到事件驅動運算，才可能實現真正意義上的“聽著看著又不耗電”的適用于IoT的可以Alawys On邊緣AI應用。
設計事件驅動或者說脈沖神經網絡處理器時無法回避的就是脈沖的生成與傳遞是隨機的，如果用時鐘就會大大降低效率，也因為引入額外功耗很難做到Always On，如果想做高效的脈沖神經網絡處理器，異步電路必不可少。而設計異步電路時，由于沒有很好的EDA軟件支持，不能像設計傳統數字電路那樣借助EDA快速且方便的完成設計，因此異步電路設計對大部分公司而言這非常困難。
“我們從2012年就開始做基于異步電路的類腦芯片設計，并且發展了一整套內部的EDA軟件支持我們完成異步電路的自動化設計與驗證，這是很大的優勢。”喬寧博士指出。
aiCTX DynapCNN
最終我們看到，aiCTX發布了世界首款完全基于事件觸發運算的動態視覺AI處理器DynapCNN。該處理器是一款純異步、高可配置性、可拓展性的神經形態處理器。芯片面積僅為12平方毫米，采用GF22nm工藝設計，單芯片集成超過100萬脈沖神經元和400萬可編程參數，支持多種CNN架構，其芯片架構所具有的可拓展性適合于實現大規模脈沖卷積神經網絡。并且，DynapCNN的高靈活性和可重新配置性也為開發和實現一系列AI模型提供了可能性，基于動態視覺的事件觸發運算機制使得芯片達到亞mW級的功率。此外，芯片使用稀疏計算對場景中的物體移動進行處理，進一步降低了芯片的動態功耗。
另外，DynapCNN處理器集成專用接口電路，可直連絕大多數動態攝像頭，進行臉部識別、手勢識別、高速移動物體追蹤、歸類、行為識別等。
據介紹，DynapCNN可以對像素級動態數據流進行連續計算，對移動物體實時識別可實現低于5ms的超低延遲。相較于已有的深度學習實時視覺處理方案，DynapCNN所提供的超低延時動態視覺解決方案對比與DL加速器技術，將識別響應延時縮短了10倍以上，同時功耗降低100倍以上，能為車載及高速飛行器等高速視覺場景提供更好的解決方案。喬寧博士表示，DynapCNN相應的開發套件將于2019年第三季度上市。
除了路線、技術與巨頭的不同，能讓aiCTX在商用方面取得領先的第三個關鍵就是產品模組化。喬寧博士在接受專訪的時候也提到，即便一個很完善的類眼DVS（Dynamic Vision Sensor ，動態視覺傳感器），搭配傳統CPU或者DL加速器進行動態視覺處理，效率也會大打折扣。新一代的神經擬態智能必須是完整的系統級的解決方案，才能發揮出最大的優勢。
因此，aiCTX將在今年三季度將會推出首款整體功耗 <1mW的SoC級動態視覺智能傳感器Speck。該芯片基于65nm工藝設計，片上集成動態攝像頭及動態處理器。作為一個完整的動態視覺解決方案，Speck的整體峰值功耗將低于1mW；而在通常智能家居等應用場景下，整體平均功耗將在0.5mW以下 （1節5號電池可驅動近1年的時間）。對于輕量級的邊緣視覺智能應用，使用者將不需要再添加額外的處理器或攝像頭，即插即用。這樣做無疑也是為了降低類腦芯片的使用門檻。
喬寧博士也表示，aiCTX的產品的應用也有一個短期、中期、長期的規劃，短期看視覺物聯網的應用會更快。 對于動態信息實時處理的超低功耗，超低延時以及成本是我們方案的競爭力所在。現在公司與許多潛在客戶都有接觸，包括瑞士的IoT公司，國內的Tier1車企、AI芯片公司等，無論是項目層面還是產品層面，短期可能都會有一些合同達成。
另據雷鋒網了解，為了滿足車企的需求，aiCTX已經將車軌級認證的要求加入了下一代芯片設計的考量中，這也將是他們近期工作的重點之一。
aiCTX也得到了資本的認可，2017年底，獲得十維資本領投的數百萬美元天使輪融資。2018年底，獲得BV（百度風投）領投的數百萬美元Pre-A輪融資，用于加速研發及技術成果落地。2018年初，成功獲批了歐盟H2020關于腦機接口的為期4年的科研項目“SYNCH”及歐盟動態機器視覺科研項目“TEMPO”，并獲得相應經費支持。下一步，aiCTX計劃于2019年6月完成A輪融資。
類腦芯片不是萬能的
喬寧表示：“類腦芯片對工藝的需求主要取決于應用，如果對于網絡資源有較大的需求，比如用于無人車或者無人機超低延時動態視覺AI應用，才需要22nm等先進工藝；但是如果是語音識別或者心電信號檢測，因為需要的硬件資源很小，只需要65nm甚至180nm的工藝，這也能在很大程度上降低成本。”
不過，對于目前的云端計算而言，并不適合類腦芯片。喬寧表示：“類腦芯片更擅長的是超低功耗動態信息實時處理，因此更適合用在端上。而比如傳統攝像頭生成的基于幀的靜態數據，則更適合用傳統的深度學習芯片處理。但以現在的趨勢看，多傳感器融合進行動態數據處理將是主要發展方向之一，類腦芯片未來也可在云加端發揮優勢。”
來源 | 雷鋒網
作者 | 包永剛