YOCSEF廣州舉辦大灣區(qū)IT創(chuàng)新論壇

灣區(qū)時(shí)訊 存算一體是一種革新性的計(jì)算范式，與以往的馮諾依曼架構(gòu)相比，其打破了由于計(jì)算單元與存儲(chǔ)單元過于獨(dú)立而導(dǎo)致的“存儲(chǔ)墻”，能夠達(dá)到用更低功耗實(shí)現(xiàn)更高算力的效果。因此存算一體技術(shù)也成為近年來計(jì)算機(jī)體系結(jié)構(gòu)和集成電路芯片設(shè)計(jì)領(lǐng)域最熱門的方向之一。在產(chǎn)業(yè)界，科技巨頭紛紛布局存算一體，國內(nèi)相繼也有近十幾家初創(chuàng)公司押注該架構(gòu)。針對存算一體芯片熱潮，中國計(jì)算機(jī)學(xué)會(huì)（CCF）青年計(jì)算機(jī)科技論壇（YOCSEF）廣州分論壇學(xué)術(shù)委員會(huì)于2024年4月6日，在華南理工大學(xué)廣州國際校區(qū)，舉辦了YOCSEF大灣區(qū)IT創(chuàng)新論壇——“存算一體能否顛覆經(jīng)典馮諾依曼架構(gòu)？”觀點(diǎn)論壇，共論存算芯片發(fā)展的未來之路。

此次論壇由CCF主辦，YOCSEF廣州學(xué)術(shù)委員會(huì)承辦，YOCSEF廣州AC委員姚恩義（華南理工大學(xué)）和曾衍瀚（廣州大學(xué)）共同擔(dān)任執(zhí)行主席，廣州唐邦信息科技有限公司提供贊助支持。論壇邀請了清華大學(xué)電子工程系李學(xué)清副教授、中山大學(xué)計(jì)算機(jī)學(xué)院沈明華副教授、香港科技大學(xué)（廣州）微電子學(xué)域姜泓吾助理教授作為引導(dǎo)發(fā)言嘉賓，華南師范大學(xué)電子與信息工程學(xué)院王德明教授、深圳市九天睿芯科技有限公司創(chuàng)始人, 董事長兼CEO劉洪杰博士、華南理工大學(xué)微電子學(xué)院楊斯媚副教授作為思辨嘉賓。

YOCSEF廣州往屆主席黃棟（華南農(nóng)業(yè)大學(xué)），YOCSEF廣州現(xiàn)任主席龍錦益（暨南大學(xué)），候任主席李冠彬（中山大學(xué)），現(xiàn)/候任副主席劉同來（仲愷農(nóng)業(yè)工程學(xué)院）、黃培濤（唐邦信息科技），YOCSEF哈爾濱候任副主席張曉光（黑龍江大學(xué)），YOCSEF廣州候任AC委員陳俊穎（華南理工大學(xué)）、陳炳豐（廣東工業(yè)大學(xué)）以及來自廣東地區(qū)多所高校及企事業(yè)單位共40多人參加討論與思辨。

在論壇開幕環(huán)節(jié)，首先由本次論壇執(zhí)行主席姚恩義逐一介紹與會(huì)嘉賓，再由YOCSEF廣州主席龍錦益介紹YOCSEF文化內(nèi)涵。龍錦益對YOCSEF的含義、理念、分論壇以及YOCSEF廣州的特色文化等內(nèi)容作了介紹。

論壇執(zhí)行主席姚恩義介紹論壇背景

YOCSEF廣州主席龍錦益對YOCSEF文化做簡要介紹

在引導(dǎo)報(bào)告環(huán)節(jié)，首先由清華大學(xué)李學(xué)清副教授以“Cramming More Weight Data Onto Compute-in-Memory Macros for High Task-Level Energy Efficiency Using Custom Hybrid ROM-SRAM Integration”為題，講解了高性能存算一體芯片的設(shè)計(jì)方法和未來展望。報(bào)告提出將ROM引入到存算一體電路中，并通過將ROM和SRAM協(xié)同配合，將大容量big-ROM和小容量small-SRAM壓縮，更進(jìn)一步提出了hidden-ROM，實(shí)現(xiàn)更好的存儲(chǔ)密度，計(jì)算效率，支持更高的復(fù)雜度。

清華大學(xué)電子工程系李學(xué)清副教授做引導(dǎo)發(fā)言報(bào)告

中山大學(xué)沈明華副教授以“深度學(xué)習(xí)的圖與張量計(jì)算”為題，針對模型復(fù)雜度、算力需求、安全方面的挑戰(zhàn)，重點(diǎn)介紹了團(tuán)隊(duì)在圖計(jì)算、張量計(jì)算和安全訪存方面的研究成果，如基于圖屬性緩存的編譯器，基于圖核融合和快速篩的運(yùn)行時(shí)系統(tǒng)和相應(yīng)的硬件加速器，提出了張量編譯框架，支持不同類型的張量計(jì)算和空間架構(gòu)加速器，局部性感知的標(biāo)簽分配等前沿技術(shù)。

中山大學(xué)計(jì)算機(jī)學(xué)院沈明華副教授做引導(dǎo)發(fā)言報(bào)告

香港科技大學(xué)（廣州）姜泓吾助理教授以“High-Efficiency Data Conversion in Compute-in-Memory Design”為題，介紹了存算一體芯片的基本原理，包括存儲(chǔ)單元，網(wǎng)絡(luò)映射、硬件架構(gòu)，分析了存算一體芯片中ADC/DAC的挑戰(zhàn)，提出了網(wǎng)絡(luò)硬件協(xié)同設(shè)計(jì)，offset-aware training等技術(shù)路線，并分析了ADC的測試結(jié)果，報(bào)告最后分享了其對存算一體技術(shù)，特別是在大模型應(yīng)用下發(fā)展趨勢的看法。

香港科技大學(xué)（廣州）微電子學(xué)域姜泓吾助理教授做引導(dǎo)發(fā)言報(bào)告

論壇為引導(dǎo)發(fā)言嘉賓頒發(fā)感謝狀

在引導(dǎo)報(bào)告之后，論壇進(jìn)入思辨環(huán)節(jié)。與會(huì)嘉賓圍繞“相比于經(jīng)典馮諾依曼架構(gòu)，存算一體技術(shù)最顯著的優(yōu)勢在什么地方？”、“目前針對存算一體架構(gòu)的實(shí)現(xiàn)路徑有很多，存算一體技術(shù)未來的發(fā)展趨勢是什么？”以及“存算一體的產(chǎn)業(yè)落地如何破局？”等議題展開觀點(diǎn)思辯，論壇邀請了華南師范大學(xué)王德明教授、深圳市九天睿芯科技有限公司劉洪杰博士、華南理工大學(xué)楊斯媚副教授擔(dān)任思辨特邀嘉賓。

論壇執(zhí)行主席曾衍瀚主持思辨議題

嘉賓思辨討論發(fā)言

議題1：相比于經(jīng)典馮諾依曼架構(gòu)，存算一體技術(shù)最顯著的優(yōu)勢在什么地方?

衍生議題1.1：存算一體技術(shù)發(fā)展的瓶頸在哪里？

針對此議題，與會(huì)專家普遍認(rèn)為，存算一體技術(shù)最終解決的就是計(jì)算過程中的存儲(chǔ)墻問題，其顯著優(yōu)勢在于提高計(jì)算速度，降低系統(tǒng)功耗。華南師范大學(xué)王德明分享了研究團(tuán)隊(duì)在微控制器領(lǐng)域研究和開發(fā)的經(jīng)驗(yàn)。在傳統(tǒng)架構(gòu)中計(jì)算和存儲(chǔ)是分開的，數(shù)據(jù)需要反復(fù)在MCU、射頻收發(fā)和安全加密模塊之間遷移，能耗和時(shí)延很難取得突破。而采用了片上集成的近存設(shè)計(jì)技術(shù)，在速度上有了明顯的提高，同時(shí)功耗也成倍下降。

針對存算一體技術(shù)發(fā)展的瓶頸問題，中山大學(xué)沈明華和香港科技大學(xué)（廣州）姜泓吾同時(shí)指出，存算一體芯片目前面臨著生態(tài)欠缺的問題，也沒有較為好用的編譯器，在大規(guī)模應(yīng)用過程中依然無法避免數(shù)據(jù)通訊的問題，同時(shí)面臨著存儲(chǔ)一致性的問題，存算一體技術(shù)學(xué)術(shù)發(fā)展與實(shí)際應(yīng)用還存在著較大的差距。清華大學(xué)李學(xué)清表示，基于SRAM的存算一體技術(shù)在性能上具有交大的優(yōu)勢，但是由于6T的基本結(jié)構(gòu)，密度存在局限，存算一體在應(yīng)用上的瓶頸要遠(yuǎn)大于技術(shù)發(fā)展的瓶頸。

議題2：目前針對存算一體架構(gòu)的實(shí)現(xiàn)路徑有很多，存算一體技術(shù)未來的發(fā)展趨勢是什么？

衍生議題2.1：存算一體是否可以有效支撐大模型發(fā)展對基礎(chǔ)算力的需求？

衍生議題2.2：存算一體是否具有顛覆當(dāng)前計(jì)算芯片產(chǎn)業(yè)的潛力？

華南理工大學(xué)楊斯媚表示，目前可以基于多種不同的存儲(chǔ)器件實(shí)現(xiàn)存算一體芯片，不同器件的性能特點(diǎn)迥異，未來可以探索針對不同應(yīng)用場景的最佳存儲(chǔ)器件類型及優(yōu)化理論。在系統(tǒng)架構(gòu)上，存算一體芯片的發(fā)展應(yīng)該是向著大規(guī)模和異構(gòu)集成的方向，存算一體芯片的應(yīng)用需要與CPU，甚至GPU通過異構(gòu)集成的方式共同提供強(qiáng)大的算力輸出。在軟件生態(tài)方面，當(dāng)前產(chǎn)業(yè)界已經(jīng)出現(xiàn)一些針對存算一體的編譯器和API，但是性能有待提升，還需要學(xué)術(shù)界和產(chǎn)業(yè)界的共同努力，加以完善。

針對人工智能領(lǐng)域目前最為火熱的大模型，YOCSEF廣州候任AC委員、華南理工大學(xué)陳俊穎認(rèn)為存算一體是具備支撐大模型的算力需求的，一方面在于大模型對數(shù)據(jù)存儲(chǔ)的需求更為強(qiáng)大，另一方面存算一體技術(shù)本身所帶來的性能上的優(yōu)勢。YOCSEF廣州候任主席、中山大學(xué)李冠彬認(rèn)為大模型并適合存算一體技術(shù)發(fā)揮優(yōu)勢，大模型已經(jīng)具有了自己的生態(tài)，存算一體難以取得優(yōu)勢。存算一體更適合做小模型，可以快速低耗進(jìn)行計(jì)算，還可以保護(hù)數(shù)據(jù)隱私。

在存算一體是否具有顛覆當(dāng)前計(jì)算芯片產(chǎn)業(yè)的潛力話題上，參與討論的大部分專家都認(rèn)為存算一體技術(shù)在未來還是具備可挖掘的潛力和生長空間。但與此同時(shí)，當(dāng)前智能計(jì)算芯片領(lǐng)域的各類芯片都有著自己獨(dú)特的應(yīng)用場景，存算一體技術(shù)當(dāng)前存在的市場、資金以及安全等難題都有待解決。存算一體技術(shù)需要與其他不同類型芯片配合使用，才能發(fā)揮巨大的性能優(yōu)勢。

議題3：存算一體的產(chǎn)業(yè)落地如何破局？

衍生議題3.1：存算一體技術(shù)能否助力國產(chǎn)芯片實(shí)現(xiàn)換道超車？

針對存算一體技術(shù)產(chǎn)業(yè)化落地與發(fā)展，深圳市九天睿芯科技有限公司劉洪杰表示，存算一體技術(shù)涉及到最底層的計(jì)算過程，完成基本的乘加運(yùn)算，其通用性需要在系統(tǒng)架構(gòu)上進(jìn)行重新設(shè)計(jì)和優(yōu)化?，F(xiàn)階段初創(chuàng)公司很難做到自下到上整套流程的技術(shù)開發(fā)和產(chǎn)品推廣，僅能根據(jù)實(shí)際需求來針對特定場景進(jìn)行專門設(shè)計(jì)。目前存算一體技術(shù)已經(jīng)實(shí)現(xiàn)產(chǎn)業(yè)化落地和應(yīng)用領(lǐng)域有很多，主要集中在邊緣端產(chǎn)品，如助聽器、車載電子和AR眼鏡等。目前公司也在開發(fā)面向云端計(jì)算的存算一體芯片技術(shù)和產(chǎn)品。

參與論壇嘉賓合影

廣州智能科技發(fā)展有限公司總裁、廣州信息協(xié)會(huì)會(huì)長羅敏靜女士、中山大學(xué)李冠彬、以及長沙金維集成電路股份有限公司王錦山等專家認(rèn)為，存算一體技術(shù)在邊緣端的應(yīng)用具有著獨(dú)特的優(yōu)勢，同時(shí)端側(cè)產(chǎn)品具有更廣闊的市場。我們應(yīng)該讓消費(fèi)者認(rèn)識(shí)到存算一體技術(shù)的優(yōu)勢，從端側(cè)入手，與英偉達(dá)等高性能GPU、NPU錯(cuò)位競爭，小算力場景更需要低功耗和高隱私性的芯片產(chǎn)品。  

在存算一體技術(shù)能否助力國產(chǎn)芯片實(shí)現(xiàn)換道超車這一話題上，清華大學(xué)李學(xué)清指出，存算一體還是一個(gè)比較新的技術(shù)，國內(nèi)外基本上都處在同一起點(diǎn)上，具有非常大的潛力去趕超國外一流水平。與此同時(shí)，存算一體技術(shù)是與計(jì)算機(jī)和芯片等領(lǐng)域其他很多技術(shù)緊密耦合在一起的，對我們來說也是一個(gè)巨大的挑戰(zhàn)。

參與論壇的每位嘉賓都對本次論壇議題發(fā)表了各自的看法，論壇思辨現(xiàn)場討論熱烈。

此次論壇歷時(shí)近四個(gè)小時(shí)，論壇執(zhí)行主席、廣州大學(xué)電子與通信工程學(xué)院副院長曾衍瀚對此次論壇進(jìn)行了總結(jié)并再次對與會(huì)嘉賓表示感謝。此次論壇圍繞存算一體芯片的發(fā)展現(xiàn)狀、技術(shù)趨勢、未來路徑等問題進(jìn)行了深入思辨。最后，論壇在一片熱烈的討論氛圍中圓滿結(jié)束。

通訊員/姚恩義 曾衍瀚

責(zé)任編輯/劉秀