YOCSEF廣州舉辦大灣區(qū)IT創(chuàng)新論壇

灣區(qū)時訊 存算一體是一種革新性的計算范式，與以往的馮諾依曼架構相比，其打破了由于計算單元與存儲單元過于獨立而導致的“存儲墻”，能夠達到用更低功耗實現(xiàn)更高算力的效果。因此存算一體技術也成為近年來計算機體系結構和集成電路芯片設計領域最熱門的方向之一。在產(chǎn)業(yè)界，科技巨頭紛紛布局存算一體，國內(nèi)相繼也有近十幾家初創(chuàng)公司押注該架構。針對存算一體芯片熱潮，中國計算機學會（CCF）青年計算機科技論壇（YOCSEF）廣州分論壇學術委員會于2024年4月6日，在華南理工大學廣州國際校區(qū)，舉辦了YOCSEF大灣區(qū)IT創(chuàng)新論壇——“存算一體能否顛覆經(jīng)典馮諾依曼架構？”觀點論壇，共論存算芯片發(fā)展的未來之路。

此次論壇由CCF主辦，YOCSEF廣州學術委員會承辦，YOCSEF廣州AC委員姚恩義（華南理工大學）和曾衍瀚（廣州大學）共同擔任執(zhí)行主席，廣州唐邦信息科技有限公司提供贊助支持。論壇邀請了清華大學電子工程系李學清副教授、中山大學計算機學院沈明華副教授、香港科技大學（廣州）微電子學域姜泓吾助理教授作為引導發(fā)言嘉賓，華南師范大學電子與信息工程學院王德明教授、深圳市九天睿芯科技有限公司創(chuàng)始人, 董事長兼CEO劉洪杰博士、華南理工大學微電子學院楊斯媚副教授作為思辨嘉賓。

YOCSEF廣州往屆主席黃棟（華南農(nóng)業(yè)大學），YOCSEF廣州現(xiàn)任主席龍錦益（暨南大學），候任主席李冠彬（中山大學），現(xiàn)/候任副主席劉同來（仲愷農(nóng)業(yè)工程學院）、黃培濤（唐邦信息科技），YOCSEF哈爾濱候任副主席張曉光（黑龍江大學），YOCSEF廣州候任AC委員陳俊穎（華南理工大學）、陳炳豐（廣東工業(yè)大學）以及來自廣東地區(qū)多所高校及企事業(yè)單位共40多人參加討論與思辨。

在論壇開幕環(huán)節(jié)，首先由本次論壇執(zhí)行主席姚恩義逐一介紹與會嘉賓，再由YOCSEF廣州主席龍錦益介紹YOCSEF文化內(nèi)涵。龍錦益對YOCSEF的含義、理念、分論壇以及YOCSEF廣州的特色文化等內(nèi)容作了介紹。

論壇執(zhí)行主席姚恩義介紹論壇背景

YOCSEF廣州主席龍錦益對YOCSEF文化做簡要介紹

在引導報告環(huán)節(jié)，首先由清華大學李學清副教授以“Cramming More Weight Data Onto Compute-in-Memory Macros for High Task-Level Energy Efficiency Using Custom Hybrid ROM-SRAM Integration”為題，講解了高性能存算一體芯片的設計方法和未來展望。報告提出將ROM引入到存算一體電路中，并通過將ROM和SRAM協(xié)同配合，將大容量big-ROM和小容量small-SRAM壓縮，更進一步提出了hidden-ROM，實現(xiàn)更好的存儲密度，計算效率，支持更高的復雜度。

清華大學電子工程系李學清副教授做引導發(fā)言報告

中山大學沈明華副教授以“深度學習的圖與張量計算”為題，針對模型復雜度、算力需求、安全方面的挑戰(zhàn)，重點介紹了團隊在圖計算、張量計算和安全訪存方面的研究成果，如基于圖屬性緩存的編譯器，基于圖核融合和快速篩的運行時系統(tǒng)和相應的硬件加速器，提出了張量編譯框架，支持不同類型的張量計算和空間架構加速器，局部性感知的標簽分配等前沿技術。

中山大學計算機學院沈明華副教授做引導發(fā)言報告

香港科技大學（廣州）姜泓吾助理教授以“High-Efficiency Data Conversion in Compute-in-Memory Design”為題，介紹了存算一體芯片的基本原理，包括存儲單元，網(wǎng)絡映射、硬件架構，分析了存算一體芯片中ADC/DAC的挑戰(zhàn)，提出了網(wǎng)絡硬件協(xié)同設計，offset-aware training等技術路線，并分析了ADC的測試結果，報告最后分享了其對存算一體技術，特別是在大模型應用下發(fā)展趨勢的看法。

香港科技大學（廣州）微電子學域姜泓吾助理教授做引導發(fā)言報告

論壇為引導發(fā)言嘉賓頒發(fā)感謝狀

在引導報告之后，論壇進入思辨環(huán)節(jié)。與會嘉賓圍繞“相比于經(jīng)典馮諾依曼架構，存算一體技術最顯著的優(yōu)勢在什么地方？”、“目前針對存算一體架構的實現(xiàn)路徑有很多，存算一體技術未來的發(fā)展趨勢是什么？”以及“存算一體的產(chǎn)業(yè)落地如何破局？”等議題展開觀點思辯，論壇邀請了華南師范大學王德明教授、深圳市九天睿芯科技有限公司劉洪杰博士、華南理工大學楊斯媚副教授擔任思辨特邀嘉賓。

論壇執(zhí)行主席曾衍瀚主持思辨議題

嘉賓思辨討論發(fā)言

議題1：相比于經(jīng)典馮諾依曼架構，存算一體技術最顯著的優(yōu)勢在什么地方?

衍生議題1.1：存算一體技術發(fā)展的瓶頸在哪里？

針對此議題，與會專家普遍認為，存算一體技術最終解決的就是計算過程中的存儲墻問題，其顯著優(yōu)勢在于提高計算速度，降低系統(tǒng)功耗。華南師范大學王德明分享了研究團隊在微控制器領域研究和開發(fā)的經(jīng)驗。在傳統(tǒng)架構中計算和存儲是分開的，數(shù)據(jù)需要反復在MCU、射頻收發(fā)和安全加密模塊之間遷移，能耗和時延很難取得突破。而采用了片上集成的近存設計技術，在速度上有了明顯的提高，同時功耗也成倍下降。

針對存算一體技術發(fā)展的瓶頸問題，中山大學沈明華和香港科技大學（廣州）姜泓吾同時指出，存算一體芯片目前面臨著生態(tài)欠缺的問題，也沒有較為好用的編譯器，在大規(guī)模應用過程中依然無法避免數(shù)據(jù)通訊的問題，同時面臨著存儲一致性的問題，存算一體技術學術發(fā)展與實際應用還存在著較大的差距。清華大學李學清表示，基于SRAM的存算一體技術在性能上具有交大的優(yōu)勢，但是由于6T的基本結構，密度存在局限，存算一體在應用上的瓶頸要遠大于技術發(fā)展的瓶頸。

議題2：目前針對存算一體架構的實現(xiàn)路徑有很多，存算一體技術未來的發(fā)展趨勢是什么？

衍生議題2.1：存算一體是否可以有效支撐大模型發(fā)展對基礎算力的需求？

衍生議題2.2：存算一體是否具有顛覆當前計算芯片產(chǎn)業(yè)的潛力？

華南理工大學楊斯媚表示，目前可以基于多種不同的存儲器件實現(xiàn)存算一體芯片，不同器件的性能特點迥異，未來可以探索針對不同應用場景的最佳存儲器件類型及優(yōu)化理論。在系統(tǒng)架構上，存算一體芯片的發(fā)展應該是向著大規(guī)模和異構集成的方向，存算一體芯片的應用需要與CPU，甚至GPU通過異構集成的方式共同提供強大的算力輸出。在軟件生態(tài)方面，當前產(chǎn)業(yè)界已經(jīng)出現(xiàn)一些針對存算一體的編譯器和API，但是性能有待提升，還需要學術界和產(chǎn)業(yè)界的共同努力，加以完善。

針對人工智能領域目前最為火熱的大模型，YOCSEF廣州候任AC委員、華南理工大學陳俊穎認為存算一體是具備支撐大模型的算力需求的，一方面在于大模型對數(shù)據(jù)存儲的需求更為強大，另一方面存算一體技術本身所帶來的性能上的優(yōu)勢。YOCSEF廣州候任主席、中山大學李冠彬認為大模型并適合存算一體技術發(fā)揮優(yōu)勢，大模型已經(jīng)具有了自己的生態(tài)，存算一體難以取得優(yōu)勢。存算一體更適合做小模型，可以快速低耗進行計算，還可以保護數(shù)據(jù)隱私。

在存算一體是否具有顛覆當前計算芯片產(chǎn)業(yè)的潛力話題上，參與討論的大部分專家都認為存算一體技術在未來還是具備可挖掘的潛力和生長空間。但與此同時，當前智能計算芯片領域的各類芯片都有著自己獨特的應用場景，存算一體技術當前存在的市場、資金以及安全等難題都有待解決。存算一體技術需要與其他不同類型芯片配合使用，才能發(fā)揮巨大的性能優(yōu)勢。

議題3：存算一體的產(chǎn)業(yè)落地如何破局？

衍生議題3.1：存算一體技術能否助力國產(chǎn)芯片實現(xiàn)換道超車？

針對存算一體技術產(chǎn)業(yè)化落地與發(fā)展，深圳市九天睿芯科技有限公司劉洪杰表示，存算一體技術涉及到最底層的計算過程，完成基本的乘加運算，其通用性需要在系統(tǒng)架構上進行重新設計和優(yōu)化?，F(xiàn)階段初創(chuàng)公司很難做到自下到上整套流程的技術開發(fā)和產(chǎn)品推廣，僅能根據(jù)實際需求來針對特定場景進行專門設計。目前存算一體技術已經(jīng)實現(xiàn)產(chǎn)業(yè)化落地和應用領域有很多，主要集中在邊緣端產(chǎn)品，如助聽器、車載電子和AR眼鏡等。目前公司也在開發(fā)面向云端計算的存算一體芯片技術和產(chǎn)品。

參與論壇嘉賓合影

廣州智能科技發(fā)展有限公司總裁、廣州信息協(xié)會會長羅敏靜女士、中山大學李冠彬、以及長沙金維集成電路股份有限公司王錦山等專家認為，存算一體技術在邊緣端的應用具有著獨特的優(yōu)勢，同時端側產(chǎn)品具有更廣闊的市場。我們應該讓消費者認識到存算一體技術的優(yōu)勢，從端側入手，與英偉達等高性能GPU、NPU錯位競爭，小算力場景更需要低功耗和高隱私性的芯片產(chǎn)品。  

在存算一體技術能否助力國產(chǎn)芯片實現(xiàn)換道超車這一話題上，清華大學李學清指出，存算一體還是一個比較新的技術，國內(nèi)外基本上都處在同一起點上，具有非常大的潛力去趕超國外一流水平。與此同時，存算一體技術是與計算機和芯片等領域其他很多技術緊密耦合在一起的，對我們來說也是一個巨大的挑戰(zhàn)。

參與論壇的每位嘉賓都對本次論壇議題發(fā)表了各自的看法，論壇思辨現(xiàn)場討論熱烈。

此次論壇歷時近四個小時，論壇執(zhí)行主席、廣州大學電子與通信工程學院副院長曾衍瀚對此次論壇進行了總結并再次對與會嘉賓表示感謝。此次論壇圍繞存算一體芯片的發(fā)展現(xiàn)狀、技術趨勢、未來路徑等問題進行了深入思辨。最后，論壇在一片熱烈的討論氛圍中圓滿結束。

通訊員/姚恩義 曾衍瀚

責任編輯/劉秀