灣區(qū)時(shí)訊 8月26日上午，CCF YOCSEF成都“數(shù)據(jù)流通隱私保護(hù)關(guān)鍵技術(shù)”論壇在成都IFS國(guó)際金融中心2號(hào)辦公樓43樓百度公司會(huì)議室順利舉辦。論壇由中國(guó)計(jì)算機(jī)學(xué)會(huì)主辦，CCF YOCSEF成都學(xué)術(shù)委員會(huì)、百度飛槳協(xié)辦。論壇由YOCSEF成都AC委員張曉均(西南石油大學(xué))和楊彥兵(四川大學(xué))擔(dān)任論壇執(zhí)行主席，YOCSEF成都AC委員李海(愛(ài)奇藝)和劉昶(成都大學(xué))擔(dān)任線上主席。來(lái)自西安電子科技大學(xué)、四川大學(xué)、電子科技大學(xué)、西南交通大學(xué)、西南財(cái)經(jīng)大學(xué)、青島大學(xué)、西南石油大學(xué)、成都理工大學(xué)、四川師范大學(xué)、西南民族大學(xué)、西華大學(xué)、成都大學(xué)等省內(nèi)外高校研究學(xué)者，還有來(lái)自四川大學(xué)華西醫(yī)院、四川省人民醫(yī)院、四川省公安廳、中電科30所、電科網(wǎng)安、中國(guó)國(guó)航、四川久遠(yuǎn)銀海軟件股份有限公司、雅安數(shù)字經(jīng)濟(jì)運(yùn)營(yíng)有限公司等單位的行業(yè)專(zhuān)家，以及來(lái)自CCF YOCSEF總部、西安、鄭州、青島、重慶、成都等論壇的AC委員們共計(jì)50余人參加了本次論壇。

近年來(lái)，隨著數(shù)字經(jīng)濟(jì)的飛速發(fā)展，數(shù)據(jù)已成為繼土地、勞動(dòng)力、資本、技術(shù)之后的第五大生產(chǎn)要素。尤其是在2022年12月國(guó)務(wù)院公開(kāi)發(fā)布《數(shù)據(jù)二十條》后，針對(duì)數(shù)據(jù)確權(quán)、安全流通、定價(jià)交易等關(guān)鍵環(huán)節(jié)和支撐技術(shù)的研討越來(lái)越多。在此背景下，CCF YOCSEF總部統(tǒng)籌策劃了“數(shù)據(jù)要素可信跨域流通關(guān)鍵技術(shù)”系列技術(shù)論壇，并由CCF YOCSEF總部AC委員蓋珂珂（北京理工大學(xué)）和范舉（中國(guó)人民大學(xué)）擔(dān)任系列論壇執(zhí)行主席。本次“數(shù)據(jù)流通隱私保護(hù)關(guān)鍵技術(shù)”技術(shù)論壇為“數(shù)據(jù)要素可信跨域流通關(guān)鍵技術(shù)”系列論壇的成都站，重點(diǎn)關(guān)注數(shù)據(jù)流通過(guò)程中隱私保護(hù)技術(shù)；聚焦醫(yī)療數(shù)據(jù)流通場(chǎng)景，思辨隱私保護(hù)的實(shí)用化技術(shù)；針對(duì)生成式大模型等新興技術(shù)對(duì)醫(yī)療數(shù)據(jù)流通隱私保護(hù)的挑戰(zhàn)，探討可能的應(yīng)對(duì)方案，為探索更好的數(shù)據(jù)流通隱私保護(hù)技術(shù)提供潛在智力支撐，特別是為醫(yī)療行業(yè)數(shù)據(jù)可信流通提供新的思路。

論壇開(kāi)場(chǎng)環(huán)節(jié)，CCF YOSCEF主席高志鵬（北京郵電大學(xué)）簡(jiǎn)要介紹了CCF YOCSEF的成立背景、目標(biāo)宗旨和發(fā)展情況。隨后，系列論壇執(zhí)行主席、CCF YOCSEF總部AC委員蓋珂珂介紹了“數(shù)據(jù)要素可信跨域流通關(guān)鍵技術(shù)”系列技術(shù)論壇的背景及前序論壇的基本情況，分享了系列論壇的總體規(guī)劃。最后，本次分論壇執(zhí)行主席、CCF YOCSEF成都AC委員張曉均介紹了“數(shù)據(jù)流通隱私保護(hù)關(guān)鍵技術(shù)”技術(shù)論壇的基本情況和論壇議程。

引導(dǎo)發(fā)言首先是西安電子科技大學(xué)苗銀賓的《數(shù)據(jù)流通隱私攻擊與防御》。銀賓深入淺出地闡述了數(shù)據(jù)流通的必要性和帶來(lái)的隱私問(wèn)題，詳細(xì)介紹了數(shù)據(jù)采集、傳輸流通、價(jià)值釋放和數(shù)據(jù)銷(xiāo)毀等數(shù)據(jù)全生命周期各個(gè)環(huán)節(jié)可能存在的隱私泄露與被攻擊問(wèn)題，并分享了基于分布式霧計(jì)算的隱私保護(hù)的傳感器壓縮數(shù)據(jù)去重方案、支持模型壓縮千倍以上的低通信聯(lián)邦學(xué)習(xí)框架和可驗(yàn)證的異步聯(lián)邦學(xué)習(xí)算法等技術(shù)，為數(shù)據(jù)流通中隱私防御與保護(hù)提供可能的解決方案。

第二個(gè)引導(dǎo)發(fā)言來(lái)自四川省人民醫(yī)院吳行偉的《醫(yī)療行業(yè)多類(lèi)型數(shù)據(jù)流通與隱私保護(hù)思考》。行偉介紹了醫(yī)療場(chǎng)景中的數(shù)據(jù)流通環(huán)節(jié)、醫(yī)療數(shù)據(jù)類(lèi)型及其存在形態(tài)，介紹了醫(yī)療數(shù)據(jù)流通管理現(xiàn)狀。他指出管理部門(mén)需制定合理規(guī)則、明確隱私界限以及隱私保護(hù)等級(jí)；另一方面更需要加快隱私保護(hù)技術(shù)突破，構(gòu)建良好醫(yī)療數(shù)據(jù)流通生態(tài)，形成多學(xué)科交叉領(lǐng)域合作，以期更好地利用海量醫(yī)療數(shù)據(jù)、充分釋放醫(yī)療數(shù)據(jù)的價(jià)值，造福社會(huì)。

第三個(gè)引導(dǎo)發(fā)言來(lái)自四川大學(xué)雷文強(qiáng)的《大模型與隱私計(jì)算》。文強(qiáng)指出由于大模型的訓(xùn)練需要海量數(shù)據(jù)，而數(shù)據(jù)中可能包含隱私數(shù)據(jù)，因此大數(shù)據(jù)的脫敏是很具挑戰(zhàn)性的問(wèn)題；其次，生成式大模型產(chǎn)生的內(nèi)容具有不確定性，導(dǎo)致其生成的結(jié)果中也可能包含隱私數(shù)據(jù)，從而引發(fā)隱私泄露的問(wèn)題。最后文強(qiáng)提出，如何讓大模型學(xué)會(huì)遺忘隱私數(shù)據(jù)，如何對(duì)可能涉及隱私的知識(shí)進(jìn)行定位和修改，是數(shù)據(jù)隱私計(jì)算、大模型等領(lǐng)域的研究者需要共同思考的問(wèn)題。

在本次技術(shù)論壇的思辨環(huán)節(jié)，與會(huì)嘉賓和與會(huì)人員圍繞數(shù)據(jù)流通隱私保護(hù)關(guān)鍵技術(shù)，針對(duì)三個(gè)思辨議題展開(kāi)激烈的討論和思辨。

思辨議題1：數(shù)據(jù)流通中，隱私攻擊的主要類(lèi)型有哪些？

電子科技大學(xué)張?jiān)凑J(rèn)為，針對(duì)數(shù)據(jù)隱私的攻擊，不僅會(huì)侵害個(gè)人的利益，也可能對(duì)群體造成傷害；攻擊者可能不直接竊取內(nèi)容，但會(huì)從數(shù)據(jù)的使用頻次中推測(cè)出數(shù)據(jù)本身的隱私，從而造成數(shù)據(jù)隱私內(nèi)容泄露。來(lái)自西華大學(xué)的曾晟珂指出，雖然現(xiàn)在的密碼技術(shù)可以對(duì)用戶(hù)隱私形成一定的保護(hù)，但是數(shù)據(jù)在流動(dòng)過(guò)程中，由于密鑰分發(fā)，多方使用不對(duì)稱(chēng)數(shù)據(jù)，攻擊者依然可能通過(guò)多維數(shù)據(jù)關(guān)聯(lián)等方式竊取數(shù)據(jù)隱私。四川省公安廳唐堯提出，在特定的時(shí)間點(diǎn)或者事件下，無(wú)意泄露的中性信息也可能造成某一群體數(shù)據(jù)的隱私泄露，此外還存在終端攻擊以及側(cè)信道攻擊方式。

思辨議題2：醫(yī)療數(shù)據(jù)流通的隱私保護(hù)實(shí)用化技術(shù)是什么？

四川大學(xué)華西醫(yī)院殷晉指出醫(yī)療數(shù)據(jù)隱私保護(hù)技術(shù)要在醫(yī)療場(chǎng)景落地，不僅需要關(guān)注隱私保護(hù)效果，也需要考慮其實(shí)用性，除了要考慮患者的隱私，還要考慮醫(yī)生以及醫(yī)療機(jī)構(gòu)的隱私。電子科技大學(xué)丁熠認(rèn)為，從技術(shù)上來(lái)說(shuō)，現(xiàn)有的醫(yī)療數(shù)據(jù)的隱私保護(hù)技術(shù)都不是很實(shí)用，并且隱私保護(hù)加密會(huì)極大增加數(shù)據(jù)使用難度，當(dāng)下最為實(shí)用的醫(yī)療數(shù)據(jù)隱私保護(hù)可能是管理部門(mén)制定的合理數(shù)據(jù)使用規(guī)則。青島大學(xué)張翰林指出，醫(yī)療數(shù)據(jù)隱私對(duì)個(gè)體和群體是不一樣的，并且現(xiàn)有數(shù)據(jù)加密隱私保護(hù)的相對(duì)低效，并不影響數(shù)據(jù)的使用和分析。翰林提出同態(tài)加密訓(xùn)練對(duì)小規(guī)模密文訓(xùn)練有效，并且計(jì)算時(shí)間開(kāi)銷(xiāo)是線性增長(zhǎng)的，因此可能應(yīng)用于醫(yī)療數(shù)據(jù)流通場(chǎng)景的數(shù)據(jù)隱私保護(hù)。中電科30所張經(jīng)緯提出，針對(duì)電子病歷、影像數(shù)據(jù)等不同類(lèi)型的數(shù)據(jù)，可以采用差異化脫敏技術(shù)和數(shù)據(jù)清洗技術(shù)，對(duì)數(shù)據(jù)先進(jìn)行初步加工，然后再進(jìn)行隱私保護(hù)。四川大學(xué)李貝貝認(rèn)為需要對(duì)數(shù)據(jù)隱私做分類(lèi)分級(jí)分時(shí)保護(hù)：可以先提取出數(shù)據(jù)的特征，再將特征進(jìn)行加密來(lái)降低隱私保護(hù)開(kāi)銷(xiāo)。河南大學(xué)張磊提出實(shí)用化的隱私保護(hù)技術(shù)應(yīng)能防止關(guān)聯(lián)隱私攻擊，在相對(duì)封閉的場(chǎng)景下通過(guò)沙盒技術(shù)來(lái)使用數(shù)據(jù)，在使用后還需安全銷(xiāo)毀數(shù)據(jù)。

思辨議題3：生成式大模型將給醫(yī)療數(shù)據(jù)流通隱私保護(hù)帶來(lái)哪些新的挑戰(zhàn)，未來(lái)怎么應(yīng)對(duì)?

四川大學(xué)張意認(rèn)為生成式大模型可能反演出訓(xùn)練數(shù)據(jù)并且生成偽醫(yī)療記錄，可能會(huì)對(duì)常規(guī)的隱私保護(hù)規(guī)定和技術(shù)造成未知風(fēng)險(xiǎn)，提出同態(tài)加密、分布式本地參數(shù)訓(xùn)練或許是可能的應(yīng)對(duì)手段。四川大學(xué)華西醫(yī)院陳斌提出針對(duì)大模型的隱私保護(hù)技術(shù)需要合理的規(guī)劃醫(yī)療數(shù)據(jù)使用規(guī)范，也要進(jìn)一步讓從業(yè)者充分認(rèn)識(shí)和理解大模型。中央新影數(shù)字傳媒公司嚴(yán)怡惠認(rèn)為，在生成式大模型威脅下，當(dāng)下很難有好的數(shù)據(jù)隱私保護(hù)方法，但可以采用數(shù)據(jù)脫敏、聯(lián)邦學(xué)習(xí)數(shù)據(jù)訓(xùn)練方法，盡量減小數(shù)據(jù)被關(guān)聯(lián)的可能性。西華大學(xué)陳曉亮認(rèn)為，大模型一方面可能帶來(lái)隱私風(fēng)險(xiǎn)，但也可以用于隱私保護(hù)，例如可以對(duì)要流通的數(shù)據(jù)進(jìn)行大模型加工，從而實(shí)現(xiàn)對(duì)源數(shù)據(jù)的隱私保護(hù)。中國(guó)人民大學(xué)范舉則指出大模型生成的數(shù)據(jù)本質(zhì)上是需要符合原始數(shù)據(jù)的概率分布，生成的數(shù)據(jù)可能還是會(huì)體現(xiàn)源數(shù)據(jù)的特點(diǎn)，是否真的能保護(hù)源數(shù)據(jù)隱私。來(lái)自成都大學(xué)的苗放指出數(shù)據(jù)隱私保護(hù)是個(gè)復(fù)雜的問(wèn)題，但也是數(shù)據(jù)流通的基礎(chǔ)問(wèn)題，可以根據(jù)數(shù)據(jù)的本身屬性和業(yè)務(wù)屬性進(jìn)行必要?jiǎng)澐?，從而讓大模型等技術(shù)也只能學(xué)到數(shù)據(jù)特性，但是不能反演業(yè)務(wù)數(shù)據(jù)，從而實(shí)現(xiàn)不同層級(jí)的隱私保護(hù)。

思辨環(huán)節(jié)輸出以下結(jié)論：

1. 數(shù)據(jù)流通中隱私攻擊的主要類(lèi)型：針對(duì)數(shù)據(jù)本身的隱私攻擊是數(shù)據(jù)流通過(guò)程中主要的隱私攻擊類(lèi)型。此外，利用數(shù)據(jù)訓(xùn)練得到的模型及其模型參數(shù)的泄露，也會(huì)反推數(shù)據(jù)隱私的特性，因此模型隱私攻擊也是一種可能的隱私攻擊方式。當(dāng)然針對(duì)數(shù)據(jù)流通中，也會(huì)存在部分?jǐn)?shù)據(jù)隱私攻擊與部分模型隱私攻擊相結(jié)合，推測(cè)出全部數(shù)據(jù)和完整模型的增強(qiáng)型隱私攻擊類(lèi)型。

2. 醫(yī)療數(shù)據(jù)流通的隱私保護(hù)實(shí)用化技術(shù)：將醫(yī)療數(shù)據(jù)做分類(lèi)分級(jí)分時(shí)預(yù)處理，提取醫(yī)療數(shù)據(jù)的特征，再將特征進(jìn)行加密來(lái)降低流通中的隱私保護(hù)開(kāi)銷(xiāo)；采用同態(tài)加密等技術(shù)實(shí)現(xiàn)對(duì)密態(tài)數(shù)據(jù)計(jì)算與分析；針對(duì)電子病歷、醫(yī)學(xué)影像數(shù)據(jù)等不同類(lèi)型的數(shù)據(jù)，可以采用差異化脫敏技術(shù)和數(shù)據(jù)清洗技術(shù)實(shí)現(xiàn)數(shù)據(jù)的加工與處理，促進(jìn)隱私保護(hù)流通；在相對(duì)封閉的場(chǎng)景下，可以通過(guò)沙盒技術(shù)來(lái)使用數(shù)據(jù)，在使用后還需安全銷(xiāo)毀數(shù)據(jù)。

3. 應(yīng)對(duì)生成式大模型給醫(yī)療數(shù)據(jù)流通隱私保護(hù)帶來(lái)挑戰(zhàn)的策略：合理規(guī)劃醫(yī)療數(shù)據(jù)使用規(guī)范，讓從業(yè)者充分認(rèn)識(shí)和理解大模型；根據(jù)數(shù)據(jù)的本身屬性和業(yè)務(wù)屬性進(jìn)行劃分，讓大模型等技術(shù)只能獲取數(shù)據(jù)特性，而不能反演業(yè)務(wù)數(shù)據(jù)；采用數(shù)據(jù)脫敏、聯(lián)邦學(xué)習(xí)數(shù)據(jù)訓(xùn)練方法，減小數(shù)據(jù)被關(guān)聯(lián)的可能性。

最后，兩位執(zhí)行主席為思辨引導(dǎo)嘉賓頒發(fā)了感謝牌。CCF YOCSEF成都現(xiàn)任主席牛憲華進(jìn)行了論壇總結(jié)發(fā)言，并預(yù)告了YOCSEF成都的下一次活動(dòng)—將于2023年9月23日舉辦的《開(kāi)源生態(tài)下的超算軟件技術(shù)的發(fā)展之路》技術(shù)論壇。

通訊員/牛憲華

編輯/劉秀