以標(biāo)識(shí)塑信，以責(zé)任護(hù)界

YOCSEF廣州舉辦“標(biāo)識(shí)機(jī)器創(chuàng)作：人工智能生成合成內(nèi)容的權(quán)與責(zé)”技術(shù)論壇

學(xué)者網(wǎng)訊（編輯/劉秀 通訊員/思羽）2025年3月，中央網(wǎng)信辦印發(fā)《人工智能生成合同內(nèi)容標(biāo)識(shí)方法》，明確要求對(duì)利用人工智能生成的文字、圖片、音視頻等內(nèi)容進(jìn)行顯著標(biāo)識(shí)，旨在提升公眾對(duì)人工智能生成合成內(nèi)容的辨識(shí)能力，強(qiáng)化合成信息的可追溯性與可識(shí)別性，從源頭守護(hù)國(guó)家安全與社會(huì)公共利益。為響應(yīng)人工智能內(nèi)容治理的全球趨勢(shì)，中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）青年計(jì)算機(jī)科技論壇（YOCSEF）廣州分論壇于2025年9月19日舉辦了“標(biāo)識(shí)機(jī)器創(chuàng)作：人工智能生成合成內(nèi)容的權(quán)與責(zé)”技術(shù)論壇，聚焦生成式AI內(nèi)容的版權(quán)確權(quán)與責(zé)任溯源，探索從技術(shù)標(biāo)識(shí)到權(quán)責(zé)認(rèn)定的實(shí)踐路徑，推動(dòng)生成式內(nèi)容在可信可控治理框架下有序發(fā)展。本次論壇由CCF主辦，YOCSEF廣州學(xué)術(shù)委員會(huì)組織，暨南大學(xué)、廣東外語外貿(mào)大學(xué)以及杭州安恒信息技術(shù)股份有限公司廣州分公司支持，由CCF YOCSEF廣州現(xiàn)任副主席姜思羽（廣東外語外貿(mào)大學(xué)）和CCF YOCSEF廣州AC委員夏志華（暨南大學(xué)）共同擔(dān)任執(zhí)行主席。

論壇邀請(qǐng)了復(fù)旦大學(xué)教授張新鵬、公安部鑒定中心副處長(zhǎng)康錦濤、華南農(nóng)業(yè)大學(xué)教授王春桃作為引導(dǎo)嘉賓，中山大學(xué)教授盧偉、奇安信科技集團(tuán)事業(yè)部總經(jīng)理姚磊、廣東外語外貿(mào)大學(xué)院長(zhǎng)王常吉作為特邀思辨嘉賓。廣東省計(jì)算機(jī)學(xué)會(huì)理事長(zhǎng)韓國(guó)強(qiáng)（華南理工大學(xué)）、黃治軍（粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室）、袁炯賢（廣東省網(wǎng)絡(luò)數(shù)據(jù)安全與個(gè)人信息保護(hù)協(xié)會(huì)）、YOCSEF廣州往屆主席黃棟（華南農(nóng)業(yè)大學(xué)）、優(yōu)秀AC委員劉雷（廣東科技報(bào)社），YOCSEF廣州現(xiàn)任主席蘇申（廣州大學(xué)），劉偉莉（廣東技術(shù)師范大學(xué)）、王幸濤（安恒信息）、李宇翔（頭歌平臺(tái)）等AC委員以及陽建華（廣東技術(shù)師范大學(xué)）等委員，YOCSEF 南京學(xué)術(shù)秘書臧天梓（南京航空航天大學(xué)），蔣盛益（廣東外語外貿(mào)大學(xué)），李佩雅（暨南大學(xué)），劉靜（廣州九盛電子有限公司），盧穎杰（華南理工大學(xué)智能算法研究中心），邊山（華南農(nóng)業(yè)大學(xué)）等來自多所高校及多家企業(yè)事業(yè)單位的代表共100多人參加本次論壇。

論壇首先由論壇執(zhí)行主席姜思羽介紹論壇背景等相關(guān)情況。廣東省計(jì)算機(jī)學(xué)會(huì)理事長(zhǎng)韓國(guó)強(qiáng)致辭發(fā)言。韓國(guó)強(qiáng)理事長(zhǎng)首先對(duì)參會(huì)嘉賓表示誠(chéng)摯歡迎，并介紹道，當(dāng)前正處于AI研發(fā)加速突破、網(wǎng)絡(luò)安全備受關(guān)注、科技創(chuàng)新引領(lǐng)發(fā)展的重要階段。在此背景下，他期待青年學(xué)者們圍繞“標(biāo)識(shí)機(jī)器創(chuàng)作：人工智能生成合成內(nèi)容的權(quán)與責(zé)” 展開深入交流，凝聚共識(shí)，啟發(fā)思路，并預(yù)祝本次論壇取得圓滿成功。

論壇執(zhí)行主席姜思羽介紹論壇背景等情況

韓國(guó)強(qiáng)理事長(zhǎng)致辭

由CCF YOCSEF廣州現(xiàn)任主席蘇申介紹YOCSEF的文化核心，他強(qiáng)調(diào)，YOCSEF 始終以 “思辨精神” 為底色，以“自由發(fā)言”和“平等交流”為核心原則，每位參會(huì)者都能自由表達(dá)見解，最后對(duì)支持單位表達(dá)了感謝。

復(fù)旦大學(xué)張新鵬教授以“從深度模型確權(quán)到AIGC溯源”為題作引導(dǎo)報(bào)告，針對(duì)“鑒偽”和“溯源”兩大核心問題，分享了應(yīng)對(duì)思路與技術(shù)方案，為 AIGC 內(nèi)容的全生命周期治理提供技術(shù)支撐。公安部鑒定中心副處長(zhǎng)康錦濤以“AI生成偽造語音鑒定的挑戰(zhàn)與方法”為題作引導(dǎo)報(bào)告，指出傳統(tǒng)語言鑒定面臨的挑戰(zhàn)，接著提出構(gòu)建數(shù)據(jù)基礎(chǔ)、使用新算法等新范式，同時(shí)，他也拋出了當(dāng)前行業(yè)亟待解決的關(guān)鍵疑問“如何建立動(dòng)態(tài)更新的數(shù)據(jù)集？如何訓(xùn)練出兼具通用性與針對(duì)性的鑒定模型？”這些問題為后續(xù)的技術(shù)研發(fā)與行業(yè)協(xié)作指明了需重點(diǎn)突破的方向。華南農(nóng)業(yè)大學(xué)王春桃教授以“面向溯源與鑒偽的潛在擴(kuò)散模型水印初探索”為題作引導(dǎo)報(bào)告，圍繞AIGC的“溯源”與“鑒偽”展開，介紹了后處理方法、開源場(chǎng)景模型權(quán)重微調(diào)、非開源場(chǎng)景模型適配器等方法。

張新鵬教授作引導(dǎo)報(bào)告

康錦濤副處長(zhǎng)作引導(dǎo)報(bào)告

王春桃教授作引導(dǎo)報(bào)告

頒發(fā)引導(dǎo)嘉賓感謝牌

在三位引導(dǎo)發(fā)言嘉賓作報(bào)告后，由論壇執(zhí)行主席姜思羽、夏志華主持論壇思辨環(huán)節(jié)。思辨嘉賓中山大學(xué)教授盧偉、奇安信科技集團(tuán)事業(yè)部總經(jīng)理姚磊、廣東外語外貿(mào)大學(xué)院長(zhǎng)王常吉圍繞“當(dāng)前給人工智能生成合成內(nèi)容做標(biāo)記的技術(shù)有哪些？目前如果要使用當(dāng)前技術(shù)來應(yīng)對(duì)攻擊/通過司法鑒定，還存在哪些不足”“人工智能標(biāo)記在現(xiàn)實(shí)應(yīng)用中可能面臨哪些技術(shù)攻擊手段？什么樣的標(biāo)記生成技術(shù)才能做到攻擊的容錯(cuò)性？”“人工智能生成合成內(nèi)容的標(biāo)記如果要通過司法鑒定，還需要哪些技術(shù)、法律的支撐？”三個(gè)議題展開了深入思辨，總結(jié)得到以下觀點(diǎn)。

思辨議題1: 當(dāng)前給人工智能生成合成內(nèi)容做標(biāo)記的技術(shù)有哪些？目前如果要使用當(dāng)前技術(shù)來應(yīng)對(duì)攻擊或通過司法鑒定，還存在哪些不足？

針對(duì)此議題，盧偉教授聚焦模型的結(jié)構(gòu)性保護(hù)，并著重探討了在模型訓(xùn)練過程中，如何對(duì)數(shù)據(jù)集水印進(jìn)行保護(hù)這一核心問題。數(shù)據(jù)集水印是人工智能生成合成內(nèi)容標(biāo)記技術(shù)的重要載體，其有效性直接關(guān)系到后續(xù)內(nèi)容溯源、權(quán)屬認(rèn)定的準(zhǔn)確性，若能在模型訓(xùn)練階段就建立起對(duì)數(shù)據(jù)集水印的保護(hù)機(jī)制，可以提升水印對(duì)抗惡意攻擊的能力。陽建華副教授指出，人工智能生成合成內(nèi)容相關(guān)技術(shù)以數(shù)據(jù)驅(qū)動(dòng)為核心，依賴于數(shù)據(jù)庫(kù)，基于這一特性，他進(jìn)一步提出疑問，在涉及此類技術(shù)的司法鑒定場(chǎng)景中，如何確定模型在不同數(shù)據(jù)場(chǎng)景下具備可靠性。康錦濤副處長(zhǎng)針對(duì)這一疑問給出如下回答，他指出在當(dāng)前的實(shí)踐中，檢驗(yàn)人員會(huì)將輸出結(jié)果中固有的不確定性轉(zhuǎn)換為確定性結(jié)果，他認(rèn)為這樣操作存在較大風(fēng)險(xiǎn)，可能會(huì)存在主觀因素，導(dǎo)致司法判斷偏離技術(shù)客觀實(shí)際。因此，他提出優(yōu)化方向，未來在司法場(chǎng)景應(yīng)用模型結(jié)果時(shí)，不應(yīng)該只傳遞確定性結(jié)論，而應(yīng)將模型結(jié)果本身的不確定性同步傳遞給法院，為司法決策提供更全面、客觀的技術(shù)參考依據(jù)。此外，還有其他嘉賓補(bǔ)充了模型可解釋性的突出問題，即模型在得出結(jié)論的過程、依賴的關(guān)鍵特征難以清晰地拆解和說明，這一問題會(huì)進(jìn)一步影響司法等場(chǎng)景中對(duì)模型結(jié)果的信任度和采信度，是后續(xù)技術(shù)優(yōu)化的重要方向之一。

思辨議題2: 人工智能標(biāo)記在現(xiàn)實(shí)應(yīng)用中可能面臨哪些技術(shù)攻擊手段？什么樣的標(biāo)記生成技術(shù)才能做到攻擊的容錯(cuò)性？

姚磊結(jié)合數(shù)據(jù)安全從業(yè)經(jīng)驗(yàn)，明確指出當(dāng)前標(biāo)識(shí)技術(shù)的關(guān)鍵痛點(diǎn)，顯性/隱性標(biāo)識(shí)均面臨“去除攻擊”風(fēng)險(xiǎn)，且商業(yè)市場(chǎng)水印產(chǎn)品應(yīng)用有限。此外，他還探討了“生成后加標(biāo)識(shí)”與“生成時(shí)同步加標(biāo)識(shí)”的技術(shù)可行性差異，以及大模型、數(shù)據(jù)、檢測(cè)程序備案對(duì)鑒定精準(zhǔn)度的影響，為技術(shù)落地難題提供了實(shí)踐視角。有嘉賓認(rèn)為，在涉及人工智能標(biāo)記的司法鑒定場(chǎng)景中，可以對(duì)整個(gè)鑒定過程（涵蓋所用數(shù)據(jù)、采用的模型及操作環(huán)節(jié)等關(guān)鍵要素）進(jìn)行全面?zhèn)浒浮浒傅倪^程信息也可降低攻擊對(duì)鑒定結(jié)果準(zhǔn)確性的干擾，從流程層面為標(biāo)記技術(shù)的攻擊容錯(cuò)性提供補(bǔ)充保障。同時(shí)，也有嘉賓針對(duì)“全流程備案”的建議提出疑問，聚焦其實(shí)施的可行性，一方面需考量技術(shù)落地問題，如大量備案數(shù)據(jù)的存儲(chǔ)安全性、調(diào)取便捷性，以及如何避免備案信息自身被篡改；另一方面需關(guān)注實(shí)踐適配性，如不同鑒定場(chǎng)景的技術(shù)標(biāo)準(zhǔn)差異是否會(huì)影響備案流程的統(tǒng)一性，且備案操作是否會(huì)額外增加鑒定成本、延長(zhǎng)鑒定周期，這些均需結(jié)合實(shí)際場(chǎng)景進(jìn)一步驗(yàn)證。

思辨議題3: 人工智能生成合成內(nèi)容的標(biāo)記如果要通過司法鑒定，還需要哪些技術(shù)/法律的支撐？

有嘉賓認(rèn)為，在技術(shù)層面需要優(yōu)先解決標(biāo)記自身的安全性與可靠性問題，當(dāng)前AIGC處于初級(jí)發(fā)展階段且未來變數(shù)大，標(biāo)記易被篡改、偽造，因此需研發(fā)能鑒定標(biāo)記真實(shí)性的技術(shù)，避免因標(biāo)記安全無保障加劇責(zé)任界定混亂，需適配AIGC技術(shù)的動(dòng)態(tài)發(fā)展，避免因技術(shù)迭代導(dǎo)致現(xiàn)有標(biāo)記檢測(cè)、溯源技術(shù)失效。法律層面，首先需明確責(zé)任劃分細(xì)則，即便有標(biāo)記，仍需法律明確AIGC內(nèi)容引發(fā)不良后果時(shí)，內(nèi)容產(chǎn)生方、平臺(tái)與用戶自身的責(zé)任邊界，避免責(zé)任歸屬模糊。還有嘉賓認(rèn)為，在技術(shù)上要結(jié)合具體場(chǎng)景設(shè)計(jì)，避免單一技術(shù)依賴，通過在司法判定關(guān)鍵節(jié)點(diǎn)布設(shè)多技術(shù)、串聯(lián)各證據(jù)聯(lián)合提升可信度，并借鑒密碼學(xué)思路增強(qiáng)隱性標(biāo)識(shí)抗破解能力，應(yīng)對(duì)非法生成無標(biāo)識(shí)有害內(nèi)容的情況。

思辨現(xiàn)場(chǎng)熱烈討論

頒發(fā)思辨特邀嘉賓感謝牌

最后，YOCSEF 廣州往屆主席黃棟對(duì)論壇進(jìn)行總結(jié)。以標(biāo)識(shí)塑信，是技術(shù)共識(shí)；以責(zé)任護(hù)界，是制度方向。本次論壇針對(duì)人工智能生成合成內(nèi)容標(biāo)記的技術(shù)、法律、司法鑒定等核心議題展開深度交流，凝聚多方智慧形成系列共識(shí)。

與會(huì)嘉賓合影留念

未來，期待在專家學(xué)者的協(xié)同推動(dòng)下，深化權(quán)責(zé)歸屬問題探討，強(qiáng)化行業(yè)引領(lǐng)作用，為人工智能技術(shù)在內(nèi)容安全場(chǎng)景下的可信應(yīng)用發(fā)展提供清晰指引。（完）