日前，實驗室博士生趙雯欣作為第一作者的論文“YouthCare: Building a Personalized Collaborative Video Censorship Tool to Support Parent-Child Joint Media Engagement”被 CCF A類會議The ACM CHI Conference on Human Factors in Computing Systems (CHI) 會議錄用。該論文是復旦計算機學院與社會發(fā)展與公共政策學院社會工作學系跨學科研究團隊AI4SS（AI for Social Science）的最新研究成果。

該研究通過多模態(tài)大模型（MLLMs）與社會科學理論的深度融合，構(gòu)建了面向親子數(shù)字生態(tài)的智能協(xié)作系統(tǒng)。研究以發(fā)展心理學中的父母調(diào)節(jié)理論（Parental Mediation Theory）為認知基礎(chǔ)，采用以人為中心的參與式設(shè)計方法，開發(fā)出面向親子場景的YouthCare智能協(xié)作系統(tǒng)。具體來說，論文探討了在線視頻對青少年的潛在負面影響，并深入分析了家長與青少年在親子聯(lián)合媒體參與（Parent-Child Joint Media Engagement, JME）過程中的需求與挑戰(zhàn)。針對于現(xiàn)有親子聯(lián)合媒體參與機制高度依賴家長的時間、知識和經(jīng)驗等問題，論文設(shè)計了一種個性化協(xié)作視頻審核系統(tǒng)YouthCare，充分利用多模態(tài)大模型的強大能力，結(jié)合視頻內(nèi)容解析和自然語言處理，旨在幫助家長與青少年高效過濾不適宜內(nèi)容并選擇適宜內(nèi)容。該系統(tǒng)可延伸至家庭數(shù)字教養(yǎng)實踐、青少年網(wǎng)絡(luò)保護等社會科學應(yīng)用場景，為AI技術(shù)賦能人文社科研究提供了可擴展的跨學科范式。

會議簡介

ACM CHI 2025 (The ACM Conference on Human Factors in Computing Systems)是國際公認的人機交互頂級學術(shù)會議，其在學術(shù)界和工業(yè)界享有極高聲譽，是中國計算機學會推薦的A類國際學術(shù)會議。與其它計算機科學會議相比，CHI規(guī)模龐大，更加注重人與技術(shù)之間的互動、探索創(chuàng)新的交互方式、新興技術(shù)在真實世界的應(yīng)用、以及技術(shù)使用中的社會影響與倫理因素。今年CHI2025會議錄用結(jié)果公布，本次會議共收到5014份完整投稿，最終錄用1249篇，錄用率為24.9%。該會議計劃于2025年4月26日至5月1日在日本橫濱召開。

論文簡介

YouthCare：支持父母和孩子聯(lián)合媒體參與的個性化協(xié)作視頻審查系統(tǒng)

論文鏈接：https://arxiv.org/abs/2503.02151

隨著數(shù)字時代的進步，越來越多的青少年開始頻繁使用互聯(lián)網(wǎng)。目前，全球互聯(lián)網(wǎng)用戶中約三分之一是青少年，在英國、加拿大等國家，12-14歲青少年使用互聯(lián)網(wǎng)的比例超過了95%，在美國超過96% 。近五年來，中國青少年網(wǎng)民的規(guī)模從1.69億增長到1.93億，青少年互聯(lián)網(wǎng)普及率從93.7%增長到97.2%，其中小學生互聯(lián)網(wǎng)普及率都已達到95.1%。在這種背景下，視頻平臺因其豐富的資源內(nèi)容而深受青少年的喜愛，成為青少年在線學習和娛樂主要平臺。然而，現(xiàn)有的視頻平臺往往缺乏針對青少年的設(shè)計考慮，平臺內(nèi)容與該年齡群體的特征存在顯著不匹配。因此，青少年經(jīng)常接觸到不健康或不適宜的視頻內(nèi)容，如暴力、色情和犯罪，這嚴重影響了他們的在線體驗，甚至對身心健康造成影響。根據(jù)皮亞杰的認知發(fā)展理論，青少年，特別是處于具體運算階段（7-11歲）和形式運算階段（11歲及以上）的青少年，在自我認知、抽象思維和經(jīng)驗性推理方面存在一定的局限性。對于這些階段的青少年來說，父母的參與對其成長和發(fā)展至關(guān)重要。這種參與不僅有助于保護青少年免受潛在危害，還能促進代際溝通，增強相互理解與信任，并培養(yǎng)積極的家庭氛圍。

在此背景下，現(xiàn)有的研究和視頻平臺已引入了各種父母調(diào)節(jié)機制，以減輕在線視頻環(huán)境對青少年的負面影響。例如，父母調(diào)節(jié)理論（PMT）提出了三種策略，幫助父母最大化媒體使用的益處并最小化相關(guān)風險：限制性調(diào)節(jié)、積極調(diào)節(jié)和共同使用。聯(lián)合媒體參與（JME）框架強調(diào)父母和孩子之間共同參與的必要性。然而，父母調(diào)節(jié)往往依賴于父母的時間、知識和經(jīng)驗。一方面，父母需要為孩子選擇合適的視頻內(nèi)容，并了解為青少年量身定制的各種設(shè)置，這既繁瑣又耗時且勞動密集。另一方面，由于知識和經(jīng)驗的局限，父母為孩子過濾的內(nèi)容可能仍會暴露于風險之中，且可能與青少年的興趣不一致。多模態(tài)大語言模型（MLLMs）的發(fā)展為上述問題提供了一個有前景的解決方案。首先，MLLMs在解析和理解文本、視頻以及其他形式的媒體方面表現(xiàn)出強大的能力。其次，MLLMs通過指令學習、上下文學習和少量樣本學習表現(xiàn)出顯著的交互能力。最后，MLLMs易于使用，無需額外的訓練要求，使其能夠輕松地在現(xiàn)實場景中部署。

然而，基于MLLMs設(shè)計一個支持JME的視頻審查系統(tǒng)面臨著多個挑戰(zhàn)。首先，青少年及其父母對該系統(tǒng)的期望和需求尚不明確。例如，如何在確保父母參與的同時減輕他們的負擔，MLLMs在這一過程中應(yīng)扮演什么角色，以及如何有效促進系統(tǒng)、父母和孩子之間的合作，所有這些問題都阻礙了該系統(tǒng)的設(shè)計。其次，協(xié)助青少年和父母審查視頻內(nèi)容可能涉及多個潛在任務(wù)，如有效過濾風險內(nèi)容、識別感興趣的內(nèi)容以及促進青少年和父母之間的合作。利用大語言模型共同實現(xiàn)這些目標是復雜的。最后，為了驗證該系統(tǒng)的有效性，有必要招募一些父母和青少年配對，在真實場景中使用并評估該系統(tǒng)。一些度量標準，如選定視頻的適宜性，往往依賴于個性化判斷和具體情境，因此很難評估，這也增加了研究的復雜性。

考慮到這些問題和挑戰(zhàn)，我們的目標是設(shè)計一個自動化的視頻審查系統(tǒng)，以促進父母和孩子在聯(lián)合媒體參與（JME）中共同篩選不適當內(nèi)容并選擇合適內(nèi)容。本研究的對象為8-15歲之間的青少年。首先，通過問卷和半結(jié)構(gòu)化訪談，我們探索了他們對視頻審查系統(tǒng)的需求和期望，并確定了五個設(shè)計目標?；谶@些目標，我們設(shè)計了YouthCare，一個個性化的協(xié)作視頻審查系統(tǒng)，旨在幫助父母和孩子在聯(lián)合媒體參與中共同篩選不適當內(nèi)容并選擇合適內(nèi)容。我們招募了10對父母和孩子來使用并評估該系統(tǒng)。結(jié)果表明，YouthCare在滿足用戶需求方面表現(xiàn)良好，且用戶對其接受度高，愿意繼續(xù)使用?；谶@些發(fā)現(xiàn)，我們?yōu)槲磥碛H子協(xié)作JME系統(tǒng)的設(shè)計提供了新的見解。

用戶研究

為了指導我們的設(shè)計過程，我們進行了一項形成性研究，以調(diào)查當前父母在青少年媒體使用中的參與情況。我們最終選擇了11對親子組合參與研究，并得到了以下五個設(shè)計目標：

D1：從風險和適宜性兩個角度進行視頻審核；

D2：通過中介支持協(xié)作配置個性化審核需求；

D3：支持直接和間接兩種方式配置個性化審核需求；

D4：提供即時和長期的審核需求解釋性反饋；

D5：確保用戶控制權(quán)。

模型構(gòu)造

圖1 YouthCare系統(tǒng)設(shè)計

根據(jù)設(shè)計目標，我們開發(fā)了YouthCare，這是一款自動化的視頻審查系統(tǒng)，旨在幫助父母和孩子在聯(lián)合媒體參與（JME）中共同過濾和選擇視頻內(nèi)容。通過利用多模態(tài)大語言模型（MLLMs），YouthCare能夠促進用戶配置和視頻內(nèi)容的共同理解。

① 1協(xié)作配置模塊

我們設(shè)計了協(xié)作配置模塊，以促進個性化視頻審查需求的協(xié)作配置。該模塊支持直接手動配置，如自定義視頻關(guān)鍵詞和分配權(quán)重，也支持間接自動配置，通過用戶的視頻選擇推斷出偏好的特征。然后，它通過聊天機器人界面幫助父母和青少年建立“共同偏好”。

② 個性化視頻審查模塊

我們基于MLLMs設(shè)計了個性化視頻審查模塊，以實現(xiàn)YouthCare中的可解釋性審查。該模塊集成了多模態(tài)信息融合提取視頻特征，并利用 MLLM 分析特征以評估視頻的風險性和適宜性，同時生成相應(yīng)的解釋。為確保審查結(jié)果的個性化和標準化。我們定義了兩類視頻審查指南：基于“共同偏好”的個性化指南和基于權(quán)威標準政策的通用指南。前者通過匹配用戶偏好與視頻特征提供個性化解釋，后者則依據(jù)權(quán)威標準確保審查的規(guī)范性和全面性。

③ 反饋報告模塊 

根據(jù)形成性研究，父母和青少年都關(guān)注審查解釋，而父母尤其關(guān)心關(guān)于青少年使用情況的總結(jié)。因此，我們設(shè)計了反饋報告模塊，以根據(jù)用戶的審查需求提供及時和長期的解釋性反。該模塊提供了全面的視頻審查理解，包括對當前視頻的及時反饋和對特定時間段的長期總結(jié)。

評估與討論

此次評估表明，YouthCare的各個模塊均成功實現(xiàn)了設(shè)計目標：個性化配置滿足了用戶多樣化需求；協(xié)作式配置促進了家長與青少年的溝通；視頻審查模塊精準實現(xiàn)了內(nèi)容過濾與管理；反饋與總結(jié)功能優(yōu)化了用戶體驗。同時，YouthCare支持直觀的關(guān)鍵詞和偏好調(diào)整，使家長和青少年能夠靈活管理視頻內(nèi)容?；贚LM的系統(tǒng)顯著提升了審查效率，但也帶來了過度審查和家長依賴性增加等風險；聊天機器人通過支持個性化需求表達和沖突緩解，提高了親子協(xié)作效率，但可能因角色差異引發(fā)權(quán)力失衡，并減少直接互動機會。此外，YouthCare的反饋機制雖改善了親子關(guān)系，卻也存在隱私泄露和家庭沖突增加的風險?？傮w而言，YouthCare在青少年視頻內(nèi)容審查和親子互動方面成效顯著，為家庭提供了有效的數(shù)字內(nèi)容管理系統(tǒng)，但未來需在提升系統(tǒng)功能的同時，平衡技術(shù)介入與親子直接互動，以更好地支持家庭協(xié)作與溝通。

小結(jié)

在本研究中，我們旨在通過設(shè)計YouthCare這一個性化協(xié)作視頻審查系統(tǒng)，解決傳統(tǒng)親子聯(lián)合媒體互動（JME）機制的局限性，從而促進JME中更高效且更有效的視頻審查。通過形成性研究，我們識別了父母和青少年在個性化和協(xié)作方面的需求和期望，這為YouthCare的設(shè)計提供了依據(jù)，以支持視頻內(nèi)容的過濾和選擇。通過對10對親子組合的評估，驗證了YouthCare在增強內(nèi)容控制和促進協(xié)作方面的有效性，同時也發(fā)現(xiàn)了需要改進的地方，比如解決父母和青少年需求差異、提高反饋過程的效率和效果等。這些發(fā)現(xiàn)表明，未來的親子聯(lián)合媒體互動系統(tǒng)可以考慮如何平衡人類與AI之間的控制邊界、間接與直接溝通方式以及主導權(quán)與隱私之間的關(guān)系。

作者信息

如果您對本文內(nèi)容感興趣的話，可以與作者聯(lián)系：

趙雯欣 復旦大學計算機學院協(xié)同信息與系統(tǒng)實驗室 博士研究生

研究方向：人智協(xié)同、推薦系統(tǒng)、人機交互

聯(lián)系方式：zhaowx21@m.fudan.edu.cn

實驗室相關(guān)論文

[1] Yubo Shu, Haonan Zhang, Hansu Gu, Peng Zhang, Tun Lu, Dongsheng Li, and Ning Gu. RAH! RecSys–Assistant–Human: A Human-Centered Recommendation Framework With LLM Agents. IEEE Transactions on Computational Social Systems (2024).

[2] Baoxi Liu, Peng Zhang, Yubo Shu, Zhengqing Guan, Tun Lu, Hansu Gu, and Ning Gu. 2022. Building a Personalized Model for Social Media Textual Content Censorship. Proceedings of the ACM on Human-Computer Interaction 6, CSCW2, Article 499 (2022), 31 pages.

[3] Yaqiong Li, Peng Zhang, Hansu Gu, Tun Lu, Siyuan Qiao, Yubo Shu, Yiyang Shao, Ning Gu. DeMod: A Holistic Tool with Explainable Detection and Personalized Modification for Toxicity Censorship. In Proceedings of the ACM on Human-Computer Interaction, 2025.

如果您對我們實驗室的相關(guān)工作感興趣，歡迎訪問我們的網(wǎng)站：

協(xié)同信息與系統(tǒng)（CISL）實驗室

實驗室網(wǎng)站主頁：https://cscw.fudan.edu.cn/

實驗室Github主頁：https://github.com/FudanCISL