大模型安全可信應(yīng)用探索與實(shí)踐

報(bào)告人：張勇東 教授 中國科學(xué)技術(shù)大學(xué)

報(bào)告摘要

隨著生成式大模型的飛速發(fā)展，其可能帶來的風(fēng)險(xiǎn)也日益凸顯，虛假、偏見、隱私、倫理等各種安全性問題正在不斷增加人類社會(huì)對大模型風(fēng)險(xiǎn)的隱憂，大模型安全也已成為社會(huì)各界關(guān)注的焦點(diǎn)。報(bào)告將分享我們在大模型安全可信應(yīng)用方面的探索與實(shí)踐。首先從邏輯可信、事實(shí)可信、價(jià)值可信三個(gè)層面分析大模型面臨的安全挑戰(zhàn)。其次分享我們圍繞上述三個(gè)層面開展的大模型安全診斷與修復(fù)工作。最后，將結(jié)合以上實(shí)踐經(jīng)驗(yàn)，提出未來大模型安全可信研究的發(fā)展趨勢與未來方向。

報(bào)告人簡介

張勇東，教授，博士生導(dǎo)師，現(xiàn)任中國科學(xué)技術(shù)大學(xué)信息科學(xué)技術(shù)學(xué)院執(zhí)行院長。國家自然基金委創(chuàng)新研究群體項(xiàng)目負(fù)責(zé)人（2021 年），“萬人計(jì)劃”科技創(chuàng)新領(lǐng)軍人才 (2018 年)，國家杰出青年科學(xué)基金獲得者 (2015年)。曾獲國家自然科學(xué)獎(jiǎng)二等獎(jiǎng)(排名第一，2019 年)， 教育部技術(shù)發(fā)明獎(jiǎng)一等獎(jiǎng)（排名第一，2022年），中國電子學(xué)會(huì)科學(xué)技術(shù)獎(jiǎng)（自然科學(xué)類）一等獎(jiǎng)(排名第一，2018 年)，國家科技進(jìn)步獎(jiǎng)二等獎(jiǎng)(排名第五，2016 年)，北京市科學(xué)技術(shù)獎(jiǎng)一等獎(jiǎng) (排名第一，2014 年)。研究成果大規(guī)模應(yīng)用于國家網(wǎng)絡(luò)空間內(nèi)容安全領(lǐng)域，取得了顯著的應(yīng)用效果。擔(dān)任《中國通信》副主編，國家重點(diǎn)研發(fā)計(jì)劃-“變革性技術(shù)關(guān)鍵科學(xué)問題”重點(diǎn)專項(xiàng)總體專家組成員，國家重點(diǎn)研發(fā)計(jì)劃-“社會(huì)治理與智慧社會(huì)科技支撐”重點(diǎn)專項(xiàng)總體專家組成員。

ChineseCSCW 2024

第19屆全國計(jì)算機(jī)支持的協(xié)同工作與社會(huì)計(jì)算學(xué)術(shù)會(huì)議（19th CCF Conference on Computer Supported Cooperative Work and Social Computing, ChineseCSCW 2024）將于2024年7月12-14日在中國內(nèi)蒙古自治區(qū)呼和浩特市舉行。作為協(xié)同與社會(huì)計(jì)算領(lǐng)域最重要的全國性學(xué)術(shù)組織，中國計(jì)算機(jī)學(xué)會(huì)協(xié)同計(jì)算專業(yè)委員會(huì)已逐步發(fā)展并凝練出以“CSCW與社會(huì)計(jì)算”、“人機(jī)物融合與人智協(xié)同計(jì)算”、“群智協(xié)同與演化計(jì)算”、“數(shù)據(jù)、軟件與服務(wù)協(xié)同”為代表的4個(gè)研究方向。

ChineseCSCW2024會(huì)議將圍繞“以人為中心的協(xié)同智能（Human-Centered Collaborative Intelligence）”主題，聚焦人工智能、人機(jī)協(xié)同、智慧賦能以及元宇宙虛實(shí)融生的發(fā)展趨勢，交流以人為中心的協(xié)同智能中的相關(guān)理論模型、核心算法、關(guān)鍵技術(shù)和平臺(tái)應(yīng)用的最新成果，分享以人為中心的協(xié)同智能在健康智能、金融智能、工業(yè)智能、教育智能、政法智能、交通智能等領(lǐng)域中的創(chuàng)新應(yīng)用與實(shí)踐經(jīng)驗(yàn)。會(huì)議將邀請國內(nèi)外高校和研究機(jī)構(gòu)的著名學(xué)者、業(yè)界領(lǐng)先企業(yè)相關(guān)專家做特邀報(bào)告，共同探討CSCW領(lǐng)域?qū)W界和業(yè)界的發(fā)展趨勢和熱點(diǎn)問題。大會(huì)誠邀CSCW、協(xié)同計(jì)算、社會(huì)計(jì)算等相關(guān)領(lǐng)域模型理論突破、技術(shù)方法創(chuàng)新和典型應(yīng)用實(shí)踐的論文，旨在為國內(nèi)外產(chǎn)學(xué)研各界提供一個(gè)學(xué)術(shù)交流、成果展示、共享合作的平臺(tái)，共同促進(jìn)國內(nèi)CSCW理論研究與技術(shù)應(yīng)用發(fā)展。

主辦方

中國計(jì)算機(jī)學(xué)會(huì)（CCF）

承辦方

CCF 協(xié)同計(jì)算專業(yè)委員會(huì)

內(nèi)蒙古大學(xué)

會(huì)議官網(wǎng)

https://conf.scholat.com/ccscw/2024

會(huì)議注冊

https://conf.ccf.org.cn/ChineseCSCW2024 

關(guān)于ChineseCSCW

        ChineseCSCW（2016 年之前名稱為 CCSCW）自 1998 年創(chuàng)辦至今，已經(jīng)分別在清華大學(xué)（北京，1998）、華東師范大學(xué)與上海交通大學(xué)（上海，2000）、內(nèi)蒙古大學(xué)（內(nèi)蒙古，2002）、浙江大學(xué)（杭州，2004）、福州大學(xué)（福州，2006）、中山大學(xué)與華南師范大學(xué)（廣州，2008）、東南大學(xué)（南京，2010）、合肥工業(yè)大學(xué)與山東大學(xué)威海分校（威海，2012）、廣西大學(xué)（南寧，2014）、太原理工大學(xué)（太原，2015）、浙江工商大學(xué)、中國計(jì)量學(xué)院與浙江工業(yè)大學(xué)（杭州，2016）、西南大學(xué)（重慶，2017）、桂林理工大學(xué)（桂林，2018）、昆明理工大學(xué)（昆明，2019）、深圳人工智能與數(shù)據(jù)科學(xué)研究院（深圳，2020）、湖南科技大學(xué)（湘潭，2021）、山西大同大學(xué)與太原科技大學(xué)（大同、太原，2022）、哈爾濱工程大學(xué)（哈爾濱，2023）連續(xù)成功舉辦了18屆。