論壇名稱：人工智能安全與治理論壇

時(shí)間：2025年7月27日09:00-17:30

地點(diǎn)：上海世博中心518會(huì)議室

7月27日，上海世博中心518會(huì)議室

圖靈獎(jiǎng)得主 × 兩院院士 × 聯(lián)合國技術(shù)特使 × 多國政策制定者

全球頂尖學(xué)者匯聚，共議AI安全治理未來

四大主題 · 十六場演講 · 五場圓桌 · 四份報(bào)告發(fā)布

2025世界人工智能大會(huì)暨人工智能全球治理高級別會(huì)議(簡稱"WAIC 2025")將于7月26-29日在上海世博中心、世博展覽館舉行。

由安遠(yuǎn)AI主辦的"人工智能安全與治理論壇"，將于7月27日9:00-17:30在上海世博中心舉辦。 作為專注于討論AI安全與治理前沿問題的高端論壇，本場論壇擬設(shè)置4大主題、16場主題演講、5場圓桌討論和4份報(bào)告發(fā)布。

四大關(guān)鍵詞，定義本次論壇的高度與深度

國際化：全球視野，多元聲音

來自中國、美國、加拿大、法國、英國、新加坡等國家的20余位科學(xué)家、政策制定者、國際組織代表，以及企業(yè)和民間機(jī)構(gòu)代表齊聚一堂，其中國際嘉賓占比超過50%。論壇聚焦國際AI安全治理的前沿議題與地區(qū)特色，涵蓋國際AI安全研究報(bào)告、不同地區(qū)AI安全治理規(guī)范實(shí)踐、國際治理標(biāo)準(zhǔn)與規(guī)范建設(shè)等內(nèi)容，通過多邊對話推動(dòng)形成開放包容的AI全球治理體系。

高端化：重磅嘉賓，權(quán)威觀點(diǎn)

論壇匯聚了圖靈獎(jiǎng)得主、中國工程院院士、中國科學(xué)院院士、國家實(shí)驗(yàn)室管理者、聯(lián)合國秘書長技術(shù)特使、法國總統(tǒng)AI特使等在內(nèi)的多位世界級專家，代表了AI安全治理領(lǐng)域的前沿學(xué)術(shù)水準(zhǔn)和政策影響力。

專業(yè)化：前瞻議題，直面挑戰(zhàn)

圍繞AI安全科學(xué)基礎(chǔ)、AI安全新興挑戰(zhàn)、AI風(fēng)險(xiǎn)管理實(shí)踐、AI安全全球治理四大主題，重點(diǎn)探討：對于超級智能的共識(shí)與分歧、前沿AI的網(wǎng)絡(luò)攻擊威脅、前沿AI的自我復(fù)制和欺騙等失控風(fēng)險(xiǎn)、人工智能 x 生命科學(xué)的負(fù)責(zé)任創(chuàng)新、領(lǐng)先AI研發(fā)機(jī)構(gòu)的風(fēng)險(xiǎn)管理實(shí)踐與挑戰(zhàn)、中美歐主要標(biāo)準(zhǔn)與政策路徑對照分析、國際AI安全治理的合作空間和機(jī)遇。

年輕化：新銳力量，嶄露頭角

除了頂級專家，論壇也特別關(guān)注新一代研究和實(shí)踐力量，多位中青年學(xué)者將在閃電演講、圓桌討論中發(fā)聲，展現(xiàn)未來AI安全和治理的新銳視角。

四大主題搶先看

AI安全科學(xué)基礎(chǔ)

科學(xué)基礎(chǔ)與共識(shí)構(gòu)建，是推動(dòng)AI安全研究和治理的前提：

· 中國工程院院士高文將發(fā)表對強(qiáng)人工智能安全性和可控性的思考

· UC Berkeley教授Stuart Russell將闡述“可證明安全且有益的AGI”理念

· 圖靈獎(jiǎng)得主Yoshua Bengio將在線分享《國際AI安全報(bào)告》的關(guān)鍵發(fā)現(xiàn)

高文院士、Stuart Russell、張亞勤院士將共同圍繞"超級智能——科學(xué)家的共識(shí)與分歧"展開高峰圓桌對話，深度剖析AI安全研究的核心科學(xué)問題和未來方向

AI安全新興挑戰(zhàn)

聚焦前沿模型帶來的新興挑戰(zhàn)和最新探索：

· UC Berkeley教授Dawn Song解讀前沿AI對網(wǎng)絡(luò)安全的影響

·復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院院長楊珉將警示前沿AI模型自我復(fù)制和欺騙的早期預(yù)警信號

將特別關(guān)注人工智能x生命科學(xué)的負(fù)責(zé)任創(chuàng)新，設(shè)置2場主旨報(bào)告和1場圓桌討論，并聯(lián)合發(fā)布相關(guān)研究成果

AI風(fēng)險(xiǎn)管理實(shí)踐

政策與實(shí)踐雙重視角，聚焦風(fēng)險(xiǎn)治理路徑：

· 中國電子技術(shù)標(biāo)準(zhǔn)化研究院郝春亮將分享“人工智能安全治理框架及標(biāo)準(zhǔn)化工作思考”

· 歐盟通用型AI行為準(zhǔn)則副主席Markus Anderljung將介紹這一即將定稿的行為準(zhǔn)則

· 斯坦福基礎(chǔ)模型研究中心社會(huì)負(fù)責(zé)人Rishi Bommasani將介紹“加州前沿AI政策報(bào)告”

來自xAI、阿里研究院、百度、美國行業(yè)聯(lián)盟Partnership on AI等機(jī)構(gòu)的專家，將以閃電演講結(jié)合圓桌討論的方式介紹業(yè)界最前沿的AI風(fēng)險(xiǎn)管理實(shí)踐

來自牛津馬丁AI治理計(jì)劃、中國信通院、賽迪研究院的專家將圍繞"AI風(fēng)險(xiǎn)管理的最佳實(shí)踐和開放性問題"展開深度圓桌討論

AI安全全球治理

多邊共識(shí)與機(jī)制創(chuàng)新正加速推進(jìn)全球治理進(jìn)程：

· 法國總統(tǒng)AI特使Anne Bouverot將分享“從巴黎到實(shí)踐：將峰會(huì)成果轉(zhuǎn)化為全球AI治理”

· 新加坡IMDA集群總監(jiān)Wan Sie Lee將介紹“全球AI安全研究優(yōu)先級新加坡共識(shí)”

來自聯(lián)合國數(shù)字與新興技術(shù)辦公室、加拿大Mila研究院、國際刑警組織、中國新一代人工智能發(fā)展戰(zhàn)略研究院的專家，將圍繞AI安全的國際規(guī)范與標(biāo)準(zhǔn)建設(shè)展開圓桌對話

論壇將以兩場重量級閉幕致辭壓軸：邀請聯(lián)合國技術(shù)特使與中國科學(xué)院院士發(fā)表戰(zhàn)略聲音。嘉賓將從全球視角與國家實(shí)踐出發(fā)，分享對AI安全治理的深刻洞察，并為本次高端對話作總結(jié)與展望。

四份報(bào)告重磅發(fā)布

《人工智能× 生命科學(xué)的負(fù)責(zé)任創(chuàng)新》(聯(lián)合首發(fā))

《中國AI安全全景報(bào)告(2025)》(年度發(fā)布)

《新加坡AI安全全景報(bào)告(2025)》(首次發(fā)布)

第四份研究成果將于論壇當(dāng)天現(xiàn)場揭曉

安遠(yuǎn)AI期冀匯聚全球頂尖智慧，共同引領(lǐng)人機(jī)關(guān)系走向安全、可信、可靠的未來。

更多重磅嘉賓即將揭曉，完整議程即將發(fā)布，精彩不容錯(cuò)過!

敬請關(guān)注7月27日人工智能安全與治理論壇，參與一場事關(guān)人類未來的全球性對話!

（來源：世界人工智能大會(huì)）