隨著AI大模型、智能體等關(guān)鍵技術(shù)的快速迭代與規(guī)模應(yīng)用，人工智能這一人類發(fā)展新領(lǐng)域，也面臨安全治理的現(xiàn)實挑戰(zhàn)。在4月14日舉行的2026年世界互聯(lián)網(wǎng)大會亞太峰會人工智能安全治理論壇上，多國與會人士圍繞人工智能治理思路、技術(shù)風(fēng)險防范、國際協(xié)作機制等議題開展交流，推動完善全球人工智能安全治理體系。

　　人工智能正從“感知智能”邁向“決策智能”，風(fēng)險也隨之復(fù)雜化、智能化、隱蔽化。中國工程院院士、中關(guān)村實驗室主任、清華大學(xué)講席教授吳建平坦言，AI安全治理不僅是技術(shù)問題，更是戰(zhàn)略抉擇，需在創(chuàng)新與規(guī)范、發(fā)展與安全間找到動態(tài)平衡。他提出，要筑牢技術(shù)根基，讓AI決策可知、可感、可解釋；要匯聚創(chuàng)新資源，聯(lián)合攻關(guān)安全難題；要深化系統(tǒng)思維，形成多元共治格局；要強化開放合作，貢獻亞太治理智慧。

　　“安全需要被精準(zhǔn)度量，沒有科學(xué)嚴(yán)謹?shù)脑u測機制，人工智能大模型安全治理便無從談起。”清華大學(xué)計算機系教授、科研院院長、技術(shù)轉(zhuǎn)移院院長、互聯(lián)網(wǎng)司法研究院院長劉奕群提出，要以場景化測試賦能人工智能安全，以“評測即治理”的思路破解大模型安全治理難題。

　　中科院計算所副所長、教授、博士生導(dǎo)師程學(xué)旗則提出以“可信、可監(jiān)管、可控”為核心的治理框架，推動AI安全從“超級對齊”轉(zhuǎn)向可測量的實踐治理，通過數(shù)據(jù)透明、模型魯棒、測試時推理三大技術(shù)方向，實現(xiàn)風(fēng)險可觀測、可恢復(fù)。

　　智能體時代，安全治理需升級為系統(tǒng)思維。香港科技大學(xué)助理教授、香港生成式人工智能研發(fā)中心主任特別助理及大模型部主任韓斯睿表示，智能體已成為社會信息網(wǎng)絡(luò)的“行動者”，風(fēng)險將從單點失誤演變?yōu)閰f(xié)同放大。

　　深信服科技集團股份有限公司副總裁杜智偉主張，為AI打造“安全剎車系統(tǒng)”，以零信任管控、最小權(quán)限、熔斷機制，平衡行業(yè)應(yīng)用中的安全與生產(chǎn)力需求。

　　德國赫爾蒂行政學(xué)院數(shù)字治理中心研究員、中國科學(xué)院訪問教授托爾斯滕·耶利內(nèi)克認為，AI治理重心要從“模型對齊”走向“系統(tǒng)對齊”，管控工具權(quán)限、執(zhí)行邏輯與運行環(huán)境，以端到端防護守住系統(tǒng)安全。

　　面向產(chǎn)業(yè)應(yīng)用，中國電信集團有限公司網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛指出，“無安全不智能”，企業(yè)要構(gòu)建全生命周期AI安全防護體系。賽爾網(wǎng)絡(luò)有限公司總經(jīng)理王巖表示，面對智能體風(fēng)險溯源難、責(zé)任界定模糊等問題，可借鑒互聯(lián)網(wǎng)治理機制，為智能體分配唯一網(wǎng)絡(luò)標(biāo)識，實現(xiàn)可識別、可追責(zé)、可管理。

　　硬件是AI安全的末端防線。海光信息技術(shù)股份有限公司副總裁應(yīng)志偉提到，算力爆發(fā)式增長與安全防護滯后形成落差，需強化機密計算等硬件能力，實現(xiàn)數(shù)據(jù)全鏈路加密，從底層守護模型與數(shù)據(jù)安全，為AI筑牢硬件安全底座。

　　網(wǎng)絡(luò)安全全球挑戰(zhàn)還需協(xié)同破局。巴基斯坦信息安全協(xié)會主席阿瑪爾·賈弗里認為，傳統(tǒng)被動安全模型已失效，AI讓主動防御成為可能，面對勒索軟件、供應(yīng)鏈攻擊等威脅，全球必須實時協(xié)同、跨國聯(lián)動，協(xié)同合作是應(yīng)對網(wǎng)絡(luò)安全未知挑戰(zhàn)的關(guān)鍵。

　　作為國際都市，香港正以靈活的框架平衡AI創(chuàng)新與監(jiān)管。香港特區(qū)政府署理數(shù)字政策專員張宜偉提到，當(dāng)?shù)匾寻l(fā)布倫理AI框架與生成式AI應(yīng)用指南，并將通過普及AI素養(yǎng)、聯(lián)動相關(guān)國際組織等多元舉措，筑牢本地安全防線。

　　AI安全治理需要清晰的框架指引。CNCERT/CC處長賀敏在會上發(fā)布了《人工智能安全治理框架2.0》。該框架統(tǒng)籌發(fā)展與安全，將AI風(fēng)險分為技術(shù)內(nèi)生、應(yīng)用、延伸三大類，覆蓋全生命周期技術(shù)應(yīng)對與綜合治理措施，還明確人工智能分級分類原則與八項可信準(zhǔn)則，為全球治理提供中國方案。（記者 張晨昊 孔繁鑫）