◎記者 倪 麟

　　隨著《全球人工智能治理倡議》的發(fā)布，人工智能治理再次引發(fā)全球關注。作為引領科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性力量，人工智能的廣泛應用正在深刻改變經(jīng)濟社會結(jié)構(gòu)，重塑人們的生活方式。

　　同時，人工智能也帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個人隱私等問題，對政府管理、經(jīng)濟安全和社會穩(wěn)定乃至全球治理產(chǎn)生深遠影響。

　　當前，該如何讓人工智能拾起初心，平衡其安全和發(fā)展？科技日報記者近日邀請中國工程院院士沈昌祥、百度首席技術官王海峰、清華大學人工智能研究院視覺智能研究中心主任鄧志東共同探討，解讀人工智能發(fā)展之路。

　　本意：人工和智能，孰輕孰重

　　記者：人工智能定義最早出現(xiàn)在1956年達特茅斯會議上。從各位的實踐來看，人工智能是什么？

　　沈昌祥：人工智能是指通過人類設計和編程，使智能機器能夠完成各種復雜任務，從而取代傳統(tǒng)人工角色。

　　王海峰：人工智能是研究和開發(fā)模擬、延伸和擴展人類智能的理論、方法、技術及應用系統(tǒng)的科學?，F(xiàn)階段，人工智能已成為引領新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術，正驅(qū)動第四次工業(yè)革命，將人類社會帶入智能時代。

　　鄧志東：從實踐來看，人工智能具有模擬人類解決各種復雜任務的能力。

　　記者：隨著ChatGPT等產(chǎn)品的出現(xiàn)，有人認為人工的作用逐漸被智能取代，也有人認為智能只是輔助人工的工具。在各位所屬領域中，對于人工智能中“人工”與“智能”的權(quán)衡有何看法？

　　沈昌祥：智能機器是由人類智慧演化而來的智能產(chǎn)品，能根據(jù)人類的喜好和需求，提供個性化服務。智能機器的所有動作和行為都是由人類編程和控制的，不可能完全脫離人類的掌控。

　　王海峰：人工智能發(fā)展要“以人為本”，增進人類福祉。以大語言模型為代表的人工智能技術飛速發(fā)展，文心一言、ChatGPT可與人對話、輔助創(chuàng)作，提升人們的工作效率與生活體驗。本質(zhì)上它仍是提升生產(chǎn)力的工具，能替代人類完成部分工作，也創(chuàng)造了更多工作機會。未來，人類將作為管理者，人工智能將輔助人，與人協(xié)同，提高工作效率，激發(fā)創(chuàng)造力。社會各界應對人工智能抱有正確認知和合理期待，推動人工智能發(fā)展，使其更好地為人類服務。

　　鄧志東：“人工”與“智能”密不可分。人工智能指機器模擬實現(xiàn)的人類智能，兩者關系應稱為人工智能與人類的關系。短期內(nèi)，通用人工智能是輔助工具，幫助人類完成挑戰(zhàn)性任務。長遠來看，交互式人工智能會推動人類與智能體“共融”，邁向“人—機融合發(fā)展”的嶄新世界。

　　定位：增長產(chǎn)品還是基礎設施

　　記者：人工智能對相關行業(yè)發(fā)展產(chǎn)生了重要影響。各位更傾向于將人工智能視為增長產(chǎn)品還是基礎設施？

　　沈昌祥：人工智能最初是獨立產(chǎn)品，后來被集成為具有各種功能的設備。當設備相互連接、協(xié)調(diào)工作時，就形成了系統(tǒng)。這些系統(tǒng)的集合和互相作用，構(gòu)建起人工智能基礎設施的框架，為我們提供各種產(chǎn)品和服務。

　　記者：在人工智能基礎設施建設領域，各位對哪個方面特別關注？

　　沈昌祥：安全問題至關重要。人工智能衍生出人工智能自身失誤、智能硬件被惡意襲擊以及機器人智能行為體失控等重大風險。需對這些問題加強研究和防范，構(gòu)建由法律、戰(zhàn)略和制度等組成的安全可信的保障體系，確保人工智能基礎設施的安全、穩(wěn)定、可持續(xù)運行。

　　王海峰：我長期關注深度學習平臺和大模型。深度學習平臺相當于智能時代的操作系統(tǒng)，處于人工智能技術體系的關鍵核心位置。深度學習呈現(xiàn)出標準化、自動化、模塊化的特征，推動人工智能進入工業(yè)大生產(chǎn)階段。隨著深度學習技術的普及和預訓練技術的突破，大模型已成為人工智能發(fā)展的主流方向，具有效果好、泛化性強、研發(fā)流程標準化的特點，正成為人工智能技術及應用的新基座。

　　鄧志東：從文本單模態(tài)的基礎大型語言模型到原生多模態(tài)大型語言模型，需要解決高水平人工智能通用大模型的API接入問題，推進“以我為主”的人工智能基礎設施建設，包括人工智能芯片與云服務、開源框架生態(tài)建設等。視覺智能領域需要打好基礎，從國家層面推進人工智能基礎設施建設，補短板，賦能從基礎與基座大模型到垂域模型的開發(fā)與應用。

　　記者：企業(yè)在利用人工智能時可能面臨雙重需求。能否根據(jù)經(jīng)驗，談談在這種情況下，企業(yè)如何將人工智能的價值最大化？

　　沈昌祥：企業(yè)需要考量產(chǎn)業(yè)數(shù)字化、數(shù)字產(chǎn)業(yè)化以及社會智能化的需求，充分利用人工智能技術，提升生產(chǎn)效率和服務質(zhì)量。同時，應高度重視人工智能領域的人才培養(yǎng)與引進，推動技術研發(fā)，以保持技術領先地位。還應加強與其他行業(yè)的合作，不斷探索新的商業(yè)模式和應用場景，為社會提供更便捷、更高效的服務。

　　王海峰：百度既是人工智能基礎設施建設者，也是人工智能技術創(chuàng)新引領者。以飛槳深度學習平臺、文心大模型等為代表的人工智能技術，已成為智能時代的重要基礎設施，賦能制造、能源、農(nóng)業(yè)等領域，帶動新技術、新產(chǎn)品、新業(yè)態(tài)等的發(fā)展。大模型產(chǎn)業(yè)落地，可采取“集約化生產(chǎn)，平臺化應用”模式，即具有算法、算力和數(shù)據(jù)綜合優(yōu)勢的企業(yè)將模型生產(chǎn)的復雜過程封裝起來，通過低門檻、高效率的生產(chǎn)平臺，為千行百業(yè)提供服務。文心大模型支撐大量AI原生應用的開發(fā)，重構(gòu)現(xiàn)有產(chǎn)品，“從0到1”構(gòu)想出全新產(chǎn)品，構(gòu)建人工智能原生應用生態(tài)，推動經(jīng)濟社會高質(zhì)量增長。

　　鄧志東：以多模態(tài)大型語言模型為代表的通用人工智能產(chǎn)業(yè)的發(fā)展，尚處于產(chǎn)業(yè)早期。不同企業(yè)應有不同側(cè)重，人工智能頭部企業(yè)要對標具有國際一流水平的基礎、基座大模型產(chǎn)品，縮短高性能AI芯片的國際差距。中小企業(yè)要積極開展人工智能價值與應用產(chǎn)品的研發(fā)，著重于應用場景多樣性、落地速度與商業(yè)模式創(chuàng)新。

　　風險：無處不在，誰更堪憂

　　記者：當前人工智能風險普遍存在嗎？請結(jié)合具體案例說明。

　　沈昌祥：人工智能風險與網(wǎng)絡安全密切相關。網(wǎng)絡安全是人工智能發(fā)展的底座，其風險度=脆弱度×威脅度，其中脆弱度來源于圖靈計算原理缺少攻防安全理念、馮·諾依曼體系結(jié)構(gòu)缺少防護部件和重大工程應用無安全治理服務三大原始性缺失。這使得網(wǎng)絡空間極其脆弱，受網(wǎng)絡攻擊的風險性增加。2021年5月7日，美國最大的成品油管道運營商科洛尼爾管道運輸公司（Colonial Pipeline）受到勒索軟件攻擊，被迫關閉其美國東部沿海各州智能化供油網(wǎng)絡，美國政府宣布美國17個州和華盛頓特區(qū)進入緊急狀態(tài)。

　　王海峰：從歷次工業(yè)革命來看，驅(qū)動科技革命和產(chǎn)業(yè)變革的技術，無論是機械技術、電氣技術、信息技術，還是當前的人工智能技術，在為人類帶來巨大價值的同時，也會帶來一定的風險。但隨著科技的進步，人類有足夠的能力控制風險，充分發(fā)揮新技術的價值。

　　鄧志東：通用人工智能的發(fā)展速度已超出大多數(shù)人的預期。只要通用人工智能發(fā)展，其風險就必然會普遍存在。從法律、倫理、隱私到就業(yè)等，各個領域與賽道、千行百業(yè)都面臨重寫、重塑的挑戰(zhàn)與風險。

　　記者：在自動駕駛、智慧醫(yī)療和人臉識別等特定領域，人工智能風險是否更為突出？

　　沈昌祥：自動駕駛、智慧醫(yī)療和人臉識別等技術，一旦出現(xiàn)問題將威脅到人類的生命安全和財產(chǎn)安全。IT系統(tǒng)設計不能窮盡所有邏輯，利用邏輯缺陷挖掘漏洞進行攻擊的風險一直存在，傳統(tǒng)“封堵查殺”難以應對未知惡意攻擊，找漏洞、打補丁的思路也不利于整體網(wǎng)絡安全，需要通過由被動防御轉(zhuǎn)為主動免疫的方式來降低人工智能特定領域風險。

　　治理：安全與發(fā)展能否相向而行

　　記者：隨著人工智能技術的持續(xù)發(fā)展，數(shù)據(jù)隱私和安全、能耗等問題日益凸顯。你們認為，針對這些問題應先發(fā)展后治理還是邊發(fā)展邊治理？

　　沈昌祥：要注重治理和發(fā)展平衡。應構(gòu)建主動免疫可信計算新模式，打造計算部件和防護部件為核心的并行體系結(jié)構(gòu)，建設可信安全管理中心支持下的主動免疫的防護框架，實現(xiàn)主體、客體、操作、環(huán)境可信動態(tài)訪問控制，確保體系結(jié)構(gòu)、資源配置、操作行為、數(shù)據(jù)存儲、策略管理可信。以此達到讓攻擊者進不去、非授權(quán)者重要信息拿不到、竊取保密信息看不懂、系統(tǒng)和信息改不了、系統(tǒng)工作癱不成和攻擊行為賴不掉的防護效果，全方位維護人工智能安全。

　　王海峰：要堅持發(fā)展和安全并重的原則，保障安全的同時支持和鼓勵創(chuàng)新發(fā)展。只有持續(xù)發(fā)展人工智能技術，才能在發(fā)展中發(fā)現(xiàn)問題、解決問題，把握科技競爭主動權(quán)。

　　記者：從各位的經(jīng)驗來看，行業(yè)或者企業(yè)應如何預防人工智能潛在的安全問題？

　　沈昌祥：要科學嚴謹分析研究，堅持自主創(chuàng)新，掌握核心競爭力，把握主動優(yōu)勢。要以具有可信計算功能的國產(chǎn)軟硬件設備為基礎，在完備的法律、戰(zhàn)略和制度的支持下，盡快建立起完整的可信計算產(chǎn)品鏈，打造安全可信人工智能新生態(tài)，筑牢數(shù)字經(jīng)濟發(fā)展基石。

　　王海峰：正確認識人工智能潛在的安全問題。任何一項技術的發(fā)展和應用，都會帶來潛在的安全問題，而人工智能作為驅(qū)動科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術，其安全問題更加受到關注。技術安全問題，可以用技術的手段來解決；產(chǎn)業(yè)安全問題，一方面政府應支持自主可控的人工智能技術及應用，另一方面應建立健全相關法律法規(guī)，推動產(chǎn)業(yè)在合適尺度、明確標準之下發(fā)展人工智能技術及應用。

　　鄧志東：人工智能發(fā)展在安全問題上尚存在許多不確定性。行業(yè)或企業(yè)需要邊走邊看，大膽深入，小心布防，造福人類。

　　記者：人工智能治理已經(jīng)上升為國際競爭合作的重要議題。在推動人工智能治理國際合作方面，各位有何見解？

　　沈昌祥：應認真貫徹執(zhí)行《全球人工智能治理倡議》，從創(chuàng)新發(fā)展、安全保障、治理三個方面著手，全方位保障我國人工智能基礎設施，并積極走出國門，與全球伙伴共建網(wǎng)絡空間命運共同體。

　　王海峰：人工智能領域的研究本身是開放合作的，人工智能治理是其研究熱點之一，各方都很關切。來自全球?qū)W術界、產(chǎn)業(yè)界的專家學者，都可以通過開源社區(qū)、項目合作、學術會議、專題研討等多種方式開展合作交流，貢獻智慧。

　　鄧志東：人工智能的治理與國際競合，已超越了學術與產(chǎn)業(yè)，需要更強而有力的國際合作，以期取得國際共識，盡快構(gòu)建具有約束性、一致性與平衡性的國際規(guī)范。