一段時(shí)間以來(lái)，以ChatGPT為代表的人工智能大模型攪動(dòng)了全球人工智能技術(shù)發(fā)展的浪潮。從寫(xiě)代碼到講故事，從撰寫(xiě)文章到自動(dòng)制作數(shù)據(jù)表格……人工智能正在給人類(lèi)的工作、學(xué)習(xí)、生活帶來(lái)諸多變化。

我們距離“無(wú)所不能”的通用人工智能還有多遠(yuǎn)？人工智能的發(fā)展帶來(lái)哪些安全隱患和挑戰(zhàn)？近日召開(kāi)的2023北京智源大會(huì)上，來(lái)自全球的人工智能專(zhuān)家學(xué)者圍繞相關(guān)話(huà)題展開(kāi)探討。

通用人工智能路途尚遠(yuǎn)

“想象一下，未來(lái)10年，通用人工智能（AGI）幾乎在每一個(gè)領(lǐng)域都超過(guò)人類(lèi)的專(zhuān)業(yè)知識(shí)，最終可能超過(guò)所有大型公司的總體生產(chǎn)力，這將提高人們的生活水平。”OpenAI首席執(zhí)行官山姆·阿爾特曼展現(xiàn)了一幅人工智能的未來(lái)圖景。

所謂AGI，是指能夠像人類(lèi)一樣在各種領(lǐng)域進(jìn)行智能任務(wù)的人工智能系統(tǒng)。這與目前人工智能應(yīng)用只聚焦于特定任務(wù)或領(lǐng)域（如圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等）不同，對(duì)人工智能技術(shù)提出了更高要求。

“通用人工智能可以比人類(lèi)更好、更快地學(xué)習(xí)和執(zhí)行任務(wù)，包括人類(lèi)無(wú)法處理的任務(wù)。由于機(jī)器在速度、內(nèi)存、通信和帶寬方面的巨大優(yōu)勢(shì)，未來(lái)通用人工智能幾乎在所有領(lǐng)域都將遠(yuǎn)超人類(lèi)的能力。”美國(guó)加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授斯圖爾特·羅素說(shuō)。

盡管人工智能已經(jīng)有了“超越”人類(lèi)的“時(shí)間表”，但在很多專(zhuān)家看來(lái)，目前的人工智能距離AGI還有不小的距離。

羅素認(rèn)為，當(dāng)下火熱的大語(yǔ)言模型并不“理解世界”，只是通用人工智能的一塊“拼圖”——“我們并不了解如何將它與其他部分連接起來(lái)，甚至還有一些缺失的拼圖還沒(méi)有找到。”

北京智源人工智能研究院院長(zhǎng)黃鐵軍指出，要實(shí)現(xiàn)通用人工智能，有3條技術(shù)路線(xiàn)：第一是大模型，通過(guò)海量高質(zhì)量數(shù)據(jù)，讓人工智能具備智能涌現(xiàn)能力；第二是具身智能，通過(guò)強(qiáng)化學(xué)習(xí)方法，訓(xùn)練出具身模型；第三是類(lèi)腦智能，讓機(jī)器達(dá)到或類(lèi)似于人腦能力。

對(duì)于人工智能的發(fā)展，圖靈獎(jiǎng)得主、紐約大學(xué)教授楊立昆提出了“世界模型”的概念——人工智能系統(tǒng)可以通過(guò)這一模型理解世界的運(yùn)轉(zhuǎn)方式，并以最優(yōu)化、成本最小的方式來(lái)行動(dòng)。

加強(qiáng)安全治理領(lǐng)域國(guó)際合作

根據(jù)普華永道會(huì)計(jì)師事務(wù)所預(yù)測(cè)，到2030年，人工智能將創(chuàng)造15.7萬(wàn)億美元的經(jīng)濟(jì)價(jià)值。人工智能為經(jīng)濟(jì)發(fā)展提供了重要機(jī)遇，但也引發(fā)了安全性方面的擔(dān)憂(yōu)和爭(zhēng)議。

圖靈獎(jiǎng)得主、多倫多大學(xué)教授杰弗里·辛頓認(rèn)為，目前的人工智能已經(jīng)可以通過(guò)學(xué)習(xí)，掌握“欺騙”人類(lèi)的方式。“一旦人工智能具備了‘欺騙’的能力，就有了‘控制’人類(lèi)的能力。這樣的超級(jí)智能可能會(huì)比預(yù)想中發(fā)生得更快。”

在通用人工智能時(shí)代到來(lái)之前，人工智能的安全風(fēng)險(xiǎn)主要來(lái)自于“人”。“我們不應(yīng)該假設(shè)機(jī)器是公正的，因?yàn)闄C(jī)器可能會(huì)試圖改變?nèi)祟?lèi)的行為。更準(zhǔn)確地說(shuō)，是機(jī)器的所有者想要改變其他人的行為。”圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士姚期智說(shuō)，當(dāng)前人工智能的發(fā)展處于重要窗口期，各國(guó)應(yīng)共同合作，搭建人工智能的治理結(jié)構(gòu)。

隨著人工智能的本事越來(lái)越大，人工智能的“對(duì)齊”問(wèn)題浮上水面。所謂“對(duì)齊”，即人工智能系統(tǒng)的目標(biāo)要和人類(lèi)的價(jià)值觀(guān)與利益“對(duì)齊”，保持一致。

如何讓人工智能與人類(lèi)“對(duì)齊”？阿爾特曼認(rèn)為，人們應(yīng)當(dāng)負(fù)責(zé)任地將人工智能應(yīng)用到世界中，重視和管理好安全風(fēng)險(xiǎn)。他建議在人工智能技術(shù)研發(fā)過(guò)程中建立平等、統(tǒng)一的國(guó)際規(guī)范和標(biāo)準(zhǔn)，并通過(guò)國(guó)際合作，以可驗(yàn)證的方式建立人工智能系統(tǒng)安全開(kāi)發(fā)的信任體系。

黃鐵軍認(rèn)為，人工智能雖然會(huì)產(chǎn)生預(yù)料之外的新能力，但這并不意味著人類(lèi)無(wú)法對(duì)人工智能進(jìn)行管理。“如何管理人工智能這樣一個(gè)創(chuàng)造性極強(qiáng)的系統(tǒng)，社會(huì)學(xué)、歷史學(xué)等學(xué)科都能提供很好的借鑒意義。”

今年2月，中國(guó)在《全球安全倡議概念文件》中提出加強(qiáng)人工智能等新興科技領(lǐng)域國(guó)際安全治理，預(yù)防和管控潛在安全風(fēng)險(xiǎn)。在此次智源大會(huì)上，專(zhuān)家學(xué)者積極評(píng)價(jià)中國(guó)在推動(dòng)人工智能?chē)?guó)際治理上的貢獻(xiàn)。

阿爾特曼說(shuō)，中國(guó)在人工智能領(lǐng)域擁有大量?jī)?yōu)秀的人才和產(chǎn)品系統(tǒng)，在人工智能的安全方面應(yīng)發(fā)揮關(guān)鍵作用。

麻省理工學(xué)院人工智能與基礎(chǔ)交互研究中心教授馬克斯·泰格馬克表示，中國(guó)在塑造全球人工智能議程上的能力日益增長(zhǎng)，可以在人工智能安全治理領(lǐng)域發(fā)揮領(lǐng)導(dǎo)作用。

推動(dòng)大模型共建共享

當(dāng)下，全球人工智能領(lǐng)域的科技競(jìng)賽日趨白熱化。2023中關(guān)村論壇上發(fā)布的《中國(guó)人工智能大模型地圖研究報(bào)告》顯示，全國(guó)已發(fā)布了79個(gè)參數(shù)在10億規(guī)模以上的人工智能大模型。

從全球來(lái)看，中國(guó)和美國(guó)已發(fā)布的大模型數(shù)量超過(guò)全球總數(shù)的80%。中國(guó)自2020年起進(jìn)入大模型快速發(fā)展期，在大模型方面已建立起涵蓋理論方法和軟硬件技術(shù)的體系化研發(fā)能力，形成了緊跟世界前沿的大模型技術(shù)群，涌現(xiàn)出多個(gè)具有行業(yè)影響力的預(yù)訓(xùn)練大模型。

在此次大會(huì)上，全面開(kāi)源的智源“悟道3.0”系列大模型及算法正式發(fā)布。據(jù)了解，“悟道3.0”涵蓋了一系列領(lǐng)先成果，包括“悟道·天鷹”（Aquila）語(yǔ)言大模型系列、天秤（FlagEval）開(kāi)源大模型評(píng)測(cè)體系與開(kāi)放平臺(tái)，“悟道·視界”視覺(jué)大模型系列以及一系列多模態(tài)模型成果等。

黃鐵軍認(rèn)為，人工智能大模型有3個(gè)特點(diǎn)：一是規(guī)模大；二是有“涌現(xiàn)性”，即能夠產(chǎn)生預(yù)料之外的新能力；三是通用性，不限于解決專(zhuān)門(mén)問(wèn)題或者專(zhuān)門(mén)領(lǐng)域。他表示，大模型不是任何一家機(jī)構(gòu)或者一家公司壟斷的技術(shù)，應(yīng)當(dāng)共建共享，推出一套智力社會(huì)所需的基礎(chǔ)的算法體系。

（實(shí)習(xí)生張偉納對(duì)本文亦有貢獻(xiàn)）