摘 要:隨著深度學習、多模態(tài)技術(shù)及大語言模型等新一代人工智能技術(shù)的突破性發(fā)展，人工智能領(lǐng)域呈現(xiàn)出前所未有的發(fā)展態(tài)勢。人工智能正在快速改變經(jīng)濟、社會和日常生活方式，為產(chǎn)業(yè)升級、社會治理和生活便利化提供了重要驅(qū)動力。然而，伴隨這一發(fā)展進程的是信息安全、社會公平、就業(yè)結(jié)構(gòu)、資源消耗、地緣沖突與數(shù)字鴻溝等多維度風險。針對新一代人工智能技術(shù)所衍生的風險， 應當持續(xù)推進算法透明化建設、健全法律與倫理框架體系、增強社會保障能力、推動綠色科技創(chuàng)新以及深化國際合作，以期在確保新一代人工智能技術(shù)安全、公平發(fā)展的基礎(chǔ)上，實現(xiàn)其可持續(xù)發(fā)展，讓世界共享人工智能發(fā)展紅利。

關(guān)鍵詞:新一代人工智能 社會影響 風險治理 國際合作

【中圖分類號】TP18 【文獻標識碼】A

第二次世界大戰(zhàn)期間，以艾倫·圖靈（Alan Turing）為代表的數(shù)學家們發(fā)明了現(xiàn)代計算機的前身產(chǎn)品，從而極大提升了人類的計算速度。這些經(jīng)驗促使圖靈于1950年在著作《計算機器與智能》中提出了一個具有里程碑意義的問題，即“機器能夠思考嗎？”1956年，另一位計算機行業(yè)先驅(qū)約翰·麥卡錫（John McCarthy）正式提出了“人工智能”的概念，意指機器有可能模擬人類的智能特征。[1]自此之后，世界各國各學科人才一直致力于該領(lǐng)域的研究。在長達數(shù)十年的時間里，有關(guān)人工智能的研究形成了“結(jié)構(gòu)模擬”“功能模擬”“行為模擬”等三大流派，它們代表不同的研究理念，在不同場景也具有各自的獨特優(yōu)勢。但是，從根本上來說，在當時的技術(shù)水平條件下，整個人工智能研究缺乏“三算”（算力、算法、算料）基礎(chǔ)，由此研究曾長期處于難以推進的尷尬狀態(tài)。[2]

新世紀以來，半導體、高速通信及數(shù)字存儲技術(shù)的突破性進展加速了人類社會的信息化進程。計算能力的指數(shù)級增長、算法的持續(xù)優(yōu)化及數(shù)據(jù)規(guī)模的爆發(fā)式擴張，為人工智能研究開創(chuàng)了前所未有的發(fā)展機遇。新一代人工智能技術(shù)迅速崛起，成為全球科技創(chuàng)新的核心領(lǐng)域。然而，技術(shù)發(fā)展往往是“雙刃劍”，在促進人類福祉提升的同時，亦可能衍生難以預測的潛在風險。這就要求我們深入研究人工智能對社會系統(tǒng)的影響機理，并構(gòu)建相應的風險防控體系。

新一代人工智能的發(fā)展現(xiàn)狀

2017年7月，國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》明確指出，“新一代人工智能相關(guān)學科發(fā)展、理論建模、技術(shù)創(chuàng)新、軟硬件升級等整體推進，正在引發(fā)鏈式突破，推動經(jīng)濟社會各領(lǐng)域從數(shù)字化、網(wǎng)絡化向智能化加速躍升”。在此之后的數(shù)年時間里，國內(nèi)外頂級人工智能科研機構(gòu)與企業(yè)繼續(xù)發(fā)力，積極把握住人類社會數(shù)字化的時代潮流，全力推動人工智能從小范圍、實驗室測試階段走向大規(guī)模、商業(yè)化應用階段。目前，新一代人工智能正在科技與商業(yè)領(lǐng)域雙向發(fā)力，取得重大進展。

第一，以中國為代表的世界主要大國更加重視新一代人工智能發(fā)展。黨的二十屆三中全會通過的《中共中央關(guān)于進一步全面深化改革、推進中國式現(xiàn)代化的決定》中多處提及“人工智能”：完善推動人工智能等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系；完善生成式人工智能發(fā)展和管理機制；建立人工智能安全監(jiān)管制度；在實施“一帶一路”科技創(chuàng)新行動計劃領(lǐng)域加強人工智能等多邊合作平臺建設。與此同時，自2024年初以來，美、英、德、法等西方大國也在新一代人工智能領(lǐng)域頻頻施策，尋求主導地位。[3]

第二，科技界繼續(xù)推進新一代人工智能核心技術(shù)研發(fā)，其中深度學習、多模態(tài)、大語言模型等技術(shù)尤為引人關(guān)注。深度學習是新一代人工智能的一個重要發(fā)展方向，其核心在于通過模擬人腦的神經(jīng)網(wǎng)絡結(jié)構(gòu)，訓練計算機從大量數(shù)據(jù)中提取特征并進行預測或分類。隨著計算能力的提升和數(shù)據(jù)量的增加，深度學習已經(jīng)在語音識別、圖像處理，乃至邏輯歸納等領(lǐng)域取得了顯著的進展。多模態(tài)技術(shù)則主要涉及更加復合與融合的新一代人工智能，與傳統(tǒng)人工智能相比，多模態(tài)技術(shù)能夠處理并整合文本、圖像、音頻、視頻等多類信息源，形成更為全面的理解和決策，該技術(shù)有助于實現(xiàn)人工智能系統(tǒng)信息輸入與輸出的多維度融合，并提高系統(tǒng)在復雜環(huán)境中的表現(xiàn)。大語言模型通過處理大量文本數(shù)據(jù)，學習人類語言的結(jié)構(gòu)和使用規(guī)則，能夠生成符合語法和語義的自然語言，這些模型不僅可以理解和生成文本，還能夠在一定程度上進行推理、解決問題和生成創(chuàng)意。

第三，企業(yè)界對新一代人工智能的投資興趣熱度不減。中國互聯(lián)網(wǎng)絡信息中心在2024年11月發(fā)布的《生成式人工智能應用發(fā)展報告（2024）》顯示，中國生成式人工智能產(chǎn)品用戶規(guī)模已達2.3億人，人工智能核心產(chǎn)業(yè)規(guī)模已接近6000億元人民幣。據(jù)有關(guān)數(shù)據(jù)統(tǒng)計，2018年以來，全球人工智能初創(chuàng)企業(yè)年度風險投資規(guī)模維持在500億美元以上，個別年份甚至高達1100億美元。特別是手握巨額財富的美國四大數(shù)字平臺企業(yè)（Meta、谷歌、微軟、亞馬遜）在2024年延續(xù)高強度投資態(tài)勢，第二季度在人工智能基礎(chǔ)設施投資規(guī)模達529億美元。從2024年年初至9月份，全球針對人工智能初創(chuàng)企業(yè)的風險投資規(guī)模達到了641億美元，按比例來看，近三分之一的風險投資資金都流向了人工智能行業(yè)。[4]

新一代人工智能的正向經(jīng)濟與社會影響

新一代人工智能在科技創(chuàng)新與產(chǎn)業(yè)應用層面取得突破性進展，正加速滲透至社會各領(lǐng)域，對政治、經(jīng)濟、文化等維度產(chǎn)生深遠影響。就正向影響來說，新一代人工智能在促進經(jīng)濟增長、增進社會福利等方面均具有重要潛能。

第一，打造全新產(chǎn)業(yè)，提升生產(chǎn)效率。盡管ChatGPT等生成式人工智能聊天機器人應用風靡全球，但新一代人工智能并非只是單一的文本或視頻生成技術(shù)，而是一整套具有底座意義的科技創(chuàng)新與賦能體系。新一代人工智能正在與各產(chǎn)業(yè)領(lǐng)域深度融合，形成數(shù)據(jù)驅(qū)動、人機協(xié)同、跨界融合、共創(chuàng)分享的智能經(jīng)濟形態(tài)。一方面，新一代人工智能技術(shù)已發(fā)展成為新興產(chǎn)業(yè)，技術(shù)轉(zhuǎn)化、集成與創(chuàng)新不斷涌現(xiàn)，從而催生了眾多新興業(yè)態(tài)。這些業(yè)態(tài)通常具有高附加值，位于全球產(chǎn)業(yè)鏈和價值鏈的高端，例如人工智能軟硬件、智能工業(yè)機器人、智能（無人）駕駛交通工具等。目前，中、美、英、法、德等新一代人工智能大國均涌現(xiàn)出了一大批人工智能相關(guān)產(chǎn)業(yè)巨頭，它們?yōu)樯鲜鰢业慕?jīng)濟增長與高質(zhì)量發(fā)展提供了強勁動力。

另一方面，新一代人工智能作為“科技頭雁”，對其他產(chǎn)業(yè)的溢出帶動作用更加明顯。2024年12月11日至12日，中央經(jīng)濟工作會議確定了2025年要抓好的九項重點任務，其中之一是以科技創(chuàng)新引領(lǐng)新質(zhì)生產(chǎn)力發(fā)展，建設現(xiàn)代化產(chǎn)業(yè)體系，開展“人工智能+”行動。“人工智能+”就是要將新一代人工智能技術(shù)與各行各業(yè)、各種應用場景有機結(jié)合，以創(chuàng)造更多價值。[5]譬如，在新一代人工智能的加持下，制造業(yè)生產(chǎn)設備與流程的自動化、智能化水平大幅提升，能夠?qū)崿F(xiàn)全年無休運轉(zhuǎn)，而且顯著降低了傳統(tǒng)人工監(jiān)督生產(chǎn)的失誤率，極大提升了產(chǎn)能。此外，在金融交易、交通運輸、物流配送等行業(yè)，新一代人工智能具有龐大的數(shù)據(jù)庫與巨大的算力，能夠向這些行業(yè)提供人腦難以企及的運籌學最優(yōu)方案，從而節(jié)約了大量的時間與成本，繼而提升了生產(chǎn)效率，減輕了人們的工作負擔。

第二，提升社會治理能力，增進社會福祉。有研究指出，各國不同的人工智能政策會對本國的社會福利結(jié)構(gòu)與水平產(chǎn)生重大的影響。[6]目前看來，新一代人工智能正在全面整合大數(shù)據(jù)、高算力、強算法，因此它在破解一些社會治理傳統(tǒng)難題上，具備強大的潛力。在醫(yī)療行業(yè)，已經(jīng)有德國人工智能企業(yè)將機器深度學習應用于醫(yī)學影像檢測，在顯著降低成本的同時，大幅提升了診斷效率與準確性。在教育領(lǐng)域，人工智能正在賦能各類在線學習平臺，它們能夠提供基于整個大數(shù)據(jù)庫的優(yōu)質(zhì)教育資源，而且能夠完全打破空間壁壘，顯著緩解教育發(fā)展地域不均衡的難題。在天氣預報、氣候變化監(jiān)測以及環(huán)境保護等多個領(lǐng)域，新一代人工智能技術(shù)展現(xiàn)了其卓越的“三算”能力，顯著提升了這些行業(yè)的觀測與預測水平，達到了前所未有的高度。

第三，全面融入日常生活，改善衣食住行。新一代人工智能以其強大的計算能力和自我學習能力，極大地提升了人類日常生活的便利性。從智能語音助手到推薦算法，人工智能使得人們可以更加精準快捷地獲取日常生活所需信息，無論是日常購物、餐飲預訂還是交通導航、健康醫(yī)療，由人工智能賦能的各種智能終端設備與軟件都能夠更好地了解消費者的個性化需求，并做出快速匹配。尤其在中國，眾多新興的人工智能生態(tài)系統(tǒng)企業(yè)正迅速崛起，它們所推出的創(chuàng)新產(chǎn)品正廣泛滲透至汽車、家居、娛樂、支付、健康等多個領(lǐng)域，極大地提升了廣大用戶日常生活的便捷性，實現(xiàn)了“一鍵互聯(lián)”和“一觸即達”的高效體驗。

新一代人工智能的治理風險

但是，新一代人工智能明顯也具有很高的風險，其“雙刃劍”效應業(yè)已凸顯，且正在給各國的社會發(fā)展和國家安全造成重大挑戰(zhàn)。

第一，信息安全與隱私保護風險。新一代人工智能，特別是生成式人工智能、多模態(tài)大模型的迅猛發(fā)展，使得違法犯罪分子盜取他人隱私數(shù)據(jù)、炮制虛假信息的能力大幅上升，成本卻顯著下降。各國普通民眾對傳統(tǒng)紙面型、文字型虛假信息早已樹立了較強的防范意識，但人工智能科技卻使得虛假信息“脫胎換骨”。各種活靈活現(xiàn)的音頻、圖片、視頻對普羅大眾的迷惑性極強。這些深度偽造的虛假信息不僅損害人民群眾的個人隱私、財產(chǎn)安全等切身利益，更有可能被用于操縱輿論、擾亂社會秩序，以至干涉內(nèi)政、顛覆政權(quán)。

第二，算法歧視與社會公平風險。近期有學者特別指出，新一代人工智能的卓越進展，使得人類社會對于智能系統(tǒng)及其服務的態(tài)度，從既往的不太信任發(fā)展到了如今的過度信任。[7]但是，人工智能及其背后的算法永遠無法實現(xiàn)真正的客觀公正，算法越強大，越無處不在，越有可能將這種過度信任扭曲為“信息繭房”，繼而就會在不同的人群間逐步制造出堅固的認知壁壘，其最終將加劇社會不公平、不公正問題。

第三，替代人工與社會沖擊風險。斯坦福大學于2024年發(fā)布的《人工智能指數(shù)報告》指出，新一代人工智能在圖像分類、視覺推理、語言理解等任務上的能力表現(xiàn)已經(jīng)超過人類，因此它尤其擅長完成與規(guī)范文字、數(shù)字相關(guān)的重復性、程序性的任務。在此背景下，人類社會的就業(yè)形態(tài)必然會受到深刻影響，譬如數(shù)據(jù)錄入文員、零售業(yè)收銀員、電話客服接線員等職業(yè)可能會面臨被取代的風險。此外，國際貨幣基金組織的研究發(fā)現(xiàn)，在發(fā)達經(jīng)濟體，大約60%的工作崗位可能受到人工智能的影響，在新興市場和低收入國家，受到人工智能影響的工作崗位預計分別占40%和26%，除此之外，人工智能還可能影響國家內(nèi)部的收入和財富不平等。上述就業(yè)與收入問題最終都容易引發(fā)社會抗議，給國家治理造成額外的挑戰(zhàn)。

第四，自然資源消耗與環(huán)境可持續(xù)風險。當前，新一代人工智能的繁榮背后，是各國對自然資源的進一步過度消耗。例如：與傳統(tǒng)的數(shù)據(jù)中心相比，人工智能數(shù)據(jù)中心更加耗電耗水。2024年美國與加拿大的數(shù)據(jù)中心向發(fā)電公司訂購的電力達到33675兆瓦，比2015年的用電量增長了約8.7倍。[8]《自然》雜志指出，在日益嚴重的淡水短缺危機、持續(xù)干旱和公共供水基礎(chǔ)設施迅速老化的當下，亟需深度調(diào)查和解決人工智能的耗水問題，隨著新一代人工智能需求激增，相關(guān)用水量在2027年之前將增至42億至66億立方米，約為英國每年用水總量的一半。[9]

第五，人工智能軍事化與全球發(fā)展風險。當前，一些西方大國正在強行推進人工智能武器化進程，將新一代人工智能與傳統(tǒng)武器裝備結(jié)合，希望制造完全自主武器（即所謂的“智能殺人機器”）。這類做法不僅違背人類傳統(tǒng)道德，而且還會徹底顛覆國防與戰(zhàn)爭形態(tài)。更重要的是，某些霸權(quán)國家為了護持霸權(quán)，明顯尋求獨霸人工智能領(lǐng)域，希望對其他國家的發(fā)展能力形成代際差距。此類做法一方面迫使其他大國只能作出對等反應，引發(fā)人工智能軍備競賽，另一方面更是顯著擴展了全球數(shù)字發(fā)展鴻溝，“贏者通吃、弱者更弱”的全球巨大發(fā)展差距將更為明顯，從而給世界帶來更多的深層次不穩(wěn)定因素。

總的看來，新一代人工智能的確具有提升經(jīng)濟社會發(fā)展水平等諸多益處，但其風險點眾多且重大，對國家的社會發(fā)展和國家安全均形成挑戰(zhàn)，因此亟需把握風險治理的核心議題，采取切實有效的行動。

新一代人工智能風險治理的關(guān)鍵路徑

2018年，習近平總書記在主持十九屆中央政治局第九次集體學習時就強調(diào)：“要加強人工智能發(fā)展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。”面對近年來新一代人工智能躍遷帶來的更大挑戰(zhàn)，中國需要制定更加科學有效的治理路徑，在推動技術(shù)進一步發(fā)展的同時規(guī)避潛在威脅。人工智能的風險治理既需要符合中國自身國情，也要將技術(shù)創(chuàng)新與倫理規(guī)范相融合，更需要推動全球協(xié)作和實踐方案。治理關(guān)鍵路徑應包含以下幾個方面：

第一，推進算法透明化研發(fā)，強化風險監(jiān)測機制。新一代人工智能的核心能力之一在于強大算法，但當前算法黑箱難題遲遲沒有得到解決，以致其成為人工智能風險復雜難辨的關(guān)鍵動因。有鑒于此，首先，必須加速算法透明化研究。瞄準一直以來的黑箱式機器學習與算法“痛點”，要下大氣力促進“可解釋性人工智能”科技的開發(fā)，并推動相關(guān)成果盡快落地。在運用新一代人工智能的重點領(lǐng)域，譬如涉及公共安全、個人隱私、醫(yī)療健康、傳媒輿情、企業(yè)內(nèi)控、金融通信的場景，要求人工智能必須能夠被解釋、可溯源、可控制。其次，針對人工智能換臉、變聲、音視頻合成等深度偽造技術(shù)，要從程序代碼根源做好監(jiān)測與預警機制，盡早落實人工智能敏感工具用戶實名制。利用人工智能，建立前沿技術(shù)識別和監(jiān)測體系，對存在人工智能嚴重濫用風險，特別是涉嫌擾亂社會秩序、侵害公共安全的個人或機構(gòu)實行動態(tài)監(jiān)測、常態(tài)化打擊。

第二，推進倫理規(guī)范，繼續(xù)健全法律框架。人工智能的倫理和法律治理是風險管理的核心環(huán)節(jié)。中國的相關(guān)治理必須注重結(jié)合本國國情，要立足于社會主義核心價值觀，強調(diào)人工智能技術(shù)應用必須尊重社會公德、維護公平正義，確保技術(shù)服務于人民福祉。在法律層面，立法機構(gòu)需要制定嚴格的隱私保護法規(guī)，明確數(shù)據(jù)的采集、存儲和使用范圍，并推動企業(yè)與機構(gòu)采用數(shù)據(jù)加密和匿名化技術(shù)，從技術(shù)層面保障用戶隱私。此外，在人工智能使用中觸及的法律責任問題，也需通過制定針對性的法規(guī)予以明確，例如從法律層面盡早明晰算法錯誤或系統(tǒng)失控等意外事件所引發(fā)的責任歸屬問題。

第三，關(guān)注就業(yè)市場變遷，強化社會保障體系。人工智能的廣泛應用對就業(yè)結(jié)構(gòu)和收入分配帶來了深遠影響。政府需要通過政策和社會保障機制，積極應對就業(yè)市場的變化。首先，應加強勞動者的職業(yè)再培訓和技能升級，尤其是對中低技能崗位從業(yè)者提供免費或低成本的技能培訓計劃，以幫助他們適應人工智能驅(qū)動的產(chǎn)業(yè)轉(zhuǎn)型，特別是加強對他們的數(shù)字生產(chǎn)生活方式訓練，使其更好地融入現(xiàn)代數(shù)字與人工智能時代。其次，應建立更有溫度的勞動權(quán)益保護機制，要明確新一代人工智能乃至一切數(shù)字科技的根本用處是增進全社會福利，而不是制造“機器控制人類”的畸形世界，要下力氣整治所謂的“算法陷阱”“智能計時”給一線生產(chǎn)人員帶來的巨大生理與心理壓力。再次，要發(fā)展更靈活的社會保障體系，如失業(yè)保險和收入補助計劃，為受人工智能科技沖擊的勞動者提供過渡支持。同時，政府可以通過財政政策激勵企業(yè)創(chuàng)造更多高附加值崗位，推動產(chǎn)業(yè)升級，為社會提供更多就業(yè)機會。

第四，優(yōu)先發(fā)展綠色科技，強化政策引導支持。為應對新一代人工智能對自然資源的高消耗，需要優(yōu)先發(fā)展更加節(jié)能高效的相關(guān)技術(shù)。例如，在硬件層面加快推進碳化硅等新一代半導體材料的研發(fā)，從根本上大幅減少新一代人工智能計算中心對水電資源的消耗，在軟件層面研發(fā)更加綠色的計算架構(gòu)和優(yōu)化算法。同時，政府應通過征收碳排放稅、獎勵高能效科技等政策，引導企業(yè)關(guān)注節(jié)能增效，加速推動綠色技術(shù)落地應用。

第五，促進國際合作，縮減發(fā)展鴻溝。中國作為新一代人工智能大國，也是國際社會負責任、愛好和平的重要大國，亟需加強引領(lǐng)，在開發(fā)“智能殺人機器”等高風險議題上持續(xù)推進國際社會制定統(tǒng)一的國際法準則，明確風險底線與紅線。與此同時，中國還應推動人工智能技術(shù)的開放共享，倡導構(gòu)建包容性的全球技術(shù)生態(tài)。例如，通過開源平臺和技術(shù)轉(zhuǎn)讓，幫助發(fā)展中國家提高人工智能研發(fā)和應用能力。此外，中國還應繼續(xù)加強“一帶一路”建設中的數(shù)字合作，通過人工智能基礎(chǔ)設施建設、人才培養(yǎng)和經(jīng)驗分享，支持更多后發(fā)國家融入人工智能發(fā)展浪潮。

新一代人工智能是人類技術(shù)進步的里程碑，其強大的計算能力、自主學習能力和廣泛應用場景，正以前所未有的速度改變社會的生產(chǎn)與生活方式。然而，伴隨技術(shù)發(fā)展的不僅是效率提升與便利化，還有深刻的社會、倫理與治理挑戰(zhàn)。例如，算法黑箱與偏見問題可能加劇不平等，隱私侵犯與技術(shù)濫用引發(fā)公眾擔憂，人工智能的軍事化和全球化競爭也對國際安全和合作形成了壓力。這些問題表明，技術(shù)進步本身并非萬能解藥，必須通過技術(shù)創(chuàng)新與治理創(chuàng)新的結(jié)合，才能確保人工智能的安全、可靠與公平應用。未來，唯有在推動人工智能科技發(fā)展的同時，建立健全的倫理框架、法律體系和全球合作機制，才能最大限度地釋放其潛力，為社會發(fā)展注入可持續(xù)動力，實現(xiàn)科技與人類福祉的共贏。

【本文作者為山東大學東北亞學院教授；本文系國家社會科學基金重點項目“中美科技競爭背景下美國對華數(shù)字產(chǎn)業(yè)遏制動向及反制策略研究”（項目編號：22AGJ007）的階段性成果】

注釋略

責編：馮一帆／美編：石 玉