摘 要:當(dāng)前，新一代人工智能技術(shù)在全球蓬勃興起。對(duì)國際國內(nèi)人工智能治理標(biāo)志性事件開展系統(tǒng)研究，有助于規(guī)律性認(rèn)識(shí)人工智能未來發(fā)展趨勢，有助于深層次把握革命性技術(shù)對(duì)勞動(dòng)就業(yè)、社會(huì)倫理、個(gè)人隱私帶來的風(fēng)險(xiǎn)與沖擊，有助于綜合性了解各國政府、學(xué)術(shù)機(jī)構(gòu)、社會(huì)組織、企業(yè)主體等社會(huì)各層面、各領(lǐng)域?yàn)榇_保人工智能安全、可靠、可控、可持續(xù)發(fā)展做出的努力，進(jìn)而以更積極的態(tài)度研判大勢、把握機(jī)遇、引領(lǐng)潮流，推動(dòng)人工智能服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展和民生福祉改善。

關(guān)鍵詞:AI治理 倫理規(guī)范 算法治理 法治化 國際化

【中圖分類號(hào)】TP18 【文獻(xiàn)標(biāo)識(shí)碼】A

當(dāng)前，新一代人工智能技術(shù)在全球蓬勃興起，對(duì)國際國內(nèi)人工智能治理標(biāo)志性事件開展系統(tǒng)研究，有助于以更積極的態(tài)度研判大勢、把握機(jī)遇、引領(lǐng)潮流，推動(dòng)人工智能服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展和民生福祉改善。為此，人民智庫與曠視AI治理研究院第二次成立聯(lián)合課題組，并邀請(qǐng)中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）為課題支持單位，以《新一代人工智能倫理規(guī)范》中提到的六條原則為遵循，依據(jù)理論價(jià)值、實(shí)踐價(jià)值、新聞價(jià)值、研究價(jià)值等四個(gè)評(píng)價(jià)標(biāo)準(zhǔn)共同開展“2021年度全球十大人工智能治理事件”（以下簡稱“十大事件”）遴選、評(píng)議，并對(duì)國家相關(guān)部委、行業(yè)協(xié)會(huì)領(lǐng)導(dǎo)、高校院所專家學(xué)者以及人工智能產(chǎn)業(yè)領(lǐng)域從業(yè)者等典型群體進(jìn)行深入訪談。綜合研判，最終得出2021年度全球十大人工智能治理事件和事件背后的發(fā)展趨勢。

十大事件三年考：重點(diǎn)化、國際化、法治化

縱觀2019年至2021年的全球十大人工智能治理事件，可以看到社會(huì)各界對(duì)AI治理領(lǐng)域高度關(guān)注的若干條脈絡(luò)線：

人工智能治理的重點(diǎn)領(lǐng)域日漸明晰?；诋?dāng)前人工智能技術(shù)發(fā)展階段和經(jīng)濟(jì)社會(huì)生活現(xiàn)實(shí)，人臉識(shí)別、輔助駕駛、算法推薦作為人工智能應(yīng)用較廣泛、發(fā)展較迅速、現(xiàn)實(shí)意義強(qiáng)、問題矛盾也相對(duì)集中的三大重點(diǎn)領(lǐng)域，其輪廓日趨清晰，國際國內(nèi)人工智能治理的重心、重點(diǎn)和規(guī)則規(guī)范制定出臺(tái)也日趨向這三個(gè)領(lǐng)域及相關(guān)應(yīng)用場景集中。

人工智能治理領(lǐng)域的國際合作日趨密切。隨著人工智能技術(shù)迅猛發(fā)展和世界經(jīng)濟(jì)格局迅速演變，各國普遍認(rèn)識(shí)到，人工智能的有效治理是全球性、全局性議題，沒有一個(gè)區(qū)域、國家可以成為“孤島”，也很難在缺乏有效國際共識(shí)、協(xié)作機(jī)制的前提下真正實(shí)現(xiàn)人工智能領(lǐng)域的善治。

人工智能治理領(lǐng)域的法治化程度逐步提升。中美歐普遍高度重視人工智能領(lǐng)域立法，逐步實(shí)現(xiàn)了人工智能重點(diǎn)領(lǐng)域“有法可依”，重要應(yīng)用場景均有法律法規(guī)和相關(guān)規(guī)則予以規(guī)范，為人工智能技術(shù)的可持續(xù)健康發(fā)展奠定了良好法治基礎(chǔ)。與此相應(yīng)，相關(guān)領(lǐng)域司法實(shí)踐日趨走向成熟、穩(wěn)定、可預(yù)期，成為人工智能治理領(lǐng)域重要“善治”基石。

人工智能治理領(lǐng)域的意識(shí)形態(tài)風(fēng)險(xiǎn)挑戰(zhàn)日益成為焦點(diǎn)。世界百年未有之大變局下，大國競爭博弈日趨激烈，人工智能等前沿科技領(lǐng)域競爭趨于白熱化。算法推薦、機(jī)器人賬號(hào)、社交媒體精準(zhǔn)推送等日趨成為人工智能應(yīng)用熱點(diǎn)，個(gè)人信息、經(jīng)濟(jì)社會(huì)信息、地理信息安全等問題備受關(guān)注，這些都與意識(shí)形態(tài)領(lǐng)域安全乃至國家戰(zhàn)略安全息息相關(guān)，人工智能治理領(lǐng)域的競爭與國際話語權(quán)競爭的聯(lián)系日趨緊密，“元宇宙”等新的應(yīng)用場景還將繼續(xù)加速這一進(jìn)程。

開啟算法治理元年 建構(gòu)平衡包容的治理體系

在本次調(diào)查中，涉及算法治理的事件受到了專家和公眾的廣泛關(guān)注。國內(nèi)主要事件為“九部委發(fā)文：防止利用算法干擾社會(huì)輿論等行為”“網(wǎng)信辦擬規(guī)定不得利用算法控制熱搜，用戶可選擇關(guān)閉算法推薦”。國際方面為“美國新提案將賦予社交媒體用戶禁用算法的權(quán)利”。

2021年堪稱中國算法治理元年。北京科技大學(xué)法學(xué)院副教授、國家人工智能倫理與道德標(biāo)準(zhǔn)小組成員張凌寒認(rèn)為，我國的算法治理體系以信息安全、市場競爭秩序和消費(fèi)者權(quán)益保護(hù)為指導(dǎo)思想，2021年的算法綜合治理活動(dòng)與相關(guān)立法，使得我國率先建立了世界上最為完備的囊括數(shù)據(jù)安全、個(gè)人信息保護(hù)和算法安全的互聯(lián)網(wǎng)治理體系。標(biāo)志性事件是世界第一部系統(tǒng)性、全面性規(guī)制算法的法律文件《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的出臺(tái)。《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》宣布我國將在三年內(nèi)建立算法安全綜合治理格局。綜合來看，歐盟和美國在數(shù)據(jù)保護(hù)立法領(lǐng)域走在了中國之前，算法規(guī)制方面中國則當(dāng)仁不讓地開世界先河。

法律厘清數(shù)據(jù)邊界 敏捷治理回應(yīng)民眾關(guān)切

人工智能技術(shù)具備卓越的信息處理能力，可以將碎片化的信息進(jìn)行整合，從而實(shí)現(xiàn)信息從“量”到“質(zhì)”的飛躍。因此，如何有效保護(hù)和合理使用信息數(shù)據(jù)，成為人工智能技術(shù)健康發(fā)展面臨的重要課題。對(duì)此，我國從司法實(shí)踐角度升級(jí)法律體系，適應(yīng)人工智能時(shí)代的需要，保障個(gè)人信息安全。本次十大事件的評(píng)選中，國內(nèi)涉及保護(hù)個(gè)人信息安全、規(guī)制個(gè)人信息收集的事件關(guān)注度最高，如《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》正式實(shí)施，最高法出臺(tái)人臉識(shí)別新規(guī)等。“人臉識(shí)別第一案在浙江省杭州市中級(jí)人民法院迎來終審宣判”也受到廣泛關(guān)注。在國際方面，“歐盟發(fā)布針對(duì)人工智能技術(shù)的監(jiān)管法規(guī)草案，呼吁禁止公共場所人臉識(shí)別”受關(guān)注度最高。

中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所副所長魏凱分析，2021年，備受關(guān)注的《數(shù)據(jù)安全法》與《個(gè)人信息保護(hù)法》出臺(tái)，與《網(wǎng)絡(luò)安全法》共同形成了數(shù)據(jù)治理法律領(lǐng)域的“三駕馬車”，標(biāo)志著我國數(shù)據(jù)安全法律架構(gòu)已初步搭建完成。在此基礎(chǔ)上，聚焦重點(diǎn)行業(yè)、新興技術(shù)的數(shù)據(jù)安全法律法規(guī)和司法解釋也在2021年密集出臺(tái)，充分體現(xiàn)了我國在數(shù)據(jù)立法方面的前瞻性和創(chuàng)新性。這一系列法律法規(guī)的出臺(tái)，為加快培育數(shù)據(jù)要素市場、保障數(shù)字經(jīng)濟(jì)健康發(fā)展奠定了堅(jiān)實(shí)的制度基礎(chǔ)。

清華大學(xué)公共管理學(xué)院教授、人工智能國際治理研究院副院長梁正認(rèn)為，人工智能治理已經(jīng)成為全球共識(shí)，且已從理念層面進(jìn)入到建章立制、落地實(shí)施的階段。除了自上而下的建章立制，自下而上的基于應(yīng)用主體和用戶選擇的參與，也成為人工智能治理的一個(gè)重要特點(diǎn)。

剛?cè)岵?jì)：倫理標(biāo)準(zhǔn)推動(dòng)科技向善

隨著人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用，相關(guān)倫理問題愈發(fā)受到各界重視。目前，國內(nèi)外對(duì)于人工智能的監(jiān)管措施，覆蓋了“柔性治理”與“剛性條款”，實(shí)現(xiàn)了“剛?cè)岵?jì)”。除了出臺(tái)系列針對(duì)數(shù)據(jù)與技術(shù)的法律法規(guī)外，對(duì)于AI涉及倫理方面的內(nèi)容也做出規(guī)定。自2017年7月國務(wù)院出臺(tái)《新一代人工智能發(fā)展規(guī)劃》，到2019年6月，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，以及 2021年9月25日，發(fā)布《新一代人工智能倫理規(guī)范》，都在為從事人工智能相關(guān)活動(dòng)的自然人、法人和其他相關(guān)機(jī)構(gòu)等提供倫理指引。

聯(lián)合國是推動(dòng)建立全球AI倫理規(guī)范的重要力量。2021年11月，聯(lián)合國教科文組織發(fā)布了《人工智能倫理建議書》，這是全球首個(gè)針對(duì)人工智能倫理制定的規(guī)范框架。此外，世界衛(wèi)生組織(WHO)于2021年6月28日正式發(fā)布了“世界衛(wèi)生組織衛(wèi)生健康領(lǐng)域人工智能倫理與治理指南”。

中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所何寶宏所長強(qiáng)調(diào)，發(fā)布《新一代人工智能倫理規(guī)范》，細(xì)化落實(shí)《新一代人工智能治理原則》，是我國深化人工智能治理工作的又一重大舉措。人工智能技術(shù)以數(shù)據(jù)、算法為驅(qū)動(dòng)，發(fā)展速度迅猛，正在深刻改變?nèi)祟惖纳鐣?huì)生產(chǎn)和生活模式。但人工智能技術(shù)的濫用也不斷沖擊社會(huì)倫理底線、侵犯個(gè)人權(quán)益。所以，既要大力發(fā)展人工智能，又要高度重視風(fēng)險(xiǎn)和挑戰(zhàn)，科學(xué)處理好發(fā)展和治理的關(guān)系，發(fā)展可信的人工智能。

AI增進(jìn)民生福祉 前沿科技勾勒幸福未來

“自動(dòng)駕駛汽車2021年或在英國合法化”入圍十大事件，意味著AI技術(shù)成熟對(duì)人類智能交通、智慧出行福祉的改善受到社會(huì)認(rèn)可。南京大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系聶長海教授認(rèn)為，這是人類邁出的一大步，以此為示范和契機(jī)，將會(huì)帶動(dòng)更多無人系統(tǒng)和自治系統(tǒng)的繁榮和發(fā)展。

在國內(nèi)，關(guān)于人工智能技術(shù)向善的事件十分令人暖心：AI算法技術(shù)在社交網(wǎng)絡(luò)上識(shí)別并救助有自殺傾向的網(wǎng)友；AI手語主播將全年無休為聽障用戶傳達(dá)比賽資訊；AI首次預(yù)測氣候。此外，據(jù)外媒報(bào)道，某技術(shù)公司研發(fā)的微芯片裝置有望2022年植入人類大腦，這一技術(shù)將為癱瘓者帶來希望。

南京大學(xué)科學(xué)技術(shù)與社會(huì)研究所所長潘天群教授認(rèn)為，在網(wǎng)上“樹洞”進(jìn)行傾訴是心理障礙者舒緩壓力的一個(gè)重要渠道。人工智能技術(shù)設(shè)計(jì)的軟件用于阻止更多意圖自殺的人，公益性強(qiáng)、社會(huì)價(jià)值巨大，同時(shí)也意味著基于網(wǎng)上的資源可以開發(fā)出各種具有公益價(jià)值的軟件。

“AI手語主播的應(yīng)用表明，AI數(shù)字人技術(shù)可以通過人工智能讓機(jī)器用某些情感貫穿的表達(dá)方式與面部表情后臺(tái)邏輯，在虛擬世界中打造一個(gè)真實(shí)的助手或者合作伙伴。未來，AI客服、AI經(jīng)理、AI店長、AI演示員等多種社會(huì)角色，或許將陸續(xù)在不同行業(yè)、不同領(lǐng)域‘上崗’，讓人們切實(shí)體會(huì)到‘人工智能建設(shè)的美好世界’。”科大訊飛高級(jí)副總裁江濤如是說。

趨勢前瞻：AI為推動(dòng)人類文明進(jìn)步正向賦能

中國信息通信研究院副總工程師、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟副秘書長王愛華認(rèn)為，2021年是全球人工智能治理極具實(shí)質(zhì)性突破的一年，呈現(xiàn)出三大發(fā)展特點(diǎn)：治理“趨實(shí)”、治理“趨嚴(yán)”、治理“趨細(xì)”。將抽象的人工智能倫理原則、法律規(guī)范轉(zhuǎn)化為具體實(shí)踐，落實(shí)到技術(shù)、產(chǎn)品和應(yīng)用中去，是產(chǎn)業(yè)界亟需加快推進(jìn)的緊迫工作。

曠視科技聯(lián)合創(chuàng)始人兼CEO印奇認(rèn)為，作為全球科技競爭的關(guān)鍵領(lǐng)域，人工智能不只需要在技術(shù)創(chuàng)新和應(yīng)用落地上下工夫，也需要在治理上使力氣。人工智能既是我們創(chuàng)造美好生活的重要手段，也是需要妥善治理的對(duì)象。讓人工智能在合法合規(guī)、合情合理的框架下健康發(fā)展，用人工智能造福大眾，離不開所有AI從業(yè)者和社會(huì)各界的共同努力。

未來，考察AI治理問題，一是需要增加新型全球化背景下的宏觀考察，于構(gòu)建人類命運(yùn)共同體的時(shí)代議題之下，考量人工智能對(duì)人類文明的推動(dòng)；更加聚焦前沿科技服務(wù)民生和助力公平，增強(qiáng)大眾對(duì)AI改善民生福祉、助力幸福未來的期待和信心。二是通過法治手段厘清人工智能的法治倫理邊界。有關(guān)部門密切追蹤技術(shù)前沿，廣泛吸納意見和建議，對(duì)倫理規(guī)范進(jìn)行科學(xué)、動(dòng)態(tài)制定和調(diào)整，引導(dǎo)AI為推動(dòng)人類文明進(jìn)步正向賦能。三是更加強(qiáng)調(diào)AI治理的國際合作和政產(chǎn)學(xué)研合作，對(duì)于人工智能治理的問題需要全人類共同面對(duì)，相關(guān)標(biāo)準(zhǔn)規(guī)范的制定需各方參與、共商共議、交流互鑒。

責(zé)編：韓冰曦／美編：石 玉

Artificial Intelligence Governance Moving towards a New Stage and a 

New Pattern

—— Comments on the World’s Top Ten AI Governance Events in 2021

People Think Tank   Megvii AI Governance Research Institute

Abstract: Nowadays, the new-generation artificial intelligence (AI) has emerged and flourished globally. A systematic research on the landmarks of AI in China and other countries is conducive to identifying the trends of AI development, to handling the risks and challenges posed by this revolutionary technology on labor, employment, social ethics, and personal privacy, and to developing a comprehensive understanding of the efforts that social members at multiple levels and in various areas—including governments, academic institutions, social organizations, and corporate entities—have made to ensure the secure, reliable, controllable and sustainable development of the AI. Altogether, this research will promote a more proactive mindset to judge the situation, seize the opportunities, and lead the trends for AI to better serve the economic and social development as well as people’s well-being.

Keywords: AI governance; ethical norms; algorithmic governance; rule of law; internationalization

聲明：本文為《國家治理》周刊原創(chuàng)內(nèi)容，任何單位或個(gè)人轉(zhuǎn)載請(qǐng)回復(fù)國家治理周刊微信號(hào)獲得授權(quán)，轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。