摘 要:近年來(lái)，人工智能的快速發(fā)展及其應(yīng)用范圍的不斷擴(kuò)大，不僅對(duì)人類生活的豐富多樣提供了更多可能性，也為進(jìn)一步推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化提供了有力的技術(shù)支撐。但同時(shí)，也應(yīng)認(rèn)識(shí)到，人工智能技術(shù)具有兩面性，其在為人類社會(huì)發(fā)展帶來(lái)便利、起到推動(dòng)作用的同時(shí)，背后潛在的風(fēng)險(xiǎn)也逐漸顯現(xiàn)。正確認(rèn)識(shí)人工智能在治理領(lǐng)域的“正”“反”兩面作用，對(duì)更好發(fā)揮人工智能技術(shù)在治理領(lǐng)域的正向效應(yīng)，規(guī)避潛在風(fēng)險(xiǎn)具有重要意義。

關(guān)鍵詞:人工智能 治理現(xiàn)代化 技術(shù)支撐

【中圖分類號(hào)】D630 【文獻(xiàn)標(biāo)識(shí)碼】A

國(guó)家治理能力是運(yùn)用國(guó)家制度管理社會(huì)各方面事務(wù)的能力，包括改革發(fā)展穩(wěn)定、內(nèi)政外交國(guó)防、治黨治國(guó)治軍等各個(gè)方面，直接關(guān)系到我國(guó)的良序發(fā)展和國(guó)際競(jìng)爭(zhēng)力的提升。要推進(jìn)國(guó)家治理現(xiàn)代化，實(shí)現(xiàn)高質(zhì)量發(fā)展，需要提高資源利用的有效性，優(yōu)化資源配置，在效率與公平間達(dá)到平衡。隨著科學(xué)技術(shù)的發(fā)展與進(jìn)步，未來(lái)國(guó)家治理的優(yōu)化可以借助人工智能技術(shù)的優(yōu)勢(shì)得以實(shí)現(xiàn)。

人工智能的發(fā)展與應(yīng)用

自2012年以來(lái)，人工智能迎來(lái)了第三次熱潮。在大數(shù)據(jù)、深度學(xué)習(xí)模型和高效并行計(jì)算硬件（GPU）的合力下，人工智能的研發(fā)與應(yīng)用在各行各業(yè)中取得了顯著的進(jìn)展。舉例來(lái)說(shuō)，在高鐵、機(jī)場(chǎng)中，絕大多數(shù)原有的人工驗(yàn)票方式已經(jīng)為高效且準(zhǔn)確的自動(dòng)人臉身份認(rèn)證系統(tǒng)所替代；在醫(yī)療診斷中，人工智能技術(shù)的引入可以輔助醫(yī)生對(duì)疑似病癥進(jìn)行初篩；在氣象預(yù)報(bào)中，人工智能可以利用大數(shù)據(jù)對(duì)惡劣氣候進(jìn)行預(yù)測(cè)，從而提高氣象預(yù)報(bào)的實(shí)效和精度?；陬愃圃?，人工智能可利用其在以下五個(gè)方面的優(yōu)勢(shì)來(lái)推進(jìn)國(guó)家治理現(xiàn)代化：

海量計(jì)算能力。在國(guó)家治理過(guò)程中會(huì)形成大量的數(shù)據(jù)，這些數(shù)據(jù)既有源自同一領(lǐng)域的，也有異構(gòu)和非結(jié)構(gòu)化的。國(guó)家治理中涉及到的數(shù)據(jù)規(guī)模大、更新速度快，純靠人力來(lái)分析和處理難以遍歷數(shù)據(jù)全貌，且需要付出高昂的人力成本。此時(shí)，可以考慮利用人工智能的強(qiáng)大計(jì)算能力，通過(guò)設(shè)計(jì)高效的人工智能搜索或采樣技術(shù)，從海量治理方案中快速高效地找到更有效的治理方案。

高風(fēng)險(xiǎn)模擬。在治理中，我們需要對(duì)未來(lái)的情況或治理方案可能帶來(lái)的后果進(jìn)行預(yù)判和評(píng)估，從而避免錯(cuò)誤的治理方案。但是，并非所有的治理行動(dòng)都能進(jìn)行實(shí)際環(huán)境測(cè)試，如生態(tài)文明、經(jīng)濟(jì)建設(shè)等，都不可能通過(guò)對(duì)實(shí)際治理情境做刻意惡化來(lái)進(jìn)行評(píng)估和分析。在此情況下，人工智能可以通過(guò)提供虛擬仿真環(huán)境來(lái)幫助優(yōu)化治理體系，基于多種可能性形成優(yōu)化治理，并減少治理的成本和風(fēng)險(xiǎn)。

預(yù)測(cè)能力。隨著人工智能第三波熱潮的核心理論和算法模型——深度學(xué)習(xí)的興起，在多數(shù)可程序化的任務(wù)中，如人臉識(shí)別和圖像分類，人工智能的預(yù)測(cè)能力已經(jīng)超越人類。因此，把在這一框架指導(dǎo)下的各種技術(shù)方法融入國(guó)家治理體系中，有利于更高效地提升治理的效能。

用戶偏好能力。治理是多層次的，對(duì)不同的方面有著不同的需求。人工智能能夠通過(guò)分析用戶需求，進(jìn)行量身定制，通過(guò)共用人工智能模型來(lái)減少重復(fù)操作，并獲得更豐富、多粒度的治理模型。

相對(duì)客觀性。人工智能雖然以人類設(shè)計(jì)的算法為基礎(chǔ)，但通常不會(huì)受到人類情緒的影響，因此在預(yù)測(cè)中能保持其最大程度的相對(duì)客觀性，也就能盡可能地體現(xiàn)治理體系的公平性。在國(guó)家治理現(xiàn)代化進(jìn)程和高質(zhì)量發(fā)展階段中，借助人工智能實(shí)現(xiàn)公平與效率的平衡尤其具有現(xiàn)實(shí)意義。

人工智能進(jìn)一步應(yīng)用可能帶來(lái)的風(fēng)險(xiǎn)隱患

對(duì)個(gè)人隱私的侵犯。首先，多數(shù)人工智能技術(shù)缺乏對(duì)隱私保護(hù)的考慮。在缺乏制度性規(guī)范的前提下，個(gè)體的隱私極容易被泄露，使得有數(shù)據(jù)抓取能力的企業(yè)有機(jī)可乘，并能通過(guò)人工智能技術(shù)來(lái)實(shí)現(xiàn)對(duì)個(gè)人的監(jiān)控，以及對(duì)個(gè)人行為偏好進(jìn)行干預(yù)，進(jìn)而影響其原有的行為表現(xiàn)。此外，如果擁有這些數(shù)據(jù)的企業(yè)缺乏安全防范意識(shí)，讓這些隱私數(shù)據(jù)流出或被黑客惡意竊取，就會(huì)進(jìn)一步提高詐騙案件的發(fā)生幾率。但值得注意的是，因?yàn)槠髽I(yè)的逐利性，如果僅僅指望其通過(guò)嚴(yán)格自身管理、提高防范意識(shí)，并不一定能對(duì)該類問(wèn)題進(jìn)行有效預(yù)防。而更合理的方式是，從國(guó)家層面建立完善的隱私保護(hù)規(guī)范，審查企業(yè)中可能存在的未經(jīng)允許便獲取個(gè)人信息和導(dǎo)致隱私泄露的系統(tǒng)，保護(hù)公眾和國(guó)家的安全。在此基礎(chǔ)上，將具有隱私保護(hù)功能的人工智能技術(shù)或系統(tǒng)融入國(guó)家治理體系中，將有助于實(shí)現(xiàn)治理中對(duì)公民權(quán)益的有效保護(hù)。

數(shù)據(jù)有偏性帶來(lái)誤判。除此以外，數(shù)據(jù)在收集過(guò)程中有可能會(huì)存在數(shù)據(jù)有偏性，這會(huì)導(dǎo)致在治理過(guò)程中產(chǎn)生不準(zhǔn)確的評(píng)估。舉例來(lái)說(shuō)，在某個(gè)關(guān)于識(shí)別照片中哈士奇和愛斯基摩犬的分類任務(wù)中，科學(xué)家們發(fā)現(xiàn)，在這個(gè)圖像數(shù)據(jù)集中，多數(shù)愛斯基摩犬是拍攝于雪地中的，使得識(shí)別過(guò)程實(shí)際上是通過(guò)識(shí)別圖片上有沒(méi)有白雪來(lái)完成的“虛假正確”分類。此外，不僅在數(shù)據(jù)采集上存在有偏的風(fēng)險(xiǎn)，甚至在與性別相關(guān)的自然語(yǔ)言分析上，人工智能也會(huì)體現(xiàn)出與性別相關(guān)的傾向性回答。因此，在治理現(xiàn)代化中需要謹(jǐn)慎分析和解決治理相關(guān)數(shù)據(jù)的有偏問(wèn)題，從數(shù)據(jù)源和處理方式上保證治理的公平性。

數(shù)據(jù)造假。人工智能模型也不是完全可依賴的，其也有可能提供偽造的數(shù)據(jù)。具體來(lái)說(shuō)，自2014年以來(lái)，人工智能已經(jīng)經(jīng)歷了新一輪的升級(jí)換代，通過(guò)Ian Goodfellow提出的生成對(duì)抗網(wǎng)絡(luò)及其變種生成的“假”數(shù)據(jù)幾乎可以達(dá)到以假亂真的地步。盡管生成對(duì)抗網(wǎng)絡(luò)最初的提出是為了增加數(shù)據(jù)量，幫助模型進(jìn)行充分訓(xùn)練，但在實(shí)際應(yīng)用中，卻有不法分子利用這一漏洞來(lái)生成可用于詐騙的數(shù)據(jù)。除此之外，現(xiàn)有的深度學(xué)習(xí)模型也存在穩(wěn)定性方面的不足，容易被一些小的擾動(dòng)數(shù)據(jù)攻擊而導(dǎo)致出現(xiàn)明顯的錯(cuò)判。因此，未來(lái)要想使人工智能及相關(guān)技術(shù)在國(guó)家治理領(lǐng)域發(fā)揮更大功效，需要進(jìn)一步研發(fā)出一些新型設(shè)備和算法，在充分利用人工智能優(yōu)勢(shì)提升治理能力的同時(shí)，實(shí)現(xiàn)對(duì)偽造或虛假數(shù)據(jù)攻擊的有效防御。

人機(jī)協(xié)作失衡。另外，人工智能在治理領(lǐng)域的應(yīng)用并不意味著其能完全取代人在治理現(xiàn)代化進(jìn)程中的角色，尤其是在當(dāng)前我們對(duì)人類智能還沒(méi)有完全參透的前提下。在治理過(guò)程中，完全依賴人或完全依賴機(jī)器這兩個(gè)極端的情況都存在潛在的重大風(fēng)險(xiǎn)。比如2014年馬航MH370事件，就是過(guò)分相信飛機(jī)駕駛員的結(jié)果；而2019年3月發(fā)生的埃航墜機(jī)事件，則是過(guò)度依賴飛機(jī)的自動(dòng)駕駛系統(tǒng)，致使機(jī)器在出現(xiàn)高度誤判后駕駛員無(wú)法接管，從而導(dǎo)致了機(jī)毀人亡的慘痛事故。因此，如何更好平衡人類智能與機(jī)器智能，實(shí)現(xiàn)人類智能與機(jī)器智能的有效融合，將是未來(lái)更好發(fā)揮人工智能在國(guó)家治理中作用的重要努力方向。

總之，人工智能是把雙刃劍。它可以基于自身特性提升治理現(xiàn)代化的水平，保證治理過(guò)程的效率與公平，提高治理效能，并提升老百姓的獲得感、幸福感。但同時(shí)，人工智能在隱私保護(hù)、數(shù)據(jù)有偏、數(shù)據(jù)可信度等方面存在的潛在風(fēng)險(xiǎn)，可能對(duì)社會(huì)穩(wěn)定、人民安全等帶來(lái)負(fù)面影響。還要提醒的是，人工智能在很多方面還沒(méi)有完全達(dá)到人類的智能水平，因此借助人機(jī)混合的混合增強(qiáng)智能實(shí)現(xiàn)對(duì)治理現(xiàn)代化的助力，有可能是更為有效的治理模式。

【本文作者為復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授；本文受“教育部指導(dǎo)高?？萍紕?chuàng)新規(guī)劃項(xiàng)目”支持】

責(zé)編：李 懿 / 司文君