黨的二十屆三中全會(huì)審議通過的《中共中央關(guān)于進(jìn)一步全面深化改革 推進(jìn)中國式現(xiàn)代化的決定》提出，要“加強(qiáng)網(wǎng)絡(luò)安全體制建設(shè)，建立人工智能安全監(jiān)管制度”。人工智能安全是國家安全的重要組成部分。全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)于2024年發(fā)布的《人工智能安全治理框架》1.0版也提倡人工智能的發(fā)展要遵循“以人為本、智能向善”的方向，有效防范化解人工智能安全風(fēng)險(xiǎn)。近年來，“人本人工智能”這一理念引起了學(xué)界和業(yè)界的廣泛關(guān)注，它符合人類對人工智能和諧友好、尊重隱私、安全可控、開放協(xié)作的希望。為促進(jìn)人工智能技術(shù)朝著以人為本的方向發(fā)展，需從人工智能的研發(fā)、使用和監(jiān)管三個(gè)方面協(xié)同發(fā)力。

秉持智能向善、安全透明、公平無偏的人工智能研發(fā)理念。“向善”是人工智能發(fā)展的基本原則。人工智能技術(shù)研發(fā)工作的各項(xiàng)內(nèi)容都應(yīng)將倫理道德納入考量范疇。在人工智能深度學(xué)習(xí)的輸入和輸出之間，存在著普通用戶甚至是開發(fā)者都難以洞悉的“算法黑箱”，不僅為人工智能的安全性和可靠性帶來了挑戰(zhàn)，也影響了人工智能在一些關(guān)鍵領(lǐng)域的應(yīng)用，如醫(yī)療診斷、金融決策等。算法黑箱可能會(huì)隱藏算法中的偏見，這些偏見來源于并不中立的訓(xùn)練數(shù)據(jù)，這些數(shù)據(jù)產(chǎn)生自真實(shí)的人類社會(huì)活動(dòng)，可能存在不平等性、排斥性和歧視性。因此，在數(shù)據(jù)采集環(huán)節(jié)，應(yīng)加強(qiáng)倫理審查，杜絕有意識的偏見，并盡可能減少無意識的隱性偏見。在算法設(shè)計(jì)和實(shí)現(xiàn)環(huán)節(jié)，提升算法自動(dòng)化決策的透明性、可解釋性和可理解性，逐步實(shí)現(xiàn)可驗(yàn)證、可審核、可監(jiān)督、可追溯、可預(yù)測、可信賴。

構(gòu)建合法合規(guī)、責(zé)權(quán)明確、尊重隱私的人工智能使用原則。技術(shù)不是超越社會(huì)的、“中性的”力量，而是寓于現(xiàn)實(shí)的多重關(guān)系之中。人工智能作為一種通用技術(shù)，在造福人類的同時(shí)，也存在著被惡意使用的風(fēng)險(xiǎn)。人工智能一方面放大了現(xiàn)有威脅，如釣魚郵件、惡意軟件和隱私侵犯等；另一方面引入了新型威脅，如人工智能自動(dòng)化攻擊、人工智能深度偽造等。因此，人工智能產(chǎn)品或服務(wù)在為人類所使用之前，需經(jīng)過嚴(yán)格的論證與評估，充分考慮利益相關(guān)主體的合法權(quán)益，避免誤用濫用，禁止違規(guī)惡用。此外，要警惕由人工智能技術(shù)構(gòu)建的“圓形監(jiān)獄”。人工智能時(shí)代的一個(gè)特征便是人與技術(shù)融為一體，人類身處技術(shù)之中，依賴甚至依附于技術(shù)。由技術(shù)建構(gòu)的“圓形監(jiān)獄”不僅可能產(chǎn)生對人類活動(dòng)的隱匿監(jiān)控，甚至可能加劇了人類的物化和異化現(xiàn)象，對人類的本質(zhì)、主體地位、基礎(chǔ)認(rèn)知能力和創(chuàng)造力等形成強(qiáng)烈沖擊。因此，在充分挖掘人工智能技術(shù)對人類生活賦能潛力的同時(shí)，也要避免人工智能反向作用。

實(shí)施全面監(jiān)督、動(dòng)態(tài)調(diào)整、公眾參與的人工智能監(jiān)管機(jī)制。要想將人工智能技術(shù)作為人類社會(huì)高質(zhì)量發(fā)展的穩(wěn)定引擎，就需要警惕由技術(shù)發(fā)展過快所帶來的治理落后問題，摒棄以犧牲安全為代價(jià)的粗放增長，遵循“邊發(fā)展、邊治理”的準(zhǔn)則。首先要建立健全公開透明的人工智能技術(shù)監(jiān)管體系，搭建人工智能設(shè)計(jì)問責(zé)和應(yīng)用監(jiān)督的雙層監(jiān)管結(jié)構(gòu)，實(shí)現(xiàn)對人工智能算法設(shè)計(jì)、產(chǎn)品開發(fā)和成果應(yīng)用等的全過程監(jiān)管。鑒于人工智能技術(shù)的迭代速度極快，其相應(yīng)的監(jiān)管方式也需與時(shí)俱進(jìn)。應(yīng)考慮技術(shù)特點(diǎn)、行業(yè)領(lǐng)域、應(yīng)用場景等因素，科學(xué)動(dòng)態(tài)地調(diào)整人工智能技術(shù)研發(fā)和落地應(yīng)用標(biāo)準(zhǔn)。推進(jìn)人工智能與網(wǎng)絡(luò)安全、信息安全等領(lǐng)域融合，防范數(shù)據(jù)泄露、惡意攻擊和其他安全威脅，通過高效的科學(xué)監(jiān)管來提升人工智能安全治理水平。更為重要的是，持續(xù)推動(dòng)人工智能健康發(fā)展，需要多方協(xié)同、共建共治，從而使人工智能技術(shù)始終符合人類的道德規(guī)范和價(jià)值標(biāo)準(zhǔn)?？蓢L試構(gòu)建多部門協(xié)調(diào)、多學(xué)科融合、多方主體參與的人工智能安全治理框架和工作體系，搭建公眾參與治理的線上線下平臺，建立起人人有責(zé)、人人盡責(zé)、人人享有的人工智能安全治理規(guī)范，攜手打造開放、公平、非歧視的人工智能發(fā)展環(huán)境，共同走向更加美好的智能未來。

作者：姜婷婷，武漢大學(xué)數(shù)據(jù)智能研究院；許艷閏，武漢大學(xué)信息管理學(xué)院