法國生產(chǎn)的EZ10無人駕駛公交車已正式投入運(yùn)行，隨著人工智能技術(shù)不斷發(fā)展，相關(guān)法律、法規(guī)亟待完善。 （資料圖片）

當(dāng)前，人工智能浪潮方興未艾，在很多領(lǐng)域展示出巨大應(yīng)用前景。然而，隨著人工智能技術(shù)的不斷發(fā)展，它引發(fā)的倫理爭議也不斷出現(xiàn)

近日，中國發(fā)展研究基金會(huì)發(fā)布報(bào)告——《未來基石——人工智能的社會(huì)角色與倫理》。針對(duì)人工智能倫理問題，報(bào)告在提出一系列建議的同時(shí)，也希望推動(dòng)問題的充分討論。

對(duì)人工智能的討論足夠了嗎

迄今為止，我們對(duì)人工智能可能會(huì)帶來的挑戰(zhàn)仍知之甚少，嚴(yán)肅的公共討論還十分缺乏

要理解人工智能的社會(huì)影響，首先要認(rèn)識(shí)人工智能在社會(huì)發(fā)展中的獨(dú)特作用。在人類發(fā)展進(jìn)程中，知識(shí)的增長和社會(huì)協(xié)作體系的擴(kuò)展起到了重要作用，而這一切都離不開人類大腦提供的智能基礎(chǔ)。

報(bào)告認(rèn)為，人工智能的發(fā)展，將帶來知識(shí)生產(chǎn)和利用方式的深刻變革，人工智能不僅意味著前沿科技和高端產(chǎn)業(yè)，未來也可以廣泛用于解決人類社會(huì)面臨的長期性挑戰(zhàn)。從消除貧困到改善教育，從提供醫(yī)療到促進(jìn)可持續(xù)發(fā)展，人工智能都大有用武之地。

例如，人工智能可以大幅度降低醫(yī)療服務(wù)的成本，緩解醫(yī)療人才不足的局面。在教育領(lǐng)域，人工智能能夠分析人們獲取知識(shí)的方式，然后利用這些信息開發(fā)出相應(yīng)模型，來預(yù)測人們的投入和理解程度。人工智能還可以改變貧困地區(qū)高水平教師不足、教學(xué)質(zhì)量低下的局面，促進(jìn)教育公平。

此外，人工智能可以服務(wù)于殘障人士。例如，微軟最近在ios應(yīng)用程序商店推出了一款名為“seeing AI”的產(chǎn)品，幫助失明和弱視人群應(yīng)對(duì)日常生活中的問題。“seeing AI”的開發(fā)團(tuán)隊(duì)包括一名在7歲時(shí)就失明的工程師，這一應(yīng)用程序盡管還處于早期階段，但已證明人工智能可以捕捉用戶周圍的圖像并即時(shí)描述。比如，它可以讀取菜單、清點(diǎn)貨幣等，從而幫助殘障人士提高生活能力。

然而，迄今為止，我們對(duì)人工智能可能會(huì)帶來的挑戰(zhàn)仍知之甚少，嚴(yán)肅的公共討論還十分缺乏。社會(huì)公眾對(duì)人工智能的想象在很大程度上仍被科幻小說和影視作品所主導(dǎo)，而對(duì)于人工智能在未來可能產(chǎn)生的影響，更是缺乏認(rèn)知和關(guān)切。在政策層面，對(duì)于人工智能的關(guān)注很大程度上仍集中于技術(shù)和經(jīng)濟(jì)層面，缺乏整體性的思考和討論。盡管有少數(shù)哲學(xué)和社科領(lǐng)域的學(xué)者開始關(guān)注人工智能帶來的倫理問題和社會(huì)挑戰(zhàn)，但這些討論并未進(jìn)入公共政策視界，而且討論的重點(diǎn)也多集中在超級(jí)人工智能這樣仍相對(duì)遙遠(yuǎn)的議題上。

報(bào)告認(rèn)為，在人工智能問題上，圍繞可能出現(xiàn)的挑戰(zhàn)，無知、忽視、偏狹、誤解交織在一起，可能會(huì)導(dǎo)致真正的風(fēng)險(xiǎn)。

人工智能會(huì)帶來哪些倫理挑戰(zhàn)

從人文視角來看，人工智能帶來了一些有可能撼動(dòng)社會(huì)基礎(chǔ)的根本性問題

中國發(fā)展研究基金會(huì)副理事長兼秘書長盧邁表示，人工智能發(fā)展將進(jìn)一步釋放社會(huì)活力，中國應(yīng)積極擁抱人工智能，充分利用好它對(duì)生產(chǎn)力的解放效應(yīng)。但是，把握機(jī)遇的前提是了解并預(yù)防風(fēng)險(xiǎn)，這需要我們在倫理學(xué)和社會(huì)治理上下功夫。

中國發(fā)展研究基金會(huì)秘書長助理、研究一部主任俞建拖認(rèn)為，社會(huì)應(yīng)該正視人工智能帶來的挑戰(zhàn)，并超越純技術(shù)和經(jīng)濟(jì)的視角，從社會(huì)和人文視角去探討人工智能帶來的影響。

報(bào)告認(rèn)為，從人文視角來看，人工智能帶來了一些已經(jīng)在發(fā)生或即將發(fā)生、有可能撼動(dòng)我們社會(huì)基礎(chǔ)的根本性問題。

隨著人工智能的不斷發(fā)展，我們對(duì)于人的理解越來越物化和去意義化，人和機(jī)器的邊界越來越模糊，我們需要思考這種邊界模糊的后果。我們該如何對(duì)待機(jī)器和自身的關(guān)系？人和機(jī)器應(yīng)該整合嗎？如果人對(duì)快樂和痛苦的感受可以通過其他物理和化學(xué)手段來滿足，那么，人還有參與社會(huì)互動(dòng)的需要和動(dòng)力嗎？

人工智能還帶來了新的社會(huì)權(quán)力結(jié)構(gòu)問題。借助人工智能，企業(yè)可以賦予每個(gè)用戶大量的數(shù)據(jù)標(biāo)簽，并基于這些標(biāo)簽了解人的偏好和行為，甚至超過用戶對(duì)自己的了解，這是巨大的權(quán)利不對(duì)稱。

此外，人工智能可能會(huì)造成偏見強(qiáng)化。在社交媒體中，人工智能將觀點(diǎn)相近的人相互推薦，新聞推送也常常存在路徑依賴。當(dāng)人們的信息來源越來越依賴于智能機(jī)器，偏見會(huì)在這種同化和路徑依賴中被強(qiáng)化。

人工智能還使社會(huì)的信息和知識(shí)加工處理能力被極大放大，信息和知識(shí)的冗余反而使人陷入選擇困境。如果人參與社會(huì)互動(dòng)的次數(shù)和范圍縮小，而人工智能越來越多介入到知識(shí)的生產(chǎn)中，知識(shí)與人的需求之間的關(guān)系將變得越來越間接，甚至?xí)催^來支配人的需求。

盡管人工智能也會(huì)推動(dòng)進(jìn)一步的專業(yè)化分工和創(chuàng)造新的工作機(jī)會(huì)，但并非所有人都有能力邁過技術(shù)性和社會(huì)性壁壘。尤瓦爾·赫拉利在《未來簡史》中警告，未來社會(huì)可能會(huì)出現(xiàn)“無用階級(jí)”，這種擔(dān)心并非全無道理。

人工智能也對(duì)傳統(tǒng)的法律法規(guī)和社會(huì)規(guī)范提出了挑戰(zhàn)。譬如，無人駕駛汽車一旦出現(xiàn)事故，我們究竟該歸因于開發(fā)產(chǎn)品的企業(yè)、產(chǎn)品擁有者還是人工智能產(chǎn)品本身？

如何構(gòu)建人工智能的倫理規(guī)范

考慮到人工智能的深遠(yuǎn)影響，需要全社會(huì)共同努力，制定開發(fā)和應(yīng)用的倫理規(guī)范和政策方向

人工智能正幫助人類社會(huì)向充滿不確定性的未來疾馳。在沖進(jìn)未知之門之前，需要給它裝上剎車，讓它真正能行穩(wěn)致遠(yuǎn)，這個(gè)剎車就是倫理規(guī)范和公共政策準(zhǔn)則。

當(dāng)前，已經(jīng)有一些人工智能領(lǐng)先企業(yè)關(guān)注人工智能開發(fā)和應(yīng)用的倫理問題。微軟公司總裁施博德表示，要設(shè)計(jì)出可信賴的人工智能，必須采取體現(xiàn)道德原則的解決方案，因此微軟提出6個(gè)道德基本準(zhǔn)則：公平、包容、透明、負(fù)責(zé)、可靠與安全、隱私與保密。谷歌公司也表示，在人工智能開發(fā)應(yīng)用中，堅(jiān)持包括公平、安全、透明、隱私保護(hù)在內(nèi)的7個(gè)準(zhǔn)則，并明確列出了谷歌“不會(huì)追求的AI應(yīng)用”。

報(bào)告認(rèn)為，這些企業(yè)的前瞻性探索十分重要。但是，考慮到人工智能對(duì)未來社會(huì)的深遠(yuǎn)影響，還需要全社會(huì)和各國政府的共同努力，制定人工智能開發(fā)和應(yīng)用的倫理規(guī)范和政策方向，為其未來健康發(fā)展奠定基礎(chǔ)。

為此，報(bào)告提出了一系列建議：在社會(huì)層面，高校和研究機(jī)構(gòu)開展前瞻性科技倫理研究，為相關(guān)規(guī)范和制度的建立提供理論支撐；各國政府、產(chǎn)業(yè)界、研究人員、民間組織和其他利益攸關(guān)方展開廣泛對(duì)話和持續(xù)合作，通過一套切實(shí)可行的指導(dǎo)原則，鼓勵(lì)發(fā)展以人為本的人工智能；人工智能企業(yè)應(yīng)該將倫理考量納入企業(yè)社會(huì)責(zé)任框架中；投資機(jī)構(gòu)應(yīng)將倫理問題納入ESG（環(huán)境、社會(huì)和治理）框架，引導(dǎo)企業(yè)進(jìn)行負(fù)責(zé)任的人工智能產(chǎn)品開發(fā)；社會(huì)組織可以通過培訓(xùn)、發(fā)布倫理評(píng)估報(bào)告、總結(jié)代表性案例等方式，推動(dòng)人工智能倫理規(guī)范的構(gòu)建。

報(bào)告建議，在公共政策層面，人工智能研發(fā)和應(yīng)用的政策應(yīng)該將人置于核心，滿足人全面發(fā)展的需求，促進(jìn)社會(huì)的公平和可持續(xù)發(fā)展；政府需要設(shè)立專項(xiàng)資金，支持大學(xué)和研究機(jī)構(gòu)開展人工智能等前沿科技的倫理研究；政府還需要給予不同人群以學(xué)習(xí)了解人工智能的機(jī)會(huì)，推動(dòng)全社會(huì)對(duì)人工智能的知識(shí)普及和公共政策討論；優(yōu)先鼓勵(lì)人工智能應(yīng)用于解決社會(huì)領(lǐng)域的突出挑戰(zhàn)，包括減少貧困和不平等，促進(jìn)弱勢群體融入社會(huì)并參與社會(huì)發(fā)展進(jìn)程；應(yīng)組建由政府部門和行業(yè)專家組成的人工智能倫理委員會(huì)，對(duì)人工智能的開發(fā)和應(yīng)用提供倫理指引，并對(duì)具有重大公共影響的人工智能產(chǎn)品進(jìn)行倫理與合法性評(píng)估。

此外，對(duì)于人工智能的規(guī)范發(fā)展也需要更廣泛的國際合作。清華大學(xué)公共管理學(xué)院院長薛瀾表示，“人工智能的發(fā)展將在創(chuàng)新治理、可持續(xù)發(fā)展和全球安全合作3個(gè)方面對(duì)現(xiàn)行國際秩序產(chǎn)生深刻影響，需要各國政府與社會(huì)各界從人類命運(yùn)共同體的高度予以關(guān)切和回應(yīng)。只有加強(qiáng)各國之間的合作與交流，才可能真正構(gòu)建起一套全球性的、共建共享、安全高效、持續(xù)發(fā)展的人工智能治理新秩序”。

報(bào)告也建議，各國政府應(yīng)促進(jìn)數(shù)據(jù)共享技術(shù)，為人工智能培訓(xùn)和測試提供共享的公共數(shù)據(jù)集。在個(gè)人信息得到保護(hù)的前提下，促進(jìn)數(shù)據(jù)的自由流通；并加強(qiáng)國際合作，建立多層次的國際人工智能治理機(jī)制。各國政府應(yīng)通過聯(lián)合國、G20以及其他國際平臺(tái)，將人工智能發(fā)展納入國際合作議程，利用人工智能推動(dòng)聯(lián)合國2030年可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。