【摘要】智能技術(shù)持續(xù)重構(gòu)著網(wǎng)絡(luò)謠言生產(chǎn)與傳播的底層機(jī)制。隨之出現(xiàn)的智能化網(wǎng)絡(luò)謠言不論是內(nèi)容形態(tài)還是傳播方式都在傳統(tǒng)謠言的基礎(chǔ)上全面升級，已難以純粹依靠技術(shù)化規(guī)制手段予以解決。針對這種挑戰(zhàn)，應(yīng)將智能化網(wǎng)絡(luò)謠言作為系統(tǒng)性風(fēng)險展開社會影響評估，并兼顧技術(shù)化規(guī)制和重建系統(tǒng)性信任來規(guī)劃治理路徑，通過重塑符合新時代要求的社會交往與對話機(jī)制，增進(jìn)公眾的情緒體驗、培養(yǎng)公眾的情感認(rèn)同，創(chuàng)造并積累出新的信任資本，營造清朗網(wǎng)絡(luò)空間，共建共享網(wǎng)絡(luò)文明。

【關(guān)鍵詞】網(wǎng)絡(luò)謠言  人工智能  特征演變  謠言治理    

【中圖分類號】C916    【文獻(xiàn)標(biāo)識碼】A

眾議成林，無翼而飛。“人人都有麥克風(fēng)”的社交媒體時代給謠言治理帶來了新的挑戰(zhàn)。當(dāng)前，媒介技術(shù)正在經(jīng)歷新一輪變革。大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)、虛擬現(xiàn)實等技術(shù)的廣泛應(yīng)用與日益普及，把信息傳播帶進(jìn)了智能化時代，信息內(nèi)容的采集、生產(chǎn)、加工、分發(fā)與消費模式發(fā)生著深刻改變。謠言與媒介相生相伴。媒介技術(shù)的變化與發(fā)展在重構(gòu)信息環(huán)境的同時，也會改變謠言的擴(kuò)散方式及其社會影響。從謠言的演變看，其以往生成與傳播的底層力量是靠人的經(jīng)驗性參與，而如今智能技術(shù)已然取代了這一力量并重構(gòu)著謠言運轉(zhuǎn)的底層機(jī)制。這樣的變化促使智能時代的網(wǎng)絡(luò)謠言無論是內(nèi)容形態(tài)還是傳播方式都在傳統(tǒng)謠言的基礎(chǔ)上全面升級，其社會影響與治理導(dǎo)向也應(yīng)重新加以評估與規(guī)劃。

從合成事實到偽造輿論：智能技術(shù)對網(wǎng)絡(luò)謠言的全面改造

智能時代，網(wǎng)絡(luò)信息傳播的技術(shù)導(dǎo)向進(jìn)一步增強(qiáng)，智能技術(shù)對網(wǎng)絡(luò)謠言的改造主要表現(xiàn)在前端的內(nèi)容生產(chǎn)與后端的傳播擴(kuò)散兩個方面。

在謠言內(nèi)容的生產(chǎn)方面，智能技術(shù)的應(yīng)用引領(lǐng)著網(wǎng)絡(luò)謠言走向精細(xì)化乃至定制化。智能內(nèi)容生產(chǎn)的核心優(yōu)勢，是基于大數(shù)據(jù)分析技術(shù)的內(nèi)容精準(zhǔn)生產(chǎn)與基于人工智能技術(shù)的內(nèi)容自動生產(chǎn)，兩者相互疊加能夠共同提升網(wǎng)絡(luò)內(nèi)容生產(chǎn)的精準(zhǔn)度與效率。循此機(jī)制，網(wǎng)絡(luò)謠言的生產(chǎn)模式也將進(jìn)入智能化階段，比如借助時下流行的對話式大型語言模型ChatGPT，用戶可任意向其提出制造虛假內(nèi)容的要求，并立即獲得大量看似可信但無可靠信源的各類文本。網(wǎng)絡(luò)謠言還能借助對謠言文本及其傳播效果的大數(shù)據(jù)分析獲得“精確制導(dǎo)”的能力，通過對公眾認(rèn)知、情感、心理乃至偏見的把握設(shè)定自身的內(nèi)容主題、敘事方式和話語框架，繼而結(jié)合傳播反饋不斷進(jìn)行修正以達(dá)到更好的傳播效果。如此一來，面向特定個體、群體或機(jī)構(gòu)進(jìn)行謠言的定制化生產(chǎn)也將成為可能，網(wǎng)絡(luò)謠言內(nèi)容的“精準(zhǔn)化”和“精細(xì)化”水平將越來越高。

當(dāng)前，智能技術(shù)的異化發(fā)展還創(chuàng)造出一種全新的謠言內(nèi)容，即利用人工智能和機(jī)器學(xué)習(xí)技術(shù)實現(xiàn)音頻及視頻的模擬、合成與偽造的深度偽造（Deepfake）內(nèi)容。其典型應(yīng)用實踐包括圖像和視頻“換臉”、操縱視頻人物的表情和語音、偽造不存在的人物等。例如，2018年，獲得奧斯卡獎的導(dǎo)演喬丹·皮爾和BuzzFeed首席執(zhí)行官喬納·佩雷蒂就利用這一技術(shù)偽造了美國前總統(tǒng)奧巴馬用臟話辱罵時任美國總統(tǒng)特朗普的視頻，對社會造成誤導(dǎo)；2019年，臉書首席執(zhí)行官馬克·扎克伯格也被制作了一則吹噓自己“完全控制數(shù)十億人的失竊數(shù)據(jù)”的深度偽造視頻。種種事實告訴我們，如今不論是文字、圖片，還是聲音、影像，均可輕而易舉地被偽造，傳播形式已無法成為辨識信息真?zhèn)蔚年P(guān)鍵證據(jù)。

更具挑戰(zhàn)性的是，這種深度偽造的程度還在通過算法的學(xué)習(xí)和進(jìn)化持續(xù)加深。從技術(shù)視角看，深度偽造技術(shù)的核心是名為“生成式對抗網(wǎng)絡(luò)”（Generative Adversarial Networks）的機(jī)器學(xué)習(xí)模型，該模型結(jié)合自動化圖像識別、機(jī)器深度學(xué)習(xí)與人工智能技術(shù)，在生成虛擬圖像的過程中借由內(nèi)部負(fù)責(zé)合成圖像的生成器（generator）和負(fù)責(zé)甄別真實或合成圖像的判別器（discriminator）之間的博弈，來提高輸出結(jié)果的逼真程度，其目的就是使生成的圖片、音頻與視頻無限接近真實和客觀存在的水平，達(dá)到以假亂真的效果。目前，深度偽造技術(shù)的代碼算法已在開源軟件中公開，相關(guān)應(yīng)用軟件遍布互聯(lián)網(wǎng)，各類機(jī)構(gòu)、組織乃至普通公眾都可便利地利用此類技術(shù)生產(chǎn)具有高度欺騙性的謠言信息，并將之通過各類社會化媒體平臺傳播出去。由此產(chǎn)生的必然后果，就是嚴(yán)重污染網(wǎng)絡(luò)信息環(huán)境，擾亂網(wǎng)絡(luò)傳播秩序，危害公共安全。

在網(wǎng)絡(luò)謠言的傳播擴(kuò)散方面，智能技術(shù)也發(fā)揮著推波助瀾的作用。一是基于算法的智能化分發(fā)在傳播效率上遠(yuǎn)遠(yuǎn)優(yōu)于編輯分發(fā)與社交分發(fā)，因而可以進(jìn)一步加速網(wǎng)絡(luò)謠言的蔓延，使其在短時間內(nèi)完成大規(guī)模擴(kuò)散。在此過程中，智能分發(fā)還可同時解決謠言與個體用戶間的匹配問題，根據(jù)身份特征、心理訴求、關(guān)切議題、閱讀習(xí)慣、媒介偏好等標(biāo)準(zhǔn)尋找到易于被謠言“感染”的用戶并向其精準(zhǔn)投放，達(dá)到事半功倍的成效?！侗本┣嗄陥蟆穲蟮?，當(dāng)前基于算法的個性化內(nèi)容推送已占整個互聯(lián)網(wǎng)信息內(nèi)容分發(fā)的70%左右。二是直接運用先進(jìn)且隱匿的自動化程序或社交機(jī)器人技術(shù)作為謠言信息的“超級傳播者”。社交機(jī)器人（social bots）指的是社交媒體上由軟件操縱的賬戶，此類賬戶不僅能通過算法自動發(fā)布內(nèi)容，還會與其他賬號互動并介入公眾討論。越來越多的證據(jù)表明，社會化媒體上大量內(nèi)容的真正生產(chǎn)者并非人類用戶而是社交機(jī)器人。社交機(jī)器人對社會化媒體上的謠言泛濫亦有明顯的助推作用。具體而言，由代碼和算法驅(qū)動的社交機(jī)器人可以憑借大規(guī)模的自動點贊、轉(zhuǎn)發(fā)、搜索等行為，以指數(shù)級的速度擴(kuò)大相關(guān)問題的流量，用“謊言灌噴”的方式將眾多謠言送入網(wǎng)民的視野。顯然，這種類型的謠言已不是信息在傳播過程中流失導(dǎo)致的謠言，而是人為蓄意制造的謠言。此類利用社交機(jī)器人進(jìn)行傳播的謠言，不僅可被制造出在網(wǎng)絡(luò)上極其流行的假象，甚至還有可能接續(xù)形成虛假的意見氛圍與輿論環(huán)境，擠壓和占據(jù)真實信息可能傳播的時間與空間，以此操縱公眾意見，引發(fā)輿論動蕩。

個體、輿論、觀念：智能化謠言傳播對信息秩序與社會生態(tài)的挑戰(zhàn)

智能技術(shù)賦予網(wǎng)絡(luò)謠言新的能量，使其不僅超越了原有形態(tài)，以一種高度真實可信的方式進(jìn)行自我呈現(xiàn)，還使其具備了裂變式擴(kuò)散的傳播力和無孔不入的穿透力，乃至可以通過大規(guī)模集中傳播實現(xiàn)對網(wǎng)絡(luò)輿論的操控。作為一種信息的畸變形態(tài)，網(wǎng)絡(luò)謠言“脫胎換骨”式的智能化發(fā)展也必將造成更為嚴(yán)重的信息污染與信息失序，引發(fā)復(fù)雜、持久乃至不可逆的負(fù)面社會效應(yīng)。

第一，相較于普通謠言，智能化謠言可能會帶來更為普遍且嚴(yán)重的權(quán)利與利益?zhèn)?。除了其本身的虛假性使然，對于智能化謠言來說，不論是深度偽造還是定制化內(nèi)容與精準(zhǔn)分發(fā)，都要以抓取和運用用戶的身份信息、網(wǎng)絡(luò)行為數(shù)據(jù)乃至生物性數(shù)據(jù)為前提，因此往往伴隨著對公眾隱私權(quán)、肖像權(quán)、名譽(yù)權(quán)等個人權(quán)利的潛在威脅與直接侵犯?！度A爾街日報》報道，2019年一家英國公司的首席執(zhí)行官在接到母公司首席執(zhí)行官的語音信息后，按其要求向所謂匈牙利供應(yīng)商的銀行賬戶轉(zhuǎn)賬24.3萬美元。但事后證明這則語音由AI制作而成，其惟妙惟肖地模仿出了母公司首席執(zhí)行官的德國口音與腔調(diào)。近兩年在美國，總統(tǒng)拜登、國會眾議長佩洛西、前總統(tǒng)特朗普和奧巴馬等多位政治人物均被制作了深度偽造視頻并公開廣泛傳播，不僅導(dǎo)致他們形象與名譽(yù)受損，還多次引發(fā)輿論風(fēng)波。對此，有學(xué)者擔(dān)憂，深度偽造信息極有可能成為煽動恐怖和暴力活動、挑撥國家與社會矛盾的工具。

第二，智能化謠言的傳播易對健康的社會輿論環(huán)境造成沖擊。在智能時代，我們不能再簡單地把網(wǎng)絡(luò)輿論等同于網(wǎng)民的言論和意見，因為通過組織化的信息生產(chǎn)和機(jī)器賬戶的規(guī)?；瘋鞑?，網(wǎng)絡(luò)輿論在很大程度上已經(jīng)成為人與機(jī)器共同制造的結(jié)果。在此語境下審視智能化謠言對社會輿論形成與發(fā)展的負(fù)面影響，可以發(fā)現(xiàn)四個方面的主要挑戰(zhàn)：一是以深度偽造內(nèi)容為代表的智能化謠言鑒別難度更高，并可借由算法分發(fā)與用戶的關(guān)系傳播非常隱蔽地在網(wǎng)絡(luò)中流動，使得網(wǎng)絡(luò)輿論空間的信息構(gòu)成更加復(fù)雜；二是受到算法與社交分發(fā)帶來的同質(zhì)信息重復(fù)曝光的“回聲室效應(yīng)”的影響，同類網(wǎng)絡(luò)謠言的反復(fù)傳播會令其包含的信息或觀點不斷在受眾腦海中得到加強(qiáng)與放大，加劇受眾在認(rèn)知、意見與情緒上的極化傾向；三是在圍繞具體事件的公共討論中，伴隨謠言的出現(xiàn)或破除，網(wǎng)絡(luò)輿論亦可能隨時發(fā)生反轉(zhuǎn)，社會輿論的不確定性和不穩(wěn)定性提高；四是格外需要注意的，智能化謠言的生產(chǎn)者還可通過定制謠言內(nèi)容、使用算法推送、利用社交機(jī)器人滲入信息交互網(wǎng)絡(luò)等方式有目的地制造網(wǎng)絡(luò)熱點、挑動公眾情緒、操縱網(wǎng)絡(luò)輿論，由此帶來的族群對立、社會沖突乃至國家安全風(fēng)險不容小覷。

第三，在更根本的層面上，智能化謠言的傳播還能進(jìn)一步消解網(wǎng)絡(luò)社會已然搖搖欲墜的真實觀念與真相機(jī)制。事實上，在智能化謠言出現(xiàn)之前，社會化媒體就已動搖了公眾與大眾傳媒之間有關(guān)提供事實與真相的契約關(guān)系。公眾一方面批評大眾傳媒新聞報道的延遲性及其選擇性報道背后對真實的操控，另一方面又在社交媒體上海量、分散、殘缺、各說各話又不斷反轉(zhuǎn)的事實碎片中感到真相的無依。近年流行的“后真相”概念便源于公眾對社會化媒體時代“真相”匱乏與偽真相泛濫的焦慮與麻木：當(dāng)發(fā)現(xiàn)可靠的事實如此難以獲得時，“真相”或許就不再那么重要。智能化謠言的傳播顯然會加劇這種對真相界定和真相共識的解構(gòu)——在技術(shù)的完美塑造下，許多謠言可能比事實本身更加“逼真”，鋪天蓋地且真假難辨的信息最終只能讓人逐漸放棄分辨真假，隨波逐流；針對常常通過成見、情感或道德倫理來判斷事實真假的公眾，智能化網(wǎng)絡(luò)謠言也可以做到比真相更符合他們的“期待”與“興趣”；面向基于社交關(guān)系和人際信任來區(qū)分、選擇事實的個人，智能化網(wǎng)絡(luò)謠言還能通過營造外部意見氣候?qū)ζ涫┘佑绊?。種種情形的最終后果將不只是對公眾造成誤導(dǎo)與欺騙，令其作出錯誤的選擇與決策，更會從宏觀與長遠(yuǎn)的角度促使公眾逐漸習(xí)慣一個沒有確定性事實的生存方式，乃至徹底喪失對社會信息環(huán)境的信心與信任。

技術(shù)化規(guī)制與系統(tǒng)性信任：智能化網(wǎng)絡(luò)謠言治理的并行路徑

作為一種系統(tǒng)性風(fēng)險，智能化網(wǎng)絡(luò)謠言傳播會對社會信息生態(tài)與社會信任體系產(chǎn)生極大的破壞，這種破壞的消極影響不可低估，加強(qiáng)對智能化網(wǎng)絡(luò)謠言的治理迫在眉睫。對此，各國政府、科技界及學(xué)術(shù)界已經(jīng)展開了探索性研究與實踐，所形成的治理對策是以制度構(gòu)建與技術(shù)反制為具體舉措的技術(shù)化規(guī)制。

其中，構(gòu)建治理智能化網(wǎng)絡(luò)謠言的相關(guān)制度與法律體系由政府機(jī)構(gòu)主導(dǎo)，實施對內(nèi)對外兩手抓。對內(nèi)是要建立起有關(guān)智能化謠言治理的制度體系、法律法規(guī)與行動框架，強(qiáng)化針對智能技術(shù)的綜合治理能力，如從數(shù)據(jù)復(fù)核制度、數(shù)據(jù)管理制度、數(shù)據(jù)運用制度等方面設(shè)計針對算法治理的相關(guān)制度，從源頭防范信息的保護(hù)和使用問題。對外則是加強(qiáng)國際智能技術(shù)交流和治理合作，形成跨國規(guī)制智能化網(wǎng)絡(luò)謠言的制度與規(guī)則，限制和規(guī)范智能技術(shù)在國際傳播領(lǐng)域的濫用。而加強(qiáng)對虛假信息的檢測與核查技術(shù)研發(fā)，“以技術(shù)反制技術(shù)”的舉措由平臺負(fù)責(zé)。此處沿襲了過去對網(wǎng)絡(luò)謠言的傳統(tǒng)治理做法，但更強(qiáng)調(diào)對算法模型的不斷優(yōu)化以提高識別、控制與更正智能化謠言的能力，提早防止和及時阻斷智能化網(wǎng)絡(luò)謠言的傳播與擴(kuò)散。這需要網(wǎng)絡(luò)平臺及相關(guān)企業(yè)落實信息內(nèi)容主體責(zé)任，并針對智能化謠言跨平臺傳播的特點加強(qiáng)平臺間在謠言治理上的協(xié)同合作。

上述技術(shù)化規(guī)制路徑對智能化謠言治理固然不可或缺，但我們也要意識到其在實踐中的局限。比如，是否對深度偽造內(nèi)容加以標(biāo)識就能使之不會產(chǎn)生負(fù)面?zhèn)鞑バЧ?？又如，網(wǎng)絡(luò)平臺對虛假信息的界定及對其有害性的裁度可能存在標(biāo)準(zhǔn)不一的問題，且對智能化網(wǎng)絡(luò)謠言的處置仍以事后規(guī)制為主，在那些有重大影響的謠言信息傳播之初，平臺常常無法對其進(jìn)行約束。再如，在技術(shù)反制層面，當(dāng)出現(xiàn)更好的檢測技術(shù)時，謠言內(nèi)容也會隨之進(jìn)化，直至讓檢測技術(shù)失效。從這個角度講，對智能化網(wǎng)絡(luò)謠言的技術(shù)規(guī)制實際上是一場沒有止境的貓鼠游戲。

顯而易見，智能化網(wǎng)絡(luò)謠言并不是純粹依靠技術(shù)化規(guī)制就可以解決的問題。有效治理智能化網(wǎng)絡(luò)謠言的前提，是對其存在與發(fā)展背后各種復(fù)雜社會因素——網(wǎng)絡(luò)傳播規(guī)律、技術(shù)發(fā)展趨勢、網(wǎng)絡(luò)用戶心理與行為以及尤為關(guān)鍵的社會信任程度等的深刻理解。

當(dāng)下，城市化的推進(jìn)、社會結(jié)構(gòu)的轉(zhuǎn)型以及新媒體的發(fā)展正在使人類社會在很多方面變得愈發(fā)個體化，個體權(quán)利的全面擴(kuò)張?zhí)魬?zhàn)著幾乎所有傳統(tǒng)共同體的權(quán)威性。前述公眾與大眾傳媒之間關(guān)系的松動即是一例，政府機(jī)構(gòu)頻頻遭遇公眾的質(zhì)疑亦多源于此。然而，在當(dāng)前的社會語境中，隨著風(fēng)險性與不確定性因素越來越多，缺乏對“權(quán)威”的認(rèn)同與信任，實際上是讓眾聲喧嘩之中包括智能化謠言在內(nèi)的失實、片面、極端、有害的信息更易進(jìn)入可靠信息的真空。與此對應(yīng)，不論對于個人還是社會，尋回信任依然是規(guī)避與控制謠言的最簡便機(jī)制。就像德國社會學(xué)家尼古拉斯·盧曼所說：“不管組織與理性計劃怎樣努力，人們不可能根據(jù)對行動后果的可靠預(yù)測來指導(dǎo)所有的行動。仍有剩余的不確定性有待處理，也必須有一些角色，其任務(wù)就是妥善安排這些不確定因素。”

盡管遭遇權(quán)威質(zhì)疑和信任危機(jī)，政府與主流媒體仍然是承擔(dān)這一角色的關(guān)鍵主體。特別是在中國社會，不論身處何種媒介環(huán)境，促使公眾在角色選擇過程中自發(fā)選擇相信政府與主流媒體都應(yīng)是謠言治理的主要方向。這兩大主體應(yīng)當(dāng)勇于直面新的環(huán)境、新的公眾與新的挑戰(zhàn)，盡快調(diào)適自身的運行機(jī)制，找到符合新時代公眾需求并彼此共同認(rèn)可的準(zhǔn)則與目標(biāo)來開展行動，通過開放、公正、平等、可靠的交往，增進(jìn)公眾的情緒體驗、培養(yǎng)公眾的情感認(rèn)同，創(chuàng)造并積累出新的信任資本。亦如政治學(xué)者福山所言：“最有用的社會資本，往往不是在某一傳統(tǒng)共同體或群體的權(quán)威之下進(jìn)行運作的能力，而是創(chuàng)造新的聯(lián)盟以及在新創(chuàng)立的共識條款之下開展合作的能力。”

（作者為中國人民大學(xué)新聞學(xué)院教授、新聞與社會發(fā)展研究中心研究員）

【注：本文系北京市委宣傳部與中國人民大學(xué)共建項目馬克思主義新聞觀研究課題“直播平臺運行規(guī)律及管理研究”（課題編號：MXG202206）研究成果】

【參考文獻(xiàn)】

①苗爭鳴、尹西明、徐晨瑋、陳勁：《顛覆性技術(shù)異化及其治理研究——以“深度偽造”技術(shù)的典型化事實為例》，《科學(xué)學(xué)與科學(xué)技術(shù)管理》，2020年第12期。

②師文、陳昌鳳：《分布與互動模式：社交機(jī)器人操縱 Twitter上的中國議題研究》，《國際新聞界》，2020年第5期。

③Paul,C. Matthews,M. The Russian “Firehose of Falsehood” Propaganda Model: Why It Might Work and Options to Counter It. Rand Corporation.

④劉建明：《深度偽造對媒體與人類的致命威脅》，《新聞愛好者》，2021年第4期。

⑤胡翼青：《后真相時代的傳播——兼論專業(yè)新聞業(yè)的當(dāng)下危機(jī)》，《西北師大學(xué)報（社會科學(xué)版）》，2017年第6期。

⑥[德]尼古拉斯·盧曼著、瞿鐵鵬譯：《信任》，上海：上海人民出版社，2005年。

⑦[美]弗朗西斯·福山著、郭華譯：《信任：社會美德與創(chuàng)造經(jīng)濟(jì)繁榮》，南寧：廣西師范大學(xué)出版社，2016年。

⑧方師師：《社交媒體操縱的混合宣傳模式研究》，《現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報）》，2018年第10期。

責(zé)編/賈娜    美編/楊玲玲

聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復(fù)本微信號獲得授權(quán)，轉(zhuǎn)載時務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。