摘 要:近年來，我國科技倫理治理面臨新興技術快速發(fā)展期、經(jīng)濟社會高質(zhì)量發(fā)展期、國際秩序深度調(diào)整期“三期疊加”新情況，技術譜系、應用場景、社會觀念同時處于新老雜糅、跨界組合的狀態(tài)，致使蘊藏其中的倫理問題變得更加復雜，給科技倫理治理提出了更大的挑戰(zhàn)和更高的要求。為此，必須進一步明確科技倫理基本原則，堅持問題導向、制度先行和開放合作，完善我國科技倫理治理體系，提升治理能力，以有效的倫理治理促進科技進步和社會發(fā)展。
關鍵詞:科技倫理 治理體系 治理能力 制度建設
【中圖分類號】C93 【文獻標識碼】A
加強科技倫理治理是促進科技創(chuàng)新可持續(xù)發(fā)展的內(nèi)在要求，也是科技創(chuàng)新支撐高質(zhì)量發(fā)展、滿足人民美好生活需要的必然要求。近年來，我國加快推進科技倫理制度建設，2019年7月，中央全面深化改革委員會第九次會議審議通過了《國家科技倫理委員會組建方案》并指出，科技倫理是科技活動必須遵守的價值準則。組建國家科技倫理委員會，目的就是加強統(tǒng)籌規(guī)范和指導協(xié)調(diào)，推動構建覆蓋全面、導向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系[1]。黨的十九屆四中全會審議通過的《中共中央關于堅持和完善中國特色社會主義制度 推進國家治理體系和治理能力現(xiàn)代化若干重大問題的決定》明確提出，要“健全科技倫理治理體制”，從國家治理體系和治理能力現(xiàn)代化的角度提出了新要求。新修訂的《中華人民共和國科學技術進步法》加強了科技倫理相關規(guī)定，要求“國家加強科技法治化建設和科研作風學風建設，建立和完善科研誠信制度和科技監(jiān)督體系，健全科技倫理治理體制”。今年3月，中共中央辦公廳、國務院辦公廳印發(fā)《關于加強科技倫理治理的意見》，進一步明確要求健全科技倫理治理體制，包括“完善政府科技倫理管理體制、壓實創(chuàng)新主體科技倫理管理主體責任、發(fā)揮科技類社會團體的作用、引導科技人員自覺遵守科技倫理要求”。
為此，必須進一步明確科技倫理基本原則，堅持問題導向、制度先行和開放合作，完善我國科技倫理治理體系，提升治理能力，以有效的倫理治理促進科技進步和社會發(fā)展。
科技倫理治理的基本議題
對“二戰(zhàn)”期間納粹暴行的反思激起了人們對科技倫理的關注和重視。[2]“二戰(zhàn)”后，對核武器研究開發(fā)的反思、環(huán)保運動的興起，以及基因研究、克隆技術和人類基因組計劃等為代表的新技術的快速發(fā)展讓科技倫理規(guī)范和倫理治理成為科學研究和公共政策討論中的關鍵議題。[3]幾十年來，科技倫理治理出現(xiàn)了以下三個方面的顯著變化：在領域方面，由生命科學領域擴展到各個領域，比如當下人們高度關注的人工智能倫理問題；在內(nèi)容方面，由相對聚焦的倫理議題擴展到更廣泛的倫理、法律和社會議題（ethical，legal，social issues，ELSI）；在治理方面，從更多依靠科學界自我規(guī)范向強調(diào)多元參與、協(xié)同共治的治理模式轉(zhuǎn)變。
科技倫理治理涉及的具體問題有很多，但核心問題主要是如下兩個：
科技收益與科技風險的權衡問題，或者說是如何在科技發(fā)展過程中趨利避害的問題
科技創(chuàng)新具有“雙刃劍”效應，它總會造成某種程度的“創(chuàng)造性破壞”，這就給人們提出了如何對特定科技創(chuàng)新的收益和風險進行總量估計和權衡的問題，以及如何對科技創(chuàng)新收益和風險進行結(jié)構性的社會分配問題?；卮鹂萍紕?chuàng)新的收益和風險面臨兩個基本的困難：
其一，科技創(chuàng)新及其成果應用帶來的收益和風險通常都有高度的不確定性，準確的估計受信息不足和有限理性的約束而難以完成。其二，對收益和風險的認知和計算具有很強的社會建構性，這意味著人們對收益和風險的認知和判斷是一個動態(tài)的社會過程，具有很強的社會情境特性，很難對個體或群體的收益和風險認知做簡單的設定。
為了處理收益和風險權衡的復雜性與科技發(fā)展的迫切性之間的矛盾，人們提出了兩種對待科技發(fā)展特別是新興技術的原則，即所謂的“預防原則”（precautionary principle）和“先占原則”（proactionary principle）[4]。“預防原則”主張，人們要更謹慎對待科技發(fā)展蘊含的不確定性，以防其帶來不可預料的危害。“先占原則”則認為不應過分強調(diào)科技發(fā)展可能帶來的負面影響，以免過度規(guī)制限制科研自由，錯失科技發(fā)展帶來的收益。
“知識合法性”和“參與合法性”的張力問題
科技活動有很強的專業(yè)性，較之一般公眾，科學家具有很強的知識優(yōu)勢，更有可能做出“知識上”的正確決策——這是很長時間以來，科學與政治、科學家與公眾之間的默契。[5]但近十年來，支撐這一默契所需的道德基礎和知識權威都受到很大動搖。由于科學家（科研機構）更多地卷入了各種政治和經(jīng)濟利益網(wǎng)絡當中，其獨立性和客觀性也不再像從前那樣毋庸置疑；同時，隨著科技對人們?nèi)粘９ぷ骱蜕钣绊懗潭鹊募由?，科技決策越來越依賴科學知識之外的“社會知識”，在這種復合型知識結(jié)構面前，科學家也一定程度上成為了知識不足的人，知識權威形象變得愈加模糊*；加之，二戰(zhàn)后公民權利意識的增強也讓公眾越來越不愿意只是被動地接受科學家們的決定**。因而沒有多主體參與的科技公共決策可能在知識上是不完備的，在程序上是“不合法的”***。
此外，與高深的專業(yè)性學術問題不同，對于科技倫理問題，原則上每個公眾都具有發(fā)言權和選擇權，如何在保障公共利益、尊重科學和科學家意見的基礎上，合理體現(xiàn)各利益相關方的訴求以及社會公眾的關切，是建立健全科技倫理治理決策機制時需要考慮的重要內(nèi)容。新冠肺炎疫情以來，美國等國家都出現(xiàn)了所謂“科技發(fā)展悖論”——科技創(chuàng)新持續(xù)發(fā)展，但公眾對科學界的信任持續(xù)下降[6]，這些國家普遍遭遇了史上最失敗的疫情應對[7]。無論是從學術研究結(jié)果，還是從拜登政府提出的應對舉措來看，公眾參與科學的渠道不暢、成效不彰是其中一個重要原因。拜登將總統(tǒng)科學顧問提升至內(nèi)閣部長級，并專門任命一位知名社會科學家為負責科學與社會事務的白宮科技政策辦公室副主任，也從側(cè)面作出印證。
“三期疊加”與我國科技倫理治理面臨的新形勢
近年來，我國科技倫理治理面臨新興技術快速發(fā)展期、經(jīng)濟社會高質(zhì)量發(fā)展期、國際秩序深度調(diào)整期“三期疊加”新情況，技術譜系、應用場景、社會觀念同時處于新老雜糅、跨界組合的狀態(tài)，致使蘊藏其中的倫理問題變得更加復雜，給科技倫理治理提出了更大的挑戰(zhàn)和更高的要求。
新興科技快速發(fā)展對科技倫理治理提出新挑戰(zhàn)
近年來，合成生物學、認知神經(jīng)科學、信息通信技術、人工智能等新興科技迅速發(fā)展，相關研究和應用直接涉及對人的尊重和權利的保護問題，倫理爭議無法回避。同時，生物、信息等領域技術的研發(fā)不再像過去那樣嚴重依賴大型科研基礎設施和科研團隊，大大降低了上述領域技術的研發(fā)和獲取門檻。個別人或機構，不用具備很強的研究能力，使用少量經(jīng)費就能“誤用”和“濫用”大數(shù)據(jù)、人工智能、基因編輯等技術，造成難以預料的倫理問題。更嚴峻的現(xiàn)實情況是，新興科技治理相關措施還在發(fā)展過程中，全世界科技界和監(jiān)管機構都缺乏足夠的新興科技治理知識和經(jīng)驗，形成廣泛共識仍需要一定時間和過程，且具有很大不確定性。
我國科技和社會發(fā)展進入新階段對科技倫理治理提出新要求
人民對美好生活的需要日益豐富，科技創(chuàng)新紅利的社會分配也更加復雜，公眾的權利意識和風險意識在逐步增強的同時，也表現(xiàn)出差異化特征，這些社會發(fā)展特征都對我國現(xiàn)有科技倫理治理體系和治理能力提出了挑戰(zhàn)。近年來，公眾對轉(zhuǎn)基因農(nóng)作物安全性、人工智能對人類尊嚴和自主性的挑戰(zhàn)，以及數(shù)據(jù)隱私權的保護等的熱切關注都是對科技倫理問題愈加重視的表現(xiàn)。同時，隨著科技創(chuàng)新的進一步深入，更多領域?qū)⑦M入“無人區(qū)”，同時也將產(chǎn)生更多倫理治理的“無人區(qū)”，很多時候不得不面對科技倫理治理無先例可循的局面。
國際秩序深刻調(diào)整對科技倫理治理提出了新任務
加強科技倫理特別是新興技術倫理治理的全球合作是國際社會的共識，但各國、各大企業(yè)積極爭取掌握更大話語權，甚至少數(shù)國家將倫理規(guī)范“武器化”也是客觀事實。
在全球化和社交媒體時代，由倫理的歷史性和文化性差異引起的誤解和沖突可能會進一步增多、放大，科技倫理問題也可能成為國際輿論、外交爭端新的“引爆點”。當前，國際科技和產(chǎn)業(yè)競爭加劇，國際科技、貿(mào)易等領域規(guī)則深刻調(diào)整，科技倫理規(guī)則及其衍生出來的某些特定監(jiān)管規(guī)則、貿(mào)易規(guī)則等可能成為西方國家實施“長臂管轄”的新工具，成為對我國科研人員、科研機構和高科技企業(yè)進行精確打擊的新由頭。“數(shù)字威權主義”、違背人權、侵犯隱私等，正成為美國等西方從倫理價值觀層面指責打壓我國科技創(chuàng)新和領先企業(yè)的借口。
我國科技倫理治理體系和治理能力建設存在的突出問題
近二十年來，我國在科技倫理管理，特別是生物醫(yī)學領域倫理監(jiān)管方面積累了一些經(jīng)驗，取得了一定成效。但新形勢下的科技倫理問題更加復雜，近年出現(xiàn)的重大科技倫理事件更暴露出我國科技倫理治理體系和能力建設還存在諸多亟需解決的問題，主要體現(xiàn)在以下五個方面：
探索建立科技倫理治理統(tǒng)籌機制，但體系建設還比較滯后
在法律法規(guī)方面，雖然《中華人民共和國科學技術進步法》明確規(guī)定：“禁止危害國家安全、損害社會公共利益、危害人體健康、違背科研誠信和科技倫理的科學技術研究開發(fā)和應用活動”，國務院相關主管部門也出臺了一些相關條例和辦法，但對違反科技倫理行為的責任認定與處理處罰標準方面的法律法規(guī)建設仍然不足——2018年“基因編輯嬰兒”事件發(fā)生后，對相關人員和機構的處罰凸顯了這方面的問題。在管理機制方面，國家科技倫理委員會成立不久，亟需按職能設定加快開展工作；現(xiàn)行科技倫理管理職責分工不夠明確，科技倫理審查與監(jiān)管仍存在空白，缺乏統(tǒng)籌的問題比較突出。
醫(yī)療衛(wèi)生領域倫理治理起步較早，人工智能倫理治理積極展開，但都還存在能力建設不足的問題
多年來，衛(wèi)生和科技行政主管部門先行探索建立了生物醫(yī)學研究倫理管理制度體系，內(nèi)容涉及輔助生殖技術、新藥臨床研究、基因治療、干細胞的研究和臨床應用、醫(yī)藥技術臨床應用管理，以及實驗動物倫理管理等方面。我國主要的醫(yī)療衛(wèi)生機構也已普遍建立了機構倫理審查委員會。但目前機構倫理審查委員會存在人員構成不合理、專業(yè)知識不足、能力建設薄弱、工作規(guī)則和操作規(guī)范不完善等突出問題。
特別值得指出的是，近年來我國積極推進人工智能倫理治理，高度重視對人工智能倫理、法律和社會問題的研究和治理，以分散式立法的方式積極推進涉及人工智能倫理治理的相關法律法規(guī)建設。同時，搭建人工治理多方參與平臺，成立由主要來自高校、科研院所和企業(yè)專家組成的“新一代人工智能治理專業(yè)委員會”，并發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出人工智能治理的框架和行動指南。但人工智能倫理治理還處于起步階段，體系和能力建設還比較薄弱。
科技工作者認同科技倫理的重要性，但科技倫理意識有待提升
中國科協(xié)的一項調(diào)查顯示，近九成科技工作者認為違反科研倫理道德的行為具有很大危害性，但完全踐行科研倫理道德的人較少。[8]同時，由于部分科研人員倫理意識不高，加之我國科技倫理管理制度不夠健全，部分國外科研人員與國內(nèi)科研人員合作，把在倫理監(jiān)管嚴格的國家不能做的研究拿到中國來做，以躲避所在國的倫理監(jiān)管，讓我國成為了“倫理傾銷”（Ethics Dumping）的受害者，“黃金大米”事件和“頭顱移植術”等科技倫理事件便是這方面的典型。
公眾參與已有初步探索，但合理的公眾參與機制尚未建立
公眾是科技倫理治理的重要主體，提升公眾參與機會和參與能力，是科技倫理治理體系和治理能力建設的重要內(nèi)容。雖然近年來我國在傳播科學知識、促進科學家與公眾溝通方面出現(xiàn)了一些“明星科學家”，但受限于專業(yè)知識、時間精力和評價機制等方面的問題，這種“業(yè)余的”、個體化的行為，不能滿足全面、系統(tǒng)、及時回應隨時可能出現(xiàn)的科技與社會熱點話題，更無法就科技與社會關系問題與公眾進行主動的、常態(tài)化的溝通。
此外，雖然我國在公眾參與科技倫理治理方面進行了一些嘗試，比如在制定重要的科技倫理管理規(guī)定時公開征求意見，但目前這種實踐尚處于初步探索階段，對于公眾參與的邊界、機制等缺乏明確的規(guī)定和操作性的制度保障，并且面臨公眾科學素質(zhì)不高、參與科技咨詢/決策經(jīng)驗不足等問題。
我國科技界參與國際科技倫理治理的能力亟待提高
一是受國際科技傳播意識、能力和環(huán)境的限制，對我國的科技倫理文化和有助于弘揚我國價值觀、樹立負責任大國形象的重要科技倫理治理實踐，在國際范圍內(nèi)缺乏有效傳播的意識和能力，傳播范圍比較有限，不利于消減國際社會對我國實踐和成就的偏見和誤解。二是在國際科技組織、科技倫理治理規(guī)則制訂中的參與度和代表性與我國的科技發(fā)展水平不相匹配，不能有效地參與國際科技倫理治理，在國際科技倫理規(guī)范中發(fā)揮引導性和貢獻者的作用遠遠不足。
推進我國科技倫理治理體系和治理能力建設的建議
針對我國科技倫理治理面臨的挑戰(zhàn)，建議盡快由國家科技倫理委員會提出并制定中國科技倫理基本原則，作為開展科技創(chuàng)新活動時必須遵守的基本倫理義務和判斷各相關方行動和決策是非對錯的基本標準。
加快科技倫理治理制度體系建設
采取先制訂制度文本、后實踐，并在實踐中逐步完善制度的方式，加快形成我國科技倫理治理體系和治理能力建設所需的相關制度。當前迫切需要建立健全的制度主要包括：科技倫理建設的指導性文件、科技倫理審查規(guī)范、科技倫理監(jiān)督管理規(guī)范、科技倫理教育培訓制度、科技工作者倫理守則等。
健全科技倫理治理工作機制
一是建立科技倫理分級管理制度，推動設立國家/部門-區(qū)域-機構科技倫理管理體系，健全審查機構體系，明確倫理審查主體、標準、流程等。如果國家科技倫理委員會能盡快發(fā)布科研倫理審查程序和規(guī)范，將為加快全國科研倫理審查體系建設提供基本指引和規(guī)范，同時指導、支持符合條件的機構建立機構倫理（審查）委員會，推動建立區(qū)域倫理審查機構。二是落實《關于加強科技倫理治理的意見》中“高等學校、科研機構、醫(yī)療衛(wèi)生機構、企業(yè)等單位要履行科技倫理管理主體責任，建立常態(tài)化工作機制，加強科技倫理日常管理，主動研判、及時化解本單位科技活動中存在的倫理風險；根據(jù)實際情況設立本單位的科技倫理（審查）委員會”的要求，強化大學、科研機構、醫(yī)院、企業(yè)等科技活動主體在科技倫理管理方面的主體責任。三是加快建立健全科技項目立項、科技成果發(fā)表、技術成果轉(zhuǎn)移轉(zhuǎn)化等覆蓋科技活動全流程的倫理評估、審查、備案等管理制度。四是建立合理的公眾參與機制，積極利用互聯(lián)網(wǎng)、大數(shù)據(jù)、社交媒體等新技術，建設國家級的科技倫理網(wǎng)絡綜合平臺，在倫理監(jiān)管、教育、信息發(fā)布、傳播共享和公眾參與等方面發(fā)揮積極作用。
加強對科技人員的科技倫理教育
一是加強對倫理委員會成員、機構倫理審查人員、科技項目管理人員等相關人員的科技倫理專業(yè)知識和技能培訓，提高其履職盡責能力。二是要求高校將科技倫理、科研規(guī)范、負責任研究與創(chuàng)新、公眾溝通技巧等內(nèi)容融入研究生教育工作。要求科研機構把相關內(nèi)容納入科研人員和科技管理人員的職業(yè)培訓。三是加強科技倫理學科、研究機構和研究隊伍建設，鼓勵和支持學會、協(xié)會在本領域科技倫理教育培訓等方面積極發(fā)揮作用。
積極參與國際科技倫理治理
一是鼓勵和支持我國科研人員和科技倫理研究人員走出去，參與國際科技倫理前沿問題的討論、交流和合作研究，對國際熱點倫理問題積極發(fā)聲，及時向國際社會闡明中國科技倫理立場、方案和實踐經(jīng)驗。二是加強對違反科技倫理規(guī)范的國內(nèi)外機構和個人的查處，及時回應國內(nèi)國際關切。
加強科技倫理治理研究
一是國家科技倫理委員會以及各專業(yè)領域的倫理委員會要不定期發(fā)布科技倫理前沿研究報告。二是對新興科技實行科技研發(fā)與倫理研究并行的策略，加強對相關研究的資助。三是加強科技倫理領域?qū)I(yè)智庫建設，打造智庫和研究咨詢網(wǎng)絡。四是加強對公眾倫理關切的監(jiān)測研究，從定量和定性兩方面對公眾在科技發(fā)展和倫理方面的認知、態(tài)度和需求進行定期監(jiān)測和深入研究。
（參見*[荷]比克、保爾、亨瑞克斯著，施云燕等譯：《科學權威的矛盾性：科學咨詢在民主社會中的作用》；**[瑞士]諾沃特尼等著，冷民等譯：《反思科學：不確定性時代的知識與公眾》；***[瑞士]馬森、[德]魏因加著，姜江等譯：《專業(yè)知識的民主化：探尋科學咨詢的新模式》。）
【執(zhí)筆：中國科學技術發(fā)展戰(zhàn)略研究院研究員 盧陽旭、張文霞、何光喜】
注釋
[1]《組建國家科技倫理委員會！習近平為規(guī)范前沿科技發(fā)展指明方向》，國際在線，http://news.cri.cn/20190726/5f1b2be6-b567-71de-72b5-4fd245926280.html，2019年7月26日更新。
[2]樊春良：《科技倫理治理的理論與實踐》，《科學與社會》，2021年第4期，第33—50頁。
[3]于雪、凌昀、李倫：《新興科技倫理治理的問題及其對策》，《科學與社會》，2021年第4期，第51—65頁。
[4]翟曉梅、邱仁宗：《合成生物學的倫理和管治》，《科學時報》，2010年7月16日，A3版。
[5]盧陽旭、何光喜：《我國人工智能治理面臨的機遇和挑戰(zhàn)：基于科技公共治理視角》，《行政管理改革》，2019年第8期，第8頁。
[6]Mertz. A. F，Mishra. A.，Science’s new frontier，Science，https://www.us-vo.org/science/sciences-new-frontier/#:~:text=Science%E2%80%99s%20new%20frontier%20The%20year%202020%20saw%20a,to%20the%20worst%20health%20crisis%20in%20modern%20history，2021.3.9.
[7]吳曉剛：《新冠疫情如何影響美國民眾對中國態(tài)度》，《知識分子》，https://mp.weixin.qq.com/s/xuRd2u8AF5Hf37f5vXBE0A.，2021年9月6日更新。
[8]中國科協(xié)：《科技倫理的底線不容突破》，《科技日報》，2019年07月26日，第1版。
責編：李 懿／美編：石 玉
Core Issues and Key Areas of China’s Governance over Ethics in Science and Technology
Research Group on Governance over Ethics in Science and Technology,
Chinese Academy of Science and Technology for Development
Abstract: In recent years, China’s governance over ethics in science and technology has faced the new situation of “overlapping of three stages”, namely, the rapid development stage of emerging technologies, the high-quality development stage of economy and society, and the in-depth adjustment stage of international order. Technological landscape, application scenarios, and social concepts are in a state of old-and-new mix and cross-border combinations, making the ethical issues behind them more complicated and posing greater challenges and higher requirements for governance over ethics in science and technology. Therefore, it is necessary to further clarify the basic principles of such governance, adhere to the practices of problem-orientation, system first, and open cooperation, improve the governance system of ethics in science and technology, upgrade the governance capacity to promote scientific and technological progress and social development with effective ethical governance.
Keywords: ethics in science and technology; governance system; governance capacity; institutional construction
聲明：本文為《國家治理》周刊原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復國家治理周刊微信號獲得授權，轉(zhuǎn)載時務必標明來源及作者，否則追究法律責任。