摘 要：當今時代，前沿科學領域中產生了一系列新興科技，例如基因工程和基因編輯、人工智能和機器人、合成生物學、神經技術、納米技術、增強現實技術、3D打印、異種移植等。這些新興科技有四大特點：風險性、不確定性、雙重用途，以及可能引發(fā)一些未曾有過的倫理問題。因此，我們必須將傳統(tǒng)科技管理升級為科技倫理治理。新興科技的倫理治理原則應包括人的福祉、尊重人、公正負責、透明、公眾參與等。

關鍵詞：新興科技 倫理治理 倫理原則

【中圖分類號】B82 【文獻標識碼】A

2018年底，“基因編輯嬰兒”事件引發(fā)人們對科技倫理的廣泛關注。2019年 7月24 日，中央全面深化改革委員會第九次會議審議通過《國家科技倫理委員會組建方案》，會議指出，“組建國家科技倫理委員會，目的就是加強統(tǒng)籌規(guī)范和指導協(xié)調，推動構建覆蓋全面、導向明確、規(guī)范有序、協(xié)調一致的科技倫理治理體系”。2019年10月黨的十九屆四中全會又明確提出，“健全科技倫理治理體制”。

我們過去經常談論科技管理，并將科技管理定義為運用國家權力對科技部門事務進行管理，對科技部門人力物力財力資源進行優(yōu)化整合的管理行為。那么當代科技發(fā)生了怎樣的變革，使得我們必須從過去一般的科技管理提升到建立和健全科技倫理治理體制呢？

新興科技給國家治理帶來的挑戰(zhàn)

當今時代，前沿科學領域中產生了一系列新興科技，例如基因工程和基因編輯、人工智能和機器人、合成生物學、神經技術、納米技術、增強現實技術、3D打印、異種移植等。新興科技有四大特點，提出了一系列我們應該做什么（實質性倫理問題）和如何做（程序性倫理問題）的規(guī)范性問題，使得傳統(tǒng)的科技管理體制無力應對。

新興科技有可能帶來巨大風險，以至威脅到人類未來世代的健康甚至人類生存

例如人工智能可使人類從一般的智能活動解脫出來，集中精力于創(chuàng)新、發(fā)現、發(fā)明，然而同人類一樣聰明甚至超越人類的人工智能系統(tǒng)，一旦失去控制，可能對人類的生存帶來威脅。再如，合成生物學的研究和廣泛應用，可幫助人類用多快好省的方法解決困擾人們已久的糧食、營養(yǎng)、燃料、藥物和疫苗的生產問題，然而如果合成出傳染力強、引起嚴重疾病、傳播迅速、且對疫苗有免疫力的病毒，則可能使數千萬人喪失生命。

新興科技具有不確定性

當某種風險的嚴重程度及其發(fā)生的概率可以預測時，我們可采取風險評估和風險管理方法加以應對。與風險不同的是，不確定性是我們對未來事態(tài)的決定因素缺乏知識，因而難以預測其可能的風險。我們對所采取的干預措施可能引起的后果難以預測，可能影響后果的因素太多、太復雜、相互依賴性太強而不能完全把握。例如，用于管理電網、核電站等重要設施的人工智能軟件，可能發(fā)生難以預測的差錯。再如，關于“基因編輯嬰兒”，因為缺乏必要的知識和信息，我們無法對生殖系基因組編輯進行必要的風險—受益比評估，也不能對提供胚胎的夫妻（即未來孩子的父母）提供必要和充分的信息，使他們能夠做出有效的知情同意。

新興科技往往具有正反雙重用途

新興科技既可被善意使用，為人類造福；也可被惡意使用，給人類帶來禍害。例如合成流感病毒可用來研制疫苗，也可用來制造武器。這是大多數常規(guī)科技不可能具有的特點，很難說制造電視機這門技術本身有雙重用途。一門顛覆性新興科技，其應用前景越廣闊，被惡意利用的可能性就越大。在人工智能算法設計和軟件開發(fā)中，技術越先進，其被利用作為惡意軟件、敲詐軟件的可能性也就越大。雙重用途的特性增加了不確定性，例如我們難以完全掌握恐怖主義利用新興技術進行襲擊的概率，因為不可能獲得所有必要的情報信息。

新興科技可能引發(fā)一些未曾有過的倫理問題

人工智能對于人類作出涉及未來的決策能夠起很大的積極作用，可是人工智能的決策是利用大數據和算法做出的，算法能在大數據中找出人們行為的模式，然后根據這種模式預測某一群人未來會采取何種行動，包括消費者會購買何種商品，搜索何種人可擔任企業(yè)的高級執(zhí)行官，某種疾病在某一地區(qū)或全國發(fā)生的概率，或在某一地區(qū)犯過罪的人有沒有可能再犯，等等，然后根據這種預測制訂相應的干預策略。然而，模式是根據數據識別出來的，數據是人們過去的行為留下的信息，根據從過去行為的數據識別出的行為模式來預測人們未來的行為，就有可能發(fā)生偏差或偏見。例如在美國多次發(fā)現算法中的種族歧視和性別偏見。

新興科技倫理治理的基本原則

由于這些新興科技的創(chuàng)新、研發(fā)和應用會帶來如此多而難以應對的倫理問題，而這些倫理問題不在傳統(tǒng)科技管理范圍之內，因此我們必須將科技管理提升到科技倫理治理。實行科技倫理治理，首先需要考慮的問題是，對在新興科技創(chuàng)新、研發(fā)和應用中采取的行動、作出的決策以及制定的政策提出一個評價其是非對錯的標準，即規(guī)定科技倫理治理的基本倫理原則。我們可以將新興科技倫理治理的基本原則規(guī)定如下：

人的福祉（human well-being）

我們將這一倫理原則置于首位，就是要指出，發(fā)展科技的根本目的是增進人的福祉，福祉原意是處于良好的狀態(tài)，簡言之是人在身體上、精神上、智力上、情感上、社會上、經濟上、環(huán)境上處于良好的狀態(tài)。我們發(fā)展科技的根本目的就是幫助人們在所有這些方面達到良好狀態(tài)。以人的福祉為首位原則與我國“以人民為中心”的發(fā)展思想相一致。增進人的福祉就是要將科技創(chuàng)新可能引起的對人和環(huán)境的風險最小化、受益最大化。由于基于科技創(chuàng)新的干預措施中受益與風險并存，“人的福祉” 這一原則要求我們對科研方案進行認真細致的倫理審查，對風險—受益比作出評估，審查科研方案是否體現對人的尊重。“人的福祉”這一倫理原則中的人，既包含現在世代的人，也包含未來世代的人，因而包含代際公正問題；福祉要求人在社會和環(huán)境上都處于良好狀態(tài)之中，因此也包含保護環(huán)境、促進社會發(fā)展等內容。

尊重人（respect for person）

尊重人的倫理原則主要是尊重人的自主性，這就要求將知情同意作為倫理規(guī)范，并進一步成為法律規(guī)范。知情同意的形式可隨干預或科研的情況及其引致的風險大小而異，與科研發(fā)展的需求相平衡。尊重人也包括尊重人的尊嚴，將人看作目的自身，而不把人看作僅僅是手段或工具。尊重人也包括承認人的內在價值，即每一個人的存在本身就是有價值的，反對將人視為僅有外在價值或工具性價值，即對他人或社會“有用”。尊重人也包括保護個人信息，不管是原來記錄在案、個人最近提供，還是在干預過程產生的數據，亦即，尊重人也包括尊重和保護人的隱私。

公正（justice）

公正包括分配的公正、程序的公正、回報的公正和修復的公正。“公正”（justice）是一個比較宏觀的概念，例如我們討論社會的公正或制度的公正時往往使用“社會正義”“制度正義”等術語。公平（fairness）一般用于微觀領域，例如我們講科研、教育、市場或體育領域的“公平競爭”或“機會公平”。公正的倫理原則也包括公平可及（equitable access）這一倫理要求（在這里equity與fairness是同義語）。在貧富之間存在不平等而且市場正在擴大貧富鴻溝時，用納稅人的公共資金發(fā)展的科技成果卻往往為少數富人享有，這是一個需要解決的不公平、不公正問題。

負責（responsibility）

我們這里的“負責”具有多種意義。一種意義是我們應負責地發(fā)展這些科技事業(yè)，這是指：其一，我們在創(chuàng)新和研發(fā)時必須堅持科研誠信，反對不端行為；同時在涉及到人時我們要保護作為人的受試者和其他利益攸關者，保護人類未來世代的利益，在涉及到有感受能力的動物時要關心動物的福利，在可能影響環(huán)境時要保護環(huán)境不受污染、破壞和侵蝕。另一種意義是，當發(fā)生有傷害人和破壞環(huán)境事件時，我們能夠追查到何人負責，即能夠問責、追責，一直到可根據相應法律規(guī)定追究責任人的法律責任（legal liability）。例如，在持續(xù) 10 年的干細胞治療亂象期間，沒有一例治療成功，醫(yī)生、醫(yī)院和生物技術公司賺足億萬利潤，而病人卻遭受身體和經濟上的重大損失，此事至今沒有問責，這種情況不能重演。

透明性（transparency）

透明性是防止科研人員違反科研誠信、損害受試者和消費者身心健康或利益等不端行為的最好辦法，也是進行倫理和法律治理、預防違反倫理規(guī)范和法律規(guī)定的有效辦法。例如，一些學者建議建立全國注冊處，將可能發(fā)生重大違反倫理規(guī)范和法律規(guī)定的科研項目或課題注冊登記，便于治理者或監(jiān)管者以及大眾監(jiān)督。

公眾參與（public engagement）

“基因編輯嬰兒”事件說明一點：有可能決定人類命運的重大決策（例如未來世代人的健康）卻讓賀建奎等少數人在實驗室悄悄決定，而不顧科學共識和倫理規(guī)范；在市場的誘惑下，科學原來固有的自我校正機制已經失效。在干細胞治療亂象的10年中，幾百家醫(yī)學會，唯有中華糖尿病學會發(fā)表聲明，干細胞療法必須經過臨床試驗證明其安全和有效才能應用于臨床。因此，應該改變“科學家立項、企業(yè)出資、政府批準”的“三駕馬車”決策路徑，讓有專業(yè)知識的人文社科學者和公眾代表以及關注科技創(chuàng)新的民間組織參與到上游科研決策過程，加強公眾對科學的理解和信任。有些對社會和人類有重大影響的研究項目和課題（例如可遺傳基因組編輯臨床試驗）不僅需要科學共同體的共識，而且需要社會共識。

【本文作者為華中科技大學人文學院副院長、教授，華中科技大學國家治理研究院研究員】

參考文獻

[1]雷瑞鵬、翟曉梅、朱偉、邱仁宗主編：《人類基因組編輯：科學、倫理學與治理》，北京：中國協(xié)和醫(yī)科大學出版社，2019年。

[2]雷瑞鵬、邱仁宗：《新興技術的倫理和治理問題》，《山東科技大學學報（社會科學版）》，2019年第4期。

[3]The British Standard Institute: Robots and Robotic Devices: Guide to Ethical Design and Application of Robots and Robotic Systems, published by BSI Standards Limited, 2016. ISBN 978 0 580 89530 2

[4]Institute of Electric and Electronic Engineers (IEEE): Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, Version 2, 2016. https://ethicsinaction.ieee.org/

[5]European Group on Ethics in Science and New Technologies: Artificial Intelligence, Robotics and ‘Autonomous’ Systems, 2018. http://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf

[6]翟曉梅、邱仁宗：《生命倫理學導論》，北京：清華大學出版社，2005年。

[7]翟曉梅、邱仁宗：《公共衛(wèi)生倫理學》，北京：中國社會科學出版社，2016年。

責編：周素麗 / 董 楠（見習）