摘 要：當(dāng)今時代，前沿科學(xué)領(lǐng)域中產(chǎn)生了一系列新興科技，例如基因工程和基因編輯、人工智能和機(jī)器人、合成生物學(xué)、神經(jīng)技術(shù)、納米技術(shù)、增強(qiáng)現(xiàn)實(shí)技術(shù)、3D打印、異種移植等。這些新興科技有四大特點(diǎn)：風(fēng)險性、不確定性、雙重用途，以及可能引發(fā)一些未曾有過的倫理問題。因此，我們必須將傳統(tǒng)科技管理升級為科技倫理治理。新興科技的倫理治理原則應(yīng)包括人的福祉、尊重人、公正負(fù)責(zé)、透明、公眾參與等。

關(guān)鍵詞：新興科技 倫理治理 倫理原則

【中圖分類號】B82 【文獻(xiàn)標(biāo)識碼】A

2018年底，“基因編輯嬰兒”事件引發(fā)人們對科技倫理的廣泛關(guān)注。2019年 7月24 日，中央全面深化改革委員會第九次會議審議通過《國家科技倫理委員會組建方案》，會議指出，“組建國家科技倫理委員會，目的就是加強(qiáng)統(tǒng)籌規(guī)范和指導(dǎo)協(xié)調(diào)，推動構(gòu)建覆蓋全面、導(dǎo)向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系”。2019年10月黨的十九屆四中全會又明確提出，“健全科技倫理治理體制”。

我們過去經(jīng)常談?wù)摽萍脊芾?，并將科技管理定義為運(yùn)用國家權(quán)力對科技部門事務(wù)進(jìn)行管理，對科技部門人力物力財(cái)力資源進(jìn)行優(yōu)化整合的管理行為。那么當(dāng)代科技發(fā)生了怎樣的變革，使得我們必須從過去一般的科技管理提升到建立和健全科技倫理治理體制呢？

新興科技給國家治理帶來的挑戰(zhàn)

當(dāng)今時代，前沿科學(xué)領(lǐng)域中產(chǎn)生了一系列新興科技，例如基因工程和基因編輯、人工智能和機(jī)器人、合成生物學(xué)、神經(jīng)技術(shù)、納米技術(shù)、增強(qiáng)現(xiàn)實(shí)技術(shù)、3D打印、異種移植等。新興科技有四大特點(diǎn)，提出了一系列我們應(yīng)該做什么（實(shí)質(zhì)性倫理問題）和如何做（程序性倫理問題）的規(guī)范性問題，使得傳統(tǒng)的科技管理體制無力應(yīng)對。

新興科技有可能帶來巨大風(fēng)險，以至威脅到人類未來世代的健康甚至人類生存

例如人工智能可使人類從一般的智能活動解脫出來，集中精力于創(chuàng)新、發(fā)現(xiàn)、發(fā)明，然而同人類一樣聰明甚至超越人類的人工智能系統(tǒng)，一旦失去控制，可能對人類的生存帶來威脅。再如，合成生物學(xué)的研究和廣泛應(yīng)用，可幫助人類用多快好省的方法解決困擾人們已久的糧食、營養(yǎng)、燃料、藥物和疫苗的生產(chǎn)問題，然而如果合成出傳染力強(qiáng)、引起嚴(yán)重疾病、傳播迅速、且對疫苗有免疫力的病毒，則可能使數(shù)千萬人喪失生命。

新興科技具有不確定性

當(dāng)某種風(fēng)險的嚴(yán)重程度及其發(fā)生的概率可以預(yù)測時，我們可采取風(fēng)險評估和風(fēng)險管理方法加以應(yīng)對。與風(fēng)險不同的是，不確定性是我們對未來事態(tài)的決定因素缺乏知識，因而難以預(yù)測其可能的風(fēng)險。我們對所采取的干預(yù)措施可能引起的后果難以預(yù)測，可能影響后果的因素太多、太復(fù)雜、相互依賴性太強(qiáng)而不能完全把握。例如，用于管理電網(wǎng)、核電站等重要設(shè)施的人工智能軟件，可能發(fā)生難以預(yù)測的差錯。再如，關(guān)于“基因編輯嬰兒”，因?yàn)槿狈Ρ匾闹R和信息，我們無法對生殖系基因組編輯進(jìn)行必要的風(fēng)險—受益比評估，也不能對提供胚胎的夫妻（即未來孩子的父母）提供必要和充分的信息，使他們能夠做出有效的知情同意。

新興科技往往具有正反雙重用途

新興科技既可被善意使用，為人類造福；也可被惡意使用，給人類帶來禍害。例如合成流感病毒可用來研制疫苗，也可用來制造武器。這是大多數(shù)常規(guī)科技不可能具有的特點(diǎn)，很難說制造電視機(jī)這門技術(shù)本身有雙重用途。一門顛覆性新興科技，其應(yīng)用前景越廣闊，被惡意利用的可能性就越大。在人工智能算法設(shè)計(jì)和軟件開發(fā)中，技術(shù)越先進(jìn)，其被利用作為惡意軟件、敲詐軟件的可能性也就越大。雙重用途的特性增加了不確定性，例如我們難以完全掌握恐怖主義利用新興技術(shù)進(jìn)行襲擊的概率，因?yàn)椴豢赡塬@得所有必要的情報信息。

新興科技可能引發(fā)一些未曾有過的倫理問題

人工智能對于人類作出涉及未來的決策能夠起很大的積極作用，可是人工智能的決策是利用大數(shù)據(jù)和算法做出的，算法能在大數(shù)據(jù)中找出人們行為的模式，然后根據(jù)這種模式預(yù)測某一群人未來會采取何種行動，包括消費(fèi)者會購買何種商品，搜索何種人可擔(dān)任企業(yè)的高級執(zhí)行官，某種疾病在某一地區(qū)或全國發(fā)生的概率，或在某一地區(qū)犯過罪的人有沒有可能再犯，等等，然后根據(jù)這種預(yù)測制訂相應(yīng)的干預(yù)策略。然而，模式是根據(jù)數(shù)據(jù)識別出來的，數(shù)據(jù)是人們過去的行為留下的信息，根據(jù)從過去行為的數(shù)據(jù)識別出的行為模式來預(yù)測人們未來的行為，就有可能發(fā)生偏差或偏見。例如在美國多次發(fā)現(xiàn)算法中的種族歧視和性別偏見。

新興科技倫理治理的基本原則

由于這些新興科技的創(chuàng)新、研發(fā)和應(yīng)用會帶來如此多而難以應(yīng)對的倫理問題，而這些倫理問題不在傳統(tǒng)科技管理范圍之內(nèi)，因此我們必須將科技管理提升到科技倫理治理。實(shí)行科技倫理治理，首先需要考慮的問題是，對在新興科技創(chuàng)新、研發(fā)和應(yīng)用中采取的行動、作出的決策以及制定的政策提出一個評價其是非對錯的標(biāo)準(zhǔn)，即規(guī)定科技倫理治理的基本倫理原則。我們可以將新興科技倫理治理的基本原則規(guī)定如下：

人的福祉（human well-being）

我們將這一倫理原則置于首位，就是要指出，發(fā)展科技的根本目的是增進(jìn)人的福祉，福祉原意是處于良好的狀態(tài)，簡言之是人在身體上、精神上、智力上、情感上、社會上、經(jīng)濟(jì)上、環(huán)境上處于良好的狀態(tài)。我們發(fā)展科技的根本目的就是幫助人們在所有這些方面達(dá)到良好狀態(tài)。以人的福祉為首位原則與我國“以人民為中心”的發(fā)展思想相一致。增進(jìn)人的福祉就是要將科技創(chuàng)新可能引起的對人和環(huán)境的風(fēng)險最小化、受益最大化。由于基于科技創(chuàng)新的干預(yù)措施中受益與風(fēng)險并存，“人的福祉” 這一原則要求我們對科研方案進(jìn)行認(rèn)真細(xì)致的倫理審查，對風(fēng)險—受益比作出評估，審查科研方案是否體現(xiàn)對人的尊重。“人的福祉”這一倫理原則中的人，既包含現(xiàn)在世代的人，也包含未來世代的人，因而包含代際公正問題；福祉要求人在社會和環(huán)境上都處于良好狀態(tài)之中，因此也包含保護(hù)環(huán)境、促進(jìn)社會發(fā)展等內(nèi)容。

尊重人（respect for person）

尊重人的倫理原則主要是尊重人的自主性，這就要求將知情同意作為倫理規(guī)范，并進(jìn)一步成為法律規(guī)范。知情同意的形式可隨干預(yù)或科研的情況及其引致的風(fēng)險大小而異，與科研發(fā)展的需求相平衡。尊重人也包括尊重人的尊嚴(yán)，將人看作目的自身，而不把人看作僅僅是手段或工具。尊重人也包括承認(rèn)人的內(nèi)在價值，即每一個人的存在本身就是有價值的，反對將人視為僅有外在價值或工具性價值，即對他人或社會“有用”。尊重人也包括保護(hù)個人信息，不管是原來記錄在案、個人最近提供，還是在干預(yù)過程產(chǎn)生的數(shù)據(jù)，亦即，尊重人也包括尊重和保護(hù)人的隱私。

公正（justice）

公正包括分配的公正、程序的公正、回報的公正和修復(fù)的公正。“公正”（justice）是一個比較宏觀的概念，例如我們討論社會的公正或制度的公正時往往使用“社會正義”“制度正義”等術(shù)語。公平（fairness）一般用于微觀領(lǐng)域，例如我們講科研、教育、市場或體育領(lǐng)域的“公平競爭”或“機(jī)會公平”。公正的倫理原則也包括公平可及（equitable access）這一倫理要求（在這里equity與fairness是同義語）。在貧富之間存在不平等而且市場正在擴(kuò)大貧富鴻溝時，用納稅人的公共資金發(fā)展的科技成果卻往往為少數(shù)富人享有，這是一個需要解決的不公平、不公正問題。

負(fù)責(zé)（responsibility）

我們這里的“負(fù)責(zé)”具有多種意義。一種意義是我們應(yīng)負(fù)責(zé)地發(fā)展這些科技事業(yè)，這是指：其一，我們在創(chuàng)新和研發(fā)時必須堅(jiān)持科研誠信，反對不端行為；同時在涉及到人時我們要保護(hù)作為人的受試者和其他利益攸關(guān)者，保護(hù)人類未來世代的利益，在涉及到有感受能力的動物時要關(guān)心動物的福利，在可能影響環(huán)境時要保護(hù)環(huán)境不受污染、破壞和侵蝕。另一種意義是，當(dāng)發(fā)生有傷害人和破壞環(huán)境事件時，我們能夠追查到何人負(fù)責(zé)，即能夠問責(zé)、追責(zé)，一直到可根據(jù)相應(yīng)法律規(guī)定追究責(zé)任人的法律責(zé)任（legal liability）。例如，在持續(xù) 10 年的干細(xì)胞治療亂象期間，沒有一例治療成功，醫(yī)生、醫(yī)院和生物技術(shù)公司賺足億萬利潤，而病人卻遭受身體和經(jīng)濟(jì)上的重大損失，此事至今沒有問責(zé)，這種情況不能重演。

透明性（transparency）

透明性是防止科研人員違反科研誠信、損害受試者和消費(fèi)者身心健康或利益等不端行為的最好辦法，也是進(jìn)行倫理和法律治理、預(yù)防違反倫理規(guī)范和法律規(guī)定的有效辦法。例如，一些學(xué)者建議建立全國注冊處，將可能發(fā)生重大違反倫理規(guī)范和法律規(guī)定的科研項(xiàng)目或課題注冊登記，便于治理者或監(jiān)管者以及大眾監(jiān)督。

公眾參與（public engagement）

“基因編輯嬰兒”事件說明一點(diǎn)：有可能決定人類命運(yùn)的重大決策（例如未來世代人的健康）卻讓賀建奎等少數(shù)人在實(shí)驗(yàn)室悄悄決定，而不顧科學(xué)共識和倫理規(guī)范；在市場的誘惑下，科學(xué)原來固有的自我校正機(jī)制已經(jīng)失效。在干細(xì)胞治療亂象的10年中，幾百家醫(yī)學(xué)會，唯有中華糖尿病學(xué)會發(fā)表聲明，干細(xì)胞療法必須經(jīng)過臨床試驗(yàn)證明其安全和有效才能應(yīng)用于臨床。因此，應(yīng)該改變“科學(xué)家立項(xiàng)、企業(yè)出資、政府批準(zhǔn)”的“三駕馬車”決策路徑，讓有專業(yè)知識的人文社科學(xué)者和公眾代表以及關(guān)注科技創(chuàng)新的民間組織參與到上游科研決策過程，加強(qiáng)公眾對科學(xué)的理解和信任。有些對社會和人類有重大影響的研究項(xiàng)目和課題（例如可遺傳基因組編輯臨床試驗(yàn)）不僅需要科學(xué)共同體的共識，而且需要社會共識。

【本文作者為華中科技大學(xué)人文學(xué)院副院長、教授，華中科技大學(xué)國家治理研究院研究員】

參考文獻(xiàn)

[1]雷瑞鵬、翟曉梅、朱偉、邱仁宗主編：《人類基因組編輯：科學(xué)、倫理學(xué)與治理》，北京：中國協(xié)和醫(yī)科大學(xué)出版社，2019年。

[2]雷瑞鵬、邱仁宗：《新興技術(shù)的倫理和治理問題》，《山東科技大學(xué)學(xué)報（社會科學(xué)版）》，2019年第4期。

[3]The British Standard Institute: Robots and Robotic Devices: Guide to Ethical Design and Application of Robots and Robotic Systems, published by BSI Standards Limited, 2016. ISBN 978 0 580 89530 2

[4]Institute of Electric and Electronic Engineers (IEEE): Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, Version 2, 2016. https://ethicsinaction.ieee.org/

[5]European Group on Ethics in Science and New Technologies: Artificial Intelligence, Robotics and ‘Autonomous’ Systems, 2018. http://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf

[6]翟曉梅、邱仁宗：《生命倫理學(xué)導(dǎo)論》，北京：清華大學(xué)出版社，2005年。

[7]翟曉梅、邱仁宗：《公共衛(wèi)生倫理學(xué)》，北京：中國社會科學(xué)出版社，2016年。

責(zé)編：周素麗 / 董 楠（見習(xí)）