摘 要:科技倫理法律在條件不具備時(shí)并不能有效防控科技風(fēng)險(xiǎn)，目前的科技倫理熱潮似乎認(rèn)為只要加強(qiáng)科技倫理法律的建設(shè)與實(shí)施，科技風(fēng)險(xiǎn)與倫理問題就可以迎刃而解，這種只注重科技倫理法律而忽視科技轉(zhuǎn)型等其他重要措施的認(rèn)識(shí)誤區(qū)即為“科技倫理法律陷阱”。要用底線思維和系統(tǒng)思維構(gòu)建“底線—整體倫理學(xué)”，從而應(yīng)對(duì)前沿科技治理的巨大挑戰(zhàn)。

關(guān)鍵詞:科技倫理法律陷阱 科技重大風(fēng)險(xiǎn) 科技治理 底線—整體倫理學(xué)

【中圖分類號(hào)】G3 【文獻(xiàn)標(biāo)識(shí)碼】A

近年來，新興科技發(fā)展迅速，呈現(xiàn)出科技大爆發(fā)態(tài)勢(shì)，科技風(fēng)險(xiǎn)與倫理問題日益凸顯，國(guó)內(nèi)國(guó)際對(duì)此高度重視，形成一股科技倫理熱潮。但只要加強(qiáng)科技倫理法律建設(shè)與實(shí)施，科技風(fēng)險(xiǎn)和倫理問題就可以迎刃而解嗎？答案是否定的，前沿科技領(lǐng)域治理仍然任重道遠(yuǎn)。應(yīng)當(dāng)認(rèn)識(shí)到這一“科技倫理法律陷阱”，構(gòu)建“底線—整體倫理學(xué)”，并對(duì)科技發(fā)展模式進(jìn)行系統(tǒng)性變革，這才是解決科技風(fēng)險(xiǎn)和倫理問題的根本性措施。

科技倫理法律陷阱：著力點(diǎn)錯(cuò)位，難以解決科技風(fēng)險(xiǎn)與倫理問題

加強(qiáng)科技倫理法律至關(guān)重要，但是其發(fā)揮應(yīng)有作用是需要一定條件的，當(dāng)條件不具備時(shí)，科技倫理法律就不能有效解決科技風(fēng)險(xiǎn)與倫理問題，更不能有效防控科技重大風(fēng)險(xiǎn)。目前科技倫理熱潮對(duì)此有所忽視，似乎認(rèn)為加強(qiáng)科技倫理法律的建設(shè)與實(shí)施，問題就可以迎刃而解，但實(shí)際上在現(xiàn)有條件和西方主流科技發(fā)展模式下，答案是否定的。對(duì)此，筆者提出“科技倫理法律陷阱”予以說明。

科技倫理法律陷阱包括兩層含義：一是指從直觀上看科技倫理法律可以解決問題，實(shí)際上在目前條件下卻不能有效解決問題，不能有效防控科技重大風(fēng)險(xiǎn)；二是由于誤認(rèn)為找到了解決問題的關(guān)鍵，找到了著力點(diǎn)，而忽視了科技倫理法律發(fā)揮應(yīng)有作用是有條件的，忽視了相應(yīng)的條件關(guān)系分析，忽視了探尋真正的問題解決之道，而只注重科技倫理法律的建設(shè)與實(shí)施，錯(cuò)失扭轉(zhuǎn)局面、糾正重大錯(cuò)誤的機(jī)會(huì)。具體而言，科技倫理法律陷阱主要有以下六方面表現(xiàn)。

科技倫理法律主要是對(duì)科技工作者的表層約束而非深層約束

項(xiàng)目申請(qǐng)、驗(yàn)收、成果發(fā)表是科研的表層活動(dòng)，科研探索、鉆研思考、科學(xué)實(shí)驗(yàn)、實(shí)驗(yàn)室生活、交流合作是科研的深層活動(dòng)，科技倫理法律主要是對(duì)科研表層活動(dòng)的約束，而幾乎無法約束科研的深層活動(dòng)。探索未知、科學(xué)無禁區(qū)是科研活動(dòng)的核心原則，正如“原子彈之父”奧本海默所指出：“一個(gè)深刻而必要的真理是，深藏在科學(xué)中的事物并非由于它們有用而被發(fā)現(xiàn)，它們被發(fā)現(xiàn)是由于有可能發(fā)現(xiàn)它們。”盡管目前科技倫理熱潮洶涌，但據(jù)觀察了解，科學(xué)家的科研探索活動(dòng)幾乎沒有任何改變。成果（包括最終成果、階段性成果、研究過程記錄、實(shí)驗(yàn)數(shù)據(jù)等）的發(fā)表和傳播有正式和非正式、主動(dòng)和被動(dòng)、合法或非法等多種方式，存在被一些情報(bào)機(jī)構(gòu)、軍方、黑客、瘋狂科學(xué)家以及恐怖分子所利用的可能性?？梢?，無力實(shí)施深層約束的科技倫理法律不能有效解決科技風(fēng)險(xiǎn)與倫理問題，尤其不能防控科技重大風(fēng)險(xiǎn)。

科技倫理法律只是對(duì)世界的局部約束而非全面約束

科技倫理和科技法律不能約束世界上所有實(shí)驗(yàn)室和科技專家。世界上有233個(gè)國(guó)家和地區(qū)，科技倫理、法律各異，倫理和法律空白和漏洞很多，公海和荒島更難監(jiān)控，有三類人很難受到約束：一是瘋狂科學(xué)家、黑客、恐怖分子和鉆倫理法律漏洞的科學(xué)家；二是軍方的武器研發(fā)，往往以防御為名；三是企業(yè)研發(fā)機(jī)構(gòu)，即使其某些技術(shù)和產(chǎn)品容易轉(zhuǎn)化而被恐怖分子利用，企業(yè)也不會(huì)束手束腳。例如，美國(guó)禁止基因編輯“三父母”嬰兒技術(shù)，美國(guó)科學(xué)家團(tuán)隊(duì)就在不限制該技術(shù)的墨西哥進(jìn)行操作并取得成功。

在人工智能領(lǐng)域，科技倫理失靈的情況也很嚴(yán)重，例如，在禁止“致命性自主武器”問題上無法落實(shí)。2018年國(guó)際人工智能聯(lián)合會(huì)議上，來自90個(gè)國(guó)家、160多家人工智能企業(yè)或機(jī)構(gòu)的2400多位專家學(xué)者共同簽署了《禁止致命性自主武器宣言》，呼吁立法者頒布正式的國(guó)際協(xié)議，但是在同年舉辦的聯(lián)合國(guó)日內(nèi)瓦會(huì)議上，美國(guó)、俄羅斯、韓國(guó)、以色列、澳大利亞等國(guó)都反對(duì)將“完全自主武器”納入正式談判議題框架之中，僅達(dá)成一系列非約束性建議，聯(lián)合國(guó)秘書長(zhǎng)安東尼奧·古特雷斯強(qiáng)調(diào)“必須保留人類對(duì)使用武器系統(tǒng)的決定的責(zé)任，因?yàn)閱栘?zé)制無法轉(zhuǎn)移到機(jī)器上”。[1]但是在“2019年政府專家組關(guān)于致命自主武器系統(tǒng)新興領(lǐng)域會(huì)議報(bào)告草案”中，并沒有強(qiáng)調(diào)完全禁止“致命性自主武器的研發(fā)與使用”。在2019年歐盟發(fā)布的《可信人工智能倫理指南草案》中也沒有涉及致命性自主武器的禁止問題。對(duì)于顯然應(yīng)當(dāng)予以禁止的人工智能武器，在現(xiàn)實(shí)中都無法形成政府文件，表面文章都做不了（何況明令禁止也不容易真正落實(shí)），人工智能倫理中的其他約束條款還有多少意義呢？對(duì)于科學(xué)發(fā)現(xiàn)與技術(shù)發(fā)明而言，做出1次和做出100次是一樣的，在知識(shí)極易擴(kuò)散的互聯(lián)網(wǎng)時(shí)代，加強(qiáng)科技倫理法律和安全監(jiān)管至關(guān)重要，但是也應(yīng)該清楚其本身存在的局限和漏洞。[2]

科技倫理是軟約束而非硬約束

由于科研活動(dòng)非常復(fù)雜，成果也有多種應(yīng)用，各種具體研究與應(yīng)用都有相應(yīng)的理由，即使是具有巨大破壞力的兩用技術(shù)（Dual-use），也有其發(fā)展的正當(dāng)理由。兩用技術(shù)通常是指既能民用又能軍用的技術(shù)，基因編輯技術(shù)就是兩用技術(shù)。2016年美國(guó)國(guó)家情報(bào)總監(jiān)詹姆斯·克拉珀在美國(guó)情報(bào)界年度全球威脅評(píng)估報(bào)告中，將基因編輯技術(shù)列入“大規(guī)模殺傷性與擴(kuò)散性武器”威脅清單。如此危險(xiǎn)和極具爭(zhēng)議的技術(shù)，出于經(jīng)濟(jì)和軍事競(jìng)爭(zhēng)的考慮，不少國(guó)家仍然爭(zhēng)先恐后地發(fā)展。2014年病毒學(xué)教授河岡義裕，利用H1N1流感病毒研制出一種能“繞過”人體免疫系統(tǒng)的新變種，該病毒或制造病毒的知識(shí)一旦泄漏，后果不堪設(shè)想。盡管這些高風(fēng)險(xiǎn)的研究飽受爭(zhēng)議，但河岡義裕在2011—2016年間至少四次獲得日本和國(guó)際的科學(xué)獎(jiǎng)。由此可見，科技倫理只是軟約束，而非強(qiáng)制性的硬約束，無論科研活動(dòng)及成果有多危險(xiǎn)都可以因?yàn)檫@樣或那樣的原因無法禁止，導(dǎo)致科技倫理形同虛設(shè)。

以約束人為核心的科技倫理法律并不能有效解決科技風(fēng)險(xiǎn)與倫理問題

眾所周知，科技倫理是針對(duì)人的，它規(guī)定了科技工作者及其共同體應(yīng)恪守的價(jià)值觀念、社會(huì)責(zé)任和行為規(guī)范及準(zhǔn)則。通過約束人、約束科技工作者來解決科技風(fēng)險(xiǎn)與倫理問題符合人們的直觀經(jīng)驗(yàn)。“國(guó)外學(xué)者盡管研究科學(xué)技術(shù)負(fù)面效應(yīng)問題的觀點(diǎn)和角度不同，但最終都落在人的問題上。這是不難理解的，因?yàn)槿耸强茖W(xué)技術(shù)負(fù)面效應(yīng)問題的焦點(diǎn)，所有科學(xué)技術(shù)負(fù)面效應(yīng)問題都是由于人對(duì)科學(xué)技術(shù)把握的水平、思維方式以及道德動(dòng)機(jī)落后于現(xiàn)實(shí)等原因造成的。提高人的素質(zhì)，挖掘人的潛力是解決科學(xué)技術(shù)負(fù)面效應(yīng)問題的關(guān)鍵。”[3]因此人們把加強(qiáng)科技倫理法律建設(shè)與實(shí)施當(dāng)作解決科技治理問題的關(guān)鍵。但是科技活動(dòng)極為復(fù)雜，防控科技風(fēng)險(xiǎn)，特別是防控科技重大風(fēng)險(xiǎn)涉及的因素眾多，在好奇心、利益和競(jìng)爭(zhēng)壓力驅(qū)使下，人們往往會(huì)身不由己，所以僅僅約束人是不夠的。更重要的是，決定科技風(fēng)險(xiǎn)和倫理問題生成的是整個(gè)科技系統(tǒng)，是主流科技發(fā)展模式，而不僅僅是科技工作者?？萍紓惱矸赡芊癜l(fā)揮應(yīng)有的作用主要取決于當(dāng)時(shí)的科技發(fā)展模式，在目前西方主流的粗放式創(chuàng)新科技發(fā)展模式下（包括科學(xué)無禁區(qū)、優(yōu)先權(quán)獎(jiǎng)勵(lì)體系、科技與資本的粗放式結(jié)合等），科技倫理法律確實(shí)難以發(fā)揮應(yīng)有的作用。

科技倫理研究薄弱，科技治理體系過于單薄

科技倫理學(xué)是新興交叉學(xué)科，產(chǎn)生于20世紀(jì)70年代。近年來新興科技的發(fā)展沖擊著現(xiàn)有的倫理規(guī)范，德裔美籍哲學(xué)家尤納斯（H. Jonas）指出，建立在個(gè)體倫理基礎(chǔ)上的傳統(tǒng)倫理學(xué)已不能應(yīng)對(duì)現(xiàn)代科技活動(dòng)中出現(xiàn)的倫理問題，人類面對(duì)“倫理學(xué)的真空”，尤納斯主張構(gòu)建“一種通過調(diào)節(jié)人的行為，確保人類長(zhǎng)久續(xù)存的倫理學(xué)”，這樣的倫理學(xué)應(yīng)該是以責(zé)任為中心的責(zé)任倫理學(xué)。[4]尤納斯的責(zé)任倫理學(xué)是當(dāng)代倫理學(xué)的代表作，它對(duì)“未來責(zé)任”倫理進(jìn)行了出色的理論建構(gòu)。在筆者看來，以責(zé)任為中心、以處理人與人之間關(guān)系為中心的責(zé)任倫理學(xué)并不能解決科技倫理問題，因?yàn)閷?duì)科技活動(dòng)而言，對(duì)“負(fù)責(zé)任”的理解非常復(fù)雜，可以“各取所需”，更糟糕的是，只要少數(shù)人、個(gè)別人或機(jī)器人不負(fù)責(zé)任，多數(shù)人的恪盡職責(zé)就無濟(jì)于事。從20世紀(jì)90年代開始的倫理法律與社會(huì)問題研究（ELSI）并沒有取得應(yīng)有的進(jìn)展，批評(píng)者認(rèn)為ELSI的目標(biāo)就是為了排除公眾干擾，使科學(xué)家坦然地認(rèn)為——我們已經(jīng)對(duì)這些問題思考過了，可以無憂無慮地做研究了。[2]

防控科技風(fēng)險(xiǎn)、解決科技倫理問題依靠的是科技治理體系的增強(qiáng)與健全，但是與巨大經(jīng)濟(jì)利益驅(qū)動(dòng)下的龐大科技創(chuàng)新體系相比，科技治理體系太過薄弱，科技倫理熱潮掩蓋了力量對(duì)比的懸殊。有效解決問題需要雙管齊下：正確可行的思想與對(duì)策+人多勢(shì)眾，兩者缺一不可。顯然目前科技倫理法律等科技治理體系還勢(shì)單力薄，任重道遠(yuǎn)。

限時(shí)原則缺位，忽視了科技風(fēng)險(xiǎn)和倫理問題的嚴(yán)峻性與緊迫性

科技倫理法律研究薄弱還表現(xiàn)為許多研究都沒有考慮“限時(shí)原則”，沒有考慮在限定時(shí)間內(nèi)解決問題，這與缺乏上述關(guān)于科技倫理法律失靈的認(rèn)識(shí)、缺乏對(duì)科技重大風(fēng)險(xiǎn)嚴(yán)峻性緊迫性的認(rèn)識(shí)有關(guān)，也與以往學(xué)術(shù)研究缺乏“限時(shí)原則”的意識(shí)和傳統(tǒng)有關(guān)，例如約翰·羅爾斯的《正義論》等許多倫理學(xué)名著都缺乏對(duì)限時(shí)原則的重視。[5]又如，建構(gòu)性技術(shù)評(píng)估（CTA）是國(guó)際上著名的技術(shù)管理和政策分析工具，它也沒有考慮“限時(shí)原則”，解決問題的思路難以成立。責(zé)任倫理也有類似的情況。應(yīng)該創(chuàng)建限時(shí)科技倫理、限時(shí)科技法律、限時(shí)科技治理、限時(shí)科技重大風(fēng)險(xiǎn)治理等。[6]

底線—整體倫理學(xué)：用底線思維和系統(tǒng)思維構(gòu)建新型科技倫理學(xué)

綜上所述，目前的科技倫理法律失靈，因?yàn)樵诂F(xiàn)行條件下，其不能約束深層科研活動(dòng)、不能約束世界上所有科研活動(dòng)、不能對(duì)高風(fēng)險(xiǎn)科研活動(dòng)實(shí)施強(qiáng)制性硬約束、只強(qiáng)調(diào)規(guī)范人的行為而忽視了體制機(jī)制與科技發(fā)展模式的關(guān)鍵作用，忽視了科技倫理法律發(fā)揮應(yīng)有作用是需要特定條件的，忽視了科技治理體系過于薄弱，以及限時(shí)原則缺位等，形成了科技倫理法律陷阱，讓人們誤認(rèn)為，只要加強(qiáng)科技倫理法律建設(shè)與實(shí)施，科技風(fēng)險(xiǎn)與倫理問題就能夠迎刃而解。上述分析表明，實(shí)際情況絕非如此?？萍紓惱矸蔁岢备緵]有改變高風(fēng)險(xiǎn)科技在爭(zhēng)議中快速發(fā)展的現(xiàn)狀，根本不能有效防控科技重大風(fēng)險(xiǎn)，形勢(shì)極為嚴(yán)峻和緊迫。警惕科技倫理法律陷阱，認(rèn)清前沿科技領(lǐng)域治理的困境，是前沿科技領(lǐng)域治理的當(dāng)務(wù)之急。

基于上述分析，筆者初步提出“底線—整體倫理學(xué)”，以超越難堪重任的責(zé)任倫理學(xué)等，以底線思維、系統(tǒng)思維和以往倫理學(xué)精華來構(gòu)建“底線—整體倫理學(xué)”，它與現(xiàn)行的科技倫理學(xué)有四點(diǎn)區(qū)別：

第一，直面科技倫理法律失靈，并以此為前提建構(gòu)新型科技倫理學(xué)予以糾正。

第二，解決科技風(fēng)險(xiǎn)與倫理問題是一個(gè)系統(tǒng)工程，僅僅規(guī)范人的行為遠(yuǎn)遠(yuǎn)不夠，還需要系統(tǒng)解決科技工作者和包括體制機(jī)制、科研管理等在內(nèi)的科技發(fā)展模式問題。尤其是盡快轉(zhuǎn)變科技粗放式發(fā)展模式，在“現(xiàn)象—分析”二維平面的科學(xué)中引入價(jià)值維，轉(zhuǎn)型為“現(xiàn)象—分析—價(jià)值”三維空間，實(shí)現(xiàn)從“平面”科學(xué)到“立體”科學(xué)的轉(zhuǎn)型。[7]倫理法律將作為價(jià)值維的必要組成部分嵌入科學(xué)內(nèi)部，以改變目前倫理法律作為輔助因素，外在于科學(xué)而難以發(fā)揮應(yīng)有作用的狀況，形成“科技創(chuàng)新、倫理先行”的底線安全的新型科技發(fā)展模式，不走西方“先污染后治理、先創(chuàng)新后倫理”的老路、彎路。

第三，科技治理與科技創(chuàng)新同等重要，協(xié)調(diào)兩者關(guān)系是重中之重。

第四，恪守限時(shí)原則。由于科技風(fēng)險(xiǎn)和倫理問題愈演愈烈，要盡快實(shí)現(xiàn)有效防控，這是“底線—整體倫理學(xué)”最具挑戰(zhàn)性的任務(wù)。

“底線—整體倫理學(xué)”特征鮮明，以克服科技倫理失靈為底線目標(biāo)，拋磚引玉，希望新一代科技倫理學(xué)盡快問世。筆者長(zhǎng)期研究科技重大風(fēng)險(xiǎn)治理，深知目前人類面臨前所未有的雙重巨大挑戰(zhàn)：隨著新興科技爆發(fā)式發(fā)展，科技風(fēng)險(xiǎn)和倫理問題愈演愈烈，而人類防控科技重大風(fēng)險(xiǎn)的多道安全防線都存在嚴(yán)重漏洞，難堪重任，急需通過轉(zhuǎn)變科技發(fā)展方式、加強(qiáng)新型科技倫理法律建設(shè)與實(shí)施予以應(yīng)對(duì)。

【本文作者為中國(guó)科學(xué)院自然科學(xué)史研究所研究員、科技與社會(huì)研究中心主任】

注釋

[1]Autonomous weapons that kill must be banned, insists UN chief. UN News. https://news.un.org/en/story/2019/03/1035381. 25 March 2019.

[2]劉益東：《致毀知識(shí)與科技倫理失靈：科技危機(jī)及其引發(fā)的智業(yè)革命》，《山東科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》，2018年第6期，第1—15頁(yè)。

[3]徐飛、張秉倫等：《科技文明的代價(jià)》，濟(jì)南：山東教育出版社，1999年，第26—27頁(yè)。

[4]王國(guó)豫：《推進(jìn)新時(shí)代科技倫理學(xué)新發(fā)展》，《中國(guó)社會(huì)科學(xué)報(bào)》，2020年1月14日，第6版。

[5]劉益東：《開放式評(píng)價(jià)與前沿學(xué)者負(fù)責(zé)制：勝出機(jī)制變革引發(fā)的云科學(xué)革命》，《未來與發(fā)展》，2013年第12期，第2—11頁(yè)。

[6]劉益東：《挑戰(zhàn)與機(jī)遇：人類面臨的四大困境與最大危機(jī)及其引發(fā)的科技革命》，《科技創(chuàng)新導(dǎo)報(bào)》，2016年第35期，第221—230頁(yè)。

[7]劉益東：《人類面臨的最大挑戰(zhàn)與科學(xué)轉(zhuǎn)型》，《自然辯證法研究》，2000年第4期，第50—55+75頁(yè)。

責(zé)編：董惠敏 / 司文君

聲明：本文為《國(guó)家治理》周刊原創(chuàng)內(nèi)容，任何單位或個(gè)人轉(zhuǎn)載請(qǐng)回復(fù)國(guó)家治理周刊微信號(hào)獲得授權(quán)，轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。