【摘要】人工智能“復(fù)活”技術(shù)的日趨成熟，激發(fā)出人們的一種想象，即主動尋求在身體消亡后用數(shù)字化方式實現(xiàn)自己意識的延續(xù)，從而獲得數(shù)字化永生。AI“復(fù)活”的數(shù)字人可能帶給人們一定的情感慰藉，但同時也可能帶來隱私泄露的風(fēng)險。從AI“復(fù)活”的現(xiàn)實到數(shù)字化永生的幻想，人類對于技術(shù)可能性的探索欲望越來越強(qiáng)，這也導(dǎo)致人與機(jī)器、人與“數(shù)字人”之間的界限日益模糊。無論AI“復(fù)活”技術(shù)如何發(fā)展，需要明確的是，對技術(shù)應(yīng)用邊界及人機(jī)邊界的把握始終是關(guān)鍵，技術(shù)的發(fā)展與進(jìn)步應(yīng)建立在服務(wù)全人類的整體福祉之上。

【關(guān)鍵詞】人工智能“復(fù)活” 情感慰藉 應(yīng)用邊界 【中圖分類號】B82-057；TP18 【文獻(xiàn)標(biāo)識碼】A

近年來，人工智能（AI）技術(shù)飛速發(fā)展，將一個以往屬于科幻的概念逐漸變成現(xiàn)實，那就是通過AI技術(shù)讓逝者“復(fù)活”。當(dāng)下AI“復(fù)活”數(shù)字人主要在外貌、聲音等外在方面，隨著技術(shù)不斷進(jìn)步，今后AI“復(fù)活”數(shù)字人可能擁有類似真人的身體與性格。這無疑會帶來不少倫理風(fēng)險和社會問題，諸如對人的本質(zhì)、人機(jī)邊界的拷問。要應(yīng)對這些風(fēng)險和問題，應(yīng)厘清三個方面的基本問題。

問題一：人工智能“復(fù)活”數(shù)字人帶來情感慰藉的同時，還帶來哪些風(fēng)險

對普通人來說，他們最想“復(fù)活”的一般是已經(jīng)逝去的親朋，“復(fù)活”也是從外形開始的。但是，當(dāng)外貌栩栩如生的數(shù)字人開始出現(xiàn)在生活中時，人們也許會產(chǎn)生更多需求：希望和這些數(shù)字人產(chǎn)生真正的互動，甚至從“他們”那里獲得情感上的交流。那么，是否應(yīng)該讓“復(fù)活”數(shù)字人擁有情感，在技術(shù)上能否賦予“他們”情感呢？

AI“復(fù)活”的數(shù)字人本質(zhì)上具有機(jī)器屬性。“復(fù)活”的數(shù)字人是通過向智能模型投喂被“復(fù)活”者的各種數(shù)據(jù)，進(jìn)行反復(fù)訓(xùn)練學(xué)習(xí)的結(jié)果。對于是否要賦予機(jī)器情感，研究者有分歧，一種典型的反對聲音是，情感是獨屬于人類的領(lǐng)地，如果被智能機(jī)器侵入，會對人的主體性造成威脅、弱化人的尊嚴(yán)。①但從用戶的角度看，當(dāng)智能機(jī)器不可避免地浸透到日常生活中時，人們不會希望它們只是以冷冰冰的機(jī)器面孔出現(xiàn)，而是希望從機(jī)器那感受到一定的人的情感，甚至在一定意義上將它們看作朋友。對于AI“復(fù)活”技術(shù)的應(yīng)用來說，情感交流更是最主要的目的。

AI“復(fù)活”的數(shù)字人可能產(chǎn)生情感嗎？實踐中，與情感相關(guān)的智能技術(shù)一直在推進(jìn)，這樣的技術(shù)被稱為情感計算。美國學(xué)者羅莎琳德·皮卡德在《情感計算》一書中對情感計算的定義為“與情緒或其他情感現(xiàn)象有關(guān)的、產(chǎn)生于或意圖影響情緒和其他情感現(xiàn)象的計算”。皮卡德認(rèn)為，一個健康人的情感系統(tǒng)具備五項成分：出現(xiàn)情感和情感行為；快速的主要情感；由認(rèn)知產(chǎn)生情感；情感體驗；精神與肉體的相互作用。她啟發(fā)我們，情緒、情感來自于精神與肉體的相互作用，它的源頭是人們的身體體驗、生活經(jīng)歷，但機(jī)器并不完全具備皮卡德所說的五個要素，其中的后三個要素甚至可能是機(jī)器難以完全達(dá)到的。“情感計算的預(yù)設(shè)不具有身體性和內(nèi)在性，僅僅依賴情感的內(nèi)部狀態(tài)的設(shè)計，無法實現(xiàn)情感的因果溯源分析。”②這樣的情感也就是無源之水。即使在前兩個要素方面，“計算”的情感也有一定的機(jī)械性與跳躍性，它們只能對人類情感的一些典型狀態(tài)進(jìn)行模仿，情緒的形成與切換也缺少內(nèi)在動因。

雖然人工智能沒有人類情感的整體性，但有學(xué)者認(rèn)為，人工智能的情感反應(yīng)只需要輸出端像是人類情感反應(yīng)就足夠了，至于用什么方式來達(dá)到這一點，并不重要。③從用戶角度看，盡管“復(fù)活”的數(shù)字人情感表達(dá)會一直存在局限性、機(jī)械性，但只要獲得足夠的情感反饋，他們也許不在意機(jī)器情感是不是“計算”出來的，或者如何“計算”出來的，畢竟在與數(shù)字人的交流中可以獲得一定情感滿足。然而，與數(shù)字“復(fù)活”人交流不僅帶來情感滿足，還可能存在陷阱。

一是未得到期待的回應(yīng)可能帶來的情感傷害和打擊。在與AI“復(fù)活”數(shù)字人的交流中，人們或多或少會將對逝者的感情移情到“復(fù)活”數(shù)字人身上，而“復(fù)活”數(shù)字人卻未必能承受這種情感之重，“他們”對情感的理解與表達(dá)也不一定是準(zhǔn)確的。因此，在情感上對“復(fù)活”數(shù)字人寄予過多期待，人們難免會失望。如果將“復(fù)活”數(shù)字人當(dāng)作真正的親朋看待，甚至可能會在某些時候受到打擊與傷害。

二是應(yīng)用AI“復(fù)活”技術(shù)可能帶來隱私泄露的風(fēng)險。情感交流的重要基礎(chǔ)是經(jīng)歷的共享，相比諸如ChatGPT等抽象的智能大模型，AI“復(fù)活”的數(shù)字人有以往的經(jīng)歷作為支撐，這些經(jīng)歷更容易在交流中引發(fā)情感共享、共鳴，這也是其優(yōu)勢。一方面，在進(jìn)行數(shù)字“復(fù)活”時，不僅需要被“復(fù)活”者的外貌等外在數(shù)據(jù)，更需要其生命歷程中的重要事件等數(shù)據(jù)，這會帶來更多隱私泄露風(fēng)險。人們是否可以為了自己的需要而犧牲逝者的隱私？這是一個倫理上的拷問。另一方面，人們與數(shù)字“復(fù)活”者的共同經(jīng)歷都是過去的，如果一直沉浸于回憶中，就容易被困在過去。

情感交流是雙向的。情感交流需要“復(fù)活”數(shù)字人具有一定的情感表達(dá)能力，也需要“他們”能識別與之交流的人的情感、情緒，這既可以通過對交流中的文本進(jìn)行分析，也可以借助攝像頭、傳感器等設(shè)備，對捕捉到的人的情緒變化符號或數(shù)據(jù)進(jìn)行分析，如面部表情、身體動作、心率、血壓、汗的分泌狀況等，而這種分析會進(jìn)入隱私層面。同時，與“復(fù)活”數(shù)字人交流的人也需要分享一些個人的經(jīng)歷與信息。人們看似與“親朋好友”在溫情地交流，其實面臨隱私泄露的風(fēng)險。

三是AI“復(fù)活”的數(shù)字人較難保留原來的個性。科幻系列劇《黑鏡》的第一集《馬上回來》講述了這樣的故事：女主角的男友因車禍去世，因為懷念，她逐步“復(fù)活”了男友，從文字交流到語音交流，最終讓“他”擁有了完整的身體，這個“男友”比真人更完美，還可以完全服從女主角，但女主角最終放棄了“他”的陪伴，因為這個“復(fù)活人”沒有還原男友并不完美但活生生的個性，她因此意識到這并不是一個真正的人。

從技術(shù)上來看，就像情感一樣，性格未必不能被量化與模擬，今天的MBTI等人格測試就可以將每個人的性格量化，但這樣的測試只是強(qiáng)化了人的性格的某些主要方面。人性的復(fù)雜性決定了人們性格的多面性，人的性格也不會完全固定。即使未來智能技術(shù)對性格的分析和模擬可以不斷細(xì)化、深化，恐怕也難以復(fù)制一個人的“活”個性。

當(dāng)然，還有一種可能是，有人希望通過數(shù)字化方式“改造”已故親人的性格，讓“他們”變得“更好”，但人們有權(quán)力進(jìn)行這種改造嗎？被改造后的數(shù)字人還是原來的那個人嗎？未來的人們可能會不時面對這樣的質(zhì)疑。

四是“復(fù)活”數(shù)字人即使擁有了“身體”，也可能不具備認(rèn)知功能。之所以要為機(jī)器制造身體，主要還是源于人類的需要。當(dāng)一個智能機(jī)器擁有了身體，且擁有了像人一樣的身體語言時，與之交流的人的視覺、觸覺等會隨之得到調(diào)動，并通過對機(jī)器的觸碰、撫摸、擁抱等獲得更多情感滿足，機(jī)器也會對人的行動作出回應(yīng)，這些都會讓人與機(jī)器的交流更接近人際交流。

如果人的數(shù)字化“復(fù)活”可以達(dá)到這樣一種程度，那與之相關(guān)更深層的問題是，這些數(shù)字人是否應(yīng)該享有一定的權(quán)利？如果能享受權(quán)利，那么這些數(shù)字人是否需要承擔(dān)一定的倫理、道德或法律責(zé)任？如果要承擔(dān)責(zé)任，是由“他們”獨立地承擔(dān)，抑或是制造“他們”或與“他們”生活、交流的人同時承擔(dān)？這些問題涉及到人工智能時代機(jī)器的倫理角色與法律地位問題，對此社會各界莫衷一是，還沒有達(dá)成共識。

無論未來AI“復(fù)活”數(shù)字人會如何發(fā)展，從生者角度看，當(dāng)人們剛剛接觸“復(fù)活”親人時，心理會得到一定安慰，但是，隨著交流日益頻繁深入，如果生者沉浸在交流幻象中，不回到現(xiàn)實世界，就不容易從傷痛中走出。面對AI“復(fù)活”技術(shù)，應(yīng)設(shè)置一定的邊界，避免被隱私黑洞和情感幻象吞沒。

問題二：如何避免人工智能“復(fù)活”數(shù)字人淪為侵權(quán)、詐騙的工具

情感撫慰也許是人們在應(yīng)用AI“復(fù)活”技術(shù)時的基本需要和初衷，而一旦技術(shù)日益成熟，人的需求也會不斷擴(kuò)張，“復(fù)活”的數(shù)字人有可能淪為工具。

AI“復(fù)活”名人發(fā)出的言論，在傳播中可能存在誤導(dǎo)大眾的問題。今天，一些已故名人雖然可能基于懷念的動機(jī)而被AI“復(fù)活”，但卻無法排除一些“復(fù)活”名人被用作活人表達(dá)的工具，甚至被迫為懷著種種功利動因的人“站臺”。一些“復(fù)活”名人說出來的話，其中所蘊含的信息、觀點、態(tài)度、立場等是否會違背真人的意愿難以考證，然而，這些話語在廣泛流傳過程中如果帶來混淆視聽的結(jié)果，這無疑會損害名人的名譽，其家人可能因此受到困擾甚至傷害。

即使沒有產(chǎn)生名譽等方面的侵害，誰有權(quán)力來決定這些名人的數(shù)字存在方式與言行？是他們的家人，還是制作者，或是粉絲等？抑或是名人自己生前的意愿？當(dāng)不同方面的愿望產(chǎn)生沖突時，以誰的意志為主？這些都會是未來實踐中亟須解決的難題。

AI“復(fù)活”技術(shù)應(yīng)避免淪為詐騙、侵權(quán)、深度偽造的工具。比如普通人被“復(fù)活”后，較之名人，查證更不容易，“他們”被利用作為詐騙或其他不端行為的工具時，后果也更嚴(yán)重。在AI“復(fù)活”過程中，也可能存在著復(fù)原的不完整性問題，在“復(fù)活”過程中還可能有移花接木等種種技術(shù)操控，最終“復(fù)活”可能演變成深度偽造。如何判斷什么樣的數(shù)字“復(fù)活”是合法的，還有待未來的法律做出明確的界定。

一些人會將AI“復(fù)活”名人視作一種創(chuàng)作方式，就像在電影、電視中進(jìn)行創(chuàng)作一樣。影視作品中對于名人也會有很多虛構(gòu)性創(chuàng)作，對此，人們早已普遍接受。用數(shù)字“復(fù)活”的方式進(jìn)行創(chuàng)作，或許在未來也會得到普遍的認(rèn)可。這樣的創(chuàng)作與偽造之間的邊界如何劃分？是沿用當(dāng)今藝術(shù)創(chuàng)作的評判標(biāo)準(zhǔn)，還是有所發(fā)展與修正？盡早回應(yīng)這些問題，才可能使相關(guān)應(yīng)用得到規(guī)范。

未來對“復(fù)活”數(shù)字人的不當(dāng)工具性應(yīng)用可能還有更多表現(xiàn)形式，法律上也需要進(jìn)一步明晰合理應(yīng)用的邊界。無論是對名人還是普通人，情感性“復(fù)活”與工具性“復(fù)活”之間的界限也很難劃清。當(dāng)人們以為只是滿足情感需求時，或許在另一種意義上把“復(fù)活”數(shù)字人當(dāng)成了一種工具，即人們自我安慰、自我療愈的工具，在人們與“復(fù)活”數(shù)字人交流過程中，也難免以自我意志為導(dǎo)向。這樣的應(yīng)用是否道德，也需要進(jìn)一步反思。

問題三：人工智能技術(shù)能否讓人類從數(shù)字“復(fù)活”發(fā)展到數(shù)字化“永生”

AI“復(fù)活”技術(shù)的日趨成熟也激發(fā)出人們的一種想象，那就是主動尋求在身體消亡后用數(shù)字化方式實現(xiàn)自己意識的延續(xù)，從而獲得數(shù)字化永生。探討數(shù)字化永生這一話題，需要對人的本質(zhì)進(jìn)行探尋，特別是需要回答人的意識與身體是否可能分離這一問題。

對人的身體與意識相分離的可能景象，早有學(xué)者作出過設(shè)想。在今天，腦機(jī)接口的實驗也在推進(jìn)，雖然當(dāng)前主要是應(yīng)用在醫(yī)學(xué)領(lǐng)域，相信未來一旦相關(guān)技術(shù)成熟，人們思維活動的某些狀態(tài)可能通過一定方式被計算機(jī)感知、接收，甚至在外部存儲。但是，這是否會意味著人類的意識可以與身體分離？

法國哲學(xué)家笛卡爾認(rèn)為，意識與身體是兩分、對立的，但后來很多哲學(xué)家對此持反對意見?，F(xiàn)象學(xué)的代表人物，法國哲學(xué)家梅洛—龐蒂直接分析了身體對意識生成的影響。他將身體分為客觀的身體和現(xiàn)象的身體兩類，前者是一個能像物質(zhì)一樣進(jìn)行分解的生理實體，后者則是某個“我”所經(jīng)驗和經(jīng)歷的、承載著“我”的、介入自然和社會的有機(jī)體。④現(xiàn)象身體可以理解為肉身化的意識或是意識參與下的身體，它所知覺的空間是現(xiàn)象空間，由此產(chǎn)生了中心性、方位感、視角性、層次、深度、運動性等概念。⑤身體并不是由所謂心靈實體或靈魂所指使的機(jī)器，而直接就是進(jìn)行知覺和理解活動的主體。⑥身體在意識形成中的作用，意味著人的意識不可能脫離身體存在，而且這種身體并非只是生理性的身體，還包括承載著人的經(jīng)驗、經(jīng)歷等的現(xiàn)象身體，即使未來的技術(shù)可以造出生理性的身體，也無法還原現(xiàn)象的身體。美國學(xué)者凱瑟琳·海勒認(rèn)為，“通過對文化意義共鳴的隱喻進(jìn)行闡釋，身體本身也是一種凝結(jié)的隱喻，一種物理結(jié)構(gòu)，它的局限和可能性是通過進(jìn)化的歷史形成的，而這種進(jìn)化史是智能機(jī)器無法共享的。”⑦她的觀點也呼應(yīng)了“現(xiàn)象的身體”。

在認(rèn)知科學(xué)的研究中，學(xué)者們越來越多強(qiáng)調(diào)具身性，即認(rèn)為認(rèn)知不僅牽涉到中樞神經(jīng)系統(tǒng)，還牽涉到整個身體運作。⑧身體的體驗會滋生豐富的情緒與情感，這也是人和機(jī)器的區(qū)別。沒有了身體，人的情緒、情感也就失去了源泉。即使未來的數(shù)字人可擁有人造身體，但正如前文所說，這樣的“身體”與認(rèn)知、情感活動可能仍是分離的，裝在這樣的身體里的“意識”與存在硬盤里的“意識”沒有區(qū)別，都只是一些代碼或數(shù)據(jù)，而非真正的意識。

在一定意義上，數(shù)字化永生的話題也與NBIC技術(shù)等對人類機(jī)能甚至壽命的“增強(qiáng)”問題相關(guān)。NBIC技術(shù)是四大技術(shù)的簡稱，即納米技術(shù)（Nanotechnology）、生物技術(shù)（Biotechnology）、信息技術(shù)（Informational Technology）、認(rèn)知科學(xué)（Cognitive Science），它們共同推動著人類的增強(qiáng)。人類增強(qiáng)也成為后人類或超人類的主旋律之一。

在人類是否應(yīng)該采用增強(qiáng)技術(shù)這一問題上，支持與反對的聲音并存。支持者從個體權(quán)利、進(jìn)化論、公共福利等角度為增強(qiáng)技術(shù)辯解，他們也將人類增強(qiáng)視為后人類或超人類的目標(biāo)。美國傳播學(xué)學(xué)者詹姆斯·A·赫里克指出，超人類主義者希望通過負(fù)責(zé)任地使用科學(xué)、技術(shù)和其他合理手段，使后人類擁有比現(xiàn)在人類更強(qiáng)大的能力。⑨但反對者則多以違背人類天性和自然法則、自我同一性危機(jī)、身份認(rèn)同危機(jī)、社會公平、對民主的威脅、對人類生存的威脅、對人的尊嚴(yán)的威脅等理由反對增強(qiáng)技術(shù)的應(yīng)用。美國學(xué)者福山更是指出，后人類的世界也許更為等級森嚴(yán)，比現(xiàn)在的世界更富有競爭性，結(jié)果社會矛盾叢生。⑩數(shù)字化永生問題也涉及到與人類增強(qiáng)技術(shù)相似的挑戰(zhàn)，特別是對社會公平的威脅，以及人的尊嚴(yán)的侵蝕。

從AI“復(fù)活”的現(xiàn)實到數(shù)字化永生的幻想，人類對于技術(shù)可能性的探索欲望越來越強(qiáng)，這也導(dǎo)致人與機(jī)器、人與“數(shù)字人”之間的界限日益模糊。進(jìn)一步，人類是將其發(fā)展到極致，最終完全抹去人與機(jī)器的差異，還是保持謹(jǐn)慎，堅守人之為人的那些本質(zhì)特性？凱瑟琳·海勒認(rèn)為，無論我們的未來如何，它幾乎肯定會包括人類對生物過程的干預(yù)，這意味著“人性”將至少部分地取決于人類決定它應(yīng)該是什么?。換言之，人與機(jī)器的邊界，最終應(yīng)由人類劃定，即使機(jī)器有越界的能力，人工干預(yù)也可以使機(jī)器不能跨越邊界。

要在人機(jī)邊界上作出明智的判斷與抉擇，需要思考的是，如何讓技術(shù)真正服務(wù)于人類整體的福祉而不是少數(shù)人的利益，如何讓技術(shù)幫助人類更健全、自由的發(fā)展而不是造成人類的退化。除此，還需要通過多方對話，促成對人類的底線和人機(jī)邊界認(rèn)知的共識，同時應(yīng)通過法律等制度體系的完善，保證智能技術(shù)的發(fā)展不走向歧途。

（作者為中國人民大學(xué)新聞與社會發(fā)展研究中心研究員，中國人民大學(xué)新聞學(xué)院教授、博導(dǎo)）

【注：本文受中國人民大學(xué)2022年度“中央高校建設(shè)世界一流大學(xué)（學(xué)科）和特色發(fā)展引導(dǎo)專項資金、中央高?；究蒲袠I(yè)務(wù)費”（項目編號：2022XWTD001）支持】

【注釋】

①朱雯熙、李亭慧：《主體性與秩序正義:行政治理中情感計算的倫理反思與超越》，《人文雜志》，2024年第2期。

②崔中良：《人工情感生成的哲學(xué)基礎(chǔ)》，《自然辯證法研究》，2024年第1期。

③王峰：《人工智能的情感計算如何可能》，《探索與爭鳴》，2019年第6期。

④[法]梅洛-龐蒂、姜志輝譯：《知覺現(xiàn)象學(xué)》，北京：商務(wù)印書館，2001年，第538-540頁。

⑤閆樹睿、王紹森：《基于梅洛龐蒂的身體現(xiàn)象學(xué)談建筑空間體驗的具身性》，《建筑與文化》，2017年第5期。

⑥蘇宏斌：《作為存在哲學(xué)的現(xiàn)象學(xué)———試論梅洛—龐蒂的知覺現(xiàn)象學(xué)思想》，《浙江社會科學(xué)》，2001年第5期。

⑦[美]凱瑟琳·海勒、劉宇清譯：《我們何以成為后人類：文學(xué)、信息科學(xué)和控制論中的虛擬身體》，北京：北京大學(xué)出版社，2017年，第385頁。

⑧徐英瑾：《人工智能哲學(xué)15講》，北京：北京大學(xué)出版社，2021年，第205頁。

⑨[美]詹姆斯·A·赫里克：《人類未來進(jìn)化史：關(guān)于人類增強(qiáng)與技術(shù)超越的迷思》，北京：中國人民大學(xué)出版社，2022年，第7-11頁。

⑩[美]弗朗西斯·福山、黃立志譯：《我們的后人類未來：生物技術(shù)革命的后果》，桂林：廣西師范大學(xué)出版社，2017年，第217頁。

?[美]凱瑟琳·海勒著、黃斐譯：《計算人類》，《全球傳媒學(xué)刊》，2019年第1期。

責(zé)編/陳楠 美編/王夢雅

聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復(fù)本微信號獲得授權(quán)，轉(zhuǎn)載時務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。