概述

現(xiàn)有人工智能的不足與挑戰(zhàn)

人工智能（Artificial Intelligence，AI）的概念于1956年的達特蒙斯學院（Dartmouth）暑期論壇首次提出。六十年間人工智能伴隨著互聯(lián)網(wǎng)、大數(shù)據(jù)、云計算等技術(shù)的發(fā)展取得了長足的進展。這其中人工智能的理論思想演變?yōu)槿罅髋?，分別是聯(lián)結(jié)主義（Connectionism）、行為主義（Actionism）和符號主義（Symbolicism）。盡管每種理論均取得了卓越的成就并且依舊為現(xiàn)在人工智能的主流研究方向，但是也均存在不足之處。

聯(lián)結(jié)主義思想模仿人大腦皮層神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，通過深度學習的方法，即用多隱層的處理結(jié)構(gòu)處理大數(shù)據(jù)。但該方法限于在具有可微分、強監(jiān)督學習、封閉靜態(tài)系統(tǒng)任務下才會得到良好的結(jié)果，并且訓練得到的結(jié)果也限制于給定條件的問題上。行為主義思想通過不斷模仿人或生物個體的行為超越原有的表現(xiàn)來推進機器的進化，主要依賴具有獎懲控制機制的強化學習方法。然而，該方法的缺點在于過于簡化人類的行為過程，忽略人類心理的內(nèi)部活動過程和意識的重要性。符號主義思想具有產(chǎn)生智能行為的充分必要條件假設(shè)，并且需基于有限理性原理（Newell，Allen & Simon，H. A.，1976）。該方法的實質(zhì)是通過符號模擬人的大腦抽象邏輯思維過程，模擬人類認知系統(tǒng)的功能機理，并通過計算機處理符號的運算，從而實現(xiàn)人工智能。但是符號主義思想面臨四個主要挑戰(zhàn)：知識的自動獲??；多元知識的自動融合；面向知識的表示學習；知識推理與運用。符號主義雖通過模擬人的思維過程實現(xiàn)人工智能，但對于以上四個問題難以有突破性的成果。

人工智能的優(yōu)勢在于龐大的信息存儲量和高速的處理速度，但是無法處理如休謨問題，即從“是”（being）能否推出“應該”（should），也即“事實”命題能否推出“價值”命題（休謨，2014）；也無法處理情感的表征問題。人工智能嘗試通過大數(shù)據(jù)與逐步升級的算法實現(xiàn)人的情感與意指，但依舊沒有辦法實現(xiàn)跨越，而人機智能融合將會是未來智能科學發(fā)展的下一個突破點。

人機融合智能是對現(xiàn)有人工智能不足的補充

人機融合智能理論著重描述了一種由人、機、環(huán)境系統(tǒng)相互作用而產(chǎn)生的新型智能形式，它既不同于人的智能也不同于人工智能，而是一種物理性與生物性相結(jié)合的新一代智能科學體系。人機交互技術(shù)主要涉及人脖子以下的生理心理工效學問題，而人機融合智能主要側(cè)重人脖子以上的大腦與機器的“電腦”相結(jié)合的智能問題。人機融合智能在以下三個方面不同于人的智能與人工智能：首先是在智能輸入端，人機融合智能的思想不單單依賴硬件傳感器采集的客觀數(shù)據(jù)或是人五官感知到的主觀信息，而是把兩者有效地結(jié)合起來，并且聯(lián)系人的先驗知識，形成一種新的輸入方式；其次是在信息的處理階段，也是智能產(chǎn)生的重要階段，將人的認知方式與計算機優(yōu)勢的計算能力融合起來，構(gòu)建起一種新的理解途徑；最后是在智能的輸出端，將人在決策中體現(xiàn)的價值效應加入計算機逐漸迭代的算法之中相互匹配，形成有機化與概率化相互協(xié)調(diào)的優(yōu)化判斷。在人機融合的不斷適應中，人將會對慣性常識行為進行有意識地思考，而機器也將會從人在不同條件下所做的決策中發(fā)現(xiàn)價值權(quán)重的區(qū)別。人與機器之間的理解將會從單向性轉(zhuǎn)變?yōu)殡p向性，人的主動性將與機器的被動性混合起來。人處理其擅長的“應該”（should）等價值取向的主觀信息，而機器不僅處理其擅長的“是”（being）等規(guī)則概率的客觀數(shù)據(jù)，同時也將從人處理“應該”（should）信息中優(yōu)化自己的算法，從而產(chǎn)生“人+機器”大于“人與機器”的效果。

人機融合采用分層的體系結(jié)構(gòu)。人類通過后天完善的認知能力對外界環(huán)境進行分析感知，其認知過程可分為記憶層、意圖層，決策層、感知與行為層，形成意向性的思維；機器通過探測數(shù)據(jù)對外界環(huán)境進行感知分析，其認知過程分為目標層知識庫，任務規(guī)劃層、感知與執(zhí)行層，形成形式化的思維。相同的體系結(jié)構(gòu)指明人類與機器可以在相同的層次之間進行融合，并且在不同的層次之間也可以產(chǎn)生因果關(guān)系。

人機融合智能技術(shù)的應用

2018年，人機融合智能技術(shù)呈現(xiàn)出一多分有的態(tài)勢，既關(guān)涉?zhèn)€人也與“群體”智能有關(guān)。人機融合智能中的“人”不限于個人，代表著以人為本的認知思維方式還包括眾人，機器也不限于機器裝備，還代表著計算機系統(tǒng)的機制機理。除此之外，自然和社會環(huán)境、真實和虛擬環(huán)境都會對人機融合智能的適應性產(chǎn)生影響等。人機融合智能著重于解決上述人機融合過程中產(chǎn)生的細節(jié)問題。

美國快公司（Fast Company）提及的“人與機器人融合的阿凡達（Avatar）風格”案例。通過其配置的頭戴式顯示器，操作者可以看到機器人捕捉到的場景，并且機器人將操作者執(zhí)行動作產(chǎn)生的反饋傳回給操作者，從而形成人機融合的信息閉環(huán)。遠程控制機器人傳遞了機器人對環(huán)境態(tài)勢的感知，之后由人理解與決策，這是初級階段的人機融合智能。如T-HR3型機器人通過最新的5G網(wǎng)絡(luò)技術(shù)可以使機器人在長距離的工作環(huán)境中擺脫延遲影響，幾乎可以為用戶提供即時反饋。該機器人對現(xiàn)實場景中的力的傳達十分精確，它可以執(zhí)行需要用力才能完成的任務：雙手拿球，抓起模塊并堆砌，甚至與人握手。在人機融合與機器人的實際應用下，豐田公司研發(fā)的最新的人機融合平臺將探索機器人與周圍環(huán)境之間物理交互的安全管理，以及一種能將用戶動作映射到機器人的新型遠程操縱系統(tǒng)，使得人機融合獲得更加流暢的體驗。

同時，在制造行業(yè)，人機融合智能也得到了重視與發(fā)展。傳統(tǒng)的工業(yè)流水線通過用機器人代替人類完成重復的機械工作?，F(xiàn)今出現(xiàn)在制造業(yè)工業(yè)流水線中的人機融合智能依存于不同的硬件設(shè)備與環(huán)境條件，有的類似機器人助手，有的則是外骨骼套裝。如，寶馬公司的斯帕坦堡工廠里有一款名為“夏洛特小姐”的人機融合機器人，用來輔助車門的精確安裝。梅塞德斯奔馳公司也在開發(fā)人機融合技術(shù)，該公司為每個個體客戶提供向奢華車型添加更加個性化的定制服務，并利用數(shù)據(jù)與人工的結(jié)合使得這一服務成為可能。在人機融合智能取代了體積更大的自動化系統(tǒng)后，定制版S級轎車所需的特殊零件將不會給普通流水線帶來時效性的麻煩，轉(zhuǎn)而是更方便的操作與管理。麻省理工學院的教授朱莉•肖也在開發(fā)一種特殊的軟件算法，它的目的在于使機器人理解人類發(fā)出的信息訊號，繼而解決機器人與人類的溝通問題。

人機融合智能未來的關(guān)鍵問題

目前人機融合智能的發(fā)展還在初級階段，人機融合智能的第一個關(guān)鍵問題，也是最重要的問題，在于如何將機器的計算能力與人的認識能力結(jié)合起來。目前處在應用階段的人機融合中人與機器分工明確，從而沒有產(chǎn)生有效的結(jié)合作用。人類在后天的學習中不斷拓展認知能力，所以人類能夠在復雜的環(huán)境下更為精準地理解態(tài)勢的發(fā)展。通過聯(lián)想人能夠產(chǎn)生跨領(lǐng)域結(jié)合的能力，而這種認知聯(lián)想能力恰恰是缺失的，如何使得機器產(chǎn)生這種能力是實現(xiàn)真正智能的突破口。朱利奧•托諾尼的整體信息論（Integrated Information Theory，IIT）表明，一個有意識的系統(tǒng)必須是信息高速整合的。同時，進化出有模仿認知能力的機器，需要保證人與機器之間共同意識的存在。所以人和機器之間必須建立高速、有效的雙向信息交互關(guān)系。認知的基本在于抽象，而對于機器來說抽象能力決定了問題的限制環(huán)境，越是抽象的思維表征越能夠適應不同的情境。同時，高抽象能力也會帶來更普適的遷移能力，從而突破思維的局限性。1971年圖靈獲獎者約翰•麥卡錫認為，“與所有專門化的理論一樣，所有科學也都體現(xiàn)在常識中。當你試圖證明這些理論時，你就回到了常識推理，因為常識指導著你的實驗”。常識就是非結(jié)構(gòu)化的多模態(tài)信息/支持的復合體，在認知里的常識是人類的先驗知識，而計算機的信息輸入恰恰忽略掉常識。所以研究知識本事、知識類型、知識原理也是突破認知與計算結(jié)合的關(guān)鍵。

人機融合的另一個關(guān)鍵問題是公理與非公理混合推理，直覺與理性結(jié)合的決策。公理是數(shù)學發(fā)展史中的理論基礎(chǔ)，而在科學研究過程中邏輯推導是最為核心的方法。相同的，計算機是按照嚴密的算法語言運行的。但是人類的決策不同于這個過程，人類的聯(lián)想能力還需要依賴于類比推理。類比推理為非公理推理的一部分，非公理推理決定了在弱態(tài)勢情況下的強感知問題。這種學習方法依賴于先驗知識，通過利用大數(shù)據(jù)與概率的方法實現(xiàn)。而實現(xiàn)機器的非公理推理是人與機器的區(qū)別之一，更是人的情感在機器上實現(xiàn)的重要途徑。通過先驗知識人類產(chǎn)生直覺，而理性的分析是直覺的對立面。機器總是在理性地處理數(shù)據(jù)，而如何讓機器產(chǎn)生直覺能力是人機融合的平滑性的關(guān)鍵。公理與非公理推理，直覺與理性的結(jié)合決策將是解決人機融合智能輸出的重要研究方向。

人機融合智能的關(guān)鍵問題還包括介入問題。介入問題反映出人機融合的時機與方式問題，尤其是當人與機器存在對感知信息的不對稱，人與機器在決策的方向上出現(xiàn)矛盾時。同時人機融合中的介入問題體現(xiàn)在團隊態(tài)勢感知之中，而團隊任務的比重也逐漸偏向于人機群的團隊態(tài)勢感知。團隊態(tài)勢感知中團員之間的交互包括接受、容忍、信任、匹配、調(diào)度、切換、說服，這是保證“團隊大于個人”的條件。而人機融合中的介入問題和人與人之間的交互問題具有同樣的復雜度，從技術(shù)角度講，人機融合智能絕不僅是一個數(shù)學仿真建模問題，同時是一個心理學工效問題，還應是一個實驗統(tǒng)計體驗擬合的問題。

人機融合智能的最后一個關(guān)鍵問題是倫理問題。人類價值觀的起源是倫理學。從團隊態(tài)勢感知中可以看出，人類本身擁有很多倫理道德困境，而隨著人工智能的出現(xiàn)給人類帶來了有關(guān)新的倫理問題的思考。與此同時，人機融合智能的范疇歸屬是人機融合智能倫理問題的關(guān)鍵。人機融合智能的倫理不僅包括人工智能的倫理，其中還包括人工智能的思想產(chǎn)生對于實際法律問題的影響，以及人機融合后的界定，所產(chǎn)生的行為是歸屬于人還是機器的思想。在思想之外，人機融合智能中設(shè)備作為人的一部分所產(chǎn)生的行為需要面對怎樣的法律責任，也是人機融合智能未來發(fā)展的重要問題。

人機融合智能技術(shù)的未來發(fā)展方向

信息融合與人機融合智能

信息融合起源于數(shù)據(jù)融合，或者說數(shù)據(jù)融合是信息融合的第一階段。數(shù)據(jù)融合利用多傳感器所得到的數(shù)據(jù)與結(jié)果形成單一傳感器無法得到的更準確可信的結(jié)論和質(zhì)量。最早的數(shù)據(jù)融合限于硬件設(shè)備的差異，需要加入人工的梳理，盡管如此，傳感器依舊會因硬件問題存在時效性和精度的問題，從而對后續(xù)的工作產(chǎn)生接二連三的影響。這使得研究向融合方式逐漸轉(zhuǎn)變。信息融合發(fā)展的第二階段除采用多傳感器探測數(shù)據(jù)外，還融入了其他信息源。同時，比起傳感器數(shù)據(jù)的融合，多信息源的信息融合方法和技術(shù)難度更大。需要從統(tǒng)計學和結(jié)構(gòu)化模型邁向非結(jié)構(gòu)化模型，以及人工智能技術(shù)和基于知識的系統(tǒng)。除此之外，信息融合正在不斷地加入態(tài)勢/影響估計等高級感知領(lǐng)域。現(xiàn)階段的信息融合模型依然僅采用海量數(shù)據(jù)規(guī)模、快速動態(tài)的數(shù)據(jù)體系、多數(shù)據(jù)類型和低數(shù)據(jù)價值密度（Blasch EP，Hanselman P）。

信息融合是人機融合智能中關(guān)鍵的一環(huán)。在目前的兩個階段中，信息融合無論在理論上還是在技術(shù)和應用實現(xiàn)上，更多的都是力圖建立一個能夠自動運行的產(chǎn)品，嵌入到應用系統(tǒng)中或直接作為系統(tǒng)應用到相應業(yè)務活動中。而在傳統(tǒng)結(jié)構(gòu)化數(shù)學模型和方法，如統(tǒng)計學、計算方法、數(shù)學規(guī)劃以及各種信息處理算法無法解決的目標識別、態(tài)勢估計、影響估計等高級融合問題，則求助于不確定性處理和人工智能技術(shù)。然而，當前不確定性處理技術(shù)特別是人工智能技術(shù)的發(fā)展與高級信息如人的需求相差甚遠。而在處理不確定性問題，涉及“是”（being）的問題到“應該”（should）問題的轉(zhuǎn)變，是人的優(yōu)勢所在。在信息融合系統(tǒng)運行過程中添加人的選擇判斷與行動管理，是使信息融合智能在觀測、判斷、分析與決策方面的高級感知領(lǐng)域取得質(zhì)變的關(guān)鍵。

態(tài)勢感知與人機融合智能

態(tài)勢感知（Situation Awareness，SA）概念最早出現(xiàn)在航空心理學中，描述飛行員對作戰(zhàn)飛行任務中態(tài)勢的理解。態(tài)勢感知的經(jīng)典理論是Endsley于1995年提出的三級模型，其定義為人在一定的空間和時間內(nèi)對環(huán)境中各要素的感知（perception）、綜合理解（comprehension）以及預測（projection）的能力。二十多年來SA的研究逐漸擴展到民航飛行員、空中交通管制員、核電廠的操作員、軍事指揮員等，在這些領(lǐng)域中，操作者的SA是影響決策質(zhì)量和作業(yè)績效的關(guān)鍵因素，擁有良好的態(tài)勢感知對復雜和動態(tài)的系統(tǒng)，對如航空、空中交通管制、飛機駕駛等任務中的決策起到了相當關(guān)鍵的作用。

態(tài)勢感知的概念出現(xiàn)在人機協(xié)同的工作中。在態(tài)勢感知的三級模型中，感知即獲取信息，而在高負荷的認知條件下信息的獲取主要依賴機器的傳感器，之后經(jīng)過計算機的處理呈現(xiàn)給操作員。三級模型中機器在感知階段扮演重要的角色。而在預測后的決策階段，同樣需要機器與人之間的協(xié)同判斷與分析。三級階段中彼此階段之間的人機分離是模型中的缺陷。而推動態(tài)勢感知中人與機器融合是實現(xiàn)態(tài)勢理解獲得良好績效的關(guān)鍵。人、機器與環(huán)境構(gòu)成的特定情境的組成成分常會快速變化，這種快節(jié)奏的態(tài)勢演變需要充分時間和足夠信息來形成態(tài)勢的全面感知與理解。同樣，人機融合智能也在態(tài)勢不足的情況下，憑借先驗知識通過大數(shù)據(jù)處理分析輔助操作員的決策提供了弱態(tài)勢下強感知的解決方法。

自主性與人機融合智能

自動化已經(jīng)應用于各種系統(tǒng)中，并且通常包括需要軟件提供邏輯步驟與操作。傳統(tǒng)的自動化的定義為“系統(tǒng)在沒有/很少人為操作員參與的情況下運行，但是，系統(tǒng)性能僅限于其設(shè)計要執(zhí)行的具體操作”。相比于自動化系統(tǒng)，自主性涉及使用額外的傳感器和更復雜的軟件，以便在更廣泛的操作條件和環(huán)境因素以及更廣泛的功能或活動范圍內(nèi)提供更高水平的自動化行為（L. G. Shattuck）。自主系統(tǒng)具有一定程度的自主行為（用人的決策代理）。通過軟件方法可以擴展到基于計算邏輯（或者更普遍地，基于規(guī)則的）方法以包括計算智能（例如，模糊邏輯、神經(jīng)網(wǎng)絡(luò)、貝葉斯網(wǎng)絡(luò)）。另外，學習算法可以提供學習和適應不斷變化的環(huán)境的能力。自主性是自動化的一個重大擴展，在這種擴展中，面向任務的高水平命令將在各種可能不是完全預期的情況下成功執(zhí)行，就像我們目前期望智能人員在給予足夠的獨立性和任務時運行一樣執(zhí)行權(quán)限。自主是良好的設(shè)計和高度自動化。

但是自主系統(tǒng)面臨著幾個常見的問題：

自主系統(tǒng)的設(shè)計能力問題。即自主性在人與自動化之間的平衡問題。面臨新環(huán)境與一成不變的環(huán)境、輕度重復的工作與可信賴的重復工作、可不連續(xù)與始終如一、不可預測與可預測的博弈；操作員對自主系統(tǒng)的態(tài)勢感知能力，高級的自動化很容易讓操作員不了解自動化在做什么，所以需要給飛行員提供合適的參與度，保持與自主系統(tǒng)不脫節(jié)。

輔助系統(tǒng)的問題。自動化的輔助系統(tǒng)常常給操作員很高的信任感，以此類比向?qū)＜仪笾鷨栴}，專家的標簽本身就帶來一種信任，而實際上真正對結(jié)果的評價應該在于問題本身的解答，而不是外在的標簽。同樣的輔助系統(tǒng)會給操作員帶來同樣的信任，但這種信任在有偏差的情況下會帶來災難。

信任問題。信任問題受到系統(tǒng)因素、個人因素、情境因素的影響，自主系統(tǒng)對現(xiàn)實狀況帶來的錯誤的判斷會使操作員對系統(tǒng)的信任迅速降低，而怎樣讓操作員信任自主系統(tǒng)，在此心理環(huán)境下做出更好的任務操作很重要。

人機融合智能中的一個重要課題是如何解決人與自動化的平衡問題，以及人與機器之間的信任問題。自主系統(tǒng)下需要以人為中心，并不需要尋求完全用機器取代人，人在其中的控制和指揮是必不可少的。所以需要更加靈活的自主性和自主權(quán)的切換。隨著系統(tǒng)能力的提升，自主性的水平也在提升。決策輔助為操作員提供潛在的選項，而監(jiān)督控制使操作員可以適當?shù)馗深A。具體情境下使用何種水平的自主性系統(tǒng)是動態(tài)變化的，比如在風險低的情境下可以使用高度的自動化，而在風險發(fā)生變化之后應該對人在自助系統(tǒng)中的參與度進行調(diào)控。共享人和機器的態(tài)勢感知也非常重要。即便在相同的顯示器下處于相同環(huán)境中的人也會有不同的目標和心理模型，從而對未來的預測也是不同的。自主系統(tǒng)通過傳感器獲取信息理解世界的方式和人不同，所以需要對人和機器的態(tài)勢感知進行共享。具體體現(xiàn)在目標一致，功能分配和重新分配，尋找人與機器各司其事的平衡，決策溝通，包括對戰(zhàn)略、計劃和行動，以及任務調(diào)整，因為任務通常需要與雙方都有緊密的依賴。這四個方面需要自主系統(tǒng)和人的態(tài)勢感知保持一致性。

總結(jié)

盡管人機融合智能的發(fā)展尚在初級階段，但其概念中所傳遞出來的思考為人工智能注入了活力。人機融合智能在一些實際場景中取得了初步成果，未來還會在醫(yī)療、軍事、機械等更多領(lǐng)域繼續(xù)取得進步。人機融合智能是主客觀的結(jié)合，是靈活的意向性與精確地形式化的結(jié)合。人機融合智能將會是接下來人工智能發(fā)展的一個重要分支。

【本文作者為北京郵電大學自動化學院崗位教授；本文系國家社科基金重大項目“智能革命與人類深度科技化前景的哲學研究”的階段性成果，項目批準號：17ZDA028】

責編：蔡圣楠 / 李 懿