摘 要:新一代人工智能已滲透到科學技術創(chuàng)新、社會經濟轉型和生產生活變革的方方面面。新一代人工智能的發(fā)展和應用為國家治理帶來新思路和新機遇，推動了國家治理能力和效率的提升；另一方面，也帶來了數據治理技術、科技治理規(guī)范、經濟治理能力、社會意識形態(tài)安全等一系列新挑戰(zhàn)。因此，應在系統(tǒng)思維導向下，從強化國家安全意識出發(fā)，加強頂層設計、打造創(chuàng)新生態(tài)、防范系統(tǒng)風險、規(guī)范科技倫理治理、建立風險預警機制，有效應對新挑戰(zhàn)，打造發(fā)展新優(yōu)勢。

關鍵詞:新一代人工智能 國家治理 國家安全

【中圖分類號】D63 【文獻標識碼】A

2023年2月27日，中共中央、國務院印發(fā)《數字中國建設整體布局規(guī)劃》，指出要“以數字化驅動生產生活和治理方式變革，為以中國式現代化全面推進中華民族偉大復興注入強大動力”，強調以數字技術賦能國家治理體系和能力現代化。人工智能的快速發(fā)展推動經濟社會的深度變革，尤其以ChatGPT等大語言模型為代表的新一代人工智能的發(fā)展成為現象級事件，為整個社會的治理方式、治理理念帶來巨大轉變，對國家治理的影響不容忽視。一方面，新一代人工智能的發(fā)展和應用為國家治理帶來新思路和新機遇，推動了國家治理能力和效率的提升；另一方面，也帶來了數據治理技術、科技治理規(guī)范、經濟治理能力、社會意識形態(tài)安全等一系列新挑戰(zhàn)，需要對其可能帶來的倫理、法律和安全風險進行約束和監(jiān)管。

鑒于此，建議深度研究新一代人工智能與國家治理之間的內在機理，審慎應對新一代人工智能給國家治理帶來的變革，強化國家安全意識，加強頂層設計、打造創(chuàng)新生態(tài)、防范系統(tǒng)風險、規(guī)范科技倫理治理、建立風險預警機制，以防范新一代人工智能嵌入國家治理的諸多風險，更好發(fā)揮新一代人工智能對國家治理的賦能效用。

新一代人工智能為國家治理帶來新機遇

作為滲透面廣、帶動性強、影響深刻的新興技術體系，新一代人工智能在通用領域的“智慧涌現”，不僅推動科研、辦公、工業(yè)、互聯網的深刻變革[1]，也為國家治理帶來全新的發(fā)展機遇，如ChatGPT等大語言模型擅長的人機交互、語言理解和生成、計算機編程等能力，提升了工作效率，進一步優(yōu)化社會分工，助推國家治理效能的提高與躍升。

新一代人工智能是國家治理的有效工具。新一代人工智能將重塑政民互動模式，提升政民互動體驗；優(yōu)化數字政務服務體系，支撐公共決策科學精準，輔助政府治理與決策，是更為智能有效的國家治理工具。首先，承載著強大語言理解和生成能力的新一代人工智能將會對現有人機交互模式帶來全方位的深層次沖擊，重構政府與民眾之間的互動過程，從而帶來政民互動體驗的實質性改善。例如，可以利用大語言模型等技術開發(fā)智能聊天機器人，讓政府和民眾之間的溝通交流更加順暢。其次，新一代人工智能有望借助海量數據和萬物互聯的嵌入平臺、操作系統(tǒng)或基礎設施，對現有在線政務服務和自動化的公共事務處理體系進行全面、變革性的優(yōu)化，實現各項服務之間的互聯互通，并開發(fā)公共服務響應系統(tǒng)，實現治理工具的智能化。再次，新一代人工智能通過海量數據的匯聚和決策算法的優(yōu)化，利用模型模擬和預測支持公共決策和管理工作，處理現實生活中的復雜巨系統(tǒng)問題，推動公共決策智能化、科學化、精準化，成為決策者的數字助手。

新一代人工智能重塑國家治理結構和治理體系。新一代人工智能將自上而下重塑政府不同層級、不同部門的內部結構和業(yè)務流程，系統(tǒng)變革政府行政體系、政府回應體系、數據開放體系以及公共服務體系，為國家治理體系現代化提供系統(tǒng)的組織保障。新一代人工智能大模型帶來的集中式建模能力將有效緩解碎片化應用開發(fā)的痛點，其所具有的強大的對話、交流能力可以很好地賦能虛擬人應用場景，大模型對多模態(tài)信息的強大處理能力能孵化出來更豐富的多模態(tài)應用。基于行業(yè)多模態(tài)大模型、多模態(tài)融合分析、機器視覺等新一代人工智能可以幫助政府擺脫繁雜的算法、算力、數據整合工作，高效率應用到國家治理各領域應用場景。此外，新一代人工智能在通用領域的“智慧涌現”有助于推進國家治理體系和治理能力現代化，精準防控現代社會發(fā)展中的風險，有力維護政治穩(wěn)定和社會安全，促進經濟發(fā)展和社會進步。

新一代人工智能提升國家治理效率和水平。新一代人工智能具備強大的數據分析能力、信息整合能力和語言處理能力，當其嵌入科技治理、經濟治理、社會治理等場景中，能為提升治理效率帶來變革性的創(chuàng)新。在科技治理方面，新一代人工智能基于大數據、高算力、強算法能夠打造智能科研范式，優(yōu)化科研流程，快速發(fā)現科學規(guī)律，有利于持續(xù)增強科技創(chuàng)新能力。在經濟治理方面，新一代人工智能能夠在學習相關領域知識的基礎上進行智能化創(chuàng)作，優(yōu)化內容生產的效率與創(chuàng)意，加速數實融合與產業(yè)升級，孵化出新型應用，有效提升生產效率。在社會治理方面，新一代人工智能通過及時發(fā)現、精準識別和定制化應用，滿足教育、醫(yī)療、交通、養(yǎng)老等各類需求，推動公共服務朝著智能化、定制化、交互性等方面發(fā)展，有效優(yōu)化公共服務，顯著加強網絡安全、國防安全、應急響應等多方面的智能化能力，增強公共部門態(tài)勢感知和風險防控能力，強化社會安全屏障。

新一代人工智能給國家治理帶來的問題和挑戰(zhàn)

新一代人工智能技術是一把雙刃劍，在推動經濟社會智能化發(fā)展、為國家治理帶來諸多機遇的同時，也帶來不容輕視的治理風險和挑戰(zhàn)。

數據治理技術挑戰(zhàn)。首先，新一代人工智能以海量信息為數據源，在篩選后為用戶提供標準化答案，對其產生技術依賴容易導致用戶失去與海量知識的連接，從而形成信息繭房，造成認知困境，不利于知識的多元化傳播。其次，在與用戶深度交互和內容生成的過程中，新一代人工智能通過算法修正實現模擬人的意識感知，可能操控和改變用戶的認知，從技術層面無法保證客觀、公平與公正，引發(fā)算法歧視問題，形成群體極化風險。再次，新一代人工智能依賴數據、產出數據，在應用到國家治理時，因其技術自身問題及使用不當或管控不力等，既加劇傳統(tǒng)的數據安全風險，如數據的過度采集、竊取、泄露和濫用等，也會滋生出新的數據安全問題，如數據偷渡、樣本偏差等，還可能因為數據大規(guī)模集聚與跨境流動帶來安全風險和管控挑戰(zhàn)。

科技治理規(guī)范挑戰(zhàn)。首先，新一代人工智能的發(fā)展可能帶來國家之間的新型“數字殖民”風險。在國家層面，領先掌握新一代人工智能技術的國家占據制定技術規(guī)則與技術標準的優(yōu)勢地位，可通過以發(fā)展與監(jiān)管為由來擴大數據的檢測范圍，從而實現對數據的收割與壟斷，這種技術壟斷或者技術霸權可能產生新的“數字殖民地”，其技術成癮、歧視等問題的蔓延會對我國政治安全造成沖擊。其次，新一代人工智能可能會給國家治理帶來諸多的倫理道德挑戰(zhàn)，包括知識產權、隱私泄露和虛假信息、人性沖突等。在知識產權侵權風險方面，新一代人工智能所生成數字內容歸屬誰、能否擁有作者身份、能否作為原創(chuàng)作品，在數據收集、挖掘與訓練中得到的數據是否具有相應的知識產權等問題存在較大爭議。在虛假信息和技術濫用風險方面，新一代人工智能可能因其可解釋性差等原因而產出虛假信息，使用者可能會濫用這類技術從事非法行為，如用于學術剽竊、數據造假，引發(fā)學術倫理問題。在價值觀沖突方面，隨著新一代人工智能在國家治理領域的應用推廣，國家治理會更加依賴算法假定 [2]。新一代人工智能在數據輸出功能方面主導了后臺技術操作者的話語權，價值滲透力增強，可能忽略甚至對抗人性選擇，由此可能帶來社會價值觀的沖突與誤導。

經濟治理能力挑戰(zhàn)。新一代人工智能技術促進了人類與人工智能的協(xié)同工作，顛覆當下的工作場景、工作流程、人力結構及就業(yè)情境，帶來產業(yè)變革，對經濟治理能力提出新挑戰(zhàn)。首先，新一代人工智能將重構互聯網和移動互聯網的產品形態(tài)，促進產業(yè)升級，最終帶來相應商業(yè)模式的變革，但也可能產生“割韭菜”行為，擾亂正常經濟秩序。其次，新一代人工智能的產業(yè)化和規(guī)模化發(fā)展將導致很多職業(yè)面臨顛覆性變化，甚至帶來大量失業(yè)問題，尤其是重復性、程序化的工作崗位。勞動者大量失業(yè)，將成為經濟社會的不穩(wěn)定因素。最后，新一代人工智能還可能重構勞動關系，驅動勞動替代轉移、勞動方式智能化趨勢，從而衍生出一系列與就業(yè)相關的新問題，如新型勞動關系認定等。

社會意識形態(tài)安全挑戰(zhàn)。第一，新一代人工智能作為一個極具數智能力的數字交互媒介，其跨境使用會引發(fā)社會傳播風險問題，如虛假新聞、惡意輿情煽動等，更有甚者可能危害網絡安全與國家安全。大模型訓練語料庫中的意識形態(tài)差異、價值取向不可控可能帶來政治風險，新一代人工智能既能成為強權者推行其政治意圖的工具，也為少數極端分子宣傳其思想提供了可能，甚至會為西方國家向中國進行意識形態(tài)滲透及干涉提供便利。第二，新一代人工智能能夠打造出虛擬意見領袖，通過制造網絡輿論引導某些網民成為其不法聲音的幫兇，這會極大地沖擊國家意識形態(tài)安全，還有可能為數字民粹主義的傳播提供新的活動空間。由于ChatGPT收集的用戶數據會留存在美國的服務器中，這些個人隱私信息一旦被西方某些不良政客所截取，就會成為他們分析、研究并制定意識形態(tài)滲透策略的重要數據支撐。國外不法分子或具有不良政治傾向的群體可能借助ChatGPT強大的數據庫與算法，潛移默化地操縱網絡輿論，滿足西方政客宣傳其價值觀的企圖，甚至可能使ChatGPT淪為一種政治工具。由于該工具具有很強的交互性，因此對意識形態(tài)的影響更加直接與深遠，特別是如果對未成年人進行長期滲透，將會產生巨大的意識形態(tài)風險。第三，新一代人工智能一旦被廣泛應用并嵌入海量政府和用戶數據，“算法利維坦”風險凸顯，將為國家政治安全與個人信息安全帶來隱患。一是可能存在意識形態(tài)越位、政治謠言泛濫、數據泄漏、真假信息共存等“算法利維坦”風險。二是隨著新一代人工智能多元場景應用，用戶不得不以隱私讓渡獲取使用權限，人工智能全方位滲透公共領域和私人生活，實時跟蹤并計算用戶的數據及需求，對政府和用戶進行液態(tài)監(jiān)視。因此，當數據、算法、算力成為國家治理和社會生活的底層架構，必須警惕底層崩塌的風險外溢。

新一代人工智能賦能國家治理現代化的建議

新一代人工智能賦能國家治理包含“用AI技術治理”和“治理AI技術”雙向治理邏輯[3]：一是需要利用新技術增強國家治理能力，二是要創(chuàng)設和完善相關制度，規(guī)范和監(jiān)督新技術及其應用。

加強頂層設計，構建完備法律體系，推進制度建構。一是對新一代人工智能的發(fā)展趨勢和應用前景進行綜合研判和分析，提前做好監(jiān)管防范工作，主動響應。建議國家層面成立專家委員會或咨詢委員會，遴選人工智能技術、倫理、法律、監(jiān)管等領域的專家，并和社會公眾代表一起，對新一代人工智能的發(fā)展和應用提出前瞻性建議，供政府部門決策參考。二是推動完善一攬子的新一代人工智能監(jiān)管制度體系建設，使監(jiān)管創(chuàng)新跟上技術進步的步伐。政府應堅持包容審慎的監(jiān)管姿態(tài)，加強敏捷治理，統(tǒng)籌技術發(fā)展和規(guī)范的關系，建立通用型架構以應對新興技術帶來的挑戰(zhàn)。

打造開放創(chuàng)新生態(tài)，實現技術追趕。一是以大型科技企業(yè)和重點科研機構為核心，推動頭部科技企業(yè)建立人工智能公共聯盟。積極推動企業(yè)以聯盟或合作方式開發(fā)開源大模型，支持設立多個國家級人工智能大模型的長期開源項目，打造開源眾包的開放創(chuàng)新生態(tài)，形成科技攻關聯合機制。二是夯實人工智能公共數字基礎設施一體化平臺建設，促進上、中、下游企業(yè)全流程參與，引導高校、科研機構和創(chuàng)新型企業(yè)形成多個技術路線的創(chuàng)新生態(tài)群。

構建發(fā)展與安全協(xié)同治理模式。一是遵循以人為本的原則，堅持發(fā)展與治理協(xié)同，在符合社會價值觀的前提下，保障最大范圍開發(fā)和利用人工智能創(chuàng)新成果，同時依法合規(guī)，在法治框架下開展技術治理和社會治理的協(xié)同工作。二是基于現階段人工智能治理的局限性，充分評估數據和模型的倫理影響和風險點，把通用模型納入到社會生態(tài)系統(tǒng)、社會政治經濟系統(tǒng)來考慮；探索倫理方法，充分探索“價值敏感設計”“負責任創(chuàng)新”等倫理方法在通用模型語境下的可行性，實現發(fā)展與治理協(xié)同、技術治理與社會治理協(xié)同。三是加快成立負責任人工智能技術的職能管理機構，制定負責任人工智能技術的管理辦法。如出臺規(guī)范，對ChatGPT等大語言模型所涉及的數據加強系統(tǒng)管理、開放共享與安全使用，系統(tǒng)研究數據隱私與數據保護法律法規(guī)，推動數據到知識到行動的基本邏輯范式。四是推動數字公共基礎設施和相應法律法規(guī)建設。建立高質量國家級重要領域基礎知識庫、數據庫、資源庫，以解決大模型的算法偏見及質量問題，并出臺相應法律法規(guī)防止國家秘密泄露和維護國家安全。

發(fā)展人工智能新技術下的經濟治理體系。一是持續(xù)謹慎觀察新一代人工智能帶來的“創(chuàng)造性破壞”，密切關注新興人工智能技術發(fā)展可能帶來的結構性失業(yè)、技術性失業(yè)與非對稱性失業(yè)現象，以及防范失業(yè)導致經濟發(fā)展受阻與社會不穩(wěn)定性風險，并提前準備綜合性應對措施。如加大培訓，提供稅收優(yōu)惠，出臺兜底性失業(yè)保障政策；形成人工智能“創(chuàng)造性效應”，建立失業(yè)預警制度；重建失業(yè)人群“動力系統(tǒng)”，組建新一代人工智能技術共享聯合體，鼓勵促進就業(yè)，維護社會穩(wěn)定。二是面向未來培養(yǎng)新型技術治理和社會治理協(xié)同的復合型人才。新一代人工智能的發(fā)展對人類創(chuàng)新性思維與批判性能力提出了新要求，亟需順應人工智能新技術的快速發(fā)展以提高人類自身的適應能力，大力培養(yǎng)新一代人工智能技術人才和管理人才。

建立常態(tài)化治理風險預警和防控機制。一是前瞻布局人工智能大模型的風險防御技術體系[4]。對于未知威脅進行風險預判和策略調整，打造動態(tài)升級、科學前瞻的防御理論及技術體系，爭取主動安全，進行深度治理。二是圍繞新一代人工智能全生命周期關鍵環(huán)節(jié)，開展針對性、精準性的安全防范措施。面向業(yè)務、算法、數據于一體的有機整體，設計研發(fā)、檢驗驗證、運營監(jiān)控等關鍵流程，建立全面且有針對性的安全保障體系。三是夯實核心技術與基礎設施的安全，提升新一代人工智能安全體系的保障能力；加大在算法安全、數據安全、模型安全、程序安全等方面的核心技術研發(fā)，尤其注重開發(fā)自主可控的新一代人工智能技術，推動國家科研投入、企業(yè)技術攻關對新一代人工智能核心技術的覆蓋；加強對數據中心、超算中心、智能計算機中心等基礎設備以及涉及到的芯片、集成電路等基礎產業(yè)的保護力度。四是積極聯系國際相關機構形成技術聯盟，制定國際規(guī)范，防范算法世界政治霸權和數據跨境安全風險；建立廣泛、權威的國際對話機制，避免科技政治極化對抗；消弭數字鴻溝，合理助力后發(fā)國家進步。

【注：中國科學院學部重大咨詢項目“數字技術支撐國家治理現代化的戰(zhàn)略研究”由中國科學院信息技術科學學部主任郭雷院士、副主任郝躍院士領銜，吳一戎、管曉宏、徐宗本、呂建四位院士參加，中國科學院數學與系統(tǒng)科學研究院楊曉光研究員和中國科學院科技戰(zhàn)略咨詢研究院陳凱華研究員組織實施，旨在在國家治理現代化的數字技術發(fā)展戰(zhàn)略以及相關的科技政策等方面為國家高層提供咨詢建議。項目成員包括十幾位科學院院士和他們的研究團隊，以及來自中國科學院科技戰(zhàn)略咨詢研究院、中國科學院數學與系統(tǒng)科學研究院、中國科學院空天戰(zhàn)略研究院、中國科學院自動化所、中國科學院大學、南京大學、西安交通大學、西安電子科技大學、中國信息通訊研究院、最高法信息中心、網信辦信息中心等單位的專家學者】

注釋

[1]Bresnahan T F, Trajtenberg M. General purpose technologies "Engines of growth" ?[J]. Journal of econometrics, 1995, 65(1): 83-108.

[2]梅立潤：《人工智能時代國家治理的算法依賴及其衍生難題》，《中南大學學報（社會科學版）》，2022年第6期，第123—131頁。

[3]姜李丹、薛瀾：《我國新一代人工智能治理的時代挑戰(zhàn)與范式變革》，《公共管理學報》，2022年第2期，第1—11頁。

[4]梅立潤：《面向未來的治理: 人工智能時代的國家治理原則》，《中國科技論壇》，2022年第11期，第16—24頁。

責編：周素麗／美編：石 玉