1 全球人工智能安全的趨勢研判

1 人工智能技術(shù)概述

1.1 概念

一般而言，人工智能（Artificial Intelligence，簡(jiǎn)稱(chēng) AI）是指人造機器所表現出來(lái)的智能，關(guān)于人工智能學(xué)科可被認為是研究、開(kāi)發(fā)用于模擬、延伸和擴展智能的可行性、理論、方法、技術(shù)、應用系統及倫理等等一門(mén)新的科學(xué)和工程學(xué)科。這其中，核心在于“智能”，由于人類(lèi)目前唯一認知的高等智能是人類(lèi)本身，因此，人工智能企圖通過(guò)探索人類(lèi)智能的實(shí)質(zhì)，制造出一種“像人一樣思考或行動(dòng)”的機器系統，前者解決的是邏輯、推理和尋找最優(yōu)解等問(wèn)題，后者則是可以通過(guò)認知、計劃、推理、學(xué)習、溝通、決策等行動(dòng)實(shí)現任務(wù)目標。

對于人工智能確切的定義，尚未有普遍可以接受的共識，從中也可以看出人工智能發(fā)展初期的階段性特點(diǎn)。一是總體而言，人工智能理論建構尚遠不成熟、技術(shù)突破也在探索突破的發(fā)力期，原因在于人類(lèi)對智能本身運作的機理和構成要素了解較少；二是技術(shù)應用領(lǐng)先于概念理論，在不同的方向和子領(lǐng)域，存在一定的壁壘，且目前尚看不出人工智能的主流技術(shù)路線(xiàn)，原因在于人工智能是涉及計算機、通信、數學(xué)、神經(jīng)、認知、心理、哲學(xué)等等各種生物、工程、技術(shù)、人文學(xué)科復雜交叉，不同學(xué)科背景的研究者進(jìn)行人工智能研究時(shí)面對不低的溝通成本。

1.2 人工智能發(fā)展沿革

人工智能概念自 1956 年首次提出以來(lái)，經(jīng)歷了長(cháng)期而又波折的算法演進(jìn)和應用檢驗，直至近 20 年隨著(zhù)計算技術(shù)和大數據技術(shù)的高速發(fā)展，人工智能得到超強算力和海量數據的支持，才獲得了越來(lái)越廣泛的應用驗證，無(wú)論是技術(shù)本身的演進(jìn)還是應用領(lǐng)域的擴展，都取得了跨越式發(fā)展。迄今為止，人工智能的發(fā)展經(jīng)歷了三個(gè)階段：

模式識別（Pattern Recognition）階段：最初的模式識別階段大致從 20 世紀 50 年代前后延續至 20 世紀 80 年代，此時(shí)期的人工智能技術(shù)主要集中在模式識別類(lèi)技術(shù)的研發(fā)和應用上，包括沿用至今的語(yǔ)音識別和圖像識別技術(shù)均發(fā)軔于此。模式識別主要是指模仿人類(lèi)識讀符號的認知過(guò)程從而實(shí)現智能系統。

機器學(xué)習（Machine Learning）階段：機器學(xué)習最早可追溯至人工智能誕生不久時(shí)，但實(shí)際取得突破性進(jìn)展是在 20 世紀 80 年代及以后。彼時(shí)的人工智能以應用仿生學(xué)為主要特點(diǎn)，受人腦學(xué)習知識主要是通過(guò)神經(jīng)元間突觸的形成與變化的啟發(fā)，計算機也可用來(lái)模擬神經(jīng)元工作，因此也稱(chēng)為神經(jīng)元發(fā)展階段，今天廣泛應用的人工神 經(jīng) 網(wǎng) 絡(luò )（ANN，Artificial Neural Networks）、支 持 向 量 機 (SVM, Support Vector Machine) 技 術(shù)均來(lái)源于此，SVM 可謂這一時(shí)期的最頂峰成果，它實(shí)現了高效的歸納學(xué)習，具有數據樣本有限情況下精確分類(lèi)的優(yōu)勢。

深度學(xué)習（Deep Learning）階段：2006 年，隨著(zhù)深度學(xué)習模型的提出，人工智能引入了層次化學(xué)習的概念，通過(guò)構建較簡(jiǎn)單的概念來(lái)學(xué)習更深、更復雜的概念，真正意義上實(shí)現了自我訓練的機器學(xué)習。深度學(xué)習可從大數據中發(fā)現復雜結構，具有強大的推理能力和極高的靈活性，由此揭開(kāi)了嶄新人工智能時(shí)代的序幕。在人工智能第三波發(fā)展熱潮中，深度學(xué)習逐漸實(shí)現了在機器視覺(jué)、語(yǔ)音識別、機器翻譯等多個(gè)領(lǐng)域的普遍應用，也催生了強化學(xué)習、遷移學(xué)習、生成對抗網(wǎng)絡(luò )等新型算法和技術(shù)方向。

 1.3 人工智能技術(shù)的典型代表

（1）機器學(xué)習 (ML, Machine Learning): 是當前人工智能的關(guān)鍵技術(shù)，通過(guò)設定模型，輸入數據進(jìn)行訓練，改善自身性能，重在歸納、聚合而非演繹。

（2）專(zhuān)家系統（ES, Expert System）：專(zhuān)家系統主要是將規則和邏輯引入 AI 系統，幫助和執行自動(dòng)化決策。

（3）過(guò)程自動(dòng)化 (AT, Automation )：采用自動(dòng)化腳本的方法，實(shí)現任務(wù)自動(dòng)化代替或協(xié)助人類(lèi)員工。

（4） 深 度 學(xué) 習（DL, Deep Learning）： 深度學(xué)習是機器學(xué)習中一種基于對數據進(jìn)行表征學(xué)習的方法，使用特定的表示方法從實(shí)例中更容易學(xué)習新的任務(wù)。

（5）自然語(yǔ)言處理（NLP, Natural Language Processing）：讓計算機處理并理解人類(lèi)所使用的各類(lèi)語(yǔ)言，廣義定義還包含讓計算機正確運用人類(lèi)語(yǔ)言自如地與人進(jìn)行多種形式的溝通。

（6）計算機視覺(jué) (CV, Computer Vision)：研究讓計算機如何“看”世界，常見(jiàn)的有對圖像進(jìn)行分析的圖像處理技術(shù)（IP, Image Processing）、從動(dòng)態(tài)視頻獲取有效信息的視頻分析技術(shù) (VA, Video Analysis) 等，還有支持 AR 和 VR 等的虛

擬智能技術(shù)（VI, Virtual Intelligence）等新興技術(shù)。

（7）模式識別 (PR, Pattern Recognition)：對信息進(jìn)行整合與智能分析，對由環(huán)境和客體組成的模式進(jìn)行自動(dòng)處理和判讀，技術(shù)實(shí)現可分為有監督的分類(lèi)（Supervised Classification）和無(wú)監督的分類(lèi) (Unsupervised Classification) 兩種。

（8）情緒識別（ER, Emotion Recognition）：綜合多種技術(shù)感知人類(lèi)的情緒狀態(tài)。

（9）AI 建模（DT, Digital Twin/AI Modeling）：通過(guò)軟件來(lái)溝通物理系統與數字世界，這也是物理與虛擬世界的交界面。

（10）機器人技術(shù) (RB, Robotics): 機器人有著(zhù)廣闊的應用，形態(tài)也各異，常見(jiàn)的有無(wú)人駕駛、無(wú)人機等。

（11）虛擬代理 (VA, Virtual Agents)：復合多項技術(shù)，能 夠 與 人 類(lèi) 進(jìn) 行 交 互 的 計 算 機 代理 或 程 序， 目 前 常 被 用 于 客 戶(hù) 服 務(wù) 或 語(yǔ) 音助理。

2 人工智能時(shí)代網(wǎng)絡(luò )空間安全發(fā)展趨勢

2.1 網(wǎng)絡(luò )空間安全威脅趨向智能

隨著(zhù)網(wǎng)絡(luò )信息技術(shù)全面普及以及數據價(jià)值的持續增長(cháng)，網(wǎng)絡(luò )空間安全威脅持續嚴峻，且呈現出智能化、隱匿性、規?；奶攸c(diǎn)，網(wǎng)絡(luò )空間安全的防御、檢測和響應面臨更大的挑戰。采用人工智能的網(wǎng)絡(luò )威脅手段已經(jīng)被廣泛應用于網(wǎng)絡(luò )犯罪，包括漏洞自動(dòng)挖掘、惡意軟件智能生成、智能化網(wǎng)絡(luò )攻擊等，網(wǎng)絡(luò )攻擊方式的智能化升級打破了攻防兩端的平衡。魔高一尺，道高一丈，網(wǎng)絡(luò )安全攻防不對稱(chēng)要求網(wǎng)絡(luò )空間安全防御方采取更加智能化的思想與手段予以應對。

2.2 網(wǎng)絡(luò )空間安全邊界開(kāi)放擴張

智能互聯(lián)時(shí)代，網(wǎng)絡(luò )空間安全的邊界不斷擴展。一方面，傳統基于網(wǎng)絡(luò )系統和設備等物理邊界的網(wǎng)絡(luò )安全防御邊界日趨泛化，網(wǎng)絡(luò )安全攻擊范圍被全面打開(kāi)。另一方面，網(wǎng)絡(luò )空間治理全面滲透在政治、經(jīng)濟、社會(huì )等各個(gè)領(lǐng)域，網(wǎng)絡(luò )空間安全影響領(lǐng)域全面泛化。邊界的開(kāi)放擴張要求積極將各類(lèi)智能化技術(shù)應用于全業(yè)務(wù)流程的安全防御。

2.3 網(wǎng)絡(luò )空間安全人力面臨不足

網(wǎng)絡(luò )空間安全威脅形勢日趨嚴峻，與之對應的是安全人員面臨嚴重短缺，根據邁克菲調查顯示，企業(yè)普遍認為他們需要增加 24% 的安全人員才能有效應對面臨的網(wǎng)絡(luò )威脅。網(wǎng)絡(luò )空間不斷延展、移動(dòng)設備增加、多云端服務(wù)正在使安全人員的工作變得越來(lái)越復雜，而安全人員的短缺更是加劇了安全風(fēng)險問(wèn)題。利用人工智能等技術(shù)推動(dòng)網(wǎng)絡(luò )防御系統的自主性和自動(dòng)化，降低安全人員風(fēng)險分析和處理壓力，輔助其更加高效地進(jìn)行網(wǎng)絡(luò )安全運維與監控迫在眉睫。

2.4 網(wǎng)絡(luò )空間安全防御趨向主動(dòng)

針對層出不窮、花樣翻新、破壞加劇的惡意代碼、漏洞后門(mén)、拒絕服務(wù)攻擊、APT 攻擊等安全威脅，現有被動(dòng)防御的安全策略顯得力不從心。智能時(shí)代，網(wǎng)絡(luò )空間安全從被動(dòng)防御趨向主動(dòng)防御，人工智能驅動(dòng)的自動(dòng)化防御能夠更快更好地識別威脅，縮短響應時(shí)間，是網(wǎng)絡(luò )空間安全發(fā)展的必然方向和破解之道。

3 人工智能在網(wǎng)絡(luò )空間安全的應用優(yōu)勢

3.1 網(wǎng)絡(luò )空間安全的內涵

網(wǎng)絡(luò )空間的概念是指由現代信息技術(shù)革命產(chǎn)生的，由通信線(xiàn)路和設備、計算機、軟件、數據、用戶(hù)以及任何接入網(wǎng)絡(luò )的物體等要素交互形成的全新空間，涵蓋物理設施、用戶(hù)和內容邏輯等多個(gè)層面，它將生物、物體和自然空間之間建立起智能聯(lián)系，是人類(lèi)社會(huì )活動(dòng)和財富創(chuàng )造的全新領(lǐng)域。

網(wǎng)絡(luò )空間安全是網(wǎng)絡(luò )空間中所有要素和活動(dòng)免受來(lái)自各種威脅的狀態(tài)。隨著(zhù)信息技術(shù)的不斷創(chuàng )新發(fā)展，網(wǎng)絡(luò )空間安全的范疇正不斷擴大，成為非傳統安全的重要組成部分，并與國家、政治、社會(huì )、經(jīng)濟領(lǐng)域的安全密不可分。從網(wǎng)絡(luò )信息技術(shù)的發(fā)展歷程以及技術(shù)邏輯來(lái)看，網(wǎng)絡(luò )空間安全可分為三大領(lǐng)域，分別為網(wǎng)絡(luò )系統安全、網(wǎng)絡(luò )內容安全和物理網(wǎng)絡(luò )系統安全。其中，網(wǎng)絡(luò )系統安全包括信息基礎設施、計算機系統、網(wǎng)絡(luò )連接、用戶(hù)數據等設備和信息的安全保障，需要抵御各種惡意攻擊對信息和網(wǎng)絡(luò )系統的入侵、滲透、中斷、破壞，以及對用戶(hù)數據的泄露、竊取，網(wǎng)絡(luò )系統安全是保障全球網(wǎng)絡(luò )和計算機系統穩定運行，保護用戶(hù)數據和隱私的基礎。網(wǎng)絡(luò )內容安全是指在網(wǎng)絡(luò )環(huán)境中產(chǎn)生和流轉的信息內容是否合法、準確和健康，是否會(huì )對政治、經(jīng)濟、社會(huì )和文化產(chǎn)生不良影響和危害。物理網(wǎng)絡(luò )系統安全包括網(wǎng)絡(luò )空間中任何與網(wǎng)絡(luò )連接的物、人等物理要素的安全，隨著(zhù)物聯(lián)網(wǎng)、腦機接口、機器人等技術(shù)的迅猛發(fā)展，網(wǎng)絡(luò )空間的威脅已延伸到物理空間和現實(shí)世界，由此產(chǎn)生對資產(chǎn)、人身以及自然環(huán)境等要素的潛在安全威脅。網(wǎng)絡(luò )系統安全、網(wǎng)絡(luò )內容安全和物理網(wǎng)絡(luò )系統安全相互影響和融合交織，構成了本報告網(wǎng)絡(luò )空間安全的基本內涵。

3.2 人工智能技術(shù)在網(wǎng)絡(luò )空間安全應用的優(yōu)勢

人工智能是令機器學(xué)會(huì )從認識物理世界到自主決策的過(guò)程，其內在邏輯是通過(guò)數據輸入理解世界，或通過(guò)傳感器感知環(huán)境，然后運用模式識別實(shí)現數據的分類(lèi)、聚類(lèi)、回歸等分析，并據此做出最優(yōu)的決策推薦。當人工智能運用到安全領(lǐng)域，機器自動(dòng)化和機器學(xué)習技術(shù)能有效且高效地幫助人類(lèi)預測、感知和識別安全風(fēng)險，快速檢測定位危險來(lái)源，分析安全問(wèn)題產(chǎn)生的原因和危害方式，綜合智慧大腦的知識庫判斷并選擇最優(yōu)策略，采取緩解措施或抵抗威脅，甚至提供進(jìn)一步緩解和修復的建議。這個(gè)過(guò)程不僅將人們從繁重、耗時(shí)、復雜的任務(wù)中解放出來(lái)，且面對不斷變化的風(fēng)險環(huán)境、異常的攻擊威脅形態(tài)比人更快、更準確，綜合分析的靈活性和效率也更高。因此，人工智能的“思考和行動(dòng)”邏輯與安全防護的邏輯從本質(zhì)上是自洽的，網(wǎng)絡(luò )空間安全天然是人工智能技術(shù)大顯身手的領(lǐng)域。

3.2.1 基于大數據分析的高效威脅識別

大數據為機器學(xué)習和深度學(xué)習算法提供源源動(dòng)能，使人工智能保持良好的自我學(xué)習能力，升級的安全分析引擎，具有動(dòng)態(tài)適應各種不確定環(huán)境的能力，有助于更好地針對大量模糊、非線(xiàn)性、異構數據做出因地制宜的聚合、分類(lèi)、序列化等分析處理，甚至實(shí)現了對行為及動(dòng)因的分析，大幅提升檢測、識別已知和未知網(wǎng)絡(luò )空間安全威脅的效率，升級精準度和自動(dòng)化程度。

3.2.2 基于深度學(xué)習的精準關(guān)聯(lián)分析

人工智能的深度學(xué)習算法在發(fā)掘海量數據中的復雜關(guān)聯(lián)方面表現突出，擅長(cháng)綜合定量分析相關(guān)安全性，有助于全面感知內外部安全威脅。人工智能技術(shù)對各種網(wǎng)絡(luò )安全要素和百千級維度的安全風(fēng)險數據進(jìn)行歸并融合、關(guān)聯(lián)分析，經(jīng)過(guò)深度學(xué)習的綜合理解、評估后對安全威脅的發(fā)展趨勢做出預測，還能夠自主設立安全基線(xiàn)達到精細度量網(wǎng)絡(luò )安全性的效果，從而構建立體、動(dòng)態(tài)、精準和自適應的的網(wǎng)絡(luò )安全威脅態(tài)勢感知體系。

3.2.3 基于自主優(yōu)化的快速應急響應

人工智能展現出強大的學(xué)習、思考和進(jìn)化能力，能夠從容應對未知、變化、激增的攻擊行為，并結合當前威脅情報和現有安全策略形成適應性極高的安全智慧，主動(dòng)快速選擇調整安全防護策略，并付諸實(shí)施，最終幫助構建全面感知、適應協(xié)同、智能防護、優(yōu)化演進(jìn)的主動(dòng)安全防御體系。

3.2.4 基于廣域治理的持續進(jìn)化賦能

隨著(zhù)網(wǎng)絡(luò )空間內涵外延的不斷擴展，人類(lèi)面臨的安全威脅無(wú)論從數量、來(lái)源、形態(tài)、程度和修復性上都在超出原本行之有效的分工和應對能力，有可能處于失控邊緣，人工智能對人的最高智慧的極限探索，也將拓展網(wǎng)絡(luò )治理的理念和方式，實(shí)現安全治理的突破性創(chuàng )新。人工智能不僅能解決當下的安全難題，而且通過(guò)在安全場(chǎng)景的深化應用和檢驗，發(fā)現人工智能的缺陷和不足，為下一階段的人工智能發(fā)展和應用奠定基礎，指明方向，推動(dòng)人工智能技術(shù)的持續變革及其更廣域的賦能。

4.1 人工智能安全將成為產(chǎn)業(yè)發(fā)展最大藍海

可以預見(jiàn)的是，智慧城市、工業(yè)互聯(lián)網(wǎng)、自動(dòng)駕駛等將在未來(lái)十年全面普及，安全將成為各類(lèi)智能創(chuàng )新應用最核心的痛點(diǎn)需求，也是人工智能技術(shù)最重要的應用領(lǐng)域。為此，各國都會(huì )全面加大人工智能在安全領(lǐng)域的應用，如智慧城市建設中的安防領(lǐng)域，其產(chǎn)出的海量數據和其防護邏輯與 AI 技術(shù)邏輯的高度自洽，使AI 技術(shù)能夠天然應用于安全。

4.2 人工智能本體安全決定安全應用進(jìn)程

人工智能在助力解決各領(lǐng)域安全問(wèn)題的同時(shí)，其自身的安全性也越來(lái)越重要。如何保障合理的運用 AI 技術(shù)一直是人類(lèi)面臨的難題。算法、數據、物理載體的安全性決定著(zhù) AI 的本體安全，是 AI 助力網(wǎng)絡(luò )空間安全的基本前提。因此，AI 技術(shù)助力安全的發(fā)展如同 DNA 的兩條單鏈，一條單鏈是在人工智能技術(shù)不斷與更多產(chǎn)業(yè)融合下，人工智能保障安全需求迅速增長(cháng)，第二條單鏈則為對保障人工智能本體安全的需求增長(cháng)。兩條單鏈相互催生，構成了人工智能技術(shù)助力安全的螺旋式發(fā)展。

4.3 “人工”+“智能”將長(cháng)期主導安全實(shí)踐

長(cháng)期來(lái)看，人工智能技術(shù)只是輔助而非替代人類(lèi)的關(guān)鍵判斷，其中安全決策尤為復雜，更是人工智能無(wú)法完全替代的領(lǐng)域，因此人類(lèi)決策與機器智能將長(cháng)期并存。例如，Facebook對網(wǎng)絡(luò )新聞的真假判斷仍然是在機器學(xué)習對信息進(jìn)行降級處理后進(jìn)行人工審查作出最終判斷在網(wǎng)絡(luò )謠言治理領(lǐng)域，人工智能應用依然主要采用機器 + 專(zhuān)家審核模式。因此，基于人工智能對于復雜的社會(huì )關(guān)系、情感識別、價(jià)值判斷的能力依然不足，智能和人工結合的人工智能模式將長(cháng)期主導應用實(shí)踐。

4.4 人工智能技術(shù)路線(xiàn)豐富將改善安全困境

機器學(xué)習、深度學(xué)習等人工智能技術(shù)高度依賴(lài)海量數據的“喂養”，但是，數據采集與隱私保護之間已經(jīng)形成囚徒困境。因此，隨著(zhù)人工智能技術(shù)路線(xiàn)的不斷豐富和發(fā)展，可以根據用戶(hù)需求和應用場(chǎng)景，有針對性地選擇人工智能技術(shù)，可以避免智能應用對數據資源的過(guò)度依賴(lài)，更好地保障網(wǎng)絡(luò )空間安全。

4.5 網(wǎng)絡(luò )空間安全將驅動(dòng)人工智能?chē)H合作

面對共同的威脅是國際合作的重要前提。人工智能時(shí)代，無(wú)論是在應對網(wǎng)絡(luò )犯罪、網(wǎng)絡(luò )攻擊等安全威脅，或是無(wú)人駕駛、智慧城市的安全保障，都需要各國技術(shù)標準、信息資源、應對機制等方面的匹配協(xié)同。其中，面對技術(shù)規范、行業(yè)標準、法律法規尚未健全的人工智能新領(lǐng)域，制定統一的安全監測標準、安全防范架構、安全評估體系需要各國參與共同協(xié)調，網(wǎng)絡(luò )空間安全成為人工智能?chē)H間合作的重要領(lǐng)域。