★王智民，劉志剛，單海波，蔣忠軍北京六方云信息技術(shù)有限公司

關(guān)鍵詞：人工智能安全、工業(yè)互聯(lián)網(wǎng)安全、鋼鐵縱深防御體系、未知威脅檢測、工業(yè)安全態(tài)勢監測與風(fēng)險評估

1　項目概況

1.1　項目背景

隨著(zhù)國內外工業(yè)控制系統網(wǎng)絡(luò )信息安全形勢越來(lái)越嚴峻，國家工信部陸續發(fā)布了《加強工業(yè)互聯(lián)網(wǎng)安全工作的指導意見(jiàn)》《關(guān)于加強工業(yè)控制系統信息安全管理的通知》《工業(yè)控制系統信息安全防護指南》等一系列的工業(yè)信息安全防護文件，強調了加強工業(yè)控制系統信息安全管理的重要性和緊迫性，并明確了核設施、鋼鐵、有色、石油石化、電力等與國計民生緊密相關(guān)領(lǐng)域的工業(yè)控制系統信息安全管理要求。

鋼鐵企業(yè)是典型的生產(chǎn)、資金、技術(shù)密集型企業(yè)，其生產(chǎn)連續性強，生產(chǎn)系統耦合性高，加之近年我國眾多鋼鐵企業(yè)不斷推進(jìn)智能化建設，尤其是在工業(yè)控制系統方面大量投入，以實(shí)現企業(yè)的智能化升級轉型。其主要應用的工業(yè)控制系統PCS、DCS、PLC、SCADA等，不僅越來(lái)越注重系統開(kāi)放性設計，且多采用第三方集成，操作端PC化，這一改進(jìn)大大降低了用戶(hù)的投資與維護成本。但與此同時(shí)，其面臨的網(wǎng)絡(luò )風(fēng)險也越來(lái)越嚴峻。如何有效地防范來(lái)自?xún)炔炕蛲獠康墓?，做好工控系統網(wǎng)絡(luò )安全的防護工作，確保生產(chǎn)系統的穩定可靠，是鋼鐵行業(yè)工控系統信息安全亟待解決的問(wèn)題。從應用案例經(jīng)驗總結來(lái)看，目前鋼鐵行業(yè)的工控系統管理缺失、防護手段落后、工業(yè)網(wǎng)絡(luò )病毒、設備漏洞和后門(mén)、持續性威脅APT、無(wú)線(xiàn)技術(shù)等問(wèn)題是其重要關(guān)注點(diǎn)，這些問(wèn)題一旦發(fā)生，將會(huì )導致重大經(jīng)濟損失，威脅人員安全，造成惡劣的社會(huì )影響。

本方案以鋼鐵行業(yè)安全現狀為背景，結合某鋼鐵企業(yè)現存安全問(wèn)題，制定了具備前瞻性、可落地性的工業(yè)網(wǎng)絡(luò )安全防御解決方案。

1.2　項目簡(jiǎn)介

本方案將以工信部發(fā)布的工業(yè)互聯(lián)網(wǎng)企業(yè)網(wǎng)絡(luò )安全分類(lèi)分級指南相關(guān)要求為基礎，結合《工業(yè)互聯(lián)網(wǎng)安全框架》《數據安全法》《工業(yè)互聯(lián)網(wǎng)企業(yè)分類(lèi)分級管理試點(diǎn)方案》及《工業(yè)互聯(lián)網(wǎng)平臺安全總體（防護）要求》，分析工業(yè)互聯(lián)網(wǎng)鋼鐵類(lèi)的實(shí)際安全需求，結合其業(yè)務(wù)的實(shí)際特性，建立符合系統實(shí)際安全需求的網(wǎng)絡(luò )安全保障體系框架，設計安全保障體系方案，綜合提升系統的安全保障能力和防護水平，確保系統的安全穩定運行。

工業(yè)互聯(lián)網(wǎng)安全包括保密性、完整性、可用性、可靠性、彈性和隱私六大目標，這些目標相互補充，共同構成了保障工業(yè)互聯(lián)網(wǎng)安全的關(guān)鍵特性。

（1）保密性：確保信息在存儲、使用、傳輸過(guò)程中不會(huì )泄漏給非授權用戶(hù)或實(shí)體。

（2）完整性：確保信息在存儲、使用、傳輸過(guò)程中不會(huì )被非授權用戶(hù)篡改，同時(shí)還要防止授權用戶(hù)對系統及信息進(jìn)行不恰當的篡改，保持信息內、外部表示的一致性。

（3）可用性：確保授權用戶(hù)或實(shí)體對信息及資源的正常使用不會(huì )被異常拒絕，允許其可靠而及時(shí)地訪(fǎng)問(wèn)信息及資源。

（4）可靠性：確保工業(yè)互聯(lián)網(wǎng)系統在其壽命區間內以及在正常運行條件下能夠正確執行指定功能。

（5）彈性：確保工業(yè)互聯(lián)網(wǎng)系統在受到攻擊或破壞后恢復正常功能。

（6）隱私安全：確保工業(yè)互聯(lián)網(wǎng)系統內用戶(hù)的隱私安全。

1.3　項目目標

本項目根據某鋼鐵企業(yè)發(fā)展規劃及投資計劃，結合國家關(guān)于工業(yè)互聯(lián)網(wǎng)安全建設相關(guān)政策，本著(zhù)投入產(chǎn)出最大化的原則，結合工業(yè)互聯(lián)網(wǎng)企業(yè)網(wǎng)絡(luò )安全分類(lèi)分級指南聯(lián)網(wǎng)工業(yè)企業(yè)增強級（三級）要求，完善工控安全防護措施。本次企業(yè)分類(lèi)分級安全防護對象包括設備、控制、網(wǎng)絡(luò )、應用、數據五大對象，如圖1所示。內容具體包括：

圖1 企業(yè)分類(lèi)分級安全防護對象示意圖

（1）設備安全防護：包括工廠(chǎng)內的智能器件、成套智能終端等智能設備的安全，以及智能產(chǎn)品的安全，具體涉及操作系統/應用軟件安全、終端計算機安全、控制設備安全、存儲介質(zhì)安全等。

（2）控制安全防護：控制協(xié)議安全、控制軟件安全以及控制功能安全，包括工業(yè)控制設備間的通信工業(yè)控制協(xié)議、聯(lián)網(wǎng)控制系統安全、組態(tài)軟件安全、工業(yè)數據庫安全、配置安全、運維安全等。其中，聯(lián)網(wǎng)控制系統是指應用工業(yè)互聯(lián)網(wǎng)服務(wù)的工業(yè)控制系統。

（3）網(wǎng)絡(luò )安全防護：包括組網(wǎng)安全、架構安全、連接安全、網(wǎng)絡(luò )設備安全、安全設備安全等。

（4）數據安全防護：涉及采集、傳輸、存儲、處理等各個(gè)環(huán)節的數據，包括研發(fā)域數據、生產(chǎn)域數據、運維域數據、管理域數據、外部域數據、個(gè)人信息域數據等。

（5）工業(yè)App應用軟件安全防護：包括安裝、卸載、身份認證、口令安全機制、訪(fǎng)問(wèn)控制、實(shí)現安全、升級安全、容錯性、資源占用安全等。

項目建設主要從工業(yè)設備安全防護、控制安全防護、網(wǎng)絡(luò )安全防護、數據安全防護、工業(yè)App應用安全防護等角度進(jìn)行安全防護設計和建設；針對工控系統內部網(wǎng)絡(luò )流量和協(xié)議的安全審計層面進(jìn)行數據安全防護，達到對工業(yè)互聯(lián)網(wǎng)企業(yè)分類(lèi)分級增強級（三級）安全防護，逐步實(shí)施，最終滿(mǎn)足工業(yè)聯(lián)網(wǎng)企業(yè)分類(lèi)分級管理防護的相關(guān)要求。

目標一：建設工業(yè)網(wǎng)絡(luò )邊界安全防護及工控設備計算環(huán)境安全防護，完善安全管理手段。

通過(guò)技術(shù)手段在工控網(wǎng)絡(luò )邊界部署安全產(chǎn)品，以集團分公司為單位，對安全生產(chǎn)業(yè)務(wù)區域網(wǎng)絡(luò )和管理信息區域網(wǎng)絡(luò )進(jìn)行安全域的劃分，明確重要數據的構成及數據流動(dòng)方向，進(jìn)行分區分域邊界防護，構建可信工控系統，加強區域之間的訪(fǎng)問(wèn)控制，加強系統與系統之間通信協(xié)議的安全防范，從而防止網(wǎng)絡(luò )攻擊與威脅；保證工業(yè)生產(chǎn)設備計算環(huán)境安全，打造工控安全計算白環(huán)境，部署統一運維平臺進(jìn)行工控網(wǎng)絡(luò )安全工作高效可靠管理；建立健全網(wǎng)絡(luò )安全責任制度，完善鋼鐵企業(yè)工控網(wǎng)絡(luò )安全管理體系，將網(wǎng)絡(luò )安全納入考核，即利用技術(shù)手段和管理手段保證鋼鐵企業(yè)安全生產(chǎn)。

目標二：建設完善的安全審計措施和未知威脅檢測與回溯系統，完善縱深防御體系。

通過(guò)旁路監聽(tīng)與智能分析技術(shù)，對系統的控制、采集請求、網(wǎng)絡(luò )行為進(jìn)行詳細的審計，對攻擊及時(shí)預警；建立事前攻擊的提前發(fā)現和預防，事中攻擊的主動(dòng)檢測、主動(dòng)防御，事后及時(shí)溯源，做到應急響應；同時(shí)構建清晰的集團資產(chǎn)互訪(fǎng)拓撲，對攻擊場(chǎng)景進(jìn)行還原，對每個(gè)攻擊階段進(jìn)行回溯分析，通過(guò)豐富的可視化技術(shù)進(jìn)行多維呈現。

目標三：建設網(wǎng)絡(luò )安全監測預警與信息通報平臺，制定網(wǎng)絡(luò )安全應急預案。

建立針對集團各分公司工業(yè)互聯(lián)網(wǎng)安全監測預警、信息通報、應急處置手段，提高威脅信息的共享，對監測發(fā)現的安全風(fēng)險隱患及時(shí)通報相關(guān)企業(yè)；實(shí)現工業(yè)設備資產(chǎn)感知、工業(yè)漏洞感知、工業(yè)配置感知、工業(yè)協(xié)議識別和分析、工業(yè)連接和網(wǎng)絡(luò )行為感知、工業(yè)僵尸、木馬、蠕蟲(chóng)檢測、工業(yè)攻擊鏈的監測和分析等安全態(tài)勢感知功能，實(shí)時(shí)識別和預警工業(yè)控制網(wǎng)絡(luò )和工業(yè)互聯(lián)網(wǎng)絡(luò )的安全威脅，及時(shí)與工業(yè)安全設備聯(lián)動(dòng)實(shí)現協(xié)同防護，并提供攻擊回溯取證和安全態(tài)勢定期報表，為制定工控安全策略提供支撐，形成安全閉環(huán)，進(jìn)而實(shí)現工業(yè)控制網(wǎng)絡(luò )和工業(yè)互聯(lián)網(wǎng)絡(luò )安全威脅的可視、可控、可管；制定網(wǎng)絡(luò )安全應急預案，定期開(kāi)展應急演練，發(fā)現重大網(wǎng)絡(luò )安全風(fēng)險和事件；定期開(kāi)展網(wǎng)絡(luò )安全風(fēng)險評估，及時(shí)采取針對性有效防范措施。

2　項目實(shí)施

2.1　方案技術(shù)架構

本方案將構建一套基于人工智能的工業(yè)網(wǎng)絡(luò )安全防護系統，其采用的技術(shù)及產(chǎn)品是涉及多個(gè)不同安全技術(shù)領(lǐng)域的復雜工作。本方案技術(shù)架構圖如圖2所示。

圖2 方案技術(shù)架構圖

2.1.1　制定鋼鐵企業(yè)工業(yè)控制系統網(wǎng)絡(luò )安全防護建設規劃

鋼鐵行業(yè)工業(yè)控制網(wǎng)絡(luò )拓撲結構復雜，受產(chǎn)品類(lèi)型、廠(chǎng)商及工業(yè)流程等影響，企業(yè)內部也會(huì )呈現類(lèi)型各異的網(wǎng)絡(luò )接入方式和拓撲架構。因此，對工業(yè)網(wǎng)絡(luò )的安全防護，需要能夠適應網(wǎng)絡(luò )層、應用層及內容層與IT網(wǎng)絡(luò )的巨大差異，進(jìn)行有針對性的識別與控制，并屏蔽工業(yè)網(wǎng)絡(luò )自身的差異性，實(shí)現一致的安全防護效果。

網(wǎng)絡(luò )安全防護從防護對象、防護措施及防護管理三個(gè)視角構建，形成網(wǎng)絡(luò )安全防護框架。該框架針對不同的防護對象部署相應的安全防護措施，并根據實(shí)時(shí)監測結果發(fā)現網(wǎng)絡(luò )中存在的或即將發(fā)生的安全問(wèn)題并及時(shí)做出響應。同時(shí)加強防護管理，明確基于安全目標持續改進(jìn)的管理方針，保障工業(yè)互聯(lián)網(wǎng)的持續安全。安全框架如圖3所示。

圖3 網(wǎng)絡(luò )安全防護框架

其中，防護對象視角涵蓋設備、控制、網(wǎng)絡(luò )、應用和數據五大安全重點(diǎn)；防護措施視角包括威脅防護、監測感知和處置恢復三大環(huán)節，如圖4所示，威脅防護環(huán)節針對五大防護對象部署主被動(dòng)安全防護措施，監測感知和處置恢復環(huán)節通過(guò)信息共享、監測預警、應急響應等一系列安全措施、機制的部署增強動(dòng)態(tài)安全防護能力；防護管理視角根據工業(yè)互聯(lián)網(wǎng)安全目標對其面臨的安全風(fēng)險進(jìn)行安全評估，并選擇適當的安全策略作為指導，實(shí)現防護措施的有效部署。

網(wǎng)絡(luò )安全防護安全框架的三個(gè)防護視角之間相對獨立，但彼此之間又相互關(guān)聯(lián)。從防護對象視角來(lái)看，安全框架中的每個(gè)防護對象，都需要采用一組合理的防護措施并配備完備的防護管理流程對其進(jìn)行安全防護；從防護措施視角來(lái)看，每一類(lèi)防護措施都有其適用的防護對象，并在具體防護管理流程指導下發(fā)揮作用；從防護管理視角來(lái)看，防護管理流程的實(shí)現離不開(kāi)對防護對象的界定，并需要各類(lèi)防護措施的有機結合使其能夠順利運轉。工業(yè)互聯(lián)網(wǎng)安全框架的三個(gè)防護視角相輔相成、互為補充，形成一個(gè)完整、動(dòng)態(tài)、持續的防護體系。

圖4 防護措施視角示意圖

2.2　方案建設內容

2.2.1　建設基于人工智能技術(shù)的網(wǎng)絡(luò )安全綜合防御平臺

鋼鐵企業(yè)工業(yè)網(wǎng)絡(luò )安全邊界劃分不明確，并允許從其他安全分區（如辦公內網(wǎng)）甚至可能允許與Internet連接的設備進(jìn)行訪(fǎng)問(wèn)。當一個(gè)安全區域內的網(wǎng)絡(luò )受到攻擊和入侵時(shí)，會(huì )迅速向其他區域橫向擴散，造成大規模嚴重性安全事件。為此，嚴格劃分網(wǎng)絡(luò )區域，并在邊界處部署防護系統是安全建設的基礎。

建設工業(yè)網(wǎng)絡(luò )安全防護系統。工業(yè)控制系統安全防護系統主要針對工業(yè)控制設備的安全防護，在PLC等控制設備本身難以快速實(shí)現安全能力集成的情況下，通過(guò)在接入網(wǎng)絡(luò )層增加工業(yè)網(wǎng)絡(luò )安全防護系統實(shí)現防攻擊、防病毒、防入侵、防竊密、防控制能力。

建設工業(yè)主機安全防護系統，加強工業(yè)App的安全防護。工業(yè)主機是工控網(wǎng)絡(luò )中較為脆弱的節點(diǎn)，自身漏洞較多，操作版本老舊，往往已經(jīng)失去了補丁支持；工業(yè)App軟件多數是定制開(kāi)發(fā)的，軟件開(kāi)發(fā)程序不規范，具有較多的漏洞和安全風(fēng)險；操作系統和工業(yè)App軟件由人操作帶來(lái)惡意操作和誤操作的可能性增加，且性能、更新和兼容性問(wèn)題導致一般的防病毒機制難以生效。多方面的隱患下，工業(yè)主機的極高權限造成一旦攻擊突破單臺設備即可對工控網(wǎng)絡(luò )造成嚴重的破壞，對其的防護必須根據工業(yè)主機自身的特點(diǎn)進(jìn)行特殊的功能集合設計，并通過(guò)較低的系統開(kāi)銷(xiāo)，實(shí)現對攻擊行為的有效控制。

建設工業(yè)數據保護系統。工業(yè)應用與數據的保護，其重點(diǎn)在于對主客體的細粒度控制和攻擊洞察，確保被授權人在授權的訪(fǎng)問(wèn)內妥善地執行業(yè)務(wù)并操作數據，同時(shí)識別并阻斷其中的攻擊行為，實(shí)現對工業(yè)應用及數據的保護。

2.2.2　建設基于人工智能技術(shù)的威脅檢測與安全防護系統

傳統的網(wǎng)絡(luò )安全建設往往停留在被動(dòng)防御狀態(tài)，導致網(wǎng)絡(luò )安全運維人員無(wú)法看清全網(wǎng)網(wǎng)絡(luò )安全狀態(tài)，無(wú)法回答“當前網(wǎng)絡(luò )有沒(méi)有網(wǎng)絡(luò )安全問(wèn)題，問(wèn)題的來(lái)源在哪里，會(huì )不會(huì )擴散”等網(wǎng)絡(luò )安全治理的本質(zhì)問(wèn)題，即使建設了等級保護的技術(shù)體系，也無(wú)法對未知威脅和高級威脅進(jìn)行識別和防護，無(wú)法抵御高級持續性威脅APT攻擊。本方案將建設一套完整的“事前有防范、事中有應對、事后有追溯”的主動(dòng)防御的網(wǎng)絡(luò )安全技術(shù)體系，實(shí)現全網(wǎng)的網(wǎng)絡(luò )安全狀態(tài)快速預警，協(xié)調全網(wǎng)安全設備和網(wǎng)絡(luò )設備實(shí)現持續防護和快速處置。該系統通過(guò)挖掘海量數據關(guān)聯(lián)關(guān)系，自動(dòng)發(fā)現企業(yè)內網(wǎng)數據資產(chǎn)，建立數據資產(chǎn)臺賬，構建清晰的資產(chǎn)互訪(fǎng)拓撲，并評估資產(chǎn)風(fēng)險狀況；通過(guò)采集各類(lèi)日志數據、原始流量及元數據（netflow），識別出網(wǎng)絡(luò )內資產(chǎn)的源IP地址和目標IP地址、URL數據和SQL語(yǔ)句數據以及特定的數據，結合IP地址識別并過(guò)濾出應用服務(wù)器和數據庫服務(wù)器，利用SQL解析識別出數據表、字段及表間關(guān)系，利用URL解析識別出目標頁(yè)面，使業(yè)務(wù)系統中的頁(yè)面對應的功能、頁(yè)面訪(fǎng)問(wèn)數據的邏輯，以及數據的組成達到全面掌握，解決數據血緣關(guān)系自動(dòng)識別的工作，從而為數據安全提供保障；針對每個(gè)攻擊事件，采用攻擊鏈聚合對每個(gè)攻擊階段進(jìn)行回溯分析，并留存攻擊取證報文，通過(guò)豐富的可視化技術(shù)進(jìn)行多維呈現。

2.2.3　建設基于人工智能技術(shù)的安全態(tài)勢監測與風(fēng)險評估系統，實(shí)時(shí)監測安全風(fēng)險

基于人工智能技術(shù)的安全態(tài)勢監測與風(fēng)險評估系統作為構建一體化動(dòng)態(tài)綜合防御體系的基石，是安全綜合防護系統面向安全和系統管理人員進(jìn)行統一管理、整體趨勢查看、安全事件追溯的綜合辦事中心，應以安全態(tài)勢感知為基礎，對日常安全防護中需要的用戶(hù)身份、策略調試、遠程運維及資產(chǎn)與漏洞狀態(tài)等進(jìn)行統一的運維管控，并將重要信息報送至安全態(tài)勢感知平臺，同時(shí)通過(guò)態(tài)勢感知系統的智能分析與建議功能，全面提高安全防護的水平。

2.3　關(guān)鍵技術(shù)的難點(diǎn)

2.3.1　工業(yè)軟硬件設備安全檢測難

工業(yè)企業(yè)網(wǎng)絡(luò )中設備和軟件的種類(lèi)繁多，規格、通信協(xié)議、數據種類(lèi)和規約各異，數據密集型應用交互復雜，使得工業(yè)企業(yè)網(wǎng)絡(luò )在軟硬件設備擴展時(shí)存在一定的安全隱患。因此，在工業(yè)企業(yè)進(jìn)行設備和系統更新與擴展的過(guò)程中，需要對工業(yè)企業(yè)網(wǎng)絡(luò )內的軟硬件安全防護進(jìn)行實(shí)時(shí)的檢測，保證網(wǎng)絡(luò )系統不受到外部攻擊。而安全檢測是一個(gè)持續的過(guò)程，如何在不妨礙系統正常運行，不破壞完成工作流程的情況下進(jìn)行安全檢測也是一個(gè)亟待解決的難題。

2.3.2　工業(yè)網(wǎng)絡(luò )安全動(dòng)態(tài)防護難

傳統的工業(yè)企業(yè)網(wǎng)絡(luò )安全防護基于分區、分域、隔離的靜態(tài)防護技術(shù)，安全策略決策方法主要集中在信息域防護，決策依據相對單一，不能適應工業(yè)控制系統信息安全防護需兼顧信息域和物理域安全、成本、性能等多因素平衡的特點(diǎn)，具有一定的滯后性，無(wú)法應對層出不窮的未知攻擊。針對工控系統的攻擊，一旦突破到系統現場(chǎng)層，輕則引起產(chǎn)品的減產(chǎn)降質(zhì)，重則造成重特大安全事故，引起人員傷亡、環(huán)境污染，危及公共生活乃至國家安全。工業(yè)過(guò)程系統的網(wǎng)絡(luò )安全防護的核心和焦點(diǎn)是保證過(guò)程系統的安全運行，它的防護必須是深度結合系統運行特點(diǎn)，保障工業(yè)控制系統的動(dòng)態(tài)安全，具備較高的可行性。

本項目針對工業(yè)安全靜態(tài)防護響應模式固定、易被攻擊者利用的問(wèn)題，采用主動(dòng)安全防護技術(shù)，設計了一種動(dòng)態(tài)安全防護架構，在傳統的靜態(tài)防護的基礎上，構建安全策略生成、協(xié)調與調度方法，利用軟件定義網(wǎng)絡(luò )完成對工業(yè)控制系統進(jìn)行實(shí)時(shí)入侵檢測，實(shí)現主動(dòng)動(dòng)態(tài)防御。

2.3.3　工業(yè)網(wǎng)絡(luò )入侵樣本分析難

在傳統工業(yè)網(wǎng)絡(luò )入侵檢測領(lǐng)域普遍應用的隱馬爾可夫模型、遺傳算法、粒子群算法和神經(jīng)網(wǎng)絡(luò )等算法，都是基于經(jīng)驗風(fēng)險最小化原理的機器學(xué)習算法，其檢測的準確性與獲得樣本的數量有很大的關(guān)系，對于獲得的樣本是大樣本、完備的網(wǎng)絡(luò )數據檢測效果較好。而網(wǎng)絡(luò )入侵數據是一種高維和冗余數據，傳統機器學(xué)習檢測方法無(wú)法進(jìn)行很好降維，且基于大樣本數據，入侵檢測率低，導致機器學(xué)習方法檢測的實(shí)際準確率與理論效果存在一定的差距。而且網(wǎng)絡(luò )入侵檢測數據具有較高的維數，因此數據就包含了大量的與網(wǎng)絡(luò )入侵檢測無(wú)關(guān)屬性，大大地降低了工業(yè)企業(yè)網(wǎng)絡(luò )中入侵監測的效率。項目采用基于無(wú)監督算法的攻擊行為自動(dòng)學(xué)習技術(shù)，采用樣本分析對網(wǎng)絡(luò )入侵原始數據進(jìn)行降維優(yōu)化，利用工業(yè)企業(yè)網(wǎng)絡(luò )安全的特點(diǎn)建立機器學(xué)習引擎，對分析得到的數據自動(dòng)學(xué)習提取新的規則與特征。

2.3.4　人工智能技術(shù)本身的安全風(fēng)險防范難

人工智能技術(shù)有巨大的潛能改變人類(lèi)命運，但同樣可以被惡意攻擊者利用，用以制作高級持續性威脅。即使是人工智能算法本身，也能被惡意攻擊者影響，導致AI系統判斷失準。在工業(yè)、醫療、交通、監控等關(guān)鍵領(lǐng)域，安全危害尤為巨大；如果AI系統被惡意攻擊，輕則造成財產(chǎn)損失，重則威脅人身安全。

AI安全風(fēng)險不僅僅存在于理論分析，并且真實(shí)地存在于現今各種AI應用中。例如攻擊者通過(guò)修改惡意文件繞開(kāi)惡意文件檢測或惡意流量檢測等基于A(yíng)I的檢測工具；加入簡(jiǎn)單的噪音，致使家中的語(yǔ)音控制系統成功調用惡意應用；刻意修改終端回傳的數據或刻意與聊天機器人進(jìn)行某些惡意對話(huà)，導致后端AI系統預測錯誤；在交通指示牌或其他車(chē)輛上貼上或涂上一些小標記，致使自動(dòng)駕駛車(chē)輛的判斷錯誤。

應對上述AI安全風(fēng)險，AI系統在設計上面臨五大安全挑戰：

（1）軟硬件的安全

在軟件及硬件層面，包括應用、模型、系統和芯片，編碼都可能存在漏洞或后門(mén)；攻擊者能夠利用這些漏洞或后門(mén)實(shí)施高級攻擊。在A(yíng)I模型層面上，攻擊者同樣可能在模型中植入后門(mén)并實(shí)施高級攻擊；由于A(yíng)I模型的不可解釋性，在模型中植入的惡意后門(mén)難以被檢測。

（2）數據完整性

在數據層面，攻擊者能夠在訓練階段摻入惡意數據，影響AI模型推理能力；攻擊者同樣可以在判斷階段對要判斷的樣本加入少量噪音，刻意改變判斷結果。

（3）模型保密性

在模型參數層面，服務(wù)提供者往往只希望提供模型查詢(xún)服務(wù)，而不希望暴露自己訓練的模型；但通過(guò)多次查詢(xún)，攻擊者能夠構建出一個(gè)相似的模型，進(jìn)而獲得模型的相關(guān)信息。

（4）模型魯棒性

訓練模型時(shí)的樣本往往覆蓋性不足，使得模型魯棒性不強；模型面對惡意樣本時(shí)，無(wú)法給出正確的判斷結果。

（5）數據隱私

在用戶(hù)提供訓練數據的場(chǎng)景下，攻擊者能夠通過(guò)反復查詢(xún)訓練好的模型獲得用戶(hù)的隱私信息。

面向人工智能自身安全風(fēng)險，本項目系統實(shí)現增強AI模型本身的安全性，避免可能的針對人工智能技術(shù)的攻擊。

（1）網(wǎng)絡(luò )蒸餾：網(wǎng)絡(luò )蒸餾技術(shù)的基本原理是在模型訓練階段，對多個(gè)DNN進(jìn)行串聯(lián)，其中前一個(gè)DNN生成的分類(lèi)結果被用于訓練后一個(gè)DNN。有學(xué)者發(fā)現轉移知識可以一定程度上降低模型對微小擾動(dòng)的敏感度，提高AI模型的魯棒性，于是提出將網(wǎng)絡(luò )蒸餾技術(shù)用于防御閃避攻擊，并在MNIST和CIFAR-10數據集上測試，發(fā)現該技術(shù)可使特定攻擊（如JSMA）的成功率降低。

（2）對抗訓練：該技術(shù)的基本原理是在模型訓練階段，使用已知的各種攻擊方法生成對抗樣本，再將對抗樣本加入模型的訓練集中，對模型進(jìn)行單次或多次重訓練，生成可以抵抗攻擊擾動(dòng)的新模型。同時(shí)，由于綜合多個(gè)類(lèi)型的對抗樣本使得訓練集數據增多，該技術(shù)不但可以增強新生成模型的魯棒性，還可以增強模型的準確率和規范性。

（3）對抗樣本檢測：該技術(shù)的原理為在模型的使用階段，通過(guò)增加外部檢測模型或原模型的檢測組件來(lái)檢測待判斷樣本是否為對抗樣本。在輸入樣本到達原模型前，檢測模型會(huì )判斷其是否為對抗樣本。檢測模型也可以在原模型每一層提取相關(guān)信息，綜合各種信息來(lái)進(jìn)行檢測。各類(lèi)檢測模型可能依據不同標準來(lái)判斷輸入是否為對抗樣本。例如，輸入樣本和正常數據間確定性的差異可以用來(lái)當作檢測標準；對抗樣本的分布特征、輸入樣本的歷史都可以成為判別對抗樣本的依據。

（4）輸入重構：該技術(shù)的原理是在模型的使用階段，通過(guò)將輸入樣本進(jìn)行變形轉化來(lái)對抗閃避攻擊，變形轉化后的輸入不會(huì )影響模型的正常分類(lèi)功能。重構方法包括對輸入樣本加噪、去噪和使用自動(dòng)編碼器（autoencoder）改變輸入樣本等方法。

（5）DNN模型驗證：類(lèi)似軟件驗證分析技術(shù)，DNN模型驗證技術(shù)使用求解器（solver）來(lái)驗證DNN模型的各種屬性，如驗證在特定擾動(dòng)范圍內沒(méi)有對抗樣本。但是通常驗證DNN模型是NP完全問(wèn)題，求解器的效率較低。通過(guò)取舍和優(yōu)化，如對模型節點(diǎn)驗證的優(yōu)先度選擇、分享驗證信息、按區域驗證等，可以進(jìn)一步提高DNN模型驗證運行效率。

2.4　關(guān)鍵技術(shù)的創(chuàng )新點(diǎn)

2.4.1　基于人工智能的主動(dòng)安全防護技術(shù)

本項目在傳統的靜態(tài)防護的基礎上，結合工業(yè)企業(yè)網(wǎng)絡(luò )安全防護的需求，設計了一種動(dòng)態(tài)安全防護架構。該防護架構利用OpenFlow協(xié)議實(shí)現將控制平面與數據平面的分離，通過(guò)軟件定義網(wǎng)絡(luò )鏡像獲取工業(yè)控制系統現場(chǎng)數據，基于LSTM和Snort對工業(yè)控制系統進(jìn)行實(shí)時(shí)入侵檢測，編程獲取工業(yè)控制系統網(wǎng)絡(luò )流量進(jìn)行監測和分析，發(fā)現異常后通過(guò)軟件定義網(wǎng)絡(luò )實(shí)現隔離、重定向等安全響應手段，執行端口跳變、拓撲跳變、流量清洗等防護策略，在不更改硬件設備的前提下形成檢測響應的安全閉環(huán)，阻止攻擊對系統造成破壞。與此同時(shí)，將移動(dòng)防御技術(shù)引入工業(yè)控制系統，基于軟件定義網(wǎng)絡(luò )實(shí)現工業(yè)控制系統的拓撲變換和IP/端口跳變，迷惑和欺騙攻擊者，從根源上防止攻擊的發(fā)生。通過(guò)性能測試和攻防實(shí)驗驗證，該防護架構滿(mǎn)足工業(yè)控制系統通信時(shí)效性要求，能夠保障工業(yè)控制系統的動(dòng)態(tài)安全，具備較高的可行性。該架構基于多目標優(yōu)化的安全策略決策方法，在深入分析攻擊傳播的基礎上，構建覆蓋信息域和物理域的備選安全策略生成方法，確保策略空間的完備性，能夠自適應當前安全態(tài)勢，所求最優(yōu)解具備不可預測的特點(diǎn)，克服了傳統安全防護技術(shù)響應模式固定、易被攻擊者利用的不足的缺點(diǎn)。

同時(shí)，考慮到大多數工業(yè)控制系統為避免關(guān)鍵功能失效而部署有功能安全策略，因此項目針對構建的信息安全策略研究功能安全策略的協(xié)調與調度方法，負責兩類(lèi)安全策略的有效實(shí)施。針對策略潛在的沖突問(wèn)題，本項目從系統功能的角度，分析工業(yè)控制系統信息安全策略與功能安全策略間的關(guān)系，制定策略沖突協(xié)調規則，依此動(dòng)態(tài)協(xié)調當前安全態(tài)勢下所制定的信息安全策略和功能安全策略，獲得無(wú)沖突安全相關(guān)策略。針對策略實(shí)施優(yōu)化問(wèn)題，本項目從功能失效風(fēng)險的角度，評估安全策略對系統防護的作用，以此為目標，在工業(yè)控制系統的實(shí)時(shí)性等多約束條件下，構建無(wú)沖突安全相關(guān)策略與系統功能性任務(wù)間的一體化調度，尋求最優(yōu)的任務(wù)實(shí)施方案，保障安全相關(guān)策略和系統功能性任務(wù)的平滑實(shí)施。

2.4.2　鋼鐵行業(yè)資產(chǎn)自動(dòng)識別與可視化技術(shù)

工業(yè)互聯(lián)網(wǎng)安全的頭號威脅是資產(chǎn)可見(jiàn)性，工業(yè)互聯(lián)網(wǎng)資產(chǎn)體量大、種類(lèi)多、拓撲復雜，單純依賴(lài)人工登記匯總難以梳理?；谝幌到y、多探針、全場(chǎng)景的系統架構，可以大規模地審計和分析網(wǎng)絡(luò )中每一臺資產(chǎn)的鏡像流量、通信協(xié)議、設備日志。借助設備指紋技術(shù)和高性能聚類(lèi)等無(wú)監督的人工智能算法，并融合網(wǎng)絡(luò )準入管理、終端監測與響應EDR、網(wǎng)絡(luò )監測與響應NDR、用戶(hù)實(shí)體行為分析UEBA等數據分析技術(shù)，可以無(wú)需人工干預地智能生成不同業(yè)務(wù)資產(chǎn)群集，并自動(dòng)生成資產(chǎn)之間的拓撲層級，實(shí)現高階網(wǎng)絡(luò )拓撲的三維可視化。隨著(zhù)時(shí)間的變化，圖形化動(dòng)態(tài)展示資產(chǎn)群集之內和之間的通信行為，用于資產(chǎn)行為深度可視化。

在自動(dòng)生成資產(chǎn)群集的基礎上，通過(guò)對資產(chǎn)群集之間的網(wǎng)絡(luò )通信行為基于隱馬爾可夫、生成對抗網(wǎng)絡(luò )、時(shí)間序列等機器學(xué)習算法建模和檢測，可以有效發(fā)現異常內聯(lián)、異常外聯(lián)、賬號失竊、數據泄露等內網(wǎng)高級持續性威脅行為。如在某企業(yè)內網(wǎng)中發(fā)現某區域一臺資產(chǎn)A與管理區多臺服務(wù)器在幾天內進(jìn)行了多次聯(lián)接，并且傳輸了大量數據，雖然從流量中沒(méi)有發(fā)現任何已知的惡意特征，但人工智能算法仍然能敏銳地覺(jué)察，該資產(chǎn)與其同類(lèi)設備的行為不同，并進(jìn)一步與該資產(chǎn)的歷史行為進(jìn)行比較，發(fā)現該資產(chǎn)已經(jīng)被惡意代碼控制。

工業(yè)互聯(lián)網(wǎng)安全需要統籌考慮信息安全、功能安全與物理安全，聚焦信息安全，主要解決工業(yè)互聯(lián)網(wǎng)面臨的網(wǎng)絡(luò )攻擊等新型風(fēng)險，并考慮其信息安全防護措施的部署可能對功能安全和物理安全帶來(lái)的影響。該系統核心以人工智能技術(shù)提供支持，通過(guò)被動(dòng)監控OT和IT的網(wǎng)絡(luò )流量，自動(dòng)為系統中的每個(gè)用戶(hù)、設備和控制器建?！吧钅Ｊ健?。通過(guò)這樣做，它可以學(xué)習“正?！毙袨?，然后可以在很早的階段發(fā)現潛在問(wèn)題或網(wǎng)絡(luò )威脅，然后再升級為危機或造成重大損害。至關(guān)重要的是，該系統實(shí)時(shí)在線(xiàn)自學(xué)習方法意味著(zhù)它可以學(xué)習“正?！毙袨?，無(wú)論專(zhuān)有協(xié)議或行業(yè)應用的類(lèi)型如何。無(wú)需手動(dòng)調整，定制開(kāi)發(fā)或特殊配置，該技術(shù)可適應其安裝的環(huán)境和系統，并快速生成有意義的結果。由于數據攝取是被動(dòng)的，因此該技術(shù)在工業(yè)互聯(lián)網(wǎng)中易于部署，并且不會(huì )破壞關(guān)鍵ICS（包括工業(yè)設備和機器）的正常運行。

2.4.3　鋼鐵行業(yè)網(wǎng)絡(luò )未知威脅檢測與自主響應技術(shù)

在工業(yè)互聯(lián)網(wǎng)當前形勢下，網(wǎng)絡(luò )安全防御體系更加需要對未知的威脅具有檢測、預警、快速響應等主動(dòng)防御的能力。

本項目以工業(yè)設備行為分析為核心，借助人工智能、大數據挖掘等技術(shù)，建立工業(yè)設備在數字空間的行為基線(xiàn)模型，對現實(shí)工業(yè)互聯(lián)網(wǎng)中的設備資產(chǎn)的行為進(jìn)行實(shí)時(shí)在線(xiàn)的機器學(xué)習，以發(fā)現異常和威脅行為，可以有效降低高級持續性威脅、數據泄漏、病毒感染、操作失誤及其他風(fēng)險。

本項目通過(guò)融合網(wǎng)絡(luò )準入管理、終端監測與響應EDR、網(wǎng)絡(luò )監測與響應NDR、用戶(hù)實(shí)體行為分析UEBA等數據分析技術(shù)，圍繞資產(chǎn)、用戶(hù)、業(yè)務(wù)應用、時(shí)間序列、風(fēng)險等對象，結合機器學(xué)習和人工智能算法，從海量數據中輕松找到用戶(hù)行為之間的關(guān)聯(lián)，為每臺設備和每個(gè)用戶(hù)畫(huà)像，建立起各自的健康模型，形成不同設備和用戶(hù)的健康行為邊界。

正常的行為習慣總是相似的，異常的行為各有各的不同。有了對用戶(hù)“健康行為”的理解，它就能通過(guò)與設備自身歷史行為，以及和同類(lèi)設備的橫向對比，通過(guò)檢測不同行為的偏離度，覺(jué)察出惡意滲透、違規操作等值得注意的“未知風(fēng)險”。同時(shí)，使用多維度的分層算法提供可解釋性，無(wú)需人工制定規則，算法最終可以清晰呈現出哪臺資產(chǎn)，在什么時(shí)候，通過(guò)哪種接入方式接入網(wǎng)絡(luò )，訪(fǎng)問(wèn)了哪些網(wǎng)絡(luò )資源，使用了哪些程序、軟件，做了什么事情。

本項目自動(dòng)學(xué)習客戶(hù)自身的健康行為模式，并不依賴(lài)歷史攻擊樣本的特點(diǎn)，決定了其先天對攻擊的各種變種和繞過(guò)方式免疫。無(wú)論何種攻擊通過(guò)何種繞過(guò)防御，并感染到客戶(hù)的內網(wǎng)，取得C&C服務(wù)器地址，采用無(wú)法破解的加密算法，本項目能夠準確地發(fā)現其與罕見(jiàn)的服務(wù)器進(jìn)行通信與控制，以及其訪(fǎng)問(wèn)內網(wǎng)的異常端口、異常設備進(jìn)行橫向滲透和數據收集的蛛絲馬跡。在攻擊被曝光之前，記錄其行為歷史，清晰地呈現出來(lái)，幫助客戶(hù)準確溯源，及時(shí)采取措施，避免損失進(jìn)一步擴大。健康行為邊界如圖5所示。

圖5 健康行為邊界示意圖

企業(yè)將數據控制權移交給人工智能將會(huì )產(chǎn)生自然的不確定性，但有實(shí)際的好處。使用人工智能進(jìn)行威脅決策和響應，可以比人類(lèi)更快地發(fā)現威脅，并且可以在事先限定的可接受的范圍內更快地做出反應，以防止或減少損害，而無(wú)需手動(dòng)操作，為人工處理贏(yíng)得時(shí)間，避免產(chǎn)生更大的損失。

系統在經(jīng)過(guò)一段時(shí)間的學(xué)習之后，可以在無(wú)需人工干預的前提下，在預先設定的范圍內立刻與其他網(wǎng)絡(luò )設備聯(lián)動(dòng)，針對性對資產(chǎn)的異常數據流行為進(jìn)行臨時(shí)阻斷。

2.4.4　基于人工智能的日志聚類(lèi)自動(dòng)化分析技術(shù)

基于人工智能技術(shù)的威脅檢測與免疫系統貼合工業(yè)互聯(lián)網(wǎng)實(shí)際需求，無(wú)需持續升級特征庫及威脅情報，無(wú)需連接互聯(lián)網(wǎng)。本系統核心為自適應算法，在客戶(hù)的實(shí)際數據網(wǎng)絡(luò )中非侵入式地監控，并實(shí)時(shí)地、迭代地進(jìn)行客戶(hù)設備行為模式的各種變化的學(xué)習，不斷自我優(yōu)化。隨著(zhù)時(shí)間的推移，算法使它不斷提高，越來(lái)越能清楚識別正常的設備行為模式和真實(shí)的攻擊。無(wú)論是OT還是IT環(huán)境，業(yè)務(wù)系統、安全防護系統都會(huì )產(chǎn)生大量的告警日志，但通常面臨如下困境：

大量重復日志，可能會(huì )淹沒(méi)真正有價(jià)值的告警日志；

大量的誤報日志，可能會(huì )掩蓋真實(shí)攻擊日志；

每條日志揭示的信息是離散的，缺少直觀(guān)的關(guān)聯(lián)關(guān)系，一些高級攻擊需要綜合多條告警日志才能夠被發(fā)現；

日志來(lái)自不同類(lèi)型設備、不同的型號，遵循不同設備廠(chǎng)家的日志格式，要解析這些海量無(wú)格式日志的含義并且對設備的日志進(jìn)行綜合分析非常困難；

利用人工智能聚類(lèi)算法和大數據分析，可以對海量日志進(jìn)行自動(dòng)分類(lèi)和特征提取。系統自動(dòng)識別日志可變字段和固定自動(dòng)，實(shí)時(shí)對日志進(jìn)行分類(lèi)聚合，甚至可以將一段時(shí)間數以百萬(wàn)計的日志聚合成幾條或幾十條日志，使“人”更容易識別和分析這些日志中蘊含的真正有價(jià)值的信息和規律，去分析發(fā)現系統存在的安全風(fēng)險。進(jìn)而，系統可以對聚合后的日志根據時(shí)間周期性地建立模型和動(dòng)態(tài)閾值，學(xué)習不同日志之間的統計關(guān)系。一旦網(wǎng)絡(luò )中出現異常時(shí)，系統可以進(jìn)行快速的故障日志定位，找到異常的根因，為威脅快速定位和處理提供依據。

基于機器學(xué)習聚類(lèi)算法的日志聚合技術(shù)，可以進(jìn)行無(wú)格式日志智能分析，實(shí)現了海量的復雜日志自動(dòng)分類(lèi)和聚合，聚合度提高100倍，分析效率提高6倍，可以快速發(fā)現系統威脅。

基于機器學(xué)習聚類(lèi)算法，包括K-Means、層次聚類(lèi)等，可以進(jìn)行在線(xiàn)機器學(xué)習，實(shí)現了海量的復雜日志自動(dòng)分類(lèi)和聚合。該算法能及時(shí)從海量日志中發(fā)現關(guān)鍵事件，事件日志量從1萬(wàn)+條/天聚合到100條/天，查看事件從42天減少到7分鐘，有效解決了現有OT和IT環(huán)境中，業(yè)務(wù)系統、安全防護系統產(chǎn)生大量重復、誤報、離散、無(wú)直觀(guān)關(guān)聯(lián)的告警日志，無(wú)法及時(shí)有效獲得高級攻擊威脅日志信息問(wèn)題而導致的經(jīng)濟損失，保護了工業(yè)設備安全。

3　案例亮點(diǎn)及創(chuàng )新性

3.1　經(jīng)濟效益

工業(yè)企業(yè)信息系統規模不斷擴大、需求不斷更新、自動(dòng)化程度不斷提高，這些工業(yè)信息系統，在給社會(huì )和公眾創(chuàng )造效益的同時(shí)，它們本身的脆弱性，也給工業(yè)企業(yè)的發(fā)展、國家經(jīng)濟建設甚至國家安全帶來(lái)了嚴重的負面影響。隨著(zhù)工業(yè)信息系統安全狀況與企業(yè)經(jīng)濟效益越來(lái)越密切，工業(yè)安全問(wèn)題將直接影響到工業(yè)企業(yè)的企業(yè)經(jīng)營(yíng)和形象。本技術(shù)方案的實(shí)施，能減少工業(yè)企業(yè)因為工業(yè)安全問(wèn)題造成的經(jīng)濟損失，間接帶來(lái)經(jīng)濟效益。

若按照近年各行業(yè)事故數量和經(jīng)濟損失統計估算，本技術(shù)方案推廣應用可以減少30%的事故，提升了社會(huì )的安全穩定，可以減輕企業(yè)上億元的經(jīng)濟損失，保障了人民生活質(zhì)量；同時(shí)有助于各個(gè)應用單位保持安全生產(chǎn)的領(lǐng)先地位和夯實(shí)創(chuàng )新發(fā)展的基礎。

3.2　社會(huì )效益

本技術(shù)方案適合于當前工控系統信息安全的形勢和政策要求，可提升工業(yè)企業(yè)網(wǎng)絡(luò )安全監測和態(tài)勢感知能力，可實(shí)現網(wǎng)絡(luò )安全事件和風(fēng)險的監測、分析、審計、追蹤溯源和風(fēng)險可視化，增強了工業(yè)企業(yè)網(wǎng)絡(luò )安全情報共享和預警通報的能力，實(shí)現了跨部門(mén)之間信息共享和預警通報的通道，做到了信息共享和預警通報及時(shí)、客觀(guān)、準確、完整，提升了工業(yè)企業(yè)網(wǎng)絡(luò )安全事件與報警管理能力、全防護能力、評估能力和工控安全威脅感知能力。

本技術(shù)方案形成了網(wǎng)絡(luò )安全產(chǎn)品可持續為工業(yè)企業(yè)提供網(wǎng)絡(luò )安全預警通報服務(wù)及工控網(wǎng)絡(luò )安全監測系統服務(wù)，提高了工業(yè)企業(yè)生產(chǎn)系統信息安全保障水平，降低了信息安全風(fēng)險，保障了生產(chǎn)系統安全運行。

本方案網(wǎng)絡(luò )安全技術(shù)的應用，會(huì )加快網(wǎng)絡(luò )安全核心技術(shù)和產(chǎn)品的自主研發(fā)可控及國產(chǎn)化水平。當前，國內工業(yè)企業(yè)工控系統核心技術(shù)和產(chǎn)品自主可控水平低，高端產(chǎn)品基本被國外壟斷，通過(guò)常規防御手段無(wú)法完全消除國外產(chǎn)品的后門(mén)、漏洞和缺陷，急需我國自主知識產(chǎn)權的工業(yè)網(wǎng)絡(luò )安全防護產(chǎn)品問(wèn)世及規模應用。本技術(shù)方案通過(guò)產(chǎn)品的應用和配合相關(guān)標準的推廣，大大提高了我國網(wǎng)絡(luò )安全核心技術(shù)和產(chǎn)品的國產(chǎn)化水平。

本技術(shù)方案在工業(yè)企業(yè)的應用實(shí)施，形成了針對工業(yè)企業(yè)的典型的產(chǎn)品應用和深度的行業(yè)融合，形成了新型工業(yè)化產(chǎn)業(yè)示范基地（工業(yè)信息安全），發(fā)揮了先行先試和示范帶動(dòng)作用。

作者簡(jiǎn)介

王智民（1975-），男，四川巴中人，高級工程師，碩士，現就職于北京六方云信息技術(shù)有限公司，主要從事理論物理方面的研究。

劉志剛（1984-），男，山東濰坊人，高級工程師，碩士，現就職于北京六方云信息技術(shù)有限公司，主要從事工商管理方面的研究。

單海波（1988-），男，河北承德人，中級工程師，學(xué)士，現就職于北京六方云信息技術(shù)有限公司，主要從事工業(yè)自動(dòng)化方面的研究。

蔣忠軍（1981-），男，遼寧丹東人，學(xué)士，現就職于北京六方云信息技術(shù)有限公司，主要從事計算機科學(xué)與技術(shù)方面的研究。

摘自《自動(dòng)化博覽》2024年1月刊