自去年底以來(lái)，生成式人工智能熱度高漲，國內公開(kāi)發(fā)布的大模型已達百余個(gè)，不僅帶動(dòng)了人工智能產(chǎn)業(yè)的蓬勃發(fā)展，也為其他產(chǎn)業(yè)注入了新動(dòng)能。

在日前舉辦的第十一屆互聯(lián)網(wǎng)安全大會(huì )（ISC 2023）上，多位專(zhuān)家提出，通用人工智能發(fā)展日益體現出技術(shù)創(chuàng )新快、應用滲透強、經(jīng)濟社會(huì )影響大、國際競爭激烈的特點(diǎn)。但發(fā)展與安全并重，對于當前火熱的人工智能大模型以及人工智能技術(shù)，都需要把數字安全放在更突出的位置，讓數字安全與人工智能技術(shù)融合發(fā)展。

發(fā)展與安全并重

“人工智能是引領(lǐng)新一輪產(chǎn)業(yè)變革的核心技術(shù)引擎，為各領(lǐng)域提供信息化、數字化、智能化的解決方案，正在引發(fā)經(jīng)濟結構重大變革，實(shí)現社會(huì )生產(chǎn)力整體躍升?！敝袊こ淘涸菏苦w江興說(shuō)。

中國工程院院士鄔賀銓認為，以人工智能為代表的數字技術(shù)將重塑數字內容生產(chǎn)方式和消費模式，通用人工智能將實(shí)現知識與數據雙輪驅動(dòng)，把智腦加進(jìn)去，未來(lái)單個(gè)模型有望通過(guò)遷移學(xué)習支持多種業(yè)務(wù)，并能精準選擇節點(diǎn)，有效降低功耗和成本。數字化將逐漸走向智能化高峰，開(kāi)啟人工智能時(shí)代。同時(shí)，數字安全也在不斷發(fā)展演進(jìn)，傳統安全防護的手段亟待升級。

“生成式人工智能正在引發(fā)新一輪智能化浪潮，但也伴隨著(zhù)數據泄露、虛假信息、算法歧視等網(wǎng)絡(luò )和信息安全新挑戰、新問(wèn)題?！敝袊ヂ?lián)網(wǎng)協(xié)會(huì )理事長(cháng)尚冰說(shuō)。

中央網(wǎng)信辦網(wǎng)絡(luò )安全協(xié)調局副局長(cháng)羅鋒盈也表示，當前，生成式人工智能還有很多亟待解決的問(wèn)題，比如生成信息的準確性、真實(shí)性以及價(jià)值觀(guān)等問(wèn)題。

“當前，深度學(xué)習進(jìn)入快速發(fā)展期，但也是一把雙刃劍。如果不能有效應對人工智能安全挑戰，數字社會(huì )、數字經(jīng)濟都會(huì )基礎不牢，成為國家安全戰略最脆弱、最致命的環(huán)節?！编w江興認為，深度學(xué)習人工智能模型存在“三不可”內生安全個(gè)性問(wèn)題，即神經(jīng)網(wǎng)絡(luò )“黑盒”特點(diǎn)導致人工智能存在不可解釋性；深度學(xué)習對訓練樣本過(guò)度依賴(lài)，導致學(xué)習結果的不可判定性；神經(jīng)網(wǎng)絡(luò )前向推進(jìn)的不可逆，導致結果的不可推論性。

“充分數字化，讓企業(yè)、政府、城市成為網(wǎng)絡(luò )安全的主陣地。當大數據成為核心資產(chǎn)后，政府、企業(yè)都面臨數據泄露、丟失的安全威脅。生成式人工智能帶來(lái)的內容安全、安全可控問(wèn)題將更為顯著(zhù)?！?60集團創(chuàng )始人周鴻祎說(shuō)。

國家網(wǎng)信辦等7部門(mén)近日聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，提出國家堅持發(fā)展和安全并重、促進(jìn)創(chuàng )新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng )新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級監管。

創(chuàng )新技術(shù)手段

第十三屆全國政協(xié)經(jīng)濟委員會(huì )副主任蘇波表示，推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展，必須要把保障數據安全放在突出位置。要加快人工智能數據資源建設，創(chuàng )新人工智能技術(shù)手段，完善人工智能數據安全監管體系。

“要用技術(shù)進(jìn)步解決安全風(fēng)險難題，加強人工智能數據安全保護基礎理論研究和技術(shù)研發(fā)。發(fā)展負責任、可信任、能受控的通用人工智能。鼓勵企業(yè)建設完善人工智能開(kāi)源學(xué)習框架，增強框架內置學(xué)習數據和基礎設施。并通過(guò)我國巨大的市場(chǎng)優(yōu)勢，加快培育人工智能開(kāi)源平臺生態(tài)圈和產(chǎn)業(yè)鏈?！碧K波說(shuō)。

我國網(wǎng)絡(luò )安全產(chǎn)業(yè)綜合實(shí)力已顯著(zhù)增強。數據顯示，2022年我國網(wǎng)絡(luò )安全產(chǎn)業(yè)規模近2200億元，北京、長(cháng)沙、成渝地區國家三大網(wǎng)絡(luò )安全產(chǎn)業(yè)園區相繼成立，長(cháng)三角、珠三角等網(wǎng)絡(luò )安全產(chǎn)業(yè)基礎優(yōu)勢逐步激發(fā)。截至2022年底，我國已有21家網(wǎng)絡(luò )安全企業(yè)上市，越來(lái)越多的互聯(lián)網(wǎng)企業(yè)、設備廠(chǎng)商、電信運營(yíng)商成為網(wǎng)絡(luò )安全領(lǐng)域新生力量，傳統安全企業(yè)、互聯(lián)網(wǎng)企業(yè)紛紛布局數據安全賽道。

同時(shí)，網(wǎng)絡(luò )安全技術(shù)體系持續完備，零信任、以太坊等信息安全技術(shù)逐步成熟落地。隱私計算、圖片加密等領(lǐng)域布局加快，網(wǎng)絡(luò )安全與人工智能、云計算、區塊鏈、工業(yè)互聯(lián)網(wǎng)融合發(fā)展加速。

創(chuàng )新是網(wǎng)絡(luò )安全保障能力提升的根本動(dòng)力。工業(yè)和信息化部網(wǎng)絡(luò )安全管理局局長(cháng)隋靜表示，要健全科技創(chuàng )新體系，強化體系創(chuàng )新主體地位，全面激發(fā)企業(yè)創(chuàng )新活力。圍繞5G、工業(yè)互聯(lián)網(wǎng)、車(chē)聯(lián)網(wǎng)等重點(diǎn)領(lǐng)域開(kāi)展關(guān)鍵技術(shù)攻關(guān)，加快突破安全風(fēng)險感知、監測預警、實(shí)時(shí)阻斷、追蹤溯源等核心能力。前瞻布局人工智能與網(wǎng)絡(luò )安全技術(shù)融合創(chuàng )新，增強產(chǎn)業(yè)鏈、供應鏈韌性和安全水平。

培育產(chǎn)業(yè)生態(tài)

“目前360集團有全球最大的網(wǎng)絡(luò )安全攻擊樣本庫和攻擊整個(gè)過(guò)程全記錄的知識庫，記錄了數以?xún)|計的網(wǎng)絡(luò )攻擊知識。我們也在試驗把這些知識加入專(zhuān)門(mén)的垂直大模型里，爭取下次遇到攻擊時(shí)，由大模型判斷這是否是一次真實(shí)攻擊。目前，大模型判斷網(wǎng)絡(luò )攻擊的準確率已提升到97%，當該準確率超過(guò)99%時(shí)就可以投入應用?！敝茗櫟t介紹。

周鴻祎認為，隨著(zhù)安全挑戰不斷升級，傳統安全方案已難以應對數字文明時(shí)代的新挑戰，出現“企業(yè)抱怨沒(méi)效果、廠(chǎng)商抱怨投入少”的局面。企業(yè)實(shí)現體系化安全運營(yíng)，存在缺平臺、缺探針、缺數據、缺專(zhuān)家四大障礙。云化和服務(wù)化將成為安全行業(yè)發(fā)展必然趨勢。為此，360推出“安全即服務(wù)”理念，將沉淀在全網(wǎng)安全大腦里的世界級安全能力全面云化和服務(wù)化，低成本、高效能輸送給企業(yè)級客戶(hù)，為政府、城市和企業(yè)筑牢數字安全屏障，守護數字經(jīng)濟成果。

“要摒棄硬件式碎片化弱協(xié)同的傳統安全防護手段，向云化、服務(wù)化的理念升級。數字安全企業(yè)需要建立體系化的安全運營(yíng)服務(wù)框架，面向各行各業(yè)輸出數字安全能力，幫助企業(yè)構建安全防御體系，保護數據安全與商業(yè)秘密?！编w賀銓說(shuō)。

全國工商聯(lián)副主席汪鴻雁表示，網(wǎng)絡(luò )安全龍頭企業(yè)要牽頭組建創(chuàng )新聯(lián)合體，發(fā)揮創(chuàng )新主體作用，主動(dòng)承擔國家重大科技項目，開(kāi)展數字安全的基礎理論創(chuàng )新，及重大問(wèn)題研究和關(guān)鍵的核心技術(shù)攻關(guān)，著(zhù)力加強數字安全的人才培養，推動(dòng)人才、技術(shù)和產(chǎn)業(yè)的融通發(fā)展，不斷增進(jìn)數字安全國際交流與合作，建設國際數字安全保障合作機制。

“互聯(lián)網(wǎng)龍頭企業(yè)要積極開(kāi)展原創(chuàng )性、引領(lǐng)性、基礎性安全技術(shù)攻關(guān)，延伸技術(shù)領(lǐng)域，拓展產(chǎn)品服務(wù)范圍，完善產(chǎn)品矩陣?；ヂ?lián)網(wǎng)初創(chuàng )企業(yè)要發(fā)揮快速靈活、資源集中的特點(diǎn)，以創(chuàng )新技術(shù)和產(chǎn)品切入細分領(lǐng)域，推動(dòng)產(chǎn)品服務(wù)和行業(yè)發(fā)展緊密結合?！鄙斜f(shuō)。

鄔賀銓強調，要完善數字安全的生態(tài)系統，覆蓋工業(yè)企業(yè)設備供應商、基礎電信運營(yíng)商、云服務(wù)商、工業(yè)互聯(lián)網(wǎng)平臺運營(yíng)商、工業(yè)應用提供商、數字安全提供企業(yè)、第三方檢測機構與用戶(hù)等，實(shí)現危險威脅處置情報共享。

隋靜表示，網(wǎng)絡(luò )安全產(chǎn)業(yè)是維護國家網(wǎng)絡(luò )安全的重要基礎，要完善支持產(chǎn)業(yè)發(fā)展的政策措施，引導供給不斷提升，需求充分釋放，構建供需雙向發(fā)力，產(chǎn)業(yè)鏈協(xié)同聯(lián)動(dòng)的高水平動(dòng)態(tài)平衡。要創(chuàng )新網(wǎng)絡(luò )安全服務(wù)模式，大力發(fā)展網(wǎng)絡(luò )安全保險服務(wù)，深化產(chǎn)融合作，引導資本加大對產(chǎn)業(yè)支持力度，加快培育一批網(wǎng)絡(luò )安全專(zhuān)精特新企業(yè)。優(yōu)化產(chǎn)業(yè)園區產(chǎn)業(yè)布局，充分發(fā)揮聯(lián)盟協(xié)會(huì )紐帶作用，培育壯大產(chǎn)業(yè)生態(tài)，推動(dòng)產(chǎn)業(yè)高質(zhì)量發(fā)展。

來(lái)源：《經(jīng)濟日報》