黨的二十大報告提出，推進(jìn)國家安全體系和能力現代化，堅決維護國家安全和社會(huì )穩定。人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰略性技術(shù)，同時(shí)也具有明顯的“雙刃劍”特征。一方面，人工智能賦能網(wǎng)絡(luò )攻防、開(kāi)源情報等國家安全相關(guān)領(lǐng)域，是筑牢國家安全屏障的有力抓手；另一方面，人工智能因其脆弱性、不穩定性、不可解釋性等特點(diǎn)，在與經(jīng)濟社會(huì )深度融合應用的過(guò)程中，極易引發(fā)國家、社會(huì )、企業(yè)和個(gè)人等層面的安全風(fēng)險。在席卷全球的人工智能浪潮中，如何應對人工智能風(fēng)險、把握發(fā)展戰略主動(dòng)、有效維護和保障國家安全，是國家治理的重要議題。

　　近年來(lái)，國家高度重視人工智能安全發(fā)展，逐步完善相關(guān)政策法規。國務(wù)院印發(fā)《新一代人工智能發(fā)展規劃》提出面向2030年我國新一代人工智能發(fā)展的指導思想、戰略目標、重點(diǎn)任務(wù)和保障措施，部署構筑人工智能發(fā)展的先發(fā)優(yōu)勢，加快建設創(chuàng )新型國家和世界科技強國。面向算法治理，出臺《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導意見(jiàn)》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》等。面向人工智能合成技術(shù)的快速突破，出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》《生成式人工智能服務(wù)管理暫行辦法》等。在全球數字經(jīng)濟激烈競爭格局下，科學(xué)把握風(fēng)險防范的尺度至關(guān)重要。2023年7月24日中共中央政治局會(huì )議強調“促進(jìn)人工智能安全發(fā)展”，體現了堅持統籌發(fā)展和安全、堅持發(fā)展和安全并重的理念，釋放了以人工智能技術(shù)激發(fā)數實(shí)融合新動(dòng)能、打造高質(zhì)量發(fā)展新引擎的積極信號。

　　推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展，要把保障數據安全放在突出位置。

　　第一，數據是數字經(jīng)濟時(shí)代的關(guān)鍵生產(chǎn)要素，保障數據安全是促進(jìn)人工智能安全發(fā)展的重要基礎。我國2022年數字經(jīng)濟規模逾50萬(wàn)億元，總量穩居世界第二，占GDP比重41.5％，數據量呈爆發(fā)式增長(cháng)態(tài)勢。隨著(zhù)數據要素規模不斷擴大，以人工智能為代表的數字技術(shù)將實(shí)現知識與數據雙輪驅動(dòng)，數據價(jià)值得到進(jìn)一步釋放，生產(chǎn)資源配置、生產(chǎn)運營(yíng)邏輯以及生產(chǎn)、分配、流通和消費關(guān)系等得以重塑，生產(chǎn)方式和生產(chǎn)關(guān)系發(fā)生變革，賦能傳統產(chǎn)業(yè)轉型升級，助力數字經(jīng)濟快速發(fā)展。同時(shí)，也伴隨著(zhù)數據泄露、虛假信息、算法歧視等數據安全新問(wèn)題。只有筑牢數字安全屏障，才能為人工智能發(fā)展保駕護航。

　　第二，人工智能產(chǎn)業(yè)快速發(fā)展過(guò)程中顯現出數據安全領(lǐng)域的風(fēng)險挑戰。當前，人工智能進(jìn)入快速發(fā)展期，應高度關(guān)注并有效應對隨之而來(lái)的問(wèn)題。例如，神經(jīng)網(wǎng)絡(luò )具有“黑盒”特點(diǎn)，導致人工智能存在不可解釋性；深度學(xué)習對訓練樣本過(guò)度依賴(lài)，導致學(xué)習結果的不可判定性；神經(jīng)網(wǎng)絡(luò )前向推進(jìn)的不可逆，導致結果的不可推論性。此外，漏洞、后門(mén)等引發(fā)的問(wèn)題交織疊加，使得人工智能應用系統的數據安全問(wèn)題變得更加復雜。針對IT行業(yè)領(lǐng)導者進(jìn)行的一項關(guān)于ChatGPT等大模型的調查顯示，安全性是受訪(fǎng)者最關(guān)心的問(wèn)題，71％的受訪(fǎng)者認為生成式人工智能會(huì )給企業(yè)的數據安全帶來(lái)新的風(fēng)險。為了防止敏感數據外流，微軟、亞馬遜等科技公司已相繼限制或禁止其員工使用生成式人工智能工具?？梢?jiàn)，全面加強人工智能數據安全保障體系和能力建設已成為應對新形勢新挑戰的必然之舉。

　　人工智能時(shí)代的數字安全威脅到底有多大？一方面，人工智能系統自身面臨多維度安全風(fēng)險。技術(shù)內生風(fēng)險和系統衍生風(fēng)險交織疊加，使得人工智能時(shí)代的安全問(wèn)題異常復雜。數據安全風(fēng)險方面，人工智能依托海量數據發(fā)展，有敏感信息泄露風(fēng)險，且人工智能平臺收集的原始數據與衍生數據的歸屬權、控制權和使用權目前在法律上尚難界定；算法模型安全方面，安全風(fēng)險貫穿數據采集、預處理、模型訓練、模型微調、模型部署應用等人工智能模型構建的全生命周期；外部攻擊安全方面，數據投毒、模型后門(mén)、對抗樣本、數據泄露、模型竊取、軟件漏洞等安全隱患屢見(jiàn)不鮮。

　　另一方面，人工智能技術(shù)濫用帶來(lái)數字安全威脅。當前，生成式人工智能的發(fā)展標志著(zhù)人工智能正在從專(zhuān)用智能邁向通用智能，進(jìn)入了全新發(fā)展階段。大部分傳統人工智能模型的安全風(fēng)險仍然存在，同時(shí)生成式人工智能也有一些特有的問(wèn)題：技術(shù)軟肋難以避免，易培育假信息“溫床”；使用方式簡(jiǎn)單便捷，易形成失泄密“陷阱”；新興技術(shù)尚難監管，易成為信息戰“武器”。

　　因此，亟需加強人工智能發(fā)展的潛在風(fēng)險研判和防范，確保人工智能安全、可靠、可控。

來(lái)源：國家發(fā)展改革委