2018年全國“兩會(huì )”政府工作報告中提到 “加強新一代人工智能研發(fā)應用”，表明國家對人工智能發(fā)展的重視。然而，任何新技術(shù)新應用都具有兩面性，人工智能技術(shù)及其應用為人們生產(chǎn)生活提供便利的同時(shí)，也帶來(lái)了安全隱患。2018年3月，優(yōu)步（Uber）自動(dòng)駕駛車(chē)輛在美國造成行人死亡事件，引發(fā)了公眾對人工智能安全的廣泛熱議和普遍擔憂(yōu)。當前，亟需梳理人工智能發(fā)展現狀趨勢，分析其帶來(lái)的安全風(fēng)險，提出應對措施建議，有效促進(jìn)人工智能產(chǎn)業(yè)健康發(fā)展。

（一） 人工智能發(fā)展現狀

一是各國政府高度重視，納入國家科技戰略核心。世界主要國家都高度重視人工智能（AI）發(fā)展。其中，美國和中國先后將AI提升為國家戰略，大力促進(jìn)技術(shù)和產(chǎn)業(yè)發(fā)展；英國、日本、德國等憑借其在A(yíng)I專(zhuān)項領(lǐng)域的技術(shù)優(yōu)勢推動(dòng)人工智能發(fā)展，如英國和日本以機器人領(lǐng)域技術(shù)為突破點(diǎn)，德國以“工業(yè)4.0”為契機推進(jìn)AI發(fā)展。

二是學(xué)術(shù)研究方興未艾，科技成果爆發(fā)式增長(cháng)。近幾年，人工智能學(xué)術(shù)研究成果突飛猛進(jìn)，為人工智能的發(fā)展奠定了良好的基礎。人工智能論文數量和專(zhuān)利申請數均爆炸式增長(cháng)，其中，中國2016年提及“深度學(xué)習”和“深度神經(jīng)網(wǎng)絡(luò )”的重要論文接近600篇，是2013年的12倍，已穩居全球首位； 2016年，中國專(zhuān)利年申請數為29023項，較2001年增長(cháng)了40倍左右。

三是產(chǎn)業(yè)格局正在形成，科技巨頭引領(lǐng)人工智能發(fā)展。在產(chǎn)業(yè)界，科技巨頭在A(yíng)I產(chǎn)業(yè)環(huán)節積極卡位布局。IBM圍繞Watson在芯片、計算平臺、行業(yè)解決方案和應用場(chǎng)景等進(jìn)行全面產(chǎn)業(yè)布局；谷歌憑借TensorFlow平臺在智能家居、自動(dòng)駕駛等重點(diǎn)領(lǐng)域布局；國內以BAT為代表的科技企業(yè)，基于現有技術(shù)優(yōu)勢和產(chǎn)品特點(diǎn)加速構建差異化的產(chǎn)業(yè)生態(tài)，成為國內AI領(lǐng)域引跑者。

（二） 人工智能發(fā)展趨勢

一是行業(yè)應用潛力巨大，“AI+”將成未來(lái)風(fēng)向標?！癆I+”是“互聯(lián)網(wǎng)+”的延續和升級，推動(dòng)傳統行業(yè)向自動(dòng)化和智能化轉型。目前AI在工業(yè)、金融、交通、醫療、保險、安防等領(lǐng)域應用潛力巨大，未來(lái)“AI+”將催生更多新業(yè)態(tài)，開(kāi)拓更廣闊的市場(chǎng)空間。據麥肯錫預計，到2025年，AI應用市場(chǎng)總值將達到1270億美元。

二是創(chuàng )業(yè)投資漸趨理性，重新審視AI商業(yè)價(jià)值。AI投資正趨于理性，投資人更關(guān)注AI的商業(yè)和應用價(jià)值?！?017年中國人工智能產(chǎn)業(yè)數據報告》指出，AI領(lǐng)域投融資種子天使輪比重逐年下降，投資階段有后移趨勢?？梢灶A見(jiàn)，隨著(zhù)學(xué)術(shù)研究向產(chǎn)業(yè)應用轉化的趨勢愈發(fā)明顯，商業(yè)應用需求將是未來(lái)推動(dòng)AI產(chǎn)業(yè)發(fā)展的主要因素。

三是認知智能尚未成熟，亟待新一輪技術(shù)革命。當前AI主要是依托數據驅動(dòng)的感知智能，發(fā)展受限于算法效率和硬件性能等因素：一方面，深度學(xué)習算法嚴重依賴(lài)海量數據和超強算力，且存在不可解釋性；另一方面，隨著(zhù)摩爾定律的失效，支持AI發(fā)展的硬件性能呈指數增長(cháng)將不可持續。因此，依托深度學(xué)習的AI未來(lái)可能會(huì )遭遇發(fā)展瓶頸，以遷移學(xué)習、類(lèi)腦學(xué)習等為代表的認知智能研究越發(fā)重要。

一是人工智能可提升網(wǎng)絡(luò )攻擊效率，威脅網(wǎng)絡(luò )空間安全。AI技術(shù)用于網(wǎng)絡(luò )攻擊時(shí)，其自我學(xué)習能力和自組織能力可用于智能查找漏洞和識別關(guān)鍵目標，提高攻擊效率。例如，集成AI的惡意軟件可自動(dòng)瞄準更具吸引力的目標，劫持工業(yè)設備、勒索贖金等犯罪將越來(lái)越常見(jiàn)，傳統網(wǎng)絡(luò )安全體系遭受威脅。

二是人工智能可加劇個(gè)人信息泄露，威脅個(gè)人隱私安全。AI技術(shù)的應用增強了個(gè)人信息采集力度和個(gè)人數據挖掘能力，加大了隱私泄露風(fēng)險。例如，基于指紋、人臉、虹膜等生物特征識別的智能系統會(huì )采集和掌握大量用戶(hù)隱私， AI系統則可根據其采集到的數據進(jìn)行再學(xué)習和再推理，得到更多與用戶(hù)隱私相關(guān)的信息，甚至可能導致數據匿名化等安全保護措施無(wú)效。

三是人工智能系統尚存在決策偏差，威脅人身生命安全。AI系統（特別是高度自治的系統）具備一定的決策和行動(dòng)能力，一旦出現感知、認知偏差或者受到網(wǎng)絡(luò )攻擊，系統就可能判斷失誤，進(jìn)而采取錯誤行動(dòng)，甚至危及人身安全。例如，今年3月，Uber自動(dòng)駕駛汽車(chē)在美國亞利桑那州造成行人死亡的案例就是此類(lèi)安全威脅的明證。

四是人工智能可替代傳統行業(yè)工種，威脅社會(huì )就業(yè)安全。AI應用會(huì )促進(jìn)產(chǎn)業(yè)升級，引發(fā)結構性失業(yè)，例如，無(wú)人駕駛代替傳統司機，無(wú)人超市替代收銀員和導購員，未來(lái)警察機器人替代交警等。據Forrester Research預測，AI技術(shù)將在2025年之前取代美國7％的工作崗位，其中16％的美國工人將被AI系統取代。在新的社會(huì )分工建立之前，AI對就業(yè)的沖擊可能引發(fā)社會(huì )安全風(fēng)險。

一是加強技術(shù)應用研究，提升網(wǎng)絡(luò )空間安全防御能力。人工智能技術(shù)對于網(wǎng)絡(luò )空間安全是一柄“雙刃劍”，既可增強網(wǎng)絡(luò )攻擊能力，也可提升安全防御能力。應積極引導和推動(dòng)研究機構和網(wǎng)絡(luò )安全公司，加大AI技術(shù)在網(wǎng)絡(luò )安全防護領(lǐng)域的應用研究，構建基于人工智能的網(wǎng)絡(luò )攻防演練平臺，研發(fā)成熟的人工智能網(wǎng)絡(luò )安全產(chǎn)品，涵蓋漏洞掃描、入侵檢測、態(tài)勢感知、攻擊預警以及應急處置等多類(lèi)型應用，提升網(wǎng)絡(luò )安全防護的自動(dòng)化和智能化水平。

二是立法和技術(shù)研究并重，促進(jìn)個(gè)人隱私安全管理。在大數據和AI時(shí)代，隱私保護應從立法監管和技術(shù)能力提升兩方面入手：一方面，針對我國個(gè)人信息保護法律條款分散、不成體系的現狀，加快統一立法，特別是明確企業(yè)收集用戶(hù)信息的原則、程序、保密和保護義務(wù)以及不當使用、數據泄露等相關(guān)責任；另一方面，加強新技術(shù)在個(gè)人隱私保護方向應用，例如，區塊鏈技術(shù)具備加密、信任、點(diǎn)對點(diǎn)、難篡改等特征，可加強用戶(hù)對個(gè)人隱私數據的掌控，防止數據在網(wǎng)絡(luò )傳輸和后臺存儲環(huán)節的泄露。

三是強化人工智能應用安全，規避人身安全風(fēng)險。首先，要加強AI技術(shù)研究，提升核心算法和學(xué)習模型的成熟度，增強AI感知、認知能力和決策的透明度和可解釋性，保障智能應用決策行動(dòng)的健壯性；其次，應主動(dòng)構建AI應用安全評估評測體系，制定評估評測標準，建設AI應用安全測試驗證平臺，通過(guò)檢驗測試發(fā)掘AI系統安全漏洞，提升AI應用的安全可靠性能，努力規避人身安全風(fēng)險。

四是優(yōu)化學(xué)科專(zhuān)業(yè)設置和在職培訓，降低社會(huì )失業(yè)風(fēng)險。面向AI產(chǎn)業(yè)發(fā)展引發(fā)的社會(huì )就業(yè)變革，首先，應動(dòng)態(tài)調整高校、職業(yè)學(xué)校等專(zhuān)業(yè)設置，增設AI相關(guān)交叉類(lèi)學(xué)科，逐步降低乃至取消AI可替代職業(yè)的招生名額；其次，應引導在崗人員樹(shù)立終身學(xué)習理念，完善在職培訓和再就業(yè)培訓體系，通過(guò)培訓革新在崗人員就業(yè)技能，大力培育智能經(jīng)濟新崗位，最大程度降低人員失業(yè)引發(fā)的社會(huì )安全風(fēng)險。

來(lái)源：人民郵電報