這是一份AI人對AI人發(fā)出的警告。

近日，OpenAI等14大知名機構聯(lián)名發(fā)布了一份關(guān)于惡意使用人工智能的報告。該報告從技術(shù)角度出發(fā)，指出了未來(lái)5年內人工智能被濫用的風(fēng)險。

危險和騙術(shù)正在升級。

某安全管理系統的管理員在瀏覽網(wǎng)站，一則模型火車(chē)的廣告吸引了她。她點(diǎn)開(kāi)還下載了一個(gè)小冊子。此時(shí)，攻擊開(kāi)始了。小冊子一旦被打開(kāi)，黑客就能窺視她的電腦，獲得安全管理系統的用戶(hù)名和密碼。

至于管理員看到的廣告，則是黑客根據其個(gè)人興趣，結合人工智能精心設計的“陷阱”。

雖然這是報告中給出的假設性案例，但這個(gè)操作，一點(diǎn)都不令人意外。

用人工智能搞破壞真不是科幻

報告名為《惡意使用人工智能：預警、防止和緩解》，它由26位作者共同完成，其中不乏人工智能技術(shù)研究者。

報告將濫用人工智能的威脅分為了物理安全、數字安全和政治安全三類(lèi)。在物理安全方面，不法分子可以入侵網(wǎng)絡(luò )系統，將無(wú)人機或者其他無(wú)人設備變成攻擊的武器；在數字安全方面，人工智能可以被用來(lái)自動(dòng)執行網(wǎng)絡(luò )攻擊，它也能合成人類(lèi)的指紋或聲紋騙過(guò)識別系統；在政治安全方面，人工智能可以用來(lái)進(jìn)行監視、煽動(dòng)和欺騙，引發(fā)公眾恐慌和社會(huì )動(dòng)蕩。

這些都不是危言聳聽(tīng)，甚至已有實(shí)例。

2017年，浙江警方破獲了一起利用人工智能犯罪、侵犯公民個(gè)人信息案。專(zhuān)業(yè)黑客用深度學(xué)習技術(shù)訓練機器，讓機器能夠自主操作，批量識別驗證碼?！昂芏虝r(shí)間就能識別上千上萬(wàn)個(gè)驗證碼?！碑敃r(shí)的辦案民警介紹。

北京郵電大學(xué)人機交互與認知工程實(shí)驗室主任劉偉曾見(jiàn)識過(guò)一家人工智能公司的“聲音合成”技術(shù)，A說(shuō)的話(huà)完全可以套上B的聲音，“一般人識別不出來(lái)”。劉偉說(shuō)，這些技術(shù)一旦被別有用心的人利用，“世界可能就亂套了”。

要打技術(shù)攻防戰，也要制度來(lái)規范

怎么辦？

一方面是升級技術(shù)。當攻擊方用上了導彈大炮，防御方就不能只用“小米加步槍”。中國社科院文化法制研究中心研究員劉明說(shuō)，技術(shù)帶來(lái)的問(wèn)題，有時(shí)也可以用技術(shù)發(fā)展來(lái)解決。人工智能是一種工具，工具的發(fā)展也許不會(huì )從根本上改變行為的性質(zhì)，但會(huì )改變行為的模式和行為后果的烈度?！叭绻庾R到自己所在行業(yè)存在人工智能帶來(lái)的威脅，自身加強防范就很重要?！?/p>

劉偉也表示，如果有一種技術(shù)能將聲音模仿得惟妙惟肖，就會(huì )有另一種技術(shù)來(lái)識別這聲音來(lái)自李鬼還是李逵?！斑@可能是一場(chǎng)無(wú)止境的技術(shù)攻防戰?！?/p>

另一方面，則需要制度。

“人工智能本身沒(méi)有倫理問(wèn)題，最終還是制造者、使用者、傳播者們（人）的倫理問(wèn)題?！眲プ匪荨皞惱怼币辉~起源，它來(lái)自希臘文的“ethos”，是風(fēng)俗和習慣的意思。東西方其實(shí)有不同的倫理觀(guān)，在劉偉看來(lái)，西方研究“人與物”的關(guān)系，東方則喜歡談“人與人”的關(guān)系。倫理具有情境性，還有文化依賴(lài)性?！叭斯ぶ悄軅惱硌芯恳紤]交互主體-人類(lèi)的思維與認知方式，要弄清楚人的倫理中可以進(jìn)行結構化處理的部分，再讓機器形成所謂的倫理?！?/p>

除了倫理框架，也需要規范甚至是法律。

“當技術(shù)即將作用于現實(shí)生活，一些危險已經(jīng)可以預測，從法學(xué)家的角度來(lái)看，此時(shí)我們來(lái)討論問(wèn)題如何解決、責任如何分配是比較合適的?！眲⒚饕矃⒓舆^(guò)多次有關(guān)自動(dòng)駕駛規范的研討會(huì )。自動(dòng)駕駛已在大規模應用前夕，因此其規則研討就需要提上議事日程。但這種規則的制定也無(wú)法一蹴而就，還需根據實(shí)踐中出現的真問(wèn)題再度進(jìn)行調整?！半S著(zhù)技術(shù)的發(fā)展，對應的法律規范調整的靈活度會(huì )比以前更大，調整速度會(huì )更快?！眲⒚髡f(shuō)。

劉偉認為，人工智能發(fā)展規范的制定，必須要有人文社科學(xué)者的參與。他主張不同學(xué)科、不同領(lǐng)域的人加強交流。政府、民間組織、科研機構和企業(yè)都可以搭建這樣的橋梁，為各行各業(yè)的人提供討論的平臺。畢竟，人工智能將要影響的，可能是所有人。

摘自 科技日報