人工智能技術(shù)和應用飛速發(fā)展，在推動(dòng)經(jīng)濟社會(huì )創(chuàng )新發(fā)展的同時(shí)，也帶來(lái)安全、倫理、法律法規等方面的風(fēng)險挑戰。隨著(zhù)數據越來(lái)越多被收集，應用場(chǎng)景增加，用戶(hù)個(gè)人信息泄露的風(fēng)險也隨之提升。人工智能的研究和應用要有倫理和法律界限，即應以人類(lèi)的根本利益和責任為原則。

剛剛結束的全國兩會(huì )上，“拓展‘智能+’”首次被寫(xiě)入今年的《政府工作報告》，作為未來(lái)的重要基礎性技術(shù)，人工智能已連續三年出現在《政府工作報告》中?？梢灶A見(jiàn)，隨著(zhù)人工智能、大數據的深入應用，生產(chǎn)生活的數字化轉型是大勢所趨。

人們在擁抱人工智能、邁向數字社會(huì )的同時(shí)，也需要正視人工智能等新技術(shù)應用在安全、倫理、法律法規、社會(huì )治理等方面的挑戰。只有未雨綢繆，研判和防范潛在風(fēng)險，才能安享“智能+”的時(shí)代紅利。

人工智能應用方興未艾，同時(shí)也帶來(lái)安全風(fēng)險隱患

前不久，一項人工智能深度換臉技術(shù)引發(fā)爭議。原來(lái)，這項技術(shù)能做到幾乎毫無(wú)痕跡地給視頻中的人物“換臉”，引發(fā)人們對隱私和肖像權被侵犯的擔憂(yōu)。更深的擔憂(yōu)在于，如果這一技術(shù)被濫用，是否意味著(zhù)大量視頻會(huì )被“移花接木”？

今年全國兩會(huì )上，人工智能、大數據等技術(shù)應用帶來(lái)的安全風(fēng)險，成為代表委員關(guān)注的焦點(diǎn)之一。全國政協(xié)委員、360集團董事長(cháng)兼首席執行官周鴻祎就表示，安全應該成為人工智能發(fā)展的基礎與前提。全國人大代表、蘇寧控股集團董事長(cháng)張近東也提出，數據安全是數字中國建設的重中之重，發(fā)展高質(zhì)量的數字經(jīng)濟，需要加強對數據的安全保護和合規共享。

從信息安全角度看，當前人工智能應用的安全風(fēng)險點(diǎn)主要有哪些？

中國信息通信研究院移動(dòng)安全聯(lián)盟秘書(shū)長(cháng)楊正軍說(shuō)，人工智能高度依賴(lài)海量數據的采集和訓練分析。隨著(zhù)數據越來(lái)越多被收集，應用場(chǎng)景增加，用戶(hù)個(gè)人信息泄露的風(fēng)險也隨之提升。

“人工智能算法不僅能直接采集用戶(hù)個(gè)人信息，也會(huì )深度挖掘分析看似不相關(guān)的數據?！睏钫娊榻B，他們開(kāi)展的一項調研顯示，當前濫用個(gè)人信息現象較為普遍。同時(shí)，人工智能及大數據場(chǎng)景下無(wú)所不在的數據收集、專(zhuān)業(yè)化多樣化的數據處理技術(shù)，使得信息主體難以了解、控制其信息是如何被收集和利用的。信息安全保護已經(jīng)成為人工智能發(fā)展的重要課題。

專(zhuān)家表示，技術(shù)本身是中性的，只要利用得當，人工智能也能用來(lái)提升網(wǎng)絡(luò )安全水平。比如，人工智能在識別惡意代碼方面就很有優(yōu)勢。

北京神州綠盟科技有限公司安全研究員吳子建說(shuō)，惡意代碼往往是基于一些開(kāi)源代碼修改而成，它們通常有相似的行為模式。借助人工智能技術(shù)訓練的檢測工具，能夠比較高效地發(fā)現惡意代碼。

人工智能技術(shù)也普遍用于企業(yè)內網(wǎng)安全防護。吳子建介紹，傳統的防護手段是在網(wǎng)絡(luò )的入口處設置防御措施，但內網(wǎng)之間很少進(jìn)行防御。采用人工智能等技術(shù)手段關(guān)聯(lián)數據，可以有效檢測內網(wǎng)中的異常。與傳統的方法相比，這種方法不僅能發(fā)現已知威脅，還可以檢測到未知風(fēng)險。

吳子建認為，業(yè)內還需要做更多深入的研究，不斷提升人工智能在安全防護上的價(jià)值。

應提前研判智能時(shí)代的法律倫理風(fēng)險，引導人機良性合作

人工智能的應用越來(lái)越多，衍生出一系列倫理、法律難題。比如，無(wú)人駕駛汽車(chē)發(fā)生交通事故時(shí)如何界定責任，醫療外科手術(shù)機器人出現意外怎樣處置……

“人工智能的研究和應用要有倫理和法律界限，即應以人類(lèi)的根本利益和責任為原則，以實(shí)現人類(lèi)根本利益為終極目標。這一要求也是人工智能和人的關(guān)系決定的?！敝袊嗣翊髮W(xué)法學(xué)院副教授郭銳認為。

“當前技術(shù)條件下，智能機器尚未具備倫理決策的能力，但其決策會(huì )引發(fā)有倫理意義的后果?！惫J認為，通常法律針對的是能夠遵循這些原則的主體，也就是自然人或者法律看作是主體的組織（法人），但考慮到人工智能的特征是對人的智能的模擬、延伸和擴展，因此倫理原則應當適用于人工智能系統。

北京師范大學(xué)哲學(xué)學(xué)院教授田海平認為，人工智能的主體構成不是孤立的個(gè)體，而是多種關(guān)聯(lián)形態(tài)的總和?！叭斯ぶ悄艿臉嫵芍黧w分為研發(fā)者（包括算法的開(kāi)發(fā)者）、生產(chǎn)商、運營(yíng)商、電信網(wǎng)絡(luò )服務(wù)商等。一旦發(fā)生交通或醫療事故，由于無(wú)法找到某個(gè)確定的責任主體，給責任界定帶來(lái)很大困難，因此需要確立代理人來(lái)界定責任與權利?！?/p>

近年來(lái)，學(xué)界和產(chǎn)業(yè)界日益重視人工智能中的倫理與法律問(wèn)題，并推動(dòng)制定相關(guān)技術(shù)標準及社會(huì )規范。專(zhuān)家表示，人工智能倫理法律涉及科學(xué)界、企業(yè)界，哲學(xué)、法學(xué)等多個(gè)領(lǐng)域，有必要成立應對人工智能發(fā)展的聯(lián)盟組織，吸納各方面的力量，共同推進(jìn)相關(guān)研究。

郭銳建議，要考慮到人工智能開(kāi)發(fā)和部署過(guò)程中的權責歸屬，通過(guò)為技術(shù)開(kāi)發(fā)者、產(chǎn)品生產(chǎn)者或者服務(wù)提供者、使用者界定權利和義務(wù)，讓自動(dòng)駕駛、無(wú)人機等人工智能應用安全落地。

專(zhuān)家表示，人工智能大規模進(jìn)入人們生活之前，還應建立相對統一的風(fēng)險評估指標體系，設立具體、可操作的指標，為相關(guān)研究及應用提供指引。

專(zhuān)家特別提醒，人和機器各有優(yōu)勢，要互相了解才能實(shí)現人機協(xié)作，但人還是人機關(guān)系的主導者。惟其如此，才能將人工智能引向人機合作的良性發(fā)展道路。

全球人工智能法律治理面臨共同難題，當前應加強個(gè)人隱私安全管理

針對人工智能應用在安全、倫理等領(lǐng)域的潛在威脅，世界各國已經(jīng)開(kāi)始了相關(guān)法律治理研究。

楊正軍介紹，各國對人工智能風(fēng)險的關(guān)注重點(diǎn)和重視程度有所不同。以安全為例，美國關(guān)注人工智能對國家安全的影響，2018年3月美國國會(huì )發(fā)起提案，建議成立國家人工智能安全委員會(huì )，并將制定相關(guān)法案；歐盟和英國關(guān)注人工智能對隱私、就業(yè)及倫理的影響；俄羅斯、以色列、印度則重點(diǎn)關(guān)注人工智能在國防領(lǐng)域的應用以及對軍事安全的影響。

北京師范大學(xué)刑科院暨法學(xué)院副教授、中國互聯(lián)網(wǎng)協(xié)會(huì )研究中心秘書(shū)長(cháng)吳沈括表示，在規范人工智能發(fā)展方面，我國起步較早。2017年7月，國務(wù)院頒布《新一代人工智能發(fā)展規劃》；2017年12月，工信部發(fā)布《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計劃（2018—2020年）》，都對人工智能產(chǎn)業(yè)的規范發(fā)展提出了要求。

“這些政策能夠引導和助推相關(guān)產(chǎn)業(yè)的發(fā)展。關(guān)于人工智能技術(shù)標準，我國也發(fā)布過(guò)一些文件。然而，當前立法中對于人工智能帶來(lái)的安全問(wèn)題還存在比較大的空白，這也是全球人工智能的法律治理面臨的共同難題?！眳巧蚶ㄕf(shuō)。

隨著(zhù)人工智能應用的深入，其附屬的相關(guān)風(fēng)險也日益凸顯，加強對人工智能相關(guān)的法律治理至關(guān)重要。人工智能法律治理呈現出哪些趨勢，現實(shí)中又有哪些需要迫切注意的問(wèn)題？

吳沈括認為，人工智能立法治理上可能會(huì )呈現出三個(gè)趨勢：一是立法將更加細化，更有針對性。比如，針對自動(dòng)駕駛、機器人、生物識別等領(lǐng)域頒布一些規范性文件，立法監管也會(huì )更加多元；二是立法將與產(chǎn)業(yè)特性緊密結合；三是立法將以規范為主，監管則重在為產(chǎn)業(yè)發(fā)展提供指引。

“由于法律往往存在一定的滯后性，考慮到人工智能等新技術(shù)應用前景廣闊，立法需要預留一定的空間，盡量實(shí)現產(chǎn)業(yè)應用與風(fēng)險前瞻的恰當平衡。在確定監管什么內容、如何監管以及怎樣執行時(shí)，要把握好力度，不宜影響產(chǎn)業(yè)的發(fā)展活力?！眳巧蚶ㄕf(shuō)。

楊正軍說(shuō)，從行業(yè)調研情況來(lái)看，當前應該加強個(gè)人隱私安全管理。他建議，隱私保護應從立法監管和技術(shù)能力提升兩方面入手：一方面，針對我國個(gè)人信息保護法律條款分散、不成體系的現狀，加快統一立法，明確數據不當收集、使用、泄露等的責任，同時(shí)也要界定好數據歸屬權等問(wèn)題；另一方面，應加強新技術(shù)在個(gè)人隱私保護方面的應用。

數據的合理合法收集是數據利用的前提。專(zhuān)家表示，我們不應回避智能化與隱私安全保護的沖突，而應積極作為，找到智能時(shí)代技術(shù)應用與風(fēng)險防護的最大公約數，為智能生活保駕護航。

來(lái)源：人民網(wǎng)