大數據的形成、理論算法的革新等驅動(dòng)人工智能進(jìn)入新一輪創(chuàng )新發(fā)展高峰期。與此同時(shí)，相關(guān)法律、倫理、社會(huì )問(wèn)題的研究也成為行業(yè)發(fā)展不可回避的問(wèn)題。業(yè)內人士表示，只有加強人工智能倫理研究，處理好機器與人的關(guān)系，才能獲得更多人工智能紅利，讓技術(shù)造福人類(lèi)。

本報記者 李洋報道

如果無(wú)人駕駛出現事故，系統會(huì )做出保護行人還是保護司機的決策？機器人更加個(gè)性化，是否能夠做好安全監管？ＡＩ“換臉術(shù)”“變聲術(shù)”在娛樂(lè )大眾的同時(shí)，如何避免被濫用甚至侵害他人權益的風(fēng)險？人工智能是否享有著(zhù)作權……當前，全球正在經(jīng)歷科技和產(chǎn)業(yè)高度耦合、深度迭加的新一輪變革，大數據的形成、理論算法的革新、計算能力的提升及網(wǎng)絡(luò )設施的演進(jìn)驅動(dòng)人工智能進(jìn)入新一輪創(chuàng )新發(fā)展高峰期，新技術(shù)持續獲得突破性進(jìn)展，呈現出深度學(xué)習、跨界融合、人機協(xié)同、群智開(kāi)放、自主操控等以應用為導向的新特征。與此同時(shí)，相關(guān)法律、倫理、社會(huì )問(wèn)題的研究，也成為行業(yè)發(fā)展不可回避的問(wèn)題。人工智能究竟該如何健康發(fā)展？

近日，國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出人工智能治理的框架和行動(dòng)指南。該治理原則突出了發(fā)展負責任的人工智能這一主題，強調了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開(kāi)放協(xié)作、敏捷治理等八條原則。

新一代人工智能倫理問(wèn)題飽受爭議

近年來(lái)，從頂層設計到產(chǎn)業(yè)落地，我國的人工智能產(chǎn)業(yè)均出現了一片欣欣向榮的景象。２０１５年，國務(wù)院出臺的《關(guān)于積極推進(jìn)“互聯(lián)網(wǎng)＋”行動(dòng)的指導意見(jiàn)》將“互聯(lián)網(wǎng)＋人工智能”列為其中１１項重點(diǎn)行動(dòng)之一。２０１６年以來(lái)，人工智能先后被寫(xiě)入國家“十三五”規劃綱要和政府工作報告中。在２０１７年７月和１２月，《新一代人工智能發(fā)展規劃》《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計劃（２０１８－２０２０年）》兩項總領(lǐng)性政策相繼出臺。２０１８年１１月，工業(yè)和信息化部發(fā)布《新一代人工智能產(chǎn)業(yè)創(chuàng )新重點(diǎn)任務(wù)揭榜工作方案》。一系列頂層設計構筑了中國人工智能發(fā)展的“四梁八柱”，一批大型企業(yè)超前布局，一批創(chuàng )新型中小企業(yè)加快涌現。

由科技部新一代人工智能發(fā)展研究中心、中國科學(xué)技術(shù)發(fā)展戰略研究院聯(lián)合國內外十余家機構編寫(xiě)的《中國新一代人工智能發(fā)展報告２０１９》今年５月對外發(fā)布。報告顯示，我國人工智能發(fā)展已在部分方面具有優(yōu)勢。例如：我國人工智能論文發(fā)文量全球領(lǐng)先，企業(yè)數量等多項指標居全球第二；人工智能企業(yè)通過(guò)與研究型大學(xué)共建聯(lián)合實(shí)驗室、研究院、研究中心等方式加速人工智能高水平人才成長(cháng)，多層次ＡＩ人才培養體系逐步形成。

一邊是在研究與產(chǎn)業(yè)領(lǐng)域的爭相追捧，一邊又是由此帶來(lái)的安全風(fēng)險、隱私、算法歧視、行業(yè)沖擊、失業(yè)、收入分配差異擴大、責任分擔等監管難題，人工智能等發(fā)展在爭議中踽踽前行。

在今年全國兩會(huì )期間，百度董事長(cháng)李彥宏帶來(lái)了一項關(guān)于人工智能倫理的提案。他認為，目前人工智能還處在發(fā)展初期，但在某些領(lǐng)域已經(jīng)接近甚至超過(guò)了人的能力，展現出巨大的變革力量。智能革命正帶來(lái)人機關(guān)系的變化，未來(lái)機器不再是單純的工具，而是有可能幫助甚至部分代替人類(lèi)進(jìn)行決策。只有加強人工智能倫理研究，處理好機器與人的關(guān)系，我們才能更多地獲得人工智能紅利，讓技術(shù)造福人類(lèi)。

那么，在高度智能的強人工智能走入人們視野之前，如何讓機器符合人類(lèi)道德規范？對此，學(xué)界大體有３種設想：一是自上而下，即在智能體中預設一套倫理規范，如自動(dòng)駕駛汽車(chē)應將撞車(chē)對他人造成的傷害降到最低；二是自下而上，即機器通過(guò)數據驅動(dòng)，學(xué)習人類(lèi)的倫理德道規范；三是人機交互，即讓智能體用自然語(yǔ)言解釋其決策，使人類(lèi)能把握其復雜的邏輯并及時(shí)糾正可能存在的問(wèn)題。

發(fā)展負責任的人工智能是主線(xiàn)

人工智能發(fā)展應尊重和保護個(gè)人隱私，充分保障個(gè)人的知情權和選擇權。人工智能系統應不斷提升透明性、可解釋性、可靠性、可靠性、可控性，逐步實(shí)現可審核、可監督、可追溯、可信賴(lài)。建立人工智能問(wèn)責機制，明確研發(fā)者、使用者和受用者等的責任……“發(fā)展負責任的人工智能”是《新一代人工智能治理原則——發(fā)展負責任的人工智能》的主題，涵蓋了人工智能的基礎研發(fā)層到應用層，更應成為貫穿人工智能發(fā)展的一條主線(xiàn)。

“比如我們提出的‘和諧友好’等原則，強調無(wú)論是人工智能提供的產(chǎn)品還是服務(wù)，都應該是負責任的、全面的，應以增進(jìn)人類(lèi)共同福祉為目標，應該符合人類(lèi)的價(jià)值觀(guān)和倫理道德，避免誤用，禁止濫用、惡用?！鼻迦A大學(xué)蘇世民書(shū)院院長(cháng)、國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )主任薛瀾說(shuō)。

《治理原則》旨在更好協(xié)調人工智能發(fā)展與治理的關(guān)系，確保人工智能安全可控可靠，推動(dòng)經(jīng)濟、社會(huì )及生態(tài)可持續發(fā)展，共建人類(lèi)命運共同體，這也構成了《治理原則》的４個(gè)主要亮點(diǎn)。

上海大學(xué)教授、國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )委員李仁涵表示：“人工智能是一個(gè)新生事物，發(fā)展還是第一位的。推動(dòng)我國人工智能的發(fā)展，也要在發(fā)展中解決問(wèn)題?！?/p>

中國科學(xué)院自動(dòng)化研究所研究員、國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )委員曾毅表示，現在一些技術(shù)開(kāi)發(fā)者沒(méi)有經(jīng)過(guò)這方面的專(zhuān)業(yè)訓練，通過(guò)創(chuàng )新為社會(huì )帶來(lái)正面效應的同時(shí)，對相關(guān)的風(fēng)險不重視或無(wú)意識，給社會(huì )帶來(lái)了較大的隱患，希望《治理原則》的發(fā)布，能夠推動(dòng)“自適應”的治理，確保人工智能朝著(zhù)對全人類(lèi)、全社會(huì )及自然生態(tài)有益的方向發(fā)展。

摘自《中國高新技術(shù)產(chǎn)業(yè)導報》