《原則》肯定了人工智能的重要作用，同時(shí)強調重視其負面影響，如社會(huì )不平等、等級差距擴大、社會(huì )排斥等問(wèn)題。主張在推進(jìn)人工智能技術(shù)研發(fā)時(shí)，綜合考慮其對人類(lèi)、社會(huì )系統、產(chǎn)業(yè)構造、創(chuàng )新系統、政府等帶來(lái)的影響，構建能夠使人工智能有效且安全應用的“AI-Ready社會(huì )”，對我們正確看待“人機關(guān)系”，更好引領(lǐng)和適應人工智能發(fā)展具有借鑒意義。

人工智能（AI）已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的核心驅動(dòng)力，正在對人類(lèi)生產(chǎn)、生活、組織方式及經(jīng)濟社會(huì )發(fā)展的廣泛領(lǐng)域產(chǎn)生極其深刻的影響。但是，怎樣才能避免新興技術(shù)突破人類(lèi)的道德禁區而滑向未知，特別是在人工智能研究和應用中應遵循怎樣的倫理和原則，成為各國探討的熱點(diǎn)。目前，尚未有定論。

日本自2016年在《第五期科學(xué)技術(shù)基本計劃》中提出“Society 5.0”發(fā)展目標以來(lái)，各部門(mén)、學(xué)會(huì )、社會(huì )團體圍繞人工智能社會(huì )展開(kāi)積極探討，發(fā)布了系列研究報告、執法指南等。2018年12月27日，日本內閣府發(fā)布《以人類(lèi)為中心的人工智能社會(huì )原則》（以下簡(jiǎn)稱(chēng)《原則》），是迄今為止日本為推進(jìn)人工智能發(fā)展發(fā)布的最高級別的政策文件，從宏觀(guān)和倫理角度表明了日本政府的態(tài)度。在公開(kāi)征求意見(jiàn)后，計劃于2019年3月正式發(fā)布。

人工智能社會(huì )需要怎樣的“緊箍咒”

人工智能社會(huì )需要怎樣的“緊箍咒”

光明圖片/視覺(jué)中國

《原則》肯定了人工智能的重要作用，同時(shí)強調重視其負面影響，如社會(huì )不平等、等級差距擴大、社會(huì )排斥等問(wèn)題。主張在推進(jìn)人工智能技術(shù)研發(fā)時(shí)，綜合考慮其對人類(lèi)、社會(huì )系統、產(chǎn)業(yè)構造、創(chuàng )新系統、政府等帶來(lái)的影響，構建能夠使人工智能有效且安全應用的“AI-Ready社會(huì )”，對我們正確看待“人機關(guān)系”，更好引領(lǐng)和適應人工智能發(fā)展具有借鑒意義。

1、怎樣理解人工智能社會(huì )的本質(zhì)

對人工智能的利用不能僅僅停留在實(shí)現效率、便利等現實(shí)利益層面，人工智能作為人類(lèi)的公共財富，要通過(guò)推動(dòng)社會(huì )方式的根本變革和真正創(chuàng )新，來(lái)實(shí)現全球可持續發(fā)展目標。人工智能社會(huì )需要體現以下三個(gè)基本理念：

（1）尊嚴：人工智能社會(huì )是尊重人類(lèi)尊嚴的社會(huì )。應將人工智能作為人類(lèi)的工具之一，使人類(lèi)能進(jìn)一步發(fā)揮自身能力和創(chuàng )造性，通過(guò)從事具有意義的工作得到物質(zhì)上、精神上的富足。

（2）多元包容：使用人工智能技術(shù)，不只為實(shí)現提升便利、解放勞動(dòng)等傳統效率目標，要能夠使具有多元背景和價(jià)值觀(guān)、想法的每個(gè)人都能獲得幸福，對多元化采取靈活、包容的姿態(tài)，推動(dòng)新價(jià)值創(chuàng )造。

（3）可持續：通過(guò)靈活使用人工智能，強化科學(xué)技術(shù)儲備，催生新的商業(yè)模式和解決方案，實(shí)現科技創(chuàng )新立國，減少社會(huì )差距、緩解全球環(huán)境問(wèn)題等，推動(dòng)可持續社會(huì )的構筑。

2、接納人工智能，你準備好了嗎

人工智能、物聯(lián)網(wǎng)、機器人、超高速寬帶通信網(wǎng)等都是實(shí)現“Society 5.0”的重要技術(shù)。人工智能友好型的基礎設施是實(shí)現超級智能化社會(huì )所必需的一種變革?！霸O定怎樣的目的去使用人工智能”是人類(lèi)必須考慮的問(wèn)題。為此，《原則》分別從人類(lèi)、社會(huì )系統、產(chǎn)業(yè)構造、創(chuàng )新系統、政府監管五個(gè)維度勾勒了“AI-Ready社會(huì )”的愿景。

第一，人類(lèi)。AI-Ready社會(huì )對人類(lèi)能力的要求體現在三個(gè)方面：（1）有能力充分理解人工智能的優(yōu)點(diǎn)和缺點(diǎn)。作為人工智能信息來(lái)源的數據、算法存在“偏誤”人可能性，也可能會(huì )被用于不合理目的。其中，數據的偏誤主要有統計層面的偏誤、社會(huì )形態(tài)產(chǎn)生的偏誤以及人工智能使用者惡意產(chǎn)生的偏誤；（2）能夠使人們從事具有較高創(chuàng )造性、生產(chǎn)性的勞動(dòng)。通過(guò)人工智能的幫助能夠使人們基于出身、文化、興趣等，獲得實(shí)現夢(mèng)想和發(fā)揮創(chuàng )意的能力。為此需要推動(dòng)教育體系及其相關(guān)社會(huì )制度的構筑；（3）具有數據、人工智能基礎知識和實(shí)施、設計等應用能力，跨領(lǐng)域、綜合性、融合性的大量人才。這類(lèi)人才是推動(dòng)AI-Ready社會(huì )所有活動(dòng)的原動(dòng)力，能夠為構建靈活使用人工智能的生活環(huán)境貢獻力量，構建人們得以更加富足、充實(shí)生活的社會(huì )制度。

第二，社會(huì )系統。人工智能的使用能夠推動(dòng)個(gè)性化服務(wù)、解決方案的升級和效率化。為了使這些優(yōu)勢得以在社會(huì )層面廣泛應用，需要醫療、金融、保險、交通、能源等在內的社會(huì )系統整體的靈活調整，以應對人工智能帶來(lái)的變革。從社會(huì )系統角度，需要強化“軟件”和“硬件”兩個(gè)方面，形成有助于實(shí)現具有擴充性、互聯(lián)性、發(fā)展性秩序的柔性架構設計。此外，為了保障社會(huì )系統整體的互聯(lián)、協(xié)作，尤其需要建立各類(lèi)社會(huì )系統間互聯(lián)共通的數據應用基礎支撐平臺。

第三，產(chǎn)業(yè)構造。為了使多元化的創(chuàng )意和理想得以實(shí)現，需要靈活地構筑面向國際的開(kāi)放的勞動(dòng)、雇傭和創(chuàng )業(yè)環(huán)境。需要企業(yè)實(shí)施公平競爭、采取靈活的工作方式，使人類(lèi)的創(chuàng )造力通過(guò)產(chǎn)業(yè)能夠得以持續發(fā)揮，從而拉動(dòng)創(chuàng )新創(chuàng )業(yè)投資。

第四，創(chuàng )新系統。大學(xué)、科研機構、企業(yè)以及民眾都可以跨越領(lǐng)域和立場(chǎng)，參與到人工智能研發(fā)、利用及評估中。構建使所有數據能及時(shí)、安全達到被人工智能解析程度、任何人均可安心提供數據、并能夠從中獲得應有收益的環(huán)境。研發(fā)人員和用戶(hù)均可安心從事人工智能研發(fā)及應用，通過(guò)研發(fā)與應用的快速循環(huán)運轉，加速人工智能發(fā)展。通過(guò)人工智能應用進(jìn)一步產(chǎn)生新的創(chuàng )意，催生更多的可能性，進(jìn)一步擴大創(chuàng )新的范圍。

第五，政府監管。隨著(zhù)社會(huì )形勢變化和技術(shù)發(fā)展，人類(lèi)、社會(huì )系統、產(chǎn)業(yè)結構和創(chuàng )新系統的相關(guān)內容和目標也會(huì )隨之更新。需要產(chǎn)學(xué)官民等利益相關(guān)方相互協(xié)作、共同提出規則、制度、標準化、行為規范等方面的監管課題，評估影響，構建能夠表達利益訴求并付諸實(shí)施的法律及監管體制，兼顧較難表達呼聲的社會(huì )群體的意見(jiàn)。采取包括技術(shù)手段在內的企業(yè)層面的自主性規制，構建較為靈活且具實(shí)效性的監管方式。為了應對跨境問(wèn)題，還需要建立國際合作協(xié)調機制。

3、為什么要給人工智能戴上緊箍?jì)?/p>

科技的發(fā)展越來(lái)越迅速，而普通人對于復雜的黑科技也越來(lái)越難以理解。人類(lèi)社會(huì )根據適用對象的不同，需要對人工智能的發(fā)展方向加以疏導和限制，避免可能出現的失控局面。這就需要一些相對具體的指導原則進(jìn)行引領(lǐng)。

第一，人類(lèi)中心原則。人工智能的使用不得侵害憲法和國際規范保障的基本人權。人工智能的研發(fā)、推廣、運用應該被用于提升拓展人的能力,使人類(lèi)獲得多元幸福。為了防止人類(lèi)過(guò)度依賴(lài)人工智能、惡意使用人工智能操縱人類(lèi)意思決定的行為，需要把握以下原則：（1）人工智能不僅僅用來(lái)代替部分人力勞動(dòng)，還可以作為高級工具輔助人類(lèi)，從而拓展人類(lèi)能力和創(chuàng )造性。（2）在人工智能利用中，人類(lèi)自己可以判斷和決定如何使用人工智能。對使用人工智能帶來(lái)的后果和責任，根據問(wèn)題性質(zhì)在研發(fā)、提供、運用等利益相關(guān)者之間妥當分配。（3）在人工智能普及過(guò)程中，防止出現“信息弱者”和“技術(shù)弱者”群體，建立能夠使人工智能帶來(lái)的恩惠普及所有人的、易于使用的系統。

第二，教育應用原則。平等地向所有人提供教育、培育應用的教育環(huán)境：（1）在幼兒教育、初等中等教育中提供廣泛的教育機會(huì )，為社會(huì )人和老年人提供重新學(xué)習的機會(huì )。（2）建立人人都能掌握人工智能、數理、數據科學(xué)等相關(guān)素養的教育系統，超越文理學(xué)科界限強化學(xué)習。在應用教育中，設置有助于認識到數據偏誤及使用方法偏誤等人工智能、數據相關(guān)特性的內容，以及人工智能公平性、公正性、隱私保護等相關(guān)內容。（3）從單方向、均一化教育方式轉變?yōu)榧ぐl(fā)人類(lèi)興趣和力量。始終保持靈活轉變的意識，靈活運用人工智能，構建防止弱勢群體出現的交互式教育環(huán)境。（4）完善教育環(huán)境并不是給行政部門(mén)和學(xué)校（教師）增加負擔，民間企業(yè)和普通市民要發(fā)揮自主性。

第三，保護隱私原則。人工智能社會(huì )中，依據個(gè)人行動(dòng)等數據可以高精度推斷其政治立場(chǎng)、經(jīng)濟狀況、興趣愛(ài)好等。這意味著(zhù)需要謹慎對待個(gè)人數據：（1）對個(gè)人數據的使用，包括政府使用行為在內，不得侵犯個(gè)人自由、尊嚴和平等；（2）對個(gè)人數據中涉及隱私的部分，確保使用行為的正確性、正當性，以及本人能夠實(shí)質(zhì)性地參與，并從中得到適當益處；（3）個(gè)人數據必須根據其重要性和需求性得到妥善保護，基于文化背景和社會(huì )共同理念，把握使用和保護之間的平衡。

第四，保障安全原則。人工智能在實(shí)現社會(huì )系統自動(dòng)化、提升安全性的同時(shí)，在目前能夠設想的技術(shù)范圍內，對于稀有現象和故意攻擊行為人工智能無(wú)法做到總是能夠正確應對，在安全方面存在新的風(fēng)險。因此，需要把握利益與風(fēng)險之間的平衡，從整體上提高社會(huì )的安全性和可持續性：（1）推進(jìn)正確評估人工智能風(fēng)險及降低風(fēng)險的研究、人工智能深度研發(fā)以及包含安全保障在內的風(fēng)險管理；（2）重視人工智能使用的可持續性，不一味依賴(lài)特定的、單一的或者少數幾個(gè)特定的人工智能。

第五，公平競爭原則。維護能夠推動(dòng)商業(yè)模式和服務(wù)創(chuàng )新，維持經(jīng)濟持續增長(cháng)和解決社會(huì )課題的公平的競爭環(huán)境：（1）不應形成特定國家基于對人工智能相關(guān)資源的集中，利用其支配地位實(shí)施不當的數據收集和侵害主權行為的社會(huì )；（2）不應形成特定企業(yè)基于對人工智能相關(guān)資源的集中，利用其支配地位實(shí)施不當的數據收集和不公平競爭行為的社會(huì )；（3）不應形成由于人工智能的使用，導致財富和社會(huì )影響力不當地集中于部分利益相關(guān)者的社會(huì )。

第六，公平性、說(shuō)明責任及透明性原則。為了避免人工智能的使用導致個(gè)人因背景不同而遭受不當的差別待遇，或者使人在尊嚴層面遭受不正當待遇，需要確保公平、透明的意思決定，以及對意思決定結果的說(shuō)明義務(wù)，確保技術(shù)的可信賴(lài)性：（1）在人工智能設計理念下，人不應由于人種、性別、國籍、年齡、政治信念、宗教等背景被不當地差別對待；（2）對使用人工智能事實(shí)、人工智能數據的取得方法及使用方法、確保人工智能運行結構正確性的相關(guān)措施等，都需要根據情況予以說(shuō)明；（3）為使人能夠理解并判斷人工智能提案，對于人工智能的使用、采納、運用都應該根據需要設置溝通對話(huà)場(chǎng)所；（4）使社會(huì )能夠安心靈活使用人工智能，需要保障人工智能以及數據的可信賴(lài)性。

第七，創(chuàng )新原則。（1）為實(shí)現持續創(chuàng )新，需要跨越國境、產(chǎn)學(xué)官民、人種、性別、國籍、年齡、政治理念、宗教等界限，從人才、研究?jì)蓚€(gè)方面，大力推進(jìn)國際化、多樣化以及產(chǎn)學(xué)官民合作；（2）推動(dòng)大學(xué)、研究機構、企業(yè)間的平等合作以及人才流動(dòng)；（3）推進(jìn)人工智能品質(zhì)及可信賴(lài)性的確認方法、效率性數據收集及整理方法、人工智能開(kāi)發(fā)、測試、運用方法論等人工智能工學(xué)的確立；（4）在確保個(gè)人隱私和安全的前提下，打破數據壟斷，推動(dòng)數據跨國境流動(dòng)使用，完善國際合作，構筑人工智能計算機資源、高速網(wǎng)絡(luò )共用的研發(fā)環(huán)境；（5）推進(jìn)人工智能技術(shù)的社會(huì )應用，政府對成為阻礙因素的規制內容實(shí)施改革。

4、我們對人工智能型社會(huì )有怎樣的期待

對于人工智能開(kāi)發(fā)者和經(jīng)營(yíng)者來(lái)說(shuō)，需要遵守基本理念和上述人工智能社會(huì )原則的基礎上，制定并遵守人工智能開(kāi)發(fā)利用原則。目前已經(jīng)有不少?lài)?、團體、企業(yè)都已經(jīng)對人工智能開(kāi)發(fā)利用原則開(kāi)展探討，但是，目前尚未達成國際共識。因此，本《原則》強調日本需要積極制定本國的開(kāi)發(fā)利用原則，通過(guò)開(kāi)放式探討，積極推動(dòng)國際非規制性、非約束性原則框架的達成。2016年，日本政府在G7信息通信部長(cháng)會(huì )議上提出人工智能研發(fā)８項基本原則，并提議創(chuàng )設討論國際統一標準的國際會(huì )議。

當前，人工智能不僅與實(shí)體經(jīng)濟深度融合，對于社會(huì )發(fā)展、貧富差距、政府治理、資源枯竭、全球環(huán)境問(wèn)題和科學(xué)研究等關(guān)乎人類(lèi)可持續發(fā)展的重大課題都有重要影響。加上日本自身面臨少子高齡化、勞動(dòng)力不足、地方稀疏化、財政支出負擔等社會(huì )經(jīng)濟問(wèn)題，因此，日本政府對人工智能的發(fā)展和廣泛應用寄予厚望。其人工智能的內涵并不局限于技術(shù)層面的人工智能，而是泛指“高度復雜的智能社會(huì )體系”。

值得一提的是，《原則》在尊重人類(lèi)尊嚴、實(shí)現人工智能可信賴(lài)性等方面與歐洲委員會(huì )2018年12月18日發(fā)布的《關(guān)于可信賴(lài)人工智能的倫理準則》具有一致之處?！对瓌t》崇尚人人平等、不唯效率至上的人本發(fā)展觀(guān)，符合對“Society 5.0”的概念界定和打造超級智能社會(huì )的發(fā)展目標。

中國作為2016年二十國集團（G20）主席國，首次將“數字經(jīng)濟”列為G20創(chuàng )新增長(cháng)藍圖中的一項重要議題。2018年G20峰會(huì )，我國建議二十國集團將“新技術(shù)應用及其影響”作為一項重點(diǎn)工作深入研究。我國作為人工智能發(fā)展大國，向全球展現了人工智能時(shí)代的中國智慧。我們不僅要抓住人工智能發(fā)展機遇，還要積極應對人口老齡化、勞動(dòng)力人口下降、技能型人才短缺等挑戰，多維度對人工智能的開(kāi)發(fā)應用及影響進(jìn)行系統深入、客觀(guān)冷靜的專(zhuān)業(yè)研討，在基礎研究、技術(shù)開(kāi)發(fā)應用、資源開(kāi)放共享、人才教育及法律政策上進(jìn)行有序引導，為人工智能持續健康發(fā)展保駕護航。

摘自《光明日報》