日前，聯(lián)合國教科文組織（UNESCO）正式發(fā)布《人工智能倫理建議書(shū)》（以下簡(jiǎn)稱(chēng)《建議書(shū)》）。這是關(guān)于人工智能倫理的首份全球性規范文書(shū)。

作為UNESCO人工智能倫理特設專(zhuān)家組成員，中國科學(xué)院自動(dòng)化研究所中英人工智能倫理與治理研究中心主任、國家新一代人工智能治理專(zhuān)委會(huì )委員曾毅參與了《建議書(shū)》的起草與修改。

曾毅在接受《中國科學(xué)報》采訪(fǎng)時(shí)表示：“《建議書(shū)》是目前全世界在政府層面達成的最廣泛的共識，是全球人工智能發(fā)展的共同綱領(lǐng)，將為進(jìn)一步形成人工智能倫理有關(guān)的國際標準、國際法等提供強有力的參考?！?/p>

走向全球共識

隱私、安全、公平、對人類(lèi)的潛在風(fēng)險等，人工智能在飛速發(fā)展的同時(shí)，也給社會(huì )帶來(lái)了根本性的挑戰。

雖然不同國家、政府間組織、科研和產(chǎn)業(yè)界已經(jīng)發(fā)布了不少關(guān)于人工智能發(fā)展、倫理與治理原則，但這些原則并沒(méi)有形成統一觀(guān)念，人工智能倫理亟待達成全球共識。

UNESCO總干事阿祖萊在《建議書(shū)》發(fā)布會(huì )上表示，“我們呼吁所有的成員國立即行動(dòng)起來(lái)開(kāi)始實(shí)施這份建議書(shū)。民眾、企業(yè)等全社會(huì )都應當行動(dòng)起來(lái)。這項工作已經(jīng)開(kāi)始了，20余個(gè)國家已經(jīng)表態(tài)當《建議書(shū)》被采納后，將受《建議書(shū)》的啟發(fā)開(kāi)啟評估。UNESCO將推進(jìn)務(wù)實(shí)的評估落地工作?！?/p>

此次發(fā)布的《建議書(shū)》的核心是價(jià)值觀(guān)、倫理原則及相關(guān)的政策建議、監測與評估。在價(jià)值觀(guān)方面，《建議書(shū)》從尊重、保護和促進(jìn)人權和基本自由以及人的尊嚴，環(huán)境和生態(tài)系統蓬勃發(fā)展，確保多樣性和包容性，以及在和平、公正與互聯(lián)的社會(huì )中共生等4部分進(jìn)行了闡述。

曾毅認為，《建議書(shū)》囊括了針對現代人工智能（人工智能作為信息處理工具和賦能技術(shù)）倫理考慮的最重要方面。

例如，雖然大規模數據處理及算力的提升促進(jìn)了現代人工智能的發(fā)展，但也帶來(lái)了潛在的環(huán)境問(wèn)題。

為此，《建議書(shū)》在價(jià)值觀(guān)“環(huán)境和生態(tài)系統蓬勃發(fā)展”部分指出，應減少人工智能系統對環(huán)境的影響，包括但不限于碳足跡，以確保將氣候變化和環(huán)境風(fēng)險因素降到最低，防止會(huì )加劇環(huán)境惡化和生態(tài)系統退化的對自然資源的不可持續開(kāi)采、使用和轉化。

此外，《建議書(shū)》還考慮了不適用人工智能的場(chǎng)景，并在“相稱(chēng)性與不損害”的原則部分提出，人工智能技術(shù)本身并不能確保人類(lèi)、環(huán)境和生態(tài)系統蓬勃發(fā)展。在有可能對人類(lèi)、人權和基本自由、個(gè)別社區和整個(gè)社會(huì )，或者對環(huán)境和生態(tài)系統造成損害時(shí)，以確保落實(shí)風(fēng)險評估程序并采取措施，以防止發(fā)生此類(lèi)損害。

不僅如此，《建議書(shū)》在此部分還明確提出人類(lèi)應當確保在關(guān)鍵領(lǐng)域進(jìn)行有意義的控制，以確保人類(lèi)的決策權，并對高風(fēng)險領(lǐng)域進(jìn)行了警示。

“和諧共生”價(jià)值觀(guān)被部分采納

在曾毅看來(lái)，《建議書(shū)》在一定程度上體現了全球不同文化的包容性思想。其中，“在和平、公正與互聯(lián)的社會(huì )中共生”的價(jià)值觀(guān)充分體現了來(lái)自亞洲和非洲等國專(zhuān)家的共同愿景與貢獻。

在UNESCO特設專(zhuān)家組撰寫(xiě)草案期間，鑒于部分國家和政府間組織的人工智能原則強調自身的價(jià)值觀(guān)和利益優(yōu)先，曾毅提議納入“和諧共生”的價(jià)值觀(guān)。

在曾毅看來(lái)，“和諧共生”的價(jià)值觀(guān)，是倡導人類(lèi)社會(huì )與人工智能技術(shù)和諧發(fā)展，人工智能賦能人類(lèi)、社會(huì )、生態(tài)之間的和諧發(fā)展，號召各個(gè)國家通過(guò)人工智能促進(jìn)人類(lèi)命運共同體的構建。

他告訴記者，“和諧共生”的思想在由國家新一代人工智能治理專(zhuān)委會(huì )制定的《新一代人工智能治理原則》以及《新一代人工智能倫理規范》中有以“和諧友好”等形式和內容體現的相似表述，是我國發(fā)展人工智能技術(shù)、處理技術(shù)與社會(huì )關(guān)系的總綱。

雖然“和諧共生”的提議被來(lái)自亞洲和非洲等多國的特設專(zhuān)家組專(zhuān)家及部分政府間磋商代表所贊同，但在隨后的環(huán)節，由于部分國家代表未能接受“和諧”等提法，隨后改為“在和平、公正與互聯(lián)的社會(huì )中共生”，“和諧共生”的核心要義得以部分保留和采納。

例如，《建議書(shū)》在“在和平、公正與互聯(lián)的社會(huì )中共生”部分，強調“每個(gè)人都屬于一個(gè)更大的整體，當這個(gè)整體中的組成部分都能夠繁榮興旺時(shí)，整體才會(huì )蒸蒸日上”。

曾毅對此感到有些遺憾?！啊推焦采c‘和諧共生’的意義并不完全相同?！椭C共生’在和而不同、同舟共濟的基礎上還有發(fā)展的意義，倡導優(yōu)化共生，而‘和平共生’這種表述難以表達求同存異、謀求發(fā)展的意義?！?/p>

但他也表示，雖然《建議書(shū)》沒(méi)有直接采納“和諧共生”的表述，但相關(guān)思想得以保留，被各國專(zhuān)家認為是《建議書(shū)》中融入非西方價(jià)值觀(guān)的重要體現。

“‘和諧共生’的理念已經(jīng)作為我國人工智能倫理與治理原則的特色，未來(lái)必然會(huì )成為中國對世界的貢獻?！痹惚硎?。

可持續發(fā)展的共同愿景

可持續發(fā)展目標是聯(lián)合國各機構力推的全球發(fā)展共同愿景，我國發(fā)布的《新一代人工智能治理原則》以及《新一代人工智能倫理規范》都將可持續發(fā)展作為新一代人工智能的總體愿景和賦能全球人工智能發(fā)展的重要途徑。然而，很多國家在人工智能發(fā)展和倫理原則中并沒(méi)有明確提出可持續性。

因此，在《建議書(shū)》原則部分的撰寫(xiě)階段，曾毅提出，雖然可持續的理念隱含在文本中的若干方面，但作為全球共同愿景，發(fā)展人工智能必須賦能可持續發(fā)展目標的實(shí)現，同時(shí)還要密切關(guān)注人工智能應用于可持續發(fā)展相關(guān)目標領(lǐng)域時(shí)，是否帶來(lái)阻礙該目標實(shí)現的風(fēng)險，尋求發(fā)展與治理的協(xié)同?！啊沙掷m’應當作為原則明確列入《建議書(shū)》?！?/p>

最終，該意見(jiàn)被《建議書(shū)》不同階段廣泛接受，并在政策部分，特別針對環(huán)境和生態(tài)系統領(lǐng)域如何通過(guò)人工智能賦能實(shí)現可持續性給出了具體建議。

實(shí)際上，除了參與起草和修改《建議書(shū)》，曾毅還在UNESCO組織的區域性專(zhuān)家咨詢(xún)會(huì )上代表UNESCO特設專(zhuān)家組向亞太地區各國政府專(zhuān)家代表宣講了《建議書(shū)》草案，并作為政府間專(zhuān)家磋商的中方專(zhuān)家代表參加磋商。

曾毅告訴記者，起草和宣講《建議書(shū)》時(shí)，他從未感到緊張，因為在那個(gè)階段，他的角色更多的是貢獻學(xué)術(shù)觀(guān)點(diǎn)的獨立的學(xué)者。但在政府間代表磋商階段，特別是被稱(chēng)為“成員國中國代表”時(shí)，他倍感責任重大。

目前，UNESCO正在依據《建議書(shū)》建立倫理評估工具和針對國家人工智能倫理完備指數評估的輔助系統，以敦促和幫助各國落實(shí)倫理規范。

在曾毅看來(lái)，人工智能的國際協(xié)作是通過(guò)技術(shù)賦能助力實(shí)現人類(lèi)命運共同體，而人工智能倫理與治理的國際交流與協(xié)作是確保人工智能?chē)H合作能夠達成共識，并持續推進(jìn)的基石。

“因此，十分有必要推進(jìn)形成由類(lèi)似于UNESCO這樣的政府間機構、各國政府、學(xué)術(shù)界、產(chǎn)業(yè)、公眾緊密交互的多利益相關(guān)方人工智能治理體系，通過(guò)深度協(xié)同擴大共識、避免誤解、減少分歧，確保人工智能的全球發(fā)展及其治理最終促進(jìn)人類(lèi)和生態(tài)的整體協(xié)同發(fā)展?！痹惚硎?。

來(lái)源:《中國科學(xué)報》