當前，人工智能浪潮方興未艾，在很多領(lǐng)域展示出巨大應用前景。然而，隨著(zhù)人工智能技術(shù)的不斷發(fā)展，它引發(fā)的倫理爭議也不斷出現

近日，中國發(fā)展研究基金會(huì )發(fā)布報告——《未來(lái)基石——人工智能的社會(huì )角色與倫理》。針對人工智能倫理問(wèn)題，報告在提出一系列建議的同時(shí)，也希望推動(dòng)問(wèn)題的充分討論。

對人工智能的討論足夠了嗎

迄今為止，我們對人工智能可能會(huì )帶來(lái)的挑戰仍知之甚少，嚴肅的公共討論還十分缺乏

要理解人工智能的社會(huì )影響，首先要認識人工智能在社會(huì )發(fā)展中的獨特作用。在人類(lèi)發(fā)展進(jìn)程中，知識的增長(cháng)和社會(huì )協(xié)作體系的擴展起到了重要作用，而這一切都離不開(kāi)人類(lèi)大腦提供的智能基礎。

報告認為，人工智能的發(fā)展，將帶來(lái)知識生產(chǎn)和利用方式的深刻變革，人工智能不僅意味著(zhù)前沿科技和高端產(chǎn)業(yè)，未來(lái)也可以廣泛用于解決人類(lèi)社會(huì )面臨的長(cháng)期性挑戰。從消除貧困到改善教育，從提供醫療到促進(jìn)可持續發(fā)展，人工智能都大有用武之地。

例如，人工智能可以大幅度降低醫療服務(wù)的成本，緩解醫療人才不足的局面。在教育領(lǐng)域，人工智能能夠分析人們獲取知識的方式，然后利用這些信息開(kāi)發(fā)出相應模型，來(lái)預測人們的投入和理解程度。人工智能還可以改變貧困地區高水平教師不足、教學(xué)質(zhì)量低下的局面，促進(jìn)教育公平。

此外，人工智能可以服務(wù)于殘障人士。例如，微軟最近在ios應用程序商店推出了一款名為“seeing AI”的產(chǎn)品，幫助失明和弱視人群應對日常生活中的問(wèn)題?！皊eeing AI”的開(kāi)發(fā)團隊包括一名在7歲時(shí)就失明的工程師，這一應用程序盡管還處于早期階段，但已證明人工智能可以捕捉用戶(hù)周?chē)膱D像并即時(shí)描述。比如，它可以讀取菜單、清點(diǎn)貨幣等，從而幫助殘障人士提高生活能力。

然而，迄今為止，我們對人工智能可能會(huì )帶來(lái)的挑戰仍知之甚少，嚴肅的公共討論還十分缺乏。社會(huì )公眾對人工智能的想象在很大程度上仍被科幻小說(shuō)和影視作品所主導，而對于人工智能在未來(lái)可能產(chǎn)生的影響，更是缺乏認知和關(guān)切。在政策層面，對于人工智能的關(guān)注很大程度上仍集中于技術(shù)和經(jīng)濟層面，缺乏整體性的思考和討論。盡管有少數哲學(xué)和社科領(lǐng)域的學(xué)者開(kāi)始關(guān)注人工智能帶來(lái)的倫理問(wèn)題和社會(huì )挑戰，但這些討論并未進(jìn)入公共政策視界，而且討論的重點(diǎn)也多集中在超級人工智能這樣仍相對遙遠的議題上。

報告認為，在人工智能問(wèn)題上，圍繞可能出現的挑戰，無(wú)知、忽視、偏狹、誤解交織在一起，可能會(huì )導致真正的風(fēng)險。

人工智能會(huì )帶來(lái)哪些倫理挑戰

從人文視角來(lái)看，人工智能帶來(lái)了一些有可能撼動(dòng)社會(huì )基礎的根本性問(wèn)題

中國發(fā)展研究基金會(huì )副理事長(cháng)兼秘書(shū)長(cháng)盧邁表示，人工智能發(fā)展將進(jìn)一步釋放社會(huì )活力，中國應積極擁抱人工智能，充分利用好它對生產(chǎn)力的解放效應。但是，把握機遇的前提是了解并預防風(fēng)險，這需要我們在倫理學(xué)和社會(huì )治理上下功夫。

中國發(fā)展研究基金會(huì )秘書(shū)長(cháng)助理、研究一部主任俞建拖認為，社會(huì )應該正視人工智能帶來(lái)的挑戰，并超越純技術(shù)和經(jīng)濟的視角，從社會(huì )和人文視角去探討人工智能帶來(lái)的影響。

報告認為，從人文視角來(lái)看，人工智能帶來(lái)了一些已經(jīng)在發(fā)生或即將發(fā)生、有可能撼動(dòng)我們社會(huì )基礎的根本性問(wèn)題。

隨著(zhù)人工智能的不斷發(fā)展，我們對于人的理解越來(lái)越物化和去意義化，人和機器的邊界越來(lái)越模糊，我們需要思考這種邊界模糊的后果。我們該如何對待機器和自身的關(guān)系？人和機器應該整合嗎？如果人對快樂(lè )和痛苦的感受可以通過(guò)其他物理和化學(xué)手段來(lái)滿(mǎn)足，那么，人還有參與社會(huì )互動(dòng)的需要和動(dòng)力嗎？

人工智能還帶來(lái)了新的社會(huì )權力結構問(wèn)題。借助人工智能，企業(yè)可以賦予每個(gè)用戶(hù)大量的數據標簽，并基于這些標簽了解人的偏好和行為，甚至超過(guò)用戶(hù)對自己的了解，這是巨大的權利不對稱(chēng)。

此外，人工智能可能會(huì )造成偏見(jiàn)強化。在社交媒體中，人工智能將觀(guān)點(diǎn)相近的人相互推薦，新聞推送也常常存在路徑依賴(lài)。當人們的信息來(lái)源越來(lái)越依賴(lài)于智能機器，偏見(jiàn)會(huì )在這種同化和路徑依賴(lài)中被強化。

人工智能還使社會(huì )的信息和知識加工處理能力被極大放大，信息和知識的冗余反而使人陷入選擇困境。如果人參與社會(huì )互動(dòng)的次數和范圍縮小，而人工智能越來(lái)越多介入到知識的生產(chǎn)中，知識與人的需求之間的關(guān)系將變得越來(lái)越間接，甚至會(huì )反過(guò)來(lái)支配人的需求。

盡管人工智能也會(huì )推動(dòng)進(jìn)一步的專(zhuān)業(yè)化分工和創(chuàng )造新的工作機會(huì )，但并非所有人都有能力邁過(guò)技術(shù)性和社會(huì )性壁壘。尤瓦爾·赫拉利在《未來(lái)簡(jiǎn)史》中警告，未來(lái)社會(huì )可能會(huì )出現“無(wú)用階級”，這種擔心并非全無(wú)道理。

人工智能也對傳統的法律法規和社會(huì )規范提出了挑戰。譬如，無(wú)人駕駛汽車(chē)一旦出現事故，我們究竟該歸因于開(kāi)發(fā)產(chǎn)品的企業(yè)、產(chǎn)品擁有者還是人工智能產(chǎn)品本身？

如何構建人工智能的倫理規范

考慮到人工智能的深遠影響，需要全社會(huì )共同努力，制定開(kāi)發(fā)和應用的倫理規范和政策方向人工智能正幫助人類(lèi)社會(huì )向充滿(mǎn)不確定性的未來(lái)疾馳。在沖進(jìn)未知之門(mén)之前，需要給它裝上剎車(chē)，讓它真正能行穩致遠，這個(gè)剎車(chē)就是倫理規范和公共政策準則。

當前，已經(jīng)有一些人工智能領(lǐng)先企業(yè)關(guān)注人工智能開(kāi)發(fā)和應用的倫理問(wèn)題。微軟公司總裁施博德表示，要設計出可信賴(lài)的人工智能，必須采取體現道德原則的解決方案，因此微軟提出6個(gè)道德基本準則：公平、包容、透明、負責、可靠與安全、隱私與保密。谷歌公司也表示，在人工智能開(kāi)發(fā)應用中，堅持包括公平、安全、透明、隱私保護在內的7個(gè)準則，并明確列出了谷歌“不會(huì )追求的AI應用”。

報告認為，這些企業(yè)的前瞻性探索十分重要。但是，考慮到人工智能對未來(lái)社會(huì )的深遠影響，還需要全社會(huì )和各國政府的共同努力，制定人工智能開(kāi)發(fā)和應用的倫理規范和政策方向，為其未來(lái)健康發(fā)展奠定基礎。

為此，報告提出了一系列建議：在社會(huì )層面，高校和研究機構開(kāi)展前瞻性科技倫理研究，為相關(guān)規范和制度的建立提供理論支撐；各國政府、產(chǎn)業(yè)界、研究人員、民間組織和其他利益攸關(guān)方展開(kāi)廣泛對話(huà)和持續合作，通過(guò)一套切實(shí)可行的指導原則，鼓勵發(fā)展以人為本的人工智能；人工智能企業(yè)應該將倫理考量納入企業(yè)社會(huì )責任框架中；投資機構應將倫理問(wèn)題納入ESG（環(huán)境、社會(huì )和治理）框架，引導企業(yè)進(jìn)行負責任的人工智能產(chǎn)品開(kāi)發(fā)；社會(huì )組織可以通過(guò)培訓、發(fā)布倫理評估報告、總結代表性案例等方式，推動(dòng)人工智能倫理規范的構建。

報告建議，在公共政策層面，人工智能研發(fā)和應用的政策應該將人置于核心，滿(mǎn)足人全面發(fā)展的需求，促進(jìn)社會(huì )的公平和可持續發(fā)展；政府需要設立專(zhuān)項資金，支持大學(xué)和研究機構開(kāi)展人工智能等前沿科技的倫理研究；政府還需要給予不同人群以學(xué)習了解人工智能的機會(huì )，推動(dòng)全社會(huì )對人工智能的知識普及和公共政策討論；優(yōu)先鼓勵人工智能應用于解決社會(huì )領(lǐng)域的突出挑戰，包括減少貧困和不平等，促進(jìn)弱勢群體融入社會(huì )并參與社會(huì )發(fā)展進(jìn)程；應組建由政府部門(mén)和行業(yè)專(zhuān)家組成的人工智能倫理委員會(huì )，對人工智能的開(kāi)發(fā)和應用提供倫理指引，并對具有重大公共影響的人工智能產(chǎn)品進(jìn)行倫理與合法性評估。

此外，對于人工智能的規范發(fā)展也需要更廣泛的國際合作。清華大學(xué)公共管理學(xué)院院長(cháng)薛瀾表示，“人工智能的發(fā)展將在創(chuàng )新治理、可持續發(fā)展和全球安全合作3個(gè)方面對現行國際秩序產(chǎn)生深刻影響，需要各國政府與社會(huì )各界從人類(lèi)命運共同體的高度予以關(guān)切和回應。只有加強各國之間的合作與交流，才可能真正構建起一套全球性的、共建共享、安全高效、持續發(fā)展的人工智能治理新秩序”。

報告也建議，各國政府應促進(jìn)數據共享技術(shù)，為人工智能培訓和測試提供共享的公共數據集。在個(gè)人信息得到保護的前提下，促進(jìn)數據的自由流通；并加強國際合作，建立多層次的國際人工智能治理機制。各國政府應通過(guò)聯(lián)合國、G20以及其他國際平臺，將人工智能發(fā)展納入國際合作議程，利用人工智能推動(dòng)聯(lián)合國2030年可持續發(fā)展目標的實(shí)現。

摘自《經(jīng)濟日報》