許多人工智能研究人員認為，未來(lái)超級人工智能的發(fā)展可能會(huì )導致人類(lèi)滅絕。不過(guò)，對于這種風(fēng)險仍存在較大的分歧和不確定性。

這一發(fā)現來(lái)自對2700名人工智能研究人員的調查，這些研究人員都曾在最近召開(kāi)的6個(gè)頂級人工智能會(huì )議上發(fā)表過(guò)研究成果。

這是迄今為止規模最大的一項調查。該調查要求參與者分享他們對未來(lái)人工智能技術(shù)里程碑的設想，以及這些成就帶來(lái)的或好或壞的社會(huì )后果。

近58%的研究人員表示，導致人類(lèi)滅絕或其他與人工智能相關(guān)的極其糟糕的結果的可能性為5%。

“這是一個(gè)重要的信號，表明大多數人工智能研究人員并不認為先進(jìn)的人工智能會(huì )摧毀人類(lèi)?！毕嚓P(guān)論文作者之一、美國機器智能研究所的Katja Grace說(shuō)，“我認為，人們普遍認為的風(fēng)險并非微不足道，這比確切的風(fēng)險百分比更能說(shuō)明問(wèn)題?！?/p>

但美國凱斯西儲大學(xué)的Emile Torres說(shuō)，目前還沒(méi)有必要恐慌。許多人工智能專(zhuān)家在預測未來(lái)人工智能發(fā)展方面并“沒(méi)有良好的記錄”。

Grace和同事承認，人工智能研究人員不是預測人工智能未來(lái)軌跡的專(zhuān)家，但在2016年的一項調查中，他們在預測人工智能里程碑方面表現得“相當好”。

與2022年，同類(lèi)調查的結果相比，許多人工智能研究人員預測，人工智能將比之前預測的更早到達某些里程碑。與此同時(shí)，ChatGPT于2022年11月首次亮相，硅谷也急于廣泛部署基于大型語(yǔ)言模型的類(lèi)似人工智能聊天機器人的服務(wù)。

接受調查的研究人員預測，在未來(lái)10年內，人工智能系統有50%或更大的概率成功完成39項樣本任務(wù)中的大多數任務(wù)，其中包括寫(xiě)一首與泰勒·斯威夫特的歌曲毫無(wú)區別的新歌，或者從頭編碼一個(gè)完整的支付處理網(wǎng)站。其他任務(wù)，如在新家安裝電線(xiàn)或解決長(cháng)期存在的數學(xué)難題，人工智能系統預計將花費更長(cháng)時(shí)間。

到2047年，人工智能在每項任務(wù)上的表現都超過(guò)人類(lèi)的可能性為50%，而到2116年，所有人類(lèi)工作完全自動(dòng)化的可能性為50%。這些估計比去年的調查結果分別早了13年和48年。

不過(guò)Torres表示，對人工智能發(fā)展的高期望也可能落空?！昂芏嗤黄贫际遣豢深A測的。人工智能領(lǐng)域完全有可能經(jīng)歷另一個(gè)冬天?！贝饲暗挠隼淇伤菁?0世紀七八十年代人工智能領(lǐng)域資金枯竭和企業(yè)興趣的喪失。

即使在沒(méi)有任何超級人工智能風(fēng)險的情況下，也有其他更直接的擔憂(yōu)。70%以上的人工智能研究人員認為，人工智能驅動(dòng)的場(chǎng)景涉及深度偽造、公眾輿論操縱、工程武器和日益惡化的經(jīng)濟不平等，這些要么令人嚴重關(guān)切，要么令人極為擔憂(yōu)。

來(lái)源：《中國科學(xué)報》