使用人工智能的算法正在嘗試以意想不到的技巧來(lái)解決問(wèn)題，這讓它們的開(kāi)發(fā)者感到驚訝。但與此同時(shí)，這也引發(fā)了人們對如何控制人工智能的擔憂(yōu)。

谷歌公司的一群?jiǎn)T工正茫然地盯著(zhù)自己的電腦屏幕。幾個(gè)月來(lái)，他們一直在完善一個(gè)算法，用來(lái)控制一個(gè)無(wú)人熱氣球從波多黎各一直飛到秘魯。但還是有些地方不盡如人意，氣球在機器智能的控制下不斷偏離既定路線(xiàn)。 

Loon項目（Project Loon）是谷歌公司現在已經(jīng)停止的一個(gè)項目，它原本的目標旨在通過(guò)氣球將互聯(lián)網(wǎng)接入偏遠地區。作為該項目的負責人，塞爾瓦托·坎迪多無(wú)法解釋這個(gè)氣球的軌跡。最后，他的同事們手動(dòng)控制了系統，讓氣球回到了正軌。

后來(lái)他們才意識到發(fā)生了什么。令人意想不到的是，氣球上的人工智能學(xué)會(huì )了重現人類(lèi)在幾百年，甚至幾千年前發(fā)明的古老航海技術(shù)，例如“改變航向”，這指的是操縱船只迎風(fēng)航行，然后再向外傾斜，從而在大致方向上以之字形前進(jìn)。

在不利的天氣條件下，自主飛行的氣球已經(jīng)學(xué)會(huì )了完全靠自己來(lái)改變航向。它們自發(fā)地完成了這一過(guò)程，讓所有人都感到震驚，尤其是參與這個(gè)項目的研究人員。

“當第一個(gè)被允許完全執行這種技術(shù)的氣球創(chuàng )造了從波多黎各到秘魯的飛行時(shí)間記錄時(shí)，我們馬上意識到自己被打敗了，”坎迪多在一篇關(guān)于該項目的博客文章中寫(xiě)道，“我從來(lái)沒(méi)有像這樣，同時(shí)感到自己既聰明又愚蠢?！?/span>

富有創(chuàng )造力的人工智能

當人工智能在設備中被放任自流時(shí)，很可能就會(huì )發(fā)生這樣的事情。與傳統的計算機程序不同，人工智能的設計目的就是探索和開(kāi)發(fā)新的方法，以完成人類(lèi)工程師沒(méi)有明確告訴它們的任務(wù)。

然而，在學(xué)習如何完成這些任務(wù)的同時(shí)，人工智能有時(shí)會(huì )想出一種極富創(chuàng )造力的方法，甚至會(huì )讓一直使用這種系統的人大吃一驚。這可能是一件好事，但同時(shí)也可能使人工智能控制的一切變得不可預測，甚至可能帶來(lái)危險。例如，機器人和自動(dòng)駕駛汽車(chē)最終可能做出將人類(lèi)置于危險境地的決定。

人工智能系統怎么可能“智勝”它的人類(lèi)主人呢？我們能否以某種方式約束機器智能，以確保不致某些不可預見(jiàn)的災難？

在人工智能研究界，有一個(gè)關(guān)于人工智能創(chuàng )造力的例子似乎被引用得最多。真正讓人們對人工智能的能力感到興奮的時(shí)刻，是DeepMind的人工智能機器學(xué)習系統AlphaGo如何掌握圍棋這一古老的游戲，然后擊敗了世界上最優(yōu)秀的人類(lèi)棋手之一。DeepMind是一家創(chuàng )立于2010年的人工智能公司，在2014年被谷歌收購。

事實(shí)證明，它們可以用一些以往從未有人用過(guò)——或者至少很多人不知道——的新策略或新技巧，來(lái)對付人類(lèi)棋手。

然而，即使是這樣一場(chǎng)單純的圍棋游戲，也會(huì )引起人們不同的感受。一方面，DeepMind自豪地描述了其系統AlphaGo的“創(chuàng )新”之處，并揭示了圍棋，這一人類(lèi)已經(jīng)玩了數千年的游戲的新玩法。另一方面，一些人質(zhì)疑如此有創(chuàng )造性的人工智能有朝一日是否會(huì )對人類(lèi)構成嚴重威脅。

在A(yíng)lphaGo取得歷史性勝利后，澳大利亞西悉尼大學(xué)的機器學(xué)習、電子學(xué)和神經(jīng)科學(xué)研究者喬納森?塔普森寫(xiě)道：“認為我們能夠預測或管理人工智能最壞的行為是很可笑的，我們實(shí)際上無(wú)法想象它們可能的行為?！?/span>

我們需要記住的重要一點(diǎn)是，人工智能并不真正像人類(lèi)那樣思考。它們的神經(jīng)網(wǎng)絡(luò )確實(shí)是受到了動(dòng)物大腦的啟發(fā)，但更確切地說(shuō)，它們是所謂的“探索設備”。當它們試圖解決一個(gè)任務(wù)或問(wèn)題時(shí)，并不會(huì )帶有很多（如果有的話(huà)）對更廣闊世界的先入之見(jiàn)。它們只是嘗試——有時(shí)是數百萬(wàn)次——去找到一個(gè)解決方案。

我們人類(lèi)有很多思想上的包袱，我們會(huì )考慮規則，人工智能系統甚至不理解規則，因此它們可以隨意地撥弄事物。

在這種情況下，人工智能可以被描述為具有“學(xué)者癥候群”的硅等量物。所謂學(xué)者癥候群，通常是指一個(gè)人有嚴重的精神障礙，但卻在某種藝術(shù)或學(xué)術(shù)上擁有非凡的能力，其天賦通常與記憶有關(guān)。

不斷帶給我們驚奇

人工智能讓我們感到驚奇的方式之一，是它們能夠使用相同的基本系統來(lái)解決根本不同的問(wèn)題。最近，一款機器學(xué)習工具就被要求執行一項非常不同的功能：下國際象棋。

該系統被稱(chēng)為“GPT-2”，由非營(yíng)利的人工智能研究組織OpenAI開(kāi)發(fā)。GPT-2利用數以百萬(wàn)計的在線(xiàn)新聞文章和網(wǎng)頁(yè)信息進(jìn)行訓練，可以根據句子中前面的單詞預測下一個(gè)單詞。開(kāi)發(fā)者肖恩·普萊瑟認為，國際象棋的走法可以用字母和數字的組合來(lái)表示，因此如果根據國際象棋比賽的記錄來(lái)訓練算法，這一工具就可以通過(guò)計算理想的走法序列來(lái)學(xué)習如何下棋。

普萊瑟對GPT-2系統進(jìn)行了240萬(wàn)場(chǎng)國際象棋比賽的訓練?！翱吹较笃逡孀兂涩F實(shí)真是太酷了，”他說(shuō)，“我當時(shí)根本不確定這能不能行得通?！钡獹PT-2做到了。盡管它的水平還比不上專(zhuān)門(mén)設計的國際象棋計算機，但已經(jīng)能夠成功地完成艱苦的比賽。

這個(gè)實(shí)驗表明GPT-2系統具有許多尚待探索的能力，堪稱(chēng)一個(gè)具有國際象棋天賦的專(zhuān)家。該軟件后來(lái)的一個(gè)版本讓網(wǎng)頁(yè)設計人員大為震驚，當時(shí)，一位開(kāi)發(fā)人員對其進(jìn)行了簡(jiǎn)單的訓練，讓它寫(xiě)出用于在網(wǎng)頁(yè)上顯示項目（如文本和按鈕）的代碼。盡管只有一些簡(jiǎn)單的描述，如“表示‘我愛(ài)你’的紅色文本和帶有‘ok’的按鈕”，但這個(gè)人工智能依然生成了適當的代碼。很顯然，它已經(jīng)掌握了網(wǎng)頁(yè)設計的基本要領(lǐng)，但所受的訓練卻少得驚人。

長(cháng)期以來(lái)，人工智能給人們留下的深刻印象主要來(lái)自電子游戲領(lǐng)域。在人工智能研究界，有無(wú)數例子揭示了算法在虛擬環(huán)境中所做到的事情有多么令人驚訝。研究者經(jīng)常在諸如電子游戲等空間中對算法進(jìn)行測試和磨練，以了解它們到底有多強大。

2019年，OpenAI因為一段視頻登上了新聞頭條。視頻中，一個(gè)由機器學(xué)習控制的角色正在玩捉迷藏游戲。令研究人員驚訝的是，游戲中的“尋找者”最終發(fā)現，它們可以跳到物品上方進(jìn)行“沖浪”，從而進(jìn)入“躲藏者”所在的圍欄。換言之，“尋找者”學(xué)會(huì )了為了自己的利益而改變游戲規則。

反復試錯的策略會(huì )帶來(lái)各種有趣的行為，但并不總能帶來(lái)成功。兩年前，DeepMind的研究員維多利亞·克拉科夫娜邀請她博客的讀者分享人工智能解決棘手問(wèn)題的故事，但要求解決問(wèn)題的方式是不可預測或不可接受的。

她整理出了一長(cháng)串很吸引人的例子。其中有一個(gè)游戲算法，在第1關(guān)結束時(shí)學(xué)會(huì )了自殺，以避免在第2關(guān)死亡，這就實(shí)現了在第2個(gè)關(guān)卡中不死的目標，只不過(guò)采用了一種特別令人印象深刻的方式。另一個(gè)算法發(fā)現，它可以在游戲中跳下懸崖，并將對手帶向毀滅；通過(guò)這種方式，人工智能得到了足夠的點(diǎn)數以獲得額外的生命，從而在無(wú)限循環(huán)中不斷重復這種自殺策略。

紐約大學(xué)坦登工程學(xué)院的電子游戲人工智能研究者朱利安·托格里烏斯試圖解釋這其中發(fā)生的一切。他表示，這些都是“獎勵分配”錯誤的典型例子。當人工智能被要求完成某件事時(shí)，它可能會(huì )找到一些奇怪的、出乎意料的方法來(lái)實(shí)現目標，并最終證明這些方法是正確的。人類(lèi)很少采取這樣的策略，指導我們如何游戲的方法和規則十分重要。

研究人員發(fā)現，當人工智能系統在特殊條件下接受測試時(shí)，這種目標導向的偏見(jiàn)會(huì )暴露出來(lái)。在最近的一項實(shí)驗中，被要求在銀行進(jìn)行投資的游戲人工智能角色會(huì )跑到虛擬銀行大廳附近的一個(gè)角落，等待獲得投資回報，這個(gè)算法已經(jīng)學(xué)會(huì )了將跑到拐角處與獲得金錢(qián)回報聯(lián)系起來(lái)，盡管這種運動(dòng)與得到多少回報之間并沒(méi)有實(shí)際的關(guān)系。

這有點(diǎn)像人工智能在發(fā)展迷信，在得到了某種獎勵或懲罰之后，它們開(kāi)始思考為什么會(huì )得到這些。

這是“強化學(xué)習”的陷阱之一。所謂“強化學(xué)習”，是指人工智能最終會(huì )根據它在環(huán)境中遇到的情況設計出判斷錯誤的策略。人工智能不知道自己為什么會(huì )成功，它只能將自己的行動(dòng)建立習得聯(lián)想的基礎上。這有點(diǎn)像人類(lèi)文化早期階段時(shí)，將祈禱儀式與天氣變化聯(lián)系起來(lái)的行為。

一個(gè)有趣的例子是，鴿子也會(huì )出現這樣的行為。1948年，一位美國心理學(xué)家發(fā)表了一篇論文，描述了一個(gè)不尋常的實(shí)驗：他將鴿子放在圍欄里，間歇性地給予食物獎勵。這些鴿子開(kāi)始將食物與它們當時(shí)正在做的事情聯(lián)系起來(lái)，有時(shí)是拍打翅膀，有時(shí)是舞蹈般的動(dòng)作。然后，它們會(huì )重復這些行為，似乎期待著(zhù)獎勵會(huì )隨之而來(lái)。 

鴿子可以學(xué)會(huì )將食物與某些行為聯(lián)系起來(lái)，而人工智能會(huì )表現出類(lèi)似的耦聯(lián)行為鴿子可以學(xué)會(huì )將食物與某些行為聯(lián)系起來(lái)，而人工智能會(huì )表現出類(lèi)似的耦聯(lián)行為

用新辦法解決老問(wèn)題

測試的游戲人工智能與心理學(xué)家所使用的活體動(dòng)物之間有著(zhù)巨大的差異，但其中起作用的似乎是相同的基本機制，即獎勵與特定行為錯誤地聯(lián)系在一起。

人工智能研究者可能會(huì )對機器學(xué)習系統所選擇的路徑感到驚訝，但這并不意味著(zhù)他們對機器學(xué)習系統感到敬畏。DeepMind的深度學(xué)習研究科學(xué)家拉亞?哈德賽爾表示：“我從不覺(jué)得這些人工智能有自己的想法?！?/span>

哈德賽爾對許多人工智能系統進(jìn)行了試驗，發(fā)現它們能對她或她同事未曾預料的問(wèn)題提出有趣和新穎的解決方案，這正是研究人員應該致力于增強人工智能的原因，因為這樣，它們就可以完成人類(lèi)自己無(wú)法完成的事情。

使用人工智能的產(chǎn)品，比如自動(dòng)駕駛汽車(chē)，可以經(jīng)過(guò)嚴格測試，以確保任何不可預測性都在一定的可接受范圍內。在這一點(diǎn)上，只有時(shí)間才能證明所有銷(xiāo)售人工智能產(chǎn)品的公司是否都如此小心謹慎。但與此同時(shí)，值得注意的是，人工智能表現出的意外行為絕不僅僅局限于研究環(huán)境，而是已經(jīng)進(jìn)入了商業(yè)產(chǎn)品領(lǐng)域。

2020年，在德國柏林的一家工廠(chǎng)里，由美國強化學(xué)習機器人技術(shù)公司Covariant開(kāi)發(fā)的一款機器人手臂在物品經(jīng)過(guò)傳送帶時(shí)，展現出了意想不到的分類(lèi)方法。盡管沒(méi)有專(zhuān)門(mén)的程序，但控制手臂的人工智能學(xué)會(huì )了瞄準透明包裝的物品中心，以確保其每次都能成功地將物品抓起來(lái)。由于這些物品是透明的，在重疊時(shí)可能會(huì )混在一起，因此瞄準不精確意味著(zhù)機器人可能無(wú)法抓起物品。但人工智能學(xué)會(huì )了避免物體的重疊角，而是瞄準了最容易拾取的表面。這真的讓人很吃驚。

無(wú)獨有偶，研究團隊最近試驗了一款機器人手臂，可以通過(guò)形狀分類(lèi)孔洞來(lái)選取不同的物品。一開(kāi)始機器人的手臂很笨拙，在人工智能的控制下，它通過(guò)不斷地拿起和放下物品進(jìn)行學(xué)習；最終，機器人可以在物品進(jìn)入正確位置時(shí)將其抓住，并將物品很容易地放入適當的孔洞，而不是試圖用鉗子擺弄它。

所有這些都印證了OpenAI研究管理者杰夫·克倫的觀(guān)點(diǎn)，即人工智能的探索性是其未來(lái)成功的基礎。近年來(lái)，克倫一直在與世界各地的同行合作，收集人工智能以出人意料的方式開(kāi)發(fā)出問(wèn)題解決方案的例子。

克倫說(shuō)：“隨著(zhù)我們不斷擴展這些人工智能系統的規模，可以看到，它們正在做著(zhù)一些富有創(chuàng )造性且令人印象深刻的事情，而不只是表現出學(xué)術(shù)上的好奇心?！?/span>

如果人工智能系統能找到更好的方法來(lái)診斷疾病，或者向有需要的人群運送緊急物資，它們就可以挽救更多的生命?？藗愌a充道，人工智能有能力找到解決老問(wèn)題的新方法。但他也認為，開(kāi)發(fā)這類(lèi)系統的人需要對其不可預測的本質(zhì)保持開(kāi)放和誠實(shí)，以幫助公眾了解人工智能的工作機制。

畢竟，這是一把雙刃劍。人工智能的承諾和威脅一直同時(shí)存在，它們接下來(lái)會(huì )想到什么？這是耐人尋味的問(wèn)題。

來(lái)源：新浪科技