本年度的O'reilly人工智能大會(huì )上，39家機構的66名AI從業(yè)者就當下的AI發(fā)展狀況進(jìn)行介紹：從聊天機器人到深度學(xué)習、再到自動(dòng)技術(shù)和情感識別，以及自動(dòng)化工作和AI進(jìn)步的阻礙，甚至拯救生命和商業(yè)機會(huì )等話(huà)題都有涉及。

如今人工智能發(fā)展到底處于何種狀態(tài)，面臨哪些難點(diǎn)，未來(lái)發(fā)展潛力如何？參加了O'reilly人工智能大會(huì )的行業(yè)專(zhuān)家Gll Press帶來(lái)了他的12個(gè)觀(guān)察。他提取的觀(guān)點(diǎn)主要來(lái)自Peter Norvig、Yann LeCun等頂級人工智能專(zhuān)家，另外，還有來(lái)自微軟、英偉達和艾倫人工智能研究院的主管級專(zhuān)家。12個(gè)觀(guān)察包括：AI是黑箱；AI具有高技術(shù)難度；無(wú)人車(chē)可能使開(kāi)車(chē)變成人的業(yè)余愛(ài)好；AI需考慮文化和背景——訓練影響學(xué)習；AI不會(huì )取代人的所有工作；AI不會(huì )使人類(lèi)滅亡；AI不是魔法，深度學(xué)習很有用，但有局限；AI是增強的智能，同時(shí)具有人類(lèi)和機器的強處；AI改變了我們與計算機的交互方式；AI需有更聰明的測試，圖靈測試不夠；丘吉爾對AI的觀(guān)點(diǎn)；唯物主義范式下徒勞地追求人類(lèi)水平的智能可能阻礙AI的發(fā)展。

本年度的O'reilly人工智能大會(huì )上，39家機構的66名AI從業(yè)者就當下的AI發(fā)展狀況進(jìn)行介紹：從聊天機器人到深度學(xué)習、再到自動(dòng)技術(shù)和情感識別，以及自動(dòng)化工作和AI進(jìn)步的阻礙，甚至拯救生命和商業(yè)機會(huì )等話(huà)題都有涉及。本次會(huì )議由Peter Norvig和Tim O’Reilly擔任程序委員會(huì )主席。以下是參會(huì )者Gll Press的參會(huì )觀(guān)察。

Gll Press是一家咨詢(xún)公司的管理合伙人，福布斯網(wǎng)站作者。他的這篇文章是參加O'reilly人工智能大會(huì )之后的總結，提煉了12個(gè)對目前AI行業(yè)的觀(guān)察，比如，黑箱問(wèn)題、深度學(xué)習局限性在哪、人機交互問(wèn)題、AI的冬天等等。

1.AI是一個(gè)黑箱：trust-but-verify的破解方法

Google研究總監Peter Norvig曾說(shuō)，“與傳統軟件相反，機器學(xué)習生產(chǎn)的不是代碼，而更像是一個(gè)黑箱——你能稍微窺探到里面，對里面正在發(fā)生的事情有一些了解，但看不到全貌?！?/p>

Tim O’Reilly最近在他的一篇博客文章中寫(xiě)道：“由于很多正在重塑我們的社會(huì )的算法是黑箱…在深度學(xué)習領(lǐng)域中，由于它們甚至對它們的創(chuàng )造者來(lái)說(shuō)都難以理解，因此問(wèn)題的關(guān)鍵是信任。當今世界的重要學(xué)科是在不了解算法所遵循的確切的規則的情況下理解怎樣評估算法?！?/p>

O’Reilly提出算法值得信任但要驗證（trust-but-verify）的方法，四條規則：預期結果是已知的，外部觀(guān)察可驗證結果；如何測量“成功”是明確的；算法的創(chuàng )作者和使用者的目標具有一致性；并且該算法有助于創(chuàng )作者和使用者做出更好的長(cháng)期決策。

2.AI具有高難度，理想與現實(shí)還有差距

我們都想要一個(gè)能處理所有家務(wù)的機器人（Rosie），但是我們得到的只是一個(gè)掃地機（Roomba）。

艾倫人工智能研究院的CEOOrenEtzioni在大會(huì )上列舉了讓機器變得更像人這一努力所遇到的困難，即使是一些“智能”的機器。比如，“人呼吸空氣（people breathair）”是一個(gè)簡(jiǎn)短的陳述，但是卻很難讓機器理解。

Etzioni此前在華盛頓大學(xué)獲得終身教職，他現在領(lǐng)導艾倫人工智能研究院，其主要的任務(wù)是讓AI至少能展示對詞或者圖像的某種程度的理解，而不僅僅是計算標簽對象的接近性。

作為紐約大學(xué)的教授、FacebookAI實(shí)驗室的主管，LeCun在把深度學(xué)習用于解決現實(shí)問(wèn)題上進(jìn)行了深入的研究。在Facebook，每天有100至150萬(wàn)圖片上傳（還不包括Instagram、WahtsAPP和Messenger）。他在演講中提到，每一張圖片一經(jīng)上傳就會(huì )立刻通過(guò)兩層的卷積神經(jīng)網(wǎng)絡(luò )，一層用于識別圖像中的物體，另一層則識別人。每一個(gè)傳到Facebook上的視頻也會(huì )經(jīng)歷同樣的過(guò)程。

他們分享的經(jīng)驗表明了智能機器現在能做到什么，同時(shí)也凸顯了要接近人類(lèi)水平的智能，還有很大的挑戰需要克服。Lecun說(shuō)，如果機器要如此智能地行動(dòng)，需要“對環(huán)境和其中的物體功能有一個(gè)完整的復制，這樣就能產(chǎn)生一系列的行動(dòng)，并預測它們會(huì )對環(huán)境產(chǎn)生的影響”。為了實(shí)現這一目標，機器學(xué)習理解環(huán)境是如何起作用的，學(xué)習大量的背景知識，感知任何特定時(shí)刻的環(huán)境狀態(tài)，并且能進(jìn)行推理和計劃。簡(jiǎn)而言之，LeCun的終極目標是希望能實(shí)現從“監督式學(xué)習”到“無(wú)監督學(xué)習”的過(guò)渡。LeCun說(shuō)：“難點(diǎn)在于，在確定性中進(jìn)行預測?！?/p>

Peter Norvig解釋了為什么機器學(xué)習要比傳統的軟件更難。他說(shuō)：“缺乏清晰的障礙摘要”——去除Bug更加難，因為把Bug區分出來(lái)；“非模塊性”——稍微改動(dòng)小部分東西，最終會(huì )把所有的東西都改變；“非固定性”——需要考慮新的數據；“數據歸屬”——圍繞隱私、安全和公平的議題以及缺乏足夠的工具和處理，既有的許多工具都是為傳統軟件設計的?！皺C器學(xué)習會(huì )讓你速度變快”，Norvig總結說(shuō)，“但是當你變得很快，問(wèn)題出現的速度也會(huì )相對加快”。紐約大學(xué)的GaryMarcus對AI發(fā)展面臨的巨大挑戰有經(jīng)典總結：我們都想要一個(gè)能處理所有家務(wù)的機器人（Rosie），但是我們得到的只是一個(gè)掃地機（Roomba）。

3.我們可能是最后一代擁有汽車(chē)的人

美國運輸部秘書(shū)長(cháng)Foxx在最近的一次演講中宣稱(chēng)：“我們可能是最后一代擁有汽車(chē)的人?！痹谶@次會(huì )議中，NVIDIA副總裁兼總經(jīng)理Jim McHugh宣稱(chēng)“第一個(gè)AI機器人是汽車(chē)”。McHugh承諾自動(dòng)駕駛汽車(chē)會(huì )讓駕駛更安全，“具備AI的汽車(chē)隨時(shí)能思考、能集中精神，隨時(shí)觀(guān)察周?chē)沫h(huán)境，而且永不會(huì )疲勞。它會(huì )擁有超人的力量，讓我們遠離危險?！?/p>

Lux Capital的Shahin Farshchi也表達了類(lèi)似的觀(guān)點(diǎn)，它認為政府推遲對自動(dòng)駕駛汽車(chē)的批準已經(jīng)危及了許多人的生命，因為人開(kāi)車(chē)的本領(lǐng)實(shí)在太糟糕了。他說(shuō)，“AI的障礙很低，”即使采用“還不完美的自動(dòng)駕駛汽車(chē)”也能挽救許多生命。

然而，正如Tom Davenport所說(shuō)，“很多人情愿被另一個(gè)人殺死，而不想被機器殺死?！弊詣?dòng)駕駛汽車(chē)的安全記錄中也有“例外”，與人類(lèi)的大量駕駛事故相比，自動(dòng)駕駛的這些事故會(huì )被忽略嗎？還是發(fā)生幾次嚴重事故會(huì )讓政府繼續延緩批準自動(dòng)駕駛？

Peter Norvig以自動(dòng)駕駛為例闡述了有關(guān)AI安全性的兩個(gè)問(wèn)題，其一是“安全勘探”——自動(dòng)駕駛汽車(chē)如何在現實(shí)世界（而不是在實(shí)驗室中模擬駕駛）中如何做出安全決策。而且考慮到AI的“黑盒”性質(zhì)，我們如何驗證它們確實(shí)是安全的？第二個(gè)問(wèn)題被他稱(chēng)為“不注意谷”（inattentionvalley），就是說(shuō)，如果一輛自動(dòng)駕駛汽車(chē)的準確度是50%，人類(lèi)駕駛員會(huì )隨時(shí)警惕，隨時(shí)準備著(zhù)接管駕駛；但當準確度達到99%，人就不會(huì )隨時(shí)準備著(zhù)，當需要人類(lèi)接管時(shí)可能來(lái)不及。

Etzioni說(shuō)，自動(dòng)駕駛汽車(chē)已經(jīng)減少了許多事故，而且可以更有作為。他預計25年后，開(kāi)車(chē)會(huì )成為一種業(yè)余愛(ài)好。

4.AI需要考慮文化和語(yǔ)境——“訓練影響學(xué)習”

英特爾院士、英特爾互動(dòng)與體驗研究總監Genevieve Bell表示：“當前的許多算法已經(jīng)在其內部形成一個(gè)國家、一種文化?！庇捎诮裉斓闹悄軝C器（仍然）只來(lái)自人類(lèi)的創(chuàng )造，并由人類(lèi)使用，文化和語(yǔ)境是算法開(kāi)發(fā)中的重要考慮因素。Rana ElKaliouby（情感感知AI的創(chuàng )業(yè)公司Affectiva的CEO）和Aparna Chennapragada（Google產(chǎn)品管理總監）強調了使用多樣化的培訓數據的重要性——如果你想讓智能機器可以在地球上的任何地方工作，就必須適應任何地方的文化習俗。

“訓練影響學(xué)習——你放入的訓練數據決定能得出的結果?！盋hennapragada說(shuō)。而且不僅文化會(huì )影響，上下文語(yǔ)境也很重要。她用“我愛(ài)你”為例解釋?zhuān)鞣N各樣的對話(huà)都常常以這句話(huà)作為結束，但這句話(huà)不應該用作AI驅動(dòng)的企業(yè)電子郵件系統的培訓數據。

微軟研究院杰出工程師兼總經(jīng)理Lili Cheng談到微軟成功的聊天機器人“小冰”（在中國和日本有4000萬(wàn)用戶(hù)）和失敗的聊天機器人Tay（最初在Twitter上發(fā)布，但在被Twitter用戶(hù)使用煽動(dòng)性推文訓練后下架）。他認為語(yǔ)境非常重要——公開(kāi)對話(huà)（Tay的情況）對比小范圍對話(huà)；以及文化的影響——一種“強調個(gè)性，人vs機器”的美國（西方）文化和認為“萬(wàn)物有靈”的亞洲文化很不一樣。

5.AI不會(huì )取代人類(lèi)的所有工作——“問(wèn)題取之不盡”

Tim O'Reilly列舉了人類(lèi)未來(lái)仍然不會(huì )失業(yè)的理由：1.工作職位不會(huì )用盡，因為問(wèn)題取之不盡。2.當某些事物變成商品，其他事物會(huì )變得更有價(jià)值。隨著(zhù)AI越來(lái)越把我們今天所做的工作變成一種商品，我們應該期待新的事物將變得更有價(jià)值。3.經(jīng)濟轉型需要時(shí)間和努力。

奧巴馬總統的觀(guān)點(diǎn)：“如果利用適當，AI可以帶來(lái)巨大的繁榮和機會(huì )。但它也有缺點(diǎn)，就是我們必須找到避免AI消除我們的工作機會(huì )的方式。它可能會(huì )加大不平等，也可能壓低工資?！?/p>

6.AI不會(huì )使人類(lèi)滅亡——“AI會(huì )讓人類(lèi)更強”

Oren Etzioni在“設計符合我們的法律和價(jià)值體系的AI系統”一文中提出開(kāi)發(fā)多個(gè)AI系統來(lái)互相檢查、彼此平衡。在這次會(huì )議上，Etzioni引用Andrew Ng說(shuō)：“努力阻止AI轉向邪惡，就像破壞太空計劃以防止移民火星的人口過(guò)多?！盓tzioni總結道：“AI不會(huì )消滅我們，AI將讓我們更強……應該關(guān)心的問(wèn)題是AI對工作的影響。我們應該討論不是人類(lèi)滅亡之類(lèi)的場(chǎng)景?！?/p>

然而，You Gov最近代表英國科學(xué)協(xié)會(huì )進(jìn)行的一項調查發(fā)現，36％的英國公眾認為AI的發(fā)展對人類(lèi)的長(cháng)期存續構成威脅。在被問(wèn)及“為什么那么多著(zhù)名的科學(xué)家和工程師都對AI的威脅提出警告？”時(shí)，Etzioni回答說(shuō)：“我很難推測像斯蒂芬?霍金（Stephen Hawking）或伊隆?馬斯克（Elon Musk）這些大人物如此擔心AI的動(dòng)機。我猜測，談?wù)摵诙春芸煊謺?huì )變得無(wú)聊，因為這個(gè)話(huà)題發(fā)展非常緩慢?！?/p>

對付無(wú)聊的方式之一是新的開(kāi)創(chuàng )性的研究中心的建立，如最近成立的Leverhulme未來(lái)智能中心（Leverhulme Centre for the Future of Intelligence，LCFI）,該中心獲Leverhulme信托1000萬(wàn)英鎊資金，將專(zhuān)注于探索“這種潛在的劃時(shí)代的技術(shù)（即AI）發(fā)展的機遇和挑戰?！被艚饏⒓恿似溟_(kāi)幕式。

7.深度學(xué)習很有用，但有局限

有一把好的梯子并不一定能讓你登上月球。

“對于數據來(lái)說(shuō)，深度學(xué)習是一種更大層級的技術(shù)”，Nervana聯(lián)合創(chuàng )始人兼CEO Naveen Rao說(shuō)，“從這個(gè)意義上來(lái)說(shuō)，‘智能’就是在數據中尋找結構的能力”。英偉達的Jim McHugh說(shuō)得更加寬泛：“深度學(xué)習就是一種新的計算模型”。

Oren Etzioni曾就Wire上寫(xiě)AlphaGo的文章發(fā)表評論：“人們常常把深度學(xué)習描述為一種對人類(lèi)大腦的模擬。但是，實(shí)際上，它只是簡(jiǎn)單的數學(xué)執行，只不過(guò)規模很大罷了”。

Tom Davenport在會(huì )上說(shuō)：“深度學(xué)習并不是深刻地學(xué)習”。

在演講中，Etzioni建議可以去問(wèn)AlphaGo以下幾個(gè)問(wèn)題：你能復盤(pán)嗎？（不能，除非有人按動(dòng)開(kāi)關(guān)）；你能玩撲克嗎？（不能）；你能過(guò)馬路嗎？（不能，這只是一個(gè)狹義的目標程序）；你能跟我們講述一下這場(chǎng)對弈嗎？（不能）

Etzioni說(shuō)，深度學(xué)習是一種“有局限的機器學(xué)習技術(shù)，在一系列狹義的問(wèn)題上可以卻得卓越的成績(jì)，比如語(yǔ)音識別和下圍棋。在我們擁有大量的標簽數據的情況下，深度學(xué)習會(huì )特別有用。但是，在一些特定任務(wù)上超越人類(lèi)并不代表在總體上達到了人類(lèi)水平的表現。今天的機器學(xué)習中，有99%的工作需要人來(lái)完成?！?/p>

在被問(wèn)及“為什么深度學(xué)習會(huì )取得如此好的效果？”Marcus說(shuō)，很多聰明的人都相信深度學(xué)習近乎魔術(shù)，但是我不是。深度學(xué)習缺乏隨機關(guān)系的表征方式、在邏輯推理表現上沒(méi)有清晰的方式、在加入抽象知識上還有很長(cháng)的路要走?！半m然目前的投入很大，有數十億美元，但是這些難題依然存在，一把好的梯子并不一定能讓你登上月球”，Marcus說(shuō)。

8.AI是增強智能——既依賴(lài)機器也依賴(lài)人類(lèi)

Tom Davenport在演講中建議人應該與機器一起向前發(fā)展，而非相互對抗，他對各大機構也有一個(gè)很重要的建議——建立一個(gè)新的職位CAO（首席增強管），負責挑選正確的AI技術(shù)用于特定的任務(wù)，安排好人與機器的協(xié)作。

Tim O'Reilly說(shuō)，如果人和機器是競爭關(guān)系，那么二者都會(huì )被淘汰。Peter Norvig提到，如何把人類(lèi)的專(zhuān)業(yè)知識和洞見(jiàn)融入AI系統中，是一個(gè)巨大的挑戰。

9.AI改變了人機交互的方式——但是需要大量的情感

Tim O'Reilly最近寫(xiě)到：我們正在接近一個(gè)拐點(diǎn)，其中語(yǔ)音用戶(hù)交互將會(huì )改變整個(gè)科技行業(yè)的勢力分配。

更具體地說(shuō)，我們需要“重新思考通過(guò)語(yǔ)音實(shí)現導航的基礎”，微軟的Lili Cheng說(shuō)。在我們今天使用的交互系統中“返回”與“Home”鍵設置是非常關(guān)鍵的。如果要一種對著(zhù)設備說(shuō)“返回，返回，返回”，這真的很奇怪。

Cheng認為對話(huà)就像一股浪潮，“一直都在向前”，但是這對使用臺式電腦的用戶(hù)來(lái)說(shuō)是很難控制的。為了讓AI更好地模仿人類(lèi)認識周?chē)h(huán)境的方式，我們可以把對話(huà)作為一個(gè)很好的測試標準，Cheng說(shuō)。

要像人一樣理解世界，其中一個(gè)關(guān)鍵就是感情。為了這一目標，Affectiva已經(jīng)籌建了世界上最大的情感資料庫，分析了超過(guò)470萬(wàn)人臉和500億情感數據，覆蓋75個(gè)國家。

情感是AI領(lǐng)域的一個(gè)新芽。但是我更傾向于使用共鳴而非情感一詞，以免讓人對AI如今的發(fā)展水平產(chǎn)生不必要的誤解。

10.應該摒棄圖靈測試，嘗試更好的測試方法

Gary Marcus指出，現在的研究都在關(guān)注解決短期的發(fā)展，而不是“真正的難題”。在一些領(lǐng)域確實(shí)獲得了指數級的發(fā)展，但是在強大的、通用的人工智能上，幾乎沒(méi)有任何進(jìn)展。他說(shuō)，AI社區應該追求更多遠大的目標：“傳統的圖靈測試太容易了”。他推薦了另一種測試方法：Domino測試——使用無(wú)人機或者無(wú)人車(chē)往任意地點(diǎn)派送Pizza，正如一個(gè)普通的孩子能做到的那樣。

Le Cun提出了另一種測試“智能”或者自然語(yǔ)言理解的方法——Winograd Schema，用于衡量機器對世界的了解。幾個(gè)月之前，Nuance Communications贊助了第一屆Winograd Schema挑戰賽，結果顯示，機器在句子中代詞的理解上準確率為58.33%，人類(lèi)水平為90.9%。

11.丘吉爾對AI的啟示

Peter Norvig：“丘吉爾對民主的解釋也可以借用到機器學(xué)習上，除非所有的人都嘗試過(guò)，否則它可能是世界上最糟糕的系統”。

Oren Etzioni：“改編下丘吉爾的名言：深度學(xué)習并不是終點(diǎn)，它也不終點(diǎn)的開(kāi)始，它甚至不是開(kāi)始的終點(diǎn)”。

12.在物質(zhì)主義范式內徒勞地追求人類(lèi)水平的智能，對AI的發(fā)展可能會(huì )是一個(gè)持續的阻礙

Gary Marcus對NIPS上發(fā)表的論文有諸多不滿(mǎn)，他說(shuō)，這些論文就像煉金術(shù)一樣，每次只在一個(gè)神經(jīng)網(wǎng)絡(luò )上增加一層或者兩層，“都是些小修小補”。他建議要有“更豐富的基礎計算指導”，還說(shuō)，“是時(shí)候產(chǎn)生一些天才的創(chuàng )意了”。

當被問(wèn)及，“我們什么時(shí)候能看到人類(lèi)水平的AI？”，Etzioni回答：“我也不知道”。在他自己所做的對AI專(zhuān)家的調查中，他的答案是25年。他解釋說(shuō)：我是一個(gè)物質(zhì)主義者，我相信世界是由原子構成的，所以我不站在“絕對造不出”那一陣營(yíng)。

認為智能由原子構成，并是可以計算的，這一概念是一種主流的范式。馬文?明斯基曾有一句經(jīng)典名言：“人類(lèi)的大腦就是一臺計算機，只不過(guò)是由肉構成的罷了”。

但是，是不是就是這種范式導致AI進(jìn)入了“冬天”？是不是可能，我們的大腦并不是計算機，計算機的原理與大腦也不像？如果我們最終能放棄想要在計算機中復制“人類(lèi)水平的智能”，也許我們能有一些額外的發(fā)現，也就是“狹義”的應用，讓計算機能改善并豐富人類(lèi)的生活。

摘自 機器人網(wǎng)