4月17日下午，湛廬特別邀請圣塔菲研究所客座教授、《AI 3.0》一書(shū)作者梅拉妮·米歇爾，中國科學(xué)院自動(dòng)化研究所復雜系統管理與控制國家重點(diǎn)實(shí)驗室主任王飛躍，馭勢科技聯(lián)合創(chuàng )始人、董事長(cháng)兼CEO吳甘沙，清華大學(xué)計算機系副教授、智源青年科學(xué)家劉知遠等國內外知名科學(xué)家和創(chuàng )業(yè)者，以及特別嘉賓達闥云端機器人小姜，一起探討AI 3.0時(shí)代的新商機和新生態(tài)。

這次全智能場(chǎng)景發(fā)布會(huì )第一次采用了演播室和戶(hù)外智能場(chǎng)景雙現場(chǎng)形式，在無(wú)人駕駛汽車(chē)和云端智能機器人的烘托下，全面展示了中國人工智能領(lǐng)域的創(chuàng )新實(shí)力和前沿進(jìn)展。幾位科學(xué)家、企業(yè)家跨界深度交流，共同探討了人工智能發(fā)展現狀，以及透視當下AI發(fā)展的關(guān)鍵問(wèn)題，并對產(chǎn)業(yè)布局和政策提出了可供參考的建議，助力未來(lái)的想象與開(kāi)創(chuàng )。

以下為梅拉妮·米歇爾教授演講精華內容

圣塔菲研究所客座教授 暢銷(xiāo)書(shū)《復雜》作者 梅拉妮·米歇爾（Melanie Mitchell）

廣大讀者朋友們，大家好，我是梅拉妮·米歇爾，是圣達菲研究所的教授，也是這本剛剛被翻譯成中文的《AI 3.0》一書(shū)的作者，我寫(xiě)這本書(shū)的原因是為了與非專(zhuān)業(yè)人士探討人工智能的現狀。

有些讀者可能讀過(guò)我以前出版的一本書(shū)的中文版——《復雜》，并且可能會(huì )想知道兩本書(shū)之間的關(guān)系。我對此先做一個(gè)簡(jiǎn)要的說(shuō)明：

《復雜》這本書(shū)是對復雜系統科學(xué)的一個(gè)概述，復雜系統科學(xué)研究的是復雜行為如何從相對簡(jiǎn)單的組成部分之間的相互作用中產(chǎn)生；

而《AI 3.0》則是深度聚焦于復雜系統科學(xué)中的一些最難的問(wèn)題，比如智能的本質(zhì)是什么？研究者是如何創(chuàng )建智能機器的？我們如何評判這一領(lǐng)域目前所

取得的成就？今天的機器距離真正像人一樣來(lái)理解世界還有多遠？ 

如今，我們都聽(tīng)說(shuō)了許多關(guān)于人工智能（AI）的應用，以及人工智能（AI）將如何改變我們生活的方方面面。人工智能系統在我們的日常生活中隨處可見(jiàn)，人工智能系統會(huì )為我們找出最佳的行駛路線(xiàn)，它還可以識別人臉、轉錄語(yǔ)音、回答人類(lèi)的問(wèn)題，把文本翻譯成不同的語(yǔ)言，它們可以在復雜的游戲中打敗人類(lèi)，甚至可以自主駕駛。

但這些系統到底有多智能呢？要過(guò)多久它們才能真正達到人類(lèi)智能的水平，甚至超越人類(lèi)？人類(lèi)智能創(chuàng )造AI程序最大的挑戰是什么？如何解決這些挑戰？我們真的想要創(chuàng )造這樣的東西嗎？以上這些都是我今天想涵蓋的主題。我會(huì )以一種非專(zhuān)業(yè)人士可以理解的以及從事AI研究的人們同樣也感興趣的方式去講述。

首先我會(huì )簡(jiǎn)單地談?wù)勅斯ぶ悄艿陌l(fā)展歷史，以及我們是如何到達AI 3.0（第三代人工智能）的。

AI 1.0是大約始于20世紀50年代的第一代人工智能，那是人類(lèi)工程知識的時(shí)代。

也就是說(shuō)人類(lèi)會(huì )結合自己的知識編寫(xiě)程序，例如對鳥(niǎo)類(lèi)進(jìn)行分類(lèi)。如果一只鳥(niǎo)很大，但不會(huì )飛，那它可能是鴕鳥(niǎo)；如果它很大還會(huì )飛，而且又硬又禿，那它可能就是一只鷹。

這些所謂的專(zhuān)家系統有許多復雜的案例，但不幸的是這個(gè)系統很難整合所有的人類(lèi)知識。例如，如果有一只翅膀折斷的鳥(niǎo)該怎么分類(lèi)？這樣的例子不在整個(gè)專(zhuān)家庫里，因此該系統就會(huì )出錯。

AI 2.0是大約始于20世紀90年代的機器學(xué)習時(shí)代，在過(guò)去的10年左右被稱(chēng)為深度學(xué)習革命。

在這個(gè)時(shí)代，人工智能系統從數據而非人類(lèi)專(zhuān)家庫編制的程序中進(jìn)行學(xué)習。在最新一輪的深度學(xué)習革命中，這些系統是基于人腦如何學(xué)習，以及人腦如何由多層相互反饋的神經(jīng)元構成來(lái)進(jìn)行建模的。

其中神經(jīng)元層的數量被稱(chēng)為網(wǎng)絡(luò )的深度，由多層模擬神經(jīng)元組成的網(wǎng)絡(luò )是一個(gè)通過(guò)深度學(xué)習進(jìn)行學(xué)習的深度網(wǎng)絡(luò )，深度學(xué)習帶來(lái)了我之前提到的人工智能領(lǐng)域最近取得的所有重大成就，但它有很多局限性。

一方面，深度神經(jīng)網(wǎng)絡(luò )需要從人類(lèi)標記的大規模數據集進(jìn)行學(xué)習。例如，ImageNet數據集是一組從互聯(lián)網(wǎng)上爬取的超過(guò)100萬(wàn)張圖片的龐大集合，人類(lèi)已標記出了其中每個(gè)圖片里的目標類(lèi)別，ImageNet使計算機視覺(jué)、人臉識別等其他應用產(chǎn)生了巨大的進(jìn)步，但總的來(lái)說(shuō)，為了使神經(jīng)網(wǎng)絡(luò )不出任何錯誤，要標記出充分訓練一個(gè)神經(jīng)網(wǎng)絡(luò )所需的所有圖片是不可能的。

深度神經(jīng)網(wǎng)絡(luò )的另一個(gè)問(wèn)題是其復雜性，還有其決策的不可解釋性。舉個(gè)發(fā)生在我自己實(shí)驗室里的例子，一個(gè)學(xué)生正在訓練判斷一張圖片是否包含動(dòng)物的神經(jīng)網(wǎng)絡(luò )，你可以看到，它對像這樣包含動(dòng)物的圖片，與其他像這樣不包含動(dòng)物的圖片的分類(lèi)是正確的。但該網(wǎng)絡(luò )無(wú)法解釋它做決策的原因，我的學(xué)生在做了大量的工作后發(fā)現該網(wǎng)絡(luò )實(shí)際上利用的是這樣的線(xiàn)索——有動(dòng)物圖像的背景是模糊的，沒(méi)有動(dòng)物的圖像背景是清晰的，這是由于在這里攝影師正聚焦于前景中的這只動(dòng)物，因此不需要把焦點(diǎn)放在前景上。該神經(jīng)網(wǎng)絡(luò )使用的線(xiàn)索并非我們想讓它成功完成這項任務(wù)的線(xiàn)索，這種情況在機器學(xué)習中隨處可見(jiàn)。

由于神經(jīng)網(wǎng)絡(luò )從數據中學(xué)到的是這些表面的線(xiàn)索，因此它們經(jīng)常會(huì )犯一些不像人類(lèi)的錯誤。例如，深度神經(jīng)網(wǎng)絡(luò )以非常高的可信度正確地將這張照片分類(lèi)為消防車(chē)，但如果那輛消防車(chē)通過(guò)Photoshop改為不同的形態(tài)，神經(jīng)網(wǎng)絡(luò )會(huì )非常自信地認為現在它是一輛校車(chē)、一艘消防船或一輛雪橇。所以在某種程度上神經(jīng)網(wǎng)絡(luò )感知到的東西與我們人類(lèi)在這些圖像中感知到的東西非常不同，而且我們很難理解它為什么會(huì )犯這些錯誤。

深度神經(jīng)網(wǎng)絡(luò )也很難將它們學(xué)到的知識遷移到新場(chǎng)景中，比如，一個(gè)神經(jīng)網(wǎng)絡(luò )學(xué)著(zhù)玩電子游戲《打磚塊》（Breakout），在這個(gè)游戲中，需要移動(dòng)一個(gè)球拍來(lái)?yè)羟?，擊碎這些彩色的部分（即磚塊）。這臺計算機使用深度學(xué)習的方法來(lái)學(xué)習如何比人類(lèi)玩得更好，但如果當球拍向上移動(dòng)了幾個(gè)像素，游戲就會(huì )發(fā)生一些微小的變化，盡管人類(lèi)可以很容易地調整自己的知識來(lái)玩這個(gè)新游戲，但神經(jīng)網(wǎng)絡(luò )卻無(wú)法調整自己的知識來(lái)玩好這個(gè)新游戲。

最后，深度神經(jīng)網(wǎng)絡(luò )容易受到對抗性攻擊。例如，研究人員能夠開(kāi)發(fā)出一些有趣的眼鏡，他們可以戴它來(lái)愚弄深度神經(jīng)網(wǎng)絡(luò )和人臉識別系統，讓它們誤判自己是其他人。比如，神經(jīng)網(wǎng)絡(luò )被這款眼鏡欺騙，認為這個(gè)男人是女演員米拉·喬沃維奇（Milla Jovovitch）。這款眼鏡上精心設計的特殊圖案能夠騙過(guò)神經(jīng)網(wǎng)絡(luò )，這意味著(zhù)它們看到的東西或捕捉到的線(xiàn)索，與我們人類(lèi)在這些圖像中所感知到的信息是非常不同的。

AI 3.0是人工智能的下一個(gè)時(shí)代。在這個(gè)時(shí)代里，我們期望人工智能系統更加魯棒，更易于解釋?zhuān)m應性更強。

我們開(kāi)發(fā)類(lèi)似系統的方式是，發(fā)現如何讓系統像人類(lèi)一樣以一種主動(dòng)的無(wú)監督的方式學(xué)習，類(lèi)似孩子們學(xué)習或掌握常識的方式。比如，如果一個(gè)球跑到街上，它可能會(huì )被一個(gè)孩子尾隨，我們希望自動(dòng)駕駛汽車(chē)理解這種情況。還存在有許許多多這樣類(lèi)似的情況，但我們很難寫(xiě)下所有的規則，因此我們希望計算機能發(fā)展出人類(lèi)所擁有的感知能力。我們希望系統能夠通過(guò)類(lèi)比泛化它們的知識，比如，如果系統在一個(gè)簡(jiǎn)單的情況下學(xué)會(huì )了識別橋梁，它就能更普遍地識別其他類(lèi)型的橋梁，而且我們也希望系統能解釋它們的決策。所有這些都是人工智能尚未解決的基本挑戰，但它們構成了該領(lǐng)域取得進(jìn)展的基本問(wèn)題。 

我們如何才能創(chuàng )造出具有類(lèi)似人類(lèi)能力的機器呢？這些是目前人工智能研究中最困難和最具挑戰性的領(lǐng)域，如果你覺(jué)得這一切很有趣，我希望你能讀一下我的書(shū)《AI 3.0》。

AI 3.0是人工智能歷史上最激動(dòng)人心、最關(guān)鍵的時(shí)刻，每個(gè)人都應該了解人工智能的發(fā)展方向，我的書(shū)將幫助你理解這些問(wèn)題和主張、存在的局限性以及危險，特別是智能機器的未來(lái)前景。