《人工智能之不能》，馬兆遠著(zhù)，中信出版社2020年3月出版

只有知道了人工智能的“不能”，對人工智能的了解才算全面?？茖W(xué)不是靜止的結論，它的結論是演進(jìn)變化的；科學(xué)工作者也不是秉持真理的圣徒，他們只是秉持著(zhù)對宇宙和人的好奇心而探索的人類(lèi)中的一分子。

知其不能而能，“學(xué)問(wèn)之道無(wú)他，求其放心而已矣”。

會(huì )存在一個(gè)超級人工智能系統嗎？人工智能會(huì )超越人嗎？在《人工智能之不能》中我分享了我的答案和思考。

1936年，圖靈在論文《論可計算函數和在可判定問(wèn)題中的應用》中寫(xiě)道：“按照我在本文中的設定，一個(gè)函數如果是機器可計算的，就是可計算函數……本文得出跟哥德?tīng)柕牟煌陚涠ɡ順O其一致的結論，尤其是，希爾伯特的可判定性問(wèn)題是不可解問(wèn)題?！?nbsp;

圖靈所指的“機器”就是我們后來(lái)說(shuō)的圖靈機，圖靈這篇著(zhù)名的論文是對哥德?tīng)柌煌陚涠ɡ淼脑忈專(zhuān)谖闹兄赋隽四男﹩?wèn)題是圖靈機做不了的，以此來(lái)拓展哥德?tīng)柕牟煌陚涠ɡ碜C明。今天的人工智能設備，無(wú)非是這樣那樣的圖靈機，沒(méi)有例外。 

回溯歷史，竟然是人類(lèi)先發(fā)現了圖靈機做不了的事，而后才發(fā)明了它。但圖靈機是如此的強大和成功，那些“它做不了的事情”很快就被湮沒(méi)在故紙堆里。 

我覺(jué)得我應該寫(xiě)一些文字，向被遺忘的哥德?tīng)柕热祟?lèi)歷史上的偉大思考者致敬。和前一本我寫(xiě)作的《量子大嘮嗑》一樣，我想以此做一些科學(xué)啟蒙的工作。而當我們能夠回溯科學(xué)的常識、回溯認知的常識時(shí)，會(huì )發(fā)現可以有更加平和的理解世界的態(tài)度。 

近現代科學(xué)從牛頓開(kāi)始，凡三百余年，大概經(jīng)歷了兩個(gè)重要的階段。 

科學(xué)的第一個(gè)階段，雖然以牛頓力學(xué)為思想有了很多新的結論和方法，但一定意義上還是舊的神學(xué)思想的延伸：存在一個(gè)客觀(guān)實(shí)在的主體，無(wú)非是這個(gè)主體從“上帝”換成了“自然”。至今我們依然不知道這是否一定是對的或者是錯的。這一階段，科學(xué)努力地把理性主義貫穿到科學(xué)的整體中去。因此要建立穩定的、可模型化的科學(xué)體系。 

脫離了神的信仰，并沒(méi)有阻止科學(xué)的進(jìn)步或者人們對真理的信仰，無(wú)非是那個(gè)絕對真理的主張，可以是上帝，也可以是自然。人們相信有客觀(guān)的、不由人所左右的規律存在于宇宙中。這一點(diǎn)不難理解，既然上帝不是為人類(lèi)造了宇宙，那么人也沒(méi)有理由成為宇宙的中心或者是宇宙中最重要的物種。但人們有種內心的信心，或者說(shuō)信仰，雖然不是天生的宇宙中心，但可以認識宇宙。 

這自然滋生了人類(lèi)的信心，人定勝天，認識世界是無(wú)窮盡的。

如果19世紀末的科學(xué)家有這樣的信心和勇氣，并不值得驚訝。從牛頓之后的兩百年已經(jīng)取得了從自然到社會(huì )的重大進(jìn)展，人們相信不僅自然可以認知，社會(huì )也可以，人心也可以。

在這個(gè)時(shí)候，這些知識也進(jìn)入了中國，跟中國的傳統文化產(chǎn)生了激烈的斗爭而慢慢進(jìn)入普通人的生活?？茖W(xué)也成為一個(gè)至高無(wú)上的名詞，代表了真理、正義。事實(shí)上它變成一個(gè)形容詞，等價(jià)于正確和不可侵犯，很多與科學(xué)無(wú)關(guān)的學(xué)問(wèn)，也冠以科學(xué)之名并以此為榮。

問(wèn)題是，一旦標榜自己為真理，事實(shí)上就成為它致命的弱點(diǎn)。一個(gè)反例就讓人們失去對它的信心，也讓本來(lái)陳舊的東西、本來(lái)該進(jìn)入歷史塵灰的東西死灰復燃。20世紀初，當“李約瑟之問(wèn)”提出時(shí)，科學(xué)或者被捧殺，或者被揚棄，艱難地在這個(gè)文明古國中開(kāi)啟啟蒙之路。 

但也就在這個(gè)時(shí)候，科學(xué)迎來(lái)了第二次革命，進(jìn)入第二個(gè)階段。這次革命與上一次一樣，似乎開(kāi)始只是在科學(xué)界，但這一百年來(lái)，它的影響已經(jīng)滲透出去，彌散到人類(lèi)的整個(gè)認知領(lǐng)域。 

然而，由于中國還在糾纏于第一階段的科學(xué)革命和傳統文化的爭執中，對第二次革命的科學(xué)浪潮視而不見(jiàn)，而生生錯過(guò)了。 

但這由不得你的緩慢而停下來(lái)等，一場(chǎng)轟轟烈烈的舊科學(xué)的革命在20世紀二三十年代又開(kāi)始了。這場(chǎng)革命以愛(ài)因斯坦對量子力學(xué)的建立和反對，以哥德?tīng)枌?jīng)典數學(xué)的擁護和反對為起始點(diǎn)。這兩個(gè)本應該學(xué)術(shù)觀(guān)點(diǎn)對立的人成了莫逆之交，他們也從人類(lèi)曠古爍今中呈現出來(lái)，他們倆自high，根本不在乎別人怎么看他們。 

事實(shí)上，海森堡不確定性原理和哥德?tīng)柕牟煌陚涠ɡ?，都指向人?lèi)認知過(guò)程中的不確定性。雖然哥德?tīng)柋救藢Υ撕敛魂P(guān)心，甚至他受愛(ài)因斯坦影響，對量子力學(xué)沒(méi)有半點(diǎn)好感。

但只有這一片補上之后，我們才理解了科學(xué)為什么是這個(gè)樣子。首先，科學(xué)不代表絕對真理。哥德?tīng)柌煌陚涠ɡ碜C明了任何一個(gè)有限的理論體系，都會(huì )存在無(wú)法被證明的問(wèn)題，直覺(jué)上我們可以認知的問(wèn)題，未必能夠被理性證明或證偽。任何一個(gè)可以認為是真的判定，都必然有有限的前提，而這些前提無(wú)法證明其本身是正確的。 

而可能最讓女性讀者開(kāi)心的是，直覺(jué)無(wú)法從人類(lèi)的認知中排除出去，甚至是在人類(lèi)的認知中更重要的部分。這一切結論似乎跟人們從亞里士多德時(shí)代努力建立起來(lái)的理性主義、客觀(guān)唯物主義不同，甚至有些離經(jīng)叛道，但似乎這樣的認知才更符合人類(lèi)認識的真實(shí)感覺(jué)。 

是的，對宇宙的認知到底是怎樣的過(guò)程、宇宙是怎樣的，我們至今沒(méi)有一個(gè)好的結論，甚至這個(gè)結論本身就不存在。因為這個(gè)結論也是宇宙的一部分。 

我們曾經(jīng)以為哥德?tīng)柌煌陚涠ɡ碇皇敲枋隽艘粋€(gè)小問(wèn)題，但歷史的經(jīng)驗告訴我們，一個(gè)偉大的理論的大廈，往往傾覆于一兩個(gè)反例。而以哥德?tīng)枮榫耦I(lǐng)袖的圖靈，把這個(gè)定理的適用范圍放大了。當我們用圖靈機來(lái)實(shí)現人工智能的任何一個(gè)算法的時(shí)候，并且圖靈宣稱(chēng)每一個(gè)可描述算法都可以用圖靈機來(lái)實(shí)現的時(shí)候，不完備定理如幽靈般擴展到了每一個(gè)可描述的問(wèn)題背后?？梢哉f(shuō)，圖靈機的應用有多廣泛，哥德?tīng)柌煌陚渌w的范圍就有多廣泛。這一點(diǎn)，如同哥德?tīng)柕诙煌陚涠ɡ硭v，是無(wú)窮盡的。 

需要指出的是，現在學(xué)校教授的課程，還停留在第一代所謂經(jīng)典科學(xué)的范疇之內，即19世紀的科學(xué)理論。 

這樣的理論與人的認知發(fā)生沖突的時(shí)候，第一是讓以科學(xué)為新真理代言的人臉上難堪，進(jìn)而憤怒，認為科學(xué)所不能解釋的問(wèn)題更多，而科學(xué)本身也不可靠。第二是讓本來(lái)就沒(méi)有了解科學(xué)基本思想的人重新去抱殘守缺，搬出老祖宗，他們覺(jué)得還是祖傳的可靠。

然而敵人的敵人未必是你的朋友，在20世紀二三十年代，現代科學(xué)又一次革命了，對這次革命，我們的中學(xué)教育、大學(xué)教育都幾乎不去碰觸、不講，甚至是不知道。

回到人工智能本身，只有知道了人工智能的“不能”，對人工智能的了解才算全面。正如我們知道了理性的不能，對人類(lèi)通過(guò)理性來(lái)認知世界才更全面。這才是更貼近常識的科學(xué)，它不是靜止的結論，它的結論是演進(jìn)變化的?？茖W(xué)工作者也不是秉持真理的圣徒，他們只是秉持著(zhù)對宇宙和人的奧秘的好奇心而探索的人類(lèi)中的一分子。知其不能而能，“學(xué)問(wèn)之道無(wú)他，求其放心而已矣”。 

愛(ài)因斯坦評價(jià)哥德?tīng)栒f(shuō)，“與哥德?tīng)柦徽?，我才知道了數學(xué)中有跟物理一樣重要的東西”。如果說(shuō)物理學(xué)是人類(lèi)探索自然世界的第一道邊界，數學(xué)便是人類(lèi)理性工具高度濃縮的精華。這兩者在20世紀二三十年代的發(fā)展，都告訴我們人類(lèi)對世界認知的極限。這個(gè)極限超越了工具，但也鼓勵人們不再為工具擔憂(yōu)。 

在《人工智能之不能》中談到了“人識原理”：圖靈機保證了所有我們可認識、可描述的問(wèn)題圖靈機都能做到，而我們不能描述的問(wèn)題，圖靈機也做不到，但我們不能描述的問(wèn)題，我們也不懂??！因此，從理性邏輯角度講，我們不比圖靈機強多少，但它們也不會(huì )比我們強。但我們有直覺(jué)，至少這一點(diǎn)是不同的，無(wú)法用理性邏輯來(lái)取代。 

當然，我們討論的不僅是數學(xué)哲學(xué)。最近二三十年的物理學(xué)和數學(xué)進(jìn)展，同樣告訴人們，更多的問(wèn)題超越了圖靈機，量子計算和計算復雜性問(wèn)題，都超越了這一代圖靈機和它延伸出來(lái)的人工智能的能力。我們還遠遠不能夠描述人類(lèi)的直覺(jué)來(lái)源、感情的產(chǎn)生，好在科學(xué)本身只是日拱一卒的努力，不求包羅萬(wàn)象的萬(wàn)能理論，只是“進(jìn)一寸有一寸的歡喜”地慢慢來(lái)，日子久了，定然就有長(cháng)足的進(jìn)步了。 

《量子大嘮嗑》和《人工智能之不能》這兩本書(shū)寫(xiě)作了五年，這兩本書(shū)一本從物理出發(fā)，一本從數學(xué)出發(fā)，都在闡述什么是現代的科學(xué)認知和科學(xué)方法，一定意義上，是胡適那一代人科學(xué)啟蒙的繼續——我們不僅要用科學(xué)武裝我們的生產(chǎn)力，更要用科學(xué)令我們的頭腦現代化。 

科學(xué)不代表靜止的真理，它是我們迄今能夠了解世界的最好的工具。

來(lái)源：《中國科學(xué)報》