洪小文：以科學(xué)的方式赤裸裸解剖AI——人的智慧在哪里？
?圖片來(lái)源：pixabay.com
撰文｜洪小文（微軟全球資深副總裁，亞太研發(fā)集團(tuán)主席，亞洲研究院院長(zhǎng)）
責(zé)編｜邸利會(huì)
● ● ●
人類的智慧應(yīng)該是一個(gè)金字塔的結(jié)構(gòu)。
金字塔的最底層叫計(jì)算和記憶，我們中國(guó)一直覺(jué)得這屬于智慧、智能的部分。我們常常說(shuō)一個(gè)人神機(jī)妙算，過(guò)目不忘。事實(shí)上，所謂的圖靈機(jī)，馮諾伊曼的架構(gòu)，計(jì)算機(jī)里面最重要的，最基本就是CPU與內(nèi)存，一個(gè)管計(jì)算，一個(gè)管存儲(chǔ)。
我記得我人生中受到的最大一次打擊是在我小學(xué)一年級(jí)的時(shí)候，跟算盤有關(guān)。當(dāng)時(shí)選一些比較聰明的小孩去訓(xùn)練珠算，我沒(méi)有被選上。老師安慰我說(shuō)，你體弱多病，就算了，為此我還非常郁悶。我當(dāng)時(shí)覺(jué)得算盤打得好的人是神童?？墒牵裉鞗](méi)有人會(huì)浪費(fèi)時(shí)間去學(xué)計(jì)算，也沒(méi)有人認(rèn)為會(huì)計(jì)算有什么了不起——珠算和計(jì)算機(jī)（甚至計(jì)算器）相比是以卵擊石。
說(shuō)到內(nèi)存，我不知道多少人記得家里的電話號(hào)碼，我是不記得。所以這有兩層意義，一是說(shuō)，算東西和記東西不要跟機(jī)器比；第二，我們覺(jué)得這是雕蟲小技。
“模式識(shí)別，不要和機(jī)器比，是在浪費(fèi)你的生命”
更高一層是感知，也就是可以聽(tīng)懂話，可以認(rèn)識(shí)東西。
我一直是做模式識(shí)別的，其實(shí)從學(xué)問(wèn)來(lái)講，尤其是我們這代人，我覺(jué)得認(rèn)真來(lái)說(shuō)，深度神經(jīng)網(wǎng)絡(luò)（DNN）最了不起的一件事情，很可能在很大的程度把模式識(shí)別給解了。解的意思是說(shuō)，當(dāng)有很多的數(shù)據(jù)，很大的計(jì)算量，我可以不做假設(shè)，讓它用最好的模式去學(xué)，而且不用給它額外的知識(shí)，甚至用原始數(shù)據(jù)就行。它是不是解了AI，可以打一個(gè)大問(wèn)號(hào)；但是它很大程度把統(tǒng)計(jì)的模式識(shí)別，模式分類，模式匹配給解了。我承認(rèn)這個(gè)DNN是蠻了不起的。
再談一下AlphaGo，我覺(jué)得AlphaGo最了不起的是把下棋變成了一個(gè)模式識(shí)別。如果是模式識(shí)別，理論上人其實(shí)是做不過(guò)機(jī)器的。道理其實(shí)非常簡(jiǎn)單，我舉另外一個(gè)例子：比如假設(shè)有500個(gè)人在做壞事，我們把他們的照片拿給你看，你的工作就是每天在海關(guān)看這500個(gè)人有沒(méi)有進(jìn)來(lái)。別說(shuō)500個(gè)人了，50個(gè)陌生人要把他們記下來(lái)都不可能。而機(jī)器卻可以硬把它強(qiáng)記下來(lái)。
人下棋很大程度上不是在做原始的模式識(shí)別。人在棋里面要找到一個(gè)路，因?yàn)槿瞬豢赡苡浤敲炊嗄Ｊ?。人必須要?dú)w納出一些原則性或者算法的東西。人做原始的模式識(shí)別是做不過(guò)計(jì)算機(jī)的，所以說(shuō)難怪AlphaGo打贏了，AlphaGo打贏其實(shí)根本不證明AI有什么了不起。AlphaGo基本做模式識(shí)別，而DNN基本上解決了模式識(shí)別。所以，如果是模式識(shí)別，也不要和機(jī)器比，是在浪費(fèi)你的生命。
“DNN是一個(gè)黑箱，但是黑箱很強(qiáng)大”
接下來(lái)談一下黑箱、白箱的認(rèn)知。DNN以及模式識(shí)別基本上是黑箱，有輸入進(jìn)去，然后給出輸出。
黑箱有黑箱的好處，黑箱不全是壞事。有一本書叫做《沒(méi)有偏見(jiàn)的思考》，強(qiáng)調(diào)黑箱的好處是不會(huì)有偏見(jiàn)。人做決定會(huì)偏見(jiàn)，而我們?nèi)巳绻軌蛱鰜?lái)用黑箱思考，這個(gè)社會(huì)就會(huì)變得更好。其實(shí)這個(gè)道理我們中國(guó)人也都知道，鄧小平說(shuō)黑貓白貓，會(huì)抓老鼠就是好貓，這基本上就是黑箱的想法。
黑箱可以解決什么，但不能說(shuō)明為什么。另外，黑箱沒(méi)有辦法鏈接（chaining），就是說(shuō)沒(méi)有辦法做一些推理。因?yàn)楹谙湟鐾评?，唯一的可能就是某一個(gè)黑箱的輸出，是下一個(gè)的輸入，否則沒(méi)有辦法做推理。今天的DNN是一個(gè)黑箱，但是黑箱很強(qiáng)大。我們都有一個(gè)叫做反饋環(huán)路（feedback loop）（的東西）。我們?nèi)祟惖男袨槎伎梢杂眠@個(gè)來(lái)表示，比如做科學(xué)實(shí)驗(yàn)，改變一些東西，收集一些數(shù)據(jù)，然后做分析，決定下一步怎么做；做產(chǎn)品也是這樣，我們今天叫互聯(lián)網(wǎng)迭代，要很快地迭代，看客戶的反饋。
物聯(lián)網(wǎng)有兩個(gè)部分，一塊是傳感器，一塊是執(zhí)行器（Actuator）。傳感器是感知自然界；執(zhí)行器是操作自然界。如果是閉環(huán)，就可以收集大量的數(shù)據(jù)，做成一個(gè)黑箱，雖然它很復(fù)雜，舉個(gè)例子叫做“可預(yù)測(cè)的維護(hù)”（Predictive Maintenance）：以前電梯壞了，打電話給電梯公司，電梯公司可能隔兩三天派人來(lái)，查看下，然后回去分析，隔幾個(gè)禮拜，拿來(lái)零件換一下，電梯可能一兩個(gè)禮拜都不能用。現(xiàn)在，在電梯上裝各種傳感器，然后收集數(shù)據(jù)。這時(shí)候，如果看到數(shù)據(jù)某個(gè)樣子（預(yù)兆需要維護(hù)），就可先派人去維修。電梯是非常復(fù)雜的，有各種因素，但是我們可以用這個(gè)方法，把它變成一個(gè)閉環(huán)，變成一個(gè)黑箱來(lái)處理。
所以AI為什么在工業(yè)界那么紅火？電梯維護(hù)是一個(gè)例子。這個(gè)例子可以引申到任何地方，比如油管檢測(cè)，人的身體的監(jiān)測(cè)。前幾年的穿戴式非常紅火。如果傳感器真的很準(zhǔn)確，測(cè)到身體的任何一樣生物信號(hào)，那很了不得。就拿癌細(xì)胞來(lái)講，將來(lái)有可能在癌細(xì)胞超過(guò)一個(gè)臨界值之后，就知道馬上要去醫(yī)院，有利于早期治療。其實(shí)今天大家講AI，數(shù)據(jù)非常重要，今天的AI沒(méi)有數(shù)據(jù)是活不下去的。第二個(gè)要有很大的計(jì)算，我們叫云，缺一不可。
看到露出的部分，你在腦補(bǔ)其它地方
我們剛剛談的AI，其實(shí)是一種認(rèn)知：我們不僅知道電梯快出問(wèn)題了，還知道需要怎么樣的修理。也就是說(shuō)我知道，我有認(rèn)知，所以的確計(jì)算機(jī)今天做了認(rèn)知的一些東西，但不是全部。
John Seale是一個(gè)哲學(xué)家，他提出了一個(gè)叫做中國(guó)房間的論題（Chinese room）（編者按：作者提出假設(shè)有一臺(tái)鎖在房間中的機(jī)器可以完全無(wú)障礙的與隔壁房間里面的會(huì)講中文的人交流，人無(wú)法判別交談對(duì)象是人還是機(jī)器，即便如此，也并不能代表機(jī)器能“理解”這樣的交談）。他提到了圖靈測(cè)試：如果這個(gè)房間里面可以出一個(gè)像人一樣的回答，我們就說(shuō)這個(gè)機(jī)器通過(guò)圖靈測(cè)試，跟人的智慧就是一樣。
其實(shí)中國(guó)房間所講的就和我們今天的翻譯是一樣的。今天的翻譯就是查表，然后做回歸。你給機(jī)器一張紙，機(jī)器也不知道是什么字，一對(duì)照是這樣的（字詞）組合，就給出這樣的組合，沒(méi)有理解在里面。其實(shí)AI有兩種，一個(gè)叫強(qiáng)人工智能，一個(gè)叫弱人工智能，弱人工智能就是模擬，是根本不了解，強(qiáng)人工智能是真的了解。
不過(guò)，這里可能會(huì)有人挑戰(zhàn)我：如果機(jī)器通過(guò)了圖靈測(cè)試，那就可以的呀。我們學(xué)語(yǔ)音的，有一個(gè)概念叫做雞尾酒效應(yīng)。我們平常去參加雞尾酒會(huì)，一個(gè)很小的空間里面很多人在講話，有人講中文，有人講英文。不過(guò)，站在你旁邊的一個(gè)人，即使大部分的話你都沒(méi)聽(tīng)到，還可以交流，為什么？通常我們站在一個(gè)人旁邊，大家也都相互認(rèn)識(shí)，知道他的背景，所以即使聽(tīng)到幾個(gè)音，也會(huì)猜得八九不離十。
今天沒(méi)有一個(gè)AI可以做到這點(diǎn)，但是人為什么可以做到？人不是真正聽(tīng)到他講的每句話，人不是把信號(hào)處理過(guò)才知道。人使用的就是之前談到的“產(chǎn)生并測(cè)試”（generate and test）。如果是一個(gè)陌生人，你大概是沒(méi)有辦法的；但如果是一位朋友，因?yàn)橛嘘P(guān)于這個(gè)人的所有知識(shí)，講幾個(gè)音，大概猜猜就可以知道了。我們做認(rèn)知，甚至感知的時(shí)候，都用了其他的知識(shí)，事實(shí)上視覺(jué)也是一樣。假設(shè)有一只大象，你只要看到任何一個(gè)露出的部分，就可以知道它是一個(gè)大象，你在腦補(bǔ)其它的地方。你腦中閃過(guò)好幾個(gè)假設(shè)，這就叫做產(chǎn)生（generate），然后測(cè)試，然后你就知道大概是這個(gè)意思。
今天機(jī)器翻譯的東西，怎么可能做到這些？就算要做，也要回到最原始的知識(shí)表示，還有常識(shí)推理，今天這些都沒(méi)有人談了。什么叫常識(shí)？就好像有一個(gè)人吞了一個(gè)蘋果，用常識(shí)也可以知道，一個(gè)人不可能吞一個(gè)蘋果，這個(gè)叫做強(qiáng)AI，真的用理解去做事情。
人的認(rèn)知事實(shí)上是白盒子，在里面要做因果分析。因果分析是非常復(fù)雜的，要回答為什么，而不只回答是什么，更不要說(shuō)很多事情都是開(kāi)放的系統(tǒng)。產(chǎn)品就是一個(gè)開(kāi)放的系統(tǒng)，到底下一個(gè)產(chǎn)品該放哪些特性，本身就是一個(gè)開(kāi)放的系統(tǒng)，可以用AI去自動(dòng)化么？不可能。還是要人的智能加機(jī)器的智能。當(dāng)然，我還是要用大數(shù)據(jù)的分析，給一些線索，來(lái)決定人來(lái)做什么?；蛘咄顿Y也不太可能被AI取代，因?yàn)槊恳粋€(gè)投資方案都不一樣。拿微軟做一個(gè)例子，我們要考慮要不要買領(lǐng)英，這種很大的事情一輩子就做一次，你不可能去讓一個(gè)機(jī)器做，因?yàn)檫@次搜集的數(shù)據(jù)不一定下次還有用。產(chǎn)品也是，做一個(gè)錯(cuò)誤的產(chǎn)品，不知道要花多少時(shí)間去改正它。這種一輩子只做一次的決定，一定是人的智能和人工智能一起做。
愛(ài)因斯坦提出引力波，不要說(shuō)大數(shù)據(jù)，是無(wú)數(shù)據(jù)
算法的定義是通過(guò)一步步的操作來(lái)解決問(wèn)題。什么叫創(chuàng)造力？就是你能夠產(chǎn)生一個(gè)新的算法，去解一個(gè)未解的問(wèn)題，或者更好的去解一個(gè)已解的問(wèn)題，這就叫做創(chuàng)造力。就這樣的定義來(lái)講，我覺(jué)得在數(shù)學(xué)上，推理上很多東西，都是創(chuàng)造力。比如說(shuō)很有名的高斯，他小時(shí)候很聰明，常常去找數(shù)學(xué)老師問(wèn)問(wèn)題。數(shù)學(xué)老師覺(jué)得他很煩，有一天說(shuō)，你從1加到N，數(shù)學(xué)老師想他怎么也得花半個(gè)小時(shí)。結(jié)果高斯幾分鐘就有了答案，創(chuàng)造了一個(gè)新的公式。這顯然是一個(gè)算法。我講這個(gè)例子有一個(gè)特殊的原因，我們之前說(shuō)人和計(jì)算機(jī)比計(jì)算沒(méi)有可比性。假設(shè)N是一個(gè)很大的數(shù)，計(jì)算機(jī)從1加到N，而人用高斯發(fā)明出的公式，誰(shuí)會(huì)最早算出答案？還是計(jì)算機(jī)。
如果你同意這個(gè)的話，那我們來(lái)談一下AlphaGo。李世石，柯潔其實(shí)非?？蓱z。下棋包含兩件事情，一件是算法，另外要去算才有答案。所以李世石和柯潔，下棋的算法來(lái)自他們自己，算也要自己去算；可AlphaGo的算法來(lái)自于人，來(lái)自于一個(gè)團(tuán)隊(duì)，有幾萬(wàn)臺(tái)機(jī)器在云那邊去算。
如果今天人用比較好的算法，還和機(jī)器有得一拼的話，你會(huì)覺(jué)得誰(shuí)的算法比較好？肯定是人的算法大概比較好，因?yàn)闄C(jī)器的算力比人高那么多。所以AlphaGo打敗人，對(duì)AI來(lái)說(shuō)不算什么，根本和創(chuàng)造力一點(diǎn)關(guān)系都沒(méi)有。更何況，我覺(jué)得其實(shí)象棋也好、圍棋也好，被他們這樣一做，就跟珠算一樣，從此沒(méi)有人認(rèn)為這是有智慧的東西，也沒(méi)有人會(huì)把時(shí)間浪費(fèi)在這里。
科學(xué)發(fā)展，肯定是新的算法，事實(shí)上新算法，充滿了每一個(gè)地方。比如說(shuō)今天的出租車，該派哪一個(gè)車去；或者說(shuō)快遞公司在送快遞的時(shí)候，我們說(shuō)旅行中的銷售員問(wèn)題（Travelling Salesman Problem），先送這里還是先送那里，怎么去優(yōu)化，這全都是算法。甚至于有些算法不是那么明顯的，比如說(shuō)教書，我們常常有這種經(jīng)驗(yàn)，有一個(gè)東西你覺(jué)得最好的教法是這樣，但是你這么教，有的學(xué)生可能就不能接受，有時(shí)候你換一個(gè)角度去教，他就可以接受，算法改變了一個(gè)人從不懂到懂得。
去年美國(guó)大選，前年英國(guó)脫歐，我知道可能投某一方是對(duì)的，但是我這個(gè)票就是投不下去。很多時(shí)候我知道你是對(duì)的，同時(shí)我也愿意接受，甚至把票愿意投給你，或者叫做同理心等等，這個(gè)其實(shí)跟算法是有關(guān)聯(lián)的，至于怎么變成算法，我還在思考。
最后提一下，創(chuàng)造力絕對(duì)不是一個(gè)大數(shù)據(jù)的問(wèn)題，絕對(duì)是一個(gè)小數(shù)據(jù)的問(wèn)題。我舉一個(gè)例子，去年的引力波是愛(ài)因斯坦在100多年前提出來(lái)的一個(gè)假設(shè)。當(dāng)年不要說(shuō)大數(shù)據(jù)，我覺(jué)得是無(wú)數(shù)據(jù)，因?yàn)?00年以后我們用最新的設(shè)備勉勉強(qiáng)強(qiáng)測(cè)到有一點(diǎn)那個(gè)影子。他當(dāng)時(shí)怎么想到這個(gè)東西的？肯定不是大數(shù)據(jù)。如果有大數(shù)據(jù)以后，我說(shuō)有引力波，我相信一個(gè)小學(xué)生也可以做出來(lái)。所以，沒(méi)有數(shù)據(jù)怎么產(chǎn)生創(chuàng)造力，我不認(rèn)為有人知道。大家在比AI跟人的時(shí)候，不要忘記兩點(diǎn)，一點(diǎn)今天所有的AI的算法全部來(lái)自于人，都是人寫出來(lái)的。如果有人說(shuō)我今天能寫一個(gè)程序，自己產(chǎn)生一個(gè)程序或者新的算法，去解一個(gè)新的問(wèn)題，這兩者是不一樣。
我寫一個(gè)程序，面對(duì)我知道的問(wèn)題，能夠做出解決方案，這就像下棋，加強(qiáng)學(xué)習(xí)就是這個(gè)例子?？扇绻覍懗鲆粋€(gè)程序，能夠解決一個(gè)新的問(wèn)題，我都不知道這個(gè)新的問(wèn)題是什么，這個(gè)新問(wèn)題對(duì)照一個(gè)解法，這是沒(méi)有的事。實(shí)際上GPS（一般求解器），我們沒(méi)有，我當(dāng)然希望有一天有，但實(shí)在沒(méi)有。
大家再看一下腦神經(jīng)學(xué)和認(rèn)知心理學(xué)，但至少大部分人相信，我們?nèi)说淖竽X、右腦所處理的事情不太一樣。所以似乎計(jì)算機(jī)只是一個(gè)左腦，而我們的創(chuàng)造力大部分在右腦。右腦加左腦，其實(shí)本來(lái)就是一個(gè)大膽假設(shè)、小心求證的過(guò)程，所以我覺(jué)得AI和HI要結(jié)合在一起，更不要說(shuō)計(jì)算機(jī)是我們發(fā)明出來(lái)的。
“人的缺點(diǎn)反而幫助了我們的創(chuàng)造力”
智慧，我實(shí)在不知道怎么定義，我也覺(jué)得我沒(méi)有資格去定義。因?yàn)槲也荒芏x，我只能講我自己到目前為止，我了解的東西跟智慧有關(guān)的，就是《倚天屠龍記》張三豐教張無(wú)忌太極劍法的故事。第一次張無(wú)忌說(shuō)，太師傅，我這次記得了七成；太師傅說(shuō)，很好，有進(jìn)步；第二次張三豐又舞了一次，張無(wú)忌說(shuō)，太師傅，這次我只看懂了一半，張三豐說(shuō)很好；第三次張無(wú)忌說(shuō)，太師傅，我完全不記得了，張三豐說(shuō)，你融會(huì)貫通了。
我們?cè)诳纯匆庾R(shí)和想法。有一個(gè)鏡子測(cè)試（ Mirror Self Recognition Test，MSR），我的理解是這樣的：如果在你的額頭上貼一個(gè)便利貼，你馬上知道這不是屬于我們的一部分，就把它拿掉，這是一個(gè)惡作劇——就是我能不能知道這個(gè)東西是我的一部分。我的理解，首先大部分的動(dòng)物是不通過(guò)的，我們喜歡的狗跟貓基本上沒(méi)通過(guò)，大部分的猴子也沒(méi)通過(guò)，但是好像猴子經(jīng)過(guò)一些訓(xùn)練以后是可以通過(guò)的。據(jù)我所知，海豚、金魚是通過(guò)的。
但是這個(gè)有爭(zhēng)議，有人會(huì)說(shuō)，它其實(shí)知道這不是它的一部分，只是它不覺(jué)得麻煩，所以沒(méi)有拿掉。但我想自我意識(shí)不是每個(gè)動(dòng)物都有的。另外一個(gè)是思想和身體之間的關(guān)系，笛卡爾說(shuō)我思故我在。有一派是純粹的唯物派，所以思想就是你的軟件，硬件就是腦，要研究腦。有另外一派覺(jué)得不是，至少還有一個(gè)脊椎，思想和身體是一體的。我自己本人比較傾向于這一派。因?yàn)槿擞袝r(shí)候疼痛或者感覺(jué)，事實(shí)上是會(huì)影響我們的思維的。如果說(shuō)只有腦的話，把身體拿走，其他地方的感官不影響思維，是不是這么簡(jiǎn)單呢？如果就是一個(gè)軟件跟硬件的關(guān)系，那軟件來(lái)自于哪里？有一本書，是認(rèn)知心理學(xué)的書，它也做一些腦神經(jīng)的東西，一個(gè)叫Gelernter的教授寫的一本書，叫Tide of Mind: Uncovering the Spectrum of Consciousness。他把一個(gè)人的頭腦大概分成兩個(gè)周期，一個(gè)叫High spectrum，就是通常我們起床喝一杯咖啡，我們意志力很集中的時(shí)候，可以做計(jì)算，做推理，做邏輯，做很精確的東西。Low spectrum就是我們累了，打哈欠了，做白日夢(mèng)，甚至于就睡著了。意志力不集中，這時(shí)候你計(jì)算或者記憶就會(huì)失誤，就會(huì)算錯(cuò)。這時(shí)候我們可以接觸到深層的記憶，但絕對(duì)不充分也不必要。似乎這些東西跟創(chuàng)造力有點(diǎn)關(guān)系。我這里舉了一個(gè)例子，貝多芬做第九交響曲的時(shí)候，他是全聾了，我們絕對(duì)不能說(shuō)他是High spectrum。甚至于有一個(gè)化學(xué)家發(fā)現(xiàn)苯環(huán)結(jié)構(gòu)的時(shí)候，他說(shuō)他在睡覺(jué)的時(shí)候夢(mèng)到一條蛇，自己咬到自己的尾巴，形成了六角形。
人其實(shí)不是在意志力集中去想問(wèn)題的時(shí)候有高的創(chuàng)造力，通常是在意志力沒(méi)有那么集中，創(chuàng)造力比較高。不過(guò)，雖然想法很重要，但也要小心求證。中國(guó)也好、西方也好，很多詩(shī)人、很多作家常常喝得酩酊大醉，的確是意志力不集中，但創(chuàng)造力就出來(lái)了。
但是我覺(jué)得很好玩的一點(diǎn)是，我覺(jué)得人的缺點(diǎn)反而幫助了我們的創(chuàng)造力。什么意思呢？就是人意志力不集中，經(jīng)常會(huì)算錯(cuò)。但有人說(shuō)這個(gè)簡(jiǎn)單，讓計(jì)算機(jī)每十題故意算錯(cuò)一題，我保證這樣的計(jì)算機(jī)也沒(méi)有創(chuàng)造力。但是人的這種缺點(diǎn)似乎幫助了我們的創(chuàng)造力，這是一個(gè)很好玩的事情：因?yàn)槿瞬煌昝溃说挠洃洉?huì)錯(cuò)，人會(huì)算錯(cuò)，但是我們?cè)谟腥秉c(diǎn)的時(shí)候，我們會(huì)創(chuàng)造出很好的東西。
智慧，我們一般人認(rèn)為人年紀(jì)越大，是比較有可能有大智慧。人年紀(jì)越大，我們的腦是退化的，有一天會(huì)死去，可是智慧來(lái)了，我覺(jué)得這可能是人性。
（本文根據(jù)洪小文在清華大學(xué)《腦科學(xué)與人工智能對(duì)話：基礎(chǔ)與前沿》系列課程上所做的報(bào)告整理，未經(jīng)作者本人審閱。點(diǎn)擊閱讀第一篇《混沌初開(kāi)》、第二篇《從寒冬到復(fù)興》）
制版編輯： 許逸｜
