施路平：類腦計算——人腦與電腦
● ● ●
施路平教授的演講題目是《類腦計算——人腦與電腦》。他為我們介紹了發(fā)展類腦計算的必要性及其挑戰(zhàn)，并分享了關(guān)于世界首款異構(gòu)融合類腦芯片“天機(jī)芯”的研究成果。他認(rèn)為，人腦和電腦這兩個系統(tǒng)可以互補(bǔ)，類腦計算能夠支撐人工通用智能以下為演講全文：
各位朋友大家好！非常感謝大會能夠給我這一次機(jī)會和大家分享類腦計算。類腦計算是借鑒腦科學(xué)的基本原理、面向人工通用智能、基于神經(jīng)形態(tài)工程發(fā)展的新的計算技術(shù)。
為什么我們要發(fā)展這樣一個技術(shù)？
大家知道現(xiàn)在我們生活在一個數(shù)碼宇宙，萬事萬物隨時隨地聯(lián)系起來，構(gòu)成一個萬物互聯(lián)的數(shù)碼宇宙。這個宇宙成長非?？欤畔⒚績赡攴环?，整個宇宙迅速地膨脹，而且從來不退步。這樣一個宇宙是基于我們現(xiàn)在的計算機(jī)架構(gòu)，而計算機(jī)架構(gòu)又基于馮諾依曼架構(gòu)。
馮諾依曼架構(gòu)是我個人認(rèn)為人類發(fā)展史上最簡潔、漂亮、對我們影響最大的一個架構(gòu)。它的特點(diǎn)是計算和存儲分離，計算和存儲都通過總線來回調(diào)度。大家可以設(shè)想一下，來回調(diào)度耗費(fèi)了很多能量，耽誤時間速度慢，造成了堵塞，所以有了帶寬的瓶頸。因此，計算機(jī)領(lǐng)域最高的圖靈獎2017年的兩個得主Hennessy和Patterson最近寫了一個長文，結(jié)論是未來的10年是計算架構(gòu)發(fā)展的黃金十年。因?yàn)槲覀冞^去是用計算機(jī)做計算，現(xiàn)在我們是用它處理信息，而我們的數(shù)碼宇宙每兩年翻一番，就是能耗也受不了。
當(dāng)然還有其它原因，就是我們現(xiàn)在生活在一個人工智能時代，人工智能取得了非常大的成績。不過我們發(fā)現(xiàn)，盡管可以用AlphaGo戰(zhàn)勝世界冠軍，但是仍然有很多瓶頸。簡單來說我們必須滿足5個條件，那就是充足的數(shù)據(jù)、確定性的問題、完備的知識、靜態(tài)的環(huán)境和單一的系統(tǒng)。
舉個例子，如果我們讓一個智能機(jī)器人從這里出去，如果不事先編程，它是做不到的。因?yàn)槲覀內(nèi)擞昧藥啄甑臅r間建立起“我”這個概念。在哪里？怎么出去？走門兒，還是走窗戶？所有的這些都與我們的通用智能有關(guān)。所以我們的結(jié)論是，我們要發(fā)展一個人工通用智能，我們想象的人工通用智能。只是我們沒有充足的數(shù)據(jù)，現(xiàn)在數(shù)據(jù)很少甚至很多假數(shù)據(jù)，很多問題也不能明確。
我們碰到過一個動態(tài)的，而且有很多系統(tǒng)交互在一起，但是我們的系統(tǒng)仍然能夠處理。這就是我們希望的人工通用智能。要發(fā)展人工通用智能，我們必須向腦學(xué)習(xí)，因?yàn)檎麄€宇宙是目前唯一的一個通用智能體。我們把腦和電腦做一個比較，會發(fā)現(xiàn)電腦強(qiáng)的，人不強(qiáng)；電腦不強(qiáng)的，人強(qiáng)。我們看過《最強(qiáng)大腦》，那些我們嘆為觀止的、非常讓我們羨慕的選手的能力，其實(shí)對于計算機(jī)來講是小兒科。我們發(fā)現(xiàn)人腦和電腦兩個系統(tǒng)雖然原理不同，但是實(shí)際上是互補(bǔ)的，所以借鑒腦科學(xué)的基本原理改造現(xiàn)在的計算機(jī)系統(tǒng)、發(fā)展類腦計算是發(fā)展人工通用智能的一個非常重要的部分，因?yàn)榍罢呤呛笳叩挠嬎慊?/strong>
發(fā)展人工通用智能不是一個新的想法。如果我們看一下過去圖靈、馮諾依曼這些大科學(xué)家早期的文章，會發(fā)現(xiàn)這是我們一直以來的夢想?，F(xiàn)在為什么是發(fā)展人工通用智能最好的時機(jī)呢？因?yàn)殡S著精密儀器的發(fā)展，我們對腦知道的越來越多，我們似乎到了一個理解腦的關(guān)口。超級計算機(jī)的發(fā)展可以使我們進(jìn)行很好的模擬仿真，省錢、省力、省時間。大數(shù)據(jù)、云計算給我們提供了一個像腦一樣復(fù)雜的系統(tǒng)，和腦交相呼應(yīng)，我們可以共同研究、互相促進(jìn)。另外，納米器件已經(jīng)可以使我們?nèi)グl(fā)展像人腦能耗水平一樣的神經(jīng)元和突觸這樣的電子器件。
所以，現(xiàn)在是發(fā)展人工通用智能最好的一個時機(jī)。
要發(fā)展類腦計算去支撐人工通用智能，腦起了非常大的作用。它到底起了一個什么作用？13年前，有感于摩爾定律在二三十年后要到頭，所以我開啟了類腦計算的研究。當(dāng)時我自認(rèn)為自己做研究還不錯，但忽然感到自己不會做研究了，因?yàn)闆]有文獻(xiàn)，很多東西需要自己摸索，所以感到非常的苦惱。有一次我去爬山，故意讓自己鉆進(jìn)森林走丟了，后來我就根據(jù)太陽判斷方向，盯著一個方向一直走、一直走，走到高速公路上，截了一輛車。之后，我還找了一個陰天進(jìn)去，我想了一個辦法，一直往高爬，爬到最高的地方，盯住一個點(diǎn)一直走、一直走，走到高速公路，截了個車我又回去了。這兩件事情讓我思考，腦在這里面起的是指南針的作用，給我們提供的是方向感，因?yàn)檫@是唯一所知的通用智能體。
做研究，我喜歡做難的，因?yàn)槲矣X得越難的越容易。因?yàn)樘菀椎脑捰泻芏喔偁幷?，你很難領(lǐng)先；如果很難，做著做著旁邊就沒人了，你反而可以領(lǐng)先。但是，有一個前提條件，就是方向必須是正確的。如果你走到錯路上，大家都跑了，你是很尷尬的。
我們?nèi)说闹悄苁墙⒃谔蓟系?，在硅基上我們已?jīng)建造了現(xiàn)在的數(shù)碼宇宙，而碳基、硅基的結(jié)構(gòu)非常相近。所以我們有一個信念，碳基上能夠?qū)崿F(xiàn)的，硅基上一定能夠?qū)崿F(xiàn)。發(fā)展類腦計算和人工通用智能，真正的挑戰(zhàn)既不是科學(xué)，也不是技術(shù)，而是因?yàn)槲覀兊膶W(xué)科分布使得我們沒有合適的人做這樣的研究。而且，腦科學(xué)和計算機(jī)科學(xué)，一個探索自然世界，一個更關(guān)注應(yīng)用，它們有不同的文化和語言，目標(biāo)也不一樣，所以多學(xué)科融合尤為關(guān)鍵。
清華大學(xué)類腦計算研究中心由7個院系組成，因?yàn)檫@個領(lǐng)域不僅僅是計算機(jī)和腦科學(xué)，還有數(shù)學(xué)、物理、電子、微電子等。我們7個院系的老師在一起反復(fù)討論，每周半天的時間，最后我們7年只做了一件事情，叫“融合、融合再融合”。
在這個過程當(dāng)中，我們梳理了一下發(fā)展人工通用智能，現(xiàn)在主要是有兩條技術(shù)路線。一條是計算機(jī)主導(dǎo)的，一條是腦科學(xué)主導(dǎo)的。計算機(jī)主導(dǎo)的像機(jī)器學(xué)習(xí)在圖像識別、語音理解、自然語言的處理方面取得了輝煌的成績，但是它很難處理不確定性的問題等。腦科學(xué)方面，像是神經(jīng)形態(tài)計算發(fā)展得也很快，但是由于我們不理解腦的機(jī)制，極大地阻礙了它的發(fā)展。但是兩條技術(shù)路線實(shí)際上互補(bǔ)，把兩者結(jié)合起來，是目前我們認(rèn)為最好的一種方法。
發(fā)展類腦科學(xué)實(shí)際上還有兩條，一個是基于計算機(jī)用腦科學(xué)的基本原理來改變計算架構(gòu)，第二個就是仿腦，因?yàn)锽rian-inspired computing實(shí)際上覆蓋了Brain-like,你都已經(jīng)brain-like了，還能不是inspired嗎？所以，我們用一個“類腦”這樣簡單又明了的詞涵蓋這兩個部分。就我們本身而言，我們是沿著Brian-inspired computing這個路線走的。這一研究，實(shí)際上你要研究理論芯片、軟件、系統(tǒng)、云腦到應(yīng)用。但是大家總是問一個問題：“不理解人腦，憑什么你能造出類腦計算系統(tǒng)來？”
我們思考了很久，后來得到了答案。
我們的答案是這樣的：計算機(jī)是把多維空間的信息轉(zhuǎn)換成為0、1這樣一維的信息流，用計算來解決問題，CPU的主頻越來越快。換句話說，你用的是時間復(fù)雜度，你的問題是什么？你的問題是當(dāng)你縮維的時候，你的（數(shù)據(jù)的）相關(guān)性丟失了，這就是人很容易確定一個物體是在真實(shí)空間里還是在鏡子里，計算機(jī)則很難，這個是根本原因。
腦我們不知道它的基本原理，但是我們知道，一個神經(jīng)元接一千到一萬個神經(jīng)元，換句話說我們在這里把信息擴(kuò)束了，把相關(guān)性增強(qiáng)了，我們用的是空間復(fù)雜度。另外我們的腦還用脈沖來編碼，引進(jìn)了時間的因素，我們還利用了時空復(fù)雜度。所以我們是想保持現(xiàn)在的計算機(jī)所有的優(yōu)點(diǎn)，保持時間復(fù)雜度，增加一塊類腦芯片。增加的是什么呢？增加的是空間復(fù)雜度、時空復(fù)雜度。
如果我們以這種觀點(diǎn)來看現(xiàn)在的技術(shù)，你就發(fā)現(xiàn)現(xiàn)在的人工神經(jīng)網(wǎng)絡(luò)的加速器是面向深度人工神經(jīng)網(wǎng)絡(luò)，它利用的就是空間復(fù)雜度。而像腦一樣工作的神經(jīng)形態(tài)計算，面向的是脈沖神經(jīng)網(wǎng)絡(luò)，它利用的是時空復(fù)雜度。一個空間復(fù)雜度，一個時空復(fù)雜度，何不把它結(jié)合起來呢？所以我們想了一個辦法，提出了天機(jī)芯片架構(gòu)。我們用了3%的代價，實(shí)現(xiàn)了既支持人工神經(jīng)網(wǎng)絡(luò)又支持像腦一樣工作的脈沖神經(jīng)網(wǎng)絡(luò)，而且還支持兩個的異構(gòu)建模。
“天機(jī)芯”登上 Nature 封面
我們還利用類腦芯片構(gòu)建了一個人工通用智能的研究平臺。我們的想法是這樣：構(gòu)建一個可以和系統(tǒng)互動的多模態(tài)交叉研究平臺，我們利用環(huán)境變化逼迫這個系統(tǒng)變化，當(dāng)它變化的時候，我們會觀察應(yīng)用這種變化時，系統(tǒng)應(yīng)該遵循的基本原理，從而幫助我們迭代發(fā)展。利用一塊天機(jī)芯片，我們就實(shí)現(xiàn)了感知、追蹤、過障、避障、自動控制、語音理解、自主決策。
裝上“天機(jī)芯”的自行車可以追蹤、自動避障等
芯片很重要，軟件也很重要。因?yàn)槿绻麤]有軟件，應(yīng)用工程師是不愿意做應(yīng)用軟件開發(fā)的。在我們實(shí)驗(yàn)室我們自己開發(fā)了一個軟件工具鏈，在我們實(shí)驗(yàn)室現(xiàn)在實(shí)際上已經(jīng)搭起了第一代的類腦計算機(jī)。我們現(xiàn)在做的是一個類腦云腦，它和現(xiàn)在的云計算的差別是云計算是把很多技術(shù)整合起來，而類腦云腦是面向人工通用智能的。因?yàn)槿斯ねㄓ弥悄艿难芯?，并不是多種人工智能的簡單疊加。我們的想法是把腦的彈性和計算機(jī)的剛性結(jié)合起來，把數(shù)據(jù)驅(qū)動和知識驅(qū)動結(jié)合起來，把通用知識和推理結(jié)合起來。當(dāng)然這是一個非常具有挑戰(zhàn)性的長期研究，我們的策略是循序漸進(jìn)。
大家記住我剛才說的五個條件，我們可以設(shè)想一下，我們先專注在一個一個問題的研究上，這個可以稱為是第一代。然后兩個問題一起研究，這個可以稱為第二代，然后第三代、第四代，最后是第五代，從而讓我們構(gòu)建人工通用智能。我們發(fā)展類腦計算，支撐人工通用智能，因?yàn)樗峭ㄓ弥悄?，所以它可以賦能各行各業(yè)，可以有很多的應(yīng)用。
其中，我們對智能教育特別感興趣，因?yàn)槲覀兘逃暮芏鄦栴}都可以通過這樣的研究解決。比如說高質(zhì)量的教育資源很稀少，所以造成了教育不公，社會從一開始發(fā)展就有不公平的因素。還有因材施教，我們每個人是不一樣的，但由于經(jīng)費(fèi)有限、儀器有限，我們很難做到真正的理論聯(lián)系實(shí)際。此外，還有終生學(xué)習(xí)等等。隨著類腦計算、人工通用智能的發(fā)展，這些都會逐漸地解決，然后發(fā)展新的系統(tǒng)。但是還有一個非常重要的因素，因?yàn)榻逃钪饕氖撬茉烊恕?/span>
自工業(yè)革命以來，我們發(fā)展了蒸汽機(jī)、發(fā)電機(jī)、計算機(jī)、大數(shù)據(jù)，還有現(xiàn)在的萬物互聯(lián)。我們一直在改變外部的世界，在改變我們的物質(zhì)生活。但看一下我們現(xiàn)在的世界，貿(mào)易紛爭，國家、民族、人之間有很多矛盾，我們忽然發(fā)現(xiàn)，當(dāng)我們的物質(zhì)生活發(fā)展得已經(jīng)很快時，精神生活實(shí)際上沒有同步發(fā)展。我們現(xiàn)在在智能時代發(fā)展類腦計算，我們有機(jī)會向內(nèi)發(fā)展，審視我們的內(nèi)心。
我通常只參加學(xué)術(shù)活動，這次之所以接受騰訊的邀請來做這一個演講，是因?yàn)轵v訊提出了一個“科技向善”的理念，和我們的理念是相通的。我們衷心地希望人類在發(fā)展我們的技術(shù)、探索外界世界的同時，能夠也研究一下我們的內(nèi)在世界，內(nèi)外兼修、共同發(fā)展，建設(shè)一個美好、和諧的世界。
謝謝大家！
注：本文轉(zhuǎn)載自公眾號“騰訊科學(xué)WE大會”。
