誰家學霸兩百年:從布爾代數(shù)到人工智能
?左:George Boole,右:Geoffrey Hinton。圖片來源:wikipedia.org
撰文 | 黃鐵軍(北京大學信息科學技術(shù)學院教授,計算機科學技術(shù)系系主任)
責編 | 邸利會
● ● ●
布爾(George Boole)就是布爾代數(shù)那個布爾[1,2],辛頓(Geoffrey Hinton)就是深度學習這個辛頓,布爾是辛頓的曾祖父。這篇小文是從布爾到辛頓的家族故事。
布爾1815年生于英國東部的林肯鎮(zhèn)。布爾的父母約翰·布爾和瑪麗·布爾結(jié)婚九年才生下布爾,隨后又生了三個孩子。布爾的父親是個補鞋匠,沒錢讓布爾接受正規(guī)教育。布爾自學了拉丁語、希臘語、法語和德語,不滿16歲就到40英里外的一家循道宗小學當教師,開始研究數(shù)學。據(jù)布爾解釋,主要原因是缺錢買書,而數(shù)學書看的時間可以更長一些。因為星期天做禮拜時還在看數(shù)學書,對神不敬,布爾工作了兩年就被解雇了。
布爾19歲那年回到家鄉(xiāng)創(chuàng)辦自己的學校,擔任校長15年,講了無數(shù)的課,還做了大量公益活動,卻沒耽誤研究英國和歐洲大陸最重要的數(shù)學文獻,并在《劍橋數(shù)學期刊》(Cambridge Mathematical Journal)發(fā)了不少文章,這使他有機會與頂尖數(shù)學家交往。但是,因為沒有正常學歷,布爾在英國沒有進入大學任職的機會。好在天無絕人之路,英國政府批準在愛爾蘭新建三所皇后學院,位于科克市的皇后學院(今科克大學)同意聘任布爾為數(shù)學教授,這是1849年,布爾34歲。
布爾32歲那年出版《邏輯的數(shù)學分析》,搭起邏輯和代數(shù)之間的橋梁,七年后出版了更為完善的《思維的規(guī)則》(The Laws of Thought),創(chuàng)立布爾邏輯和布爾代數(shù),亞里士多德傳統(tǒng)邏輯踏步了兩千多年后,從此走上數(shù)理邏輯的快速路,為后來現(xiàn)代計算機的出現(xiàn)奠定了數(shù)學基礎(chǔ)。
1857年,布爾42歲,當選英國皇家學會會士。
1864年11月底,布爾冒著大雨步行兩英里走到學校,身著濕冷的衣服為學生們授課,由此患上肺炎。深愛他的妻子病急亂投醫(yī),迷信偏方:要治病,先重現(xiàn)病因,就把丈夫裹進被子,再澆上幾桶冷水……沒幾天布爾就去世了。
布爾妻子原名瑪麗·艾佛斯特(Mary Everest),比他年少17歲,在數(shù)學上也很聰慧,1855年瑪麗父親去世,她和布爾結(jié)婚?,旣惖氖迨鍐讨巍ぐ鹚固卦斡《却蟮販y量局總測量師,英國殖民者用于命名珠穆拉瑪峰用的就是艾佛斯特(Everest),這個姓被后人一直沿用到今天?,旣愐恢被畹?0世紀。
布爾最小的女兒艾捷爾·麗蓮·伏尼契(愛爾蘭語Ethel Lilian Voynich)在布爾去世時才半歲,她的作品《牛虻》在俄羅斯和中國家喻戶曉。伏尼契這個姓來自他的丈夫,一位來自西伯利亞的革命者,他在華沙的牢房時和艾捷爾目光交流,數(shù)年后逃到倫敦再次見到她,結(jié)為伴侶。
布爾的四女和三女各有成就。次女的長子是數(shù)學家,也當選了英國皇家學會會士。
布爾長女瑪麗·愛倫(Mary Ellen)這一支更是名人輩出。愛倫和數(shù)學家Charles Howard Hinton結(jié)婚,生育四個孩子:George (1882–1943), Eric (*1884), William (1886–1909)和Sebastian (1887–1923)。最小的兒子Sebastian生有兩個孩子:William Howard Hinton (1919–2004)和Joan Chase Hinton (1921–2010)。哥哥William中文名韓丁,農(nóng)學家、記者、馬克思主義者,1945年來到中國,1953年回到美國,寫過不少關(guān)于中國的書,其中最著名的是《翻身》,是他1948年在山西省潞城縣張莊村親歷半年土改的經(jīng)驗寫成的非紀實小說。妹妹Joan中文名寒春,芝加哥大學核物理研究所研究生,楊振寧的同學,曾在美國洛斯阿拉莫斯國家實驗室做費米的助手,是參與了曼哈頓計劃的極少數(shù)的女科學家之一,原子彈的巨大破壞讓她放棄核物理,1948年追隨丈夫陽早(Erwin Engst)來到延安,1949年在瓦窯堡結(jié)婚,隨丈夫轉(zhuǎn)行從事奶牛養(yǎng)殖工作,長期在北京農(nóng)業(yè)機械化科學研究院工作,是北京第一位中國綠卡獲得者,2010年去世。
瑪麗·愛倫的長子George Hinton是個采礦工程師,管理位于墨西哥的一所銀礦。1912年George生子Howard Everest Hinton。Howard是著名昆蟲學家,1961年當選英國皇家學會會士。1938年,Howard和Margaret Clark結(jié)婚,1947年生杰佛瑞·艾佛斯特·辛頓(Geoffrey Everest Hinton)。
杰佛瑞·艾佛斯特·辛頓的中間名是他曾曾外祖母的姓,這是這個家族延續(xù)數(shù)代的傳統(tǒng)。杰佛瑞如今已經(jīng)是人工智能復興的標志性人物、“深度學習教父”,這主要歸功于他對神經(jīng)網(wǎng)絡(luò)近乎偏執(zhí)的長期堅持。
杰佛瑞1970年在英國劍橋大學獲得實驗心理學學士學位,1978年在愛丁堡大學獲得人工智能博士學位,一定意義上可以說是在追尋他曾曾祖父布爾的足跡。1985年,杰佛瑞作為主要貢獻者之一提出將模擬退火算法應(yīng)用到神經(jīng)網(wǎng)絡(luò)訓練中,提出了玻爾茲曼(Boltzmann)機[3],算法具有能夠逃離極值的優(yōu)點,但訓練時間很長。1986年,他作為主要貢獻者提出了多層前饋神經(jīng)網(wǎng)絡(luò)的學習算法[4](即BP算法,類似思想在之前多次提出),從理論上證明了只含一個隱層的前饋網(wǎng)絡(luò)可以在閉區(qū)間上一致逼近任意連續(xù)函數(shù),掀起人工神經(jīng)網(wǎng)絡(luò)研究第二輪熱潮。1998年,他當選英國皇家學會會士。神經(jīng)網(wǎng)絡(luò)熱潮席卷全球十年后,幾乎所有人都放棄了這個方向,但是杰佛瑞堅信這個方向是對的,又堅持十年,2006年發(fā)表論文,改進完善20年前的思路,提出深度信念網(wǎng)絡(luò) [5],掀起了洶涌至今的人工神經(jīng)網(wǎng)絡(luò)第三次浪潮,人工智能因此而再度復興。
從一身布衣的布爾奠定計算機數(shù)學基礎(chǔ),到辛頓執(zhí)著神經(jīng)網(wǎng)絡(luò)四十年終引人工智能風騷,這個家族抱定信念、堅持到底的精神值得學習,值得深思。
參考文獻
1. 馬丁·戴維斯著,張卜天譯. 邏輯的引擎. 湖南科學技術(shù)出版社,2007
2. MacHale D. George Boole: His Life and Work. Dublin: Boole Press, 1985.
3. David H. Ackley, Geoffrey E. Hinton, Terrence J. Sejnowski. A learning algorithm for boltzmann machines. Cognitive Science, 9(1):147-169, 1985.
4. David E. Rumelhart, Geoffrey E. Hinton, Ronald J. Williams. Learning representations by back-propagating errors. Nature, Volume 323, Issue 6088, pp. 533-536 ,1986.
5. G. E. Hinton, R. R. Salakhutdinov. Reducing the dimensionality of data with neural networks. Science (313)5786:504-507, 2006.
制版編輯: 許逸|