? 亚洲ⅴ国产v天堂a无码二区,性欧美乱妇come

亚洲 a v无 码免 费 成 人 a v,性欧美videofree高清精品,新国产三级在线观看播放,少妇人妻偷人精品一区二区,天干天干天啪啪夜爽爽av

深度 | 數(shù)字通信領(lǐng)域的天才香農(nóng):早在八十年前他就開啟了信息時(shí)代

2020/11/03
導(dǎo)讀
直到今天, 香農(nóng)建立的通信模型依然被廣泛地應(yīng)用于信息產(chǎn)業(yè)的方方面面。

克勞德·香農(nóng),圖片來自interaliamag.org


撰文 | 吳    軍


在香農(nóng)之前和香農(nóng)的時(shí)代,信息處理專家所關(guān)注的是如何進(jìn)一步改進(jìn)信息處理的具體方法,而通信專家則致力于改進(jìn)具體的通信系統(tǒng)。香農(nóng)則不同,他致力于尋找信息處理和通信的數(shù)學(xué)基礎(chǔ),并且?guī)缀跻砸患褐鉀Q了信息處理、密碼學(xué)和通信最基本的理論問題。因此,香農(nóng)無疑是信息史上劃時(shí)代的杰出人物,歷史因?yàn)樗呢暙I(xiàn)而發(fā)生了巨大的轉(zhuǎn)折。


香農(nóng)留給了世界很多的知識(shí)遺產(chǎn),他除了找到了通信的數(shù)學(xué)基礎(chǔ),更重要的是他揭示了信息的本質(zhì),給人類帶來了一種新的世界觀。


●      ●        


1937 年秋天,一位 22 歲的年輕人千里迢迢從麻省理工學(xué)院跑到了美國首都華盛頓特區(qū)進(jìn)行他的碩士論文答辯。這種情況在美國其實(shí)非常罕見。在美國,碩士論文并不太重要,因?yàn)榻^大部分碩士生根本不需要發(fā)表論文就可以獲得學(xué)位。


少數(shù)選擇發(fā)表論文的碩士生,其論文水平也遠(yuǎn)遠(yuǎn)無法和博士論文相比。美國高等教育對碩士生的要求, 只是掌握足夠多的專業(yè)知識(shí),將來能從事相應(yīng)領(lǐng)域的工作。而對博士生的要求,則是需要他們對人類的知識(shí)體系有所貢獻(xiàn)。正是在當(dāng)時(shí)的學(xué)術(shù)氣氛中,這位年輕人奔赴千里只為一場非必要的答辯就顯得更加異乎尋常了。


非常之事的發(fā)生必有其原因。一方面,這位學(xué)生的導(dǎo)師非常特殊,他叫萬尼瓦爾·布什(Vannevar Bush),是美國 20 世紀(jì)最重要的科技管理者之一。作為美國的第一任總統(tǒng)科技顧問,布什不僅創(chuàng)立了美國國家科學(xué)基金會(huì),還參與制定了美國政府支持和管理科學(xué)研究的基本國策。這項(xiàng)國策沿用至今,確保了從第二次世界大戰(zhàn)開始美國的科技水平始終遙遙領(lǐng)先于世界。另一方面,則是因?yàn)槟瞧疝q的論文很重要,它很有可能徹底改變世界,布什希望有更多的專家聽一聽, 所以給了這位年輕人到首都來匯報(bào)研究成果的大好機(jī)會(huì)。


至于這位年輕人的工作在歷史上具有何等的重要意義,就要從他一年多前進(jìn)入萬尼瓦爾·布什在麻省理工學(xué)院的實(shí)驗(yàn)室說起。


一位天才的橫空出世


1936 年,這位 21 歲的美國青年在密歇根大學(xué)讀完了兩個(gè)本科學(xué)位后,來到了麻省理工學(xué)院跟隨布什做碩士研究的課題。布什不僅是一位杰出的科技管理者,也是非常著名的電子工程專家,他設(shè)計(jì)了當(dāng)時(shí)世界上最復(fù)雜的微分分析儀。那是一臺(tái)機(jī)械模擬計(jì)算機(jī),可以通過一堆機(jī)械輪盤的運(yùn)轉(zhuǎn)來進(jìn)行微積分計(jì)算,求解微分方程。在電子計(jì)算機(jī)還沒有出現(xiàn)的年代,它算得上是最精密的實(shí)用計(jì)算設(shè)備。這位 21 歲的新生一來,布什就安排他管理微分分析儀。很顯然,這表明布什對他格外重視。



還沒有走進(jìn)實(shí)驗(yàn)室,這位新生就聽到屋內(nèi)傳出了嗡嗡的巨大響聲。打開實(shí)驗(yàn)室的大門,他看到一臺(tái)巨大的機(jī)器正在運(yùn)行( 見圖10—1)。那臺(tái)機(jī)器設(shè)計(jì)得十分精巧,也極為龐大而復(fù)雜,它在某種程度上解決了當(dāng)年巴貝奇想解決而不能解決的問題——讓機(jī)器完成微積分和解微分方程的運(yùn)算。但是,它不具有埃達(dá)和巴貝奇所設(shè)想的靈活性。因?yàn)樗看斡?jì)算不同的問題,設(shè)備結(jié)構(gòu)都需要重新搭建一遍,這就讓它的實(shí)際使用價(jià)值大打折扣。為了解決這一問題,布什想發(fā)明一種新的分析儀,通過一些開關(guān)自行調(diào)整儀器的結(jié)構(gòu)——激活一些新的功能,同時(shí)也關(guān)閉另外一些不需要的部分。過去這件事往往是通過工人操作螺絲刀來完成的,如今布什希望用開關(guān)來取代螺絲刀,而且用問題本身來控制開關(guān)。因此,他把這位新生帶進(jìn)了實(shí)驗(yàn)室,希望這位年輕人能夠用他的聰明才智幫助自己解決這個(gè)困擾許久的問題。


圖 1 微分分析


在接下來一年多的時(shí)間里,這位碩士生每天都會(huì)穿過麻省理工學(xué)院那條“沒有盡頭的走廊”[1],來到13 號樓[2]那間成天機(jī)械噪聲嗡嗡作響的實(shí)驗(yàn)室,構(gòu)想如何才能用開關(guān)來控制那臺(tái)十分復(fù)雜的機(jī)器。當(dāng)時(shí),人們已經(jīng)開始廣泛使用繼電器來控制電路的連通與斷開——當(dāng)給繼電器通電時(shí),它就可以打開一個(gè)電路。人們通過這種方法用電流控制非常復(fù)雜的電路,以此決定哪部分工作、哪部分閑置。至于如何控制那些需要很復(fù)雜的邏輯才能激活或者關(guān)閉的電路,實(shí)現(xiàn)起來就頗費(fèi)周章了。


接受了布什交給的任務(wù),年輕人那天才的大腦便開始了高速運(yùn)轉(zhuǎn)。他想到了在大學(xué)時(shí)學(xué)到的數(shù)理邏輯,也就是我們前面介紹的布爾代數(shù)。當(dāng)時(shí)他學(xué)習(xí)這些內(nèi)容,并不是在數(shù)學(xué)或者電路課堂上,而是源自哲學(xué)課的一部分。由此可見,通識(shí)教育對一個(gè)人的重要性?,F(xiàn)在, 那門哲學(xué)課所教授的知識(shí)即將派上用場。


這位碩士生很快就發(fā)現(xiàn),所有控制開關(guān)的復(fù)雜邏輯,其實(shí)就是布爾代數(shù)中那幾種簡單邏輯的組合而已,而且控制開關(guān)完全可以通過繼電器來實(shí)現(xiàn)。只要用繼電器實(shí)現(xiàn)了布爾代數(shù)中的“與”“或”“非”這三種簡單的邏輯,就能滿足各種要求,對各種電路進(jìn)行控制。于是, 這位碩士生搭建了一個(gè)裝滿了各種繼電器開關(guān)的控制箱,來控制復(fù)雜的微分分析儀。最終他出色地完成了導(dǎo)師交給的這項(xiàng)艱巨任務(wù)。但是,完成任務(wù)的意義遠(yuǎn)不止于此,因?yàn)樗_創(chuàng)了一個(gè)完全嶄新的時(shí)代。在此之前,電路的設(shè)計(jì)完全靠經(jīng)驗(yàn),在此之后,人們只要把控制電路的邏輯用布爾代數(shù)寫成一個(gè)方程式,就能夠按部就班地用最簡單的開關(guān)電路搭建出結(jié)構(gòu)和功能十分復(fù)雜的機(jī)器。為了證明這一點(diǎn),這位碩士生用自己的方法搭建了一個(gè)控制電路,只需要兩個(gè)并不復(fù)雜的步驟就能完成。而在此之前,他的同事靠經(jīng)驗(yàn)完成這件事則需要 11 個(gè)步驟。從此,人類對電路的設(shè)計(jì)從自發(fā)狀態(tài)上升到了自覺狀態(tài),設(shè)計(jì)電路不再憑直覺和經(jīng)驗(yàn),而是靠方程式和任何人都能學(xué)會(huì)的簡單規(guī)則。


隨后,這位年輕人進(jìn)入聞名遐邇的 AT&T 公司的貝爾實(shí)驗(yàn)室完成了他的實(shí)習(xí)。在實(shí)習(xí)期間,他接觸到了通信網(wǎng)絡(luò)和交換機(jī)技術(shù), 這些啟發(fā)他開始思考微分分析儀、電話網(wǎng)絡(luò)和布爾代數(shù)之間的共性。但是,他給那個(gè)世界上最出名的實(shí)驗(yàn)室?guī)サ膬r(jià)值,遠(yuǎn)超他的收獲, 而且大得多。貝爾實(shí)驗(yàn)室的科學(xué)家也在探索這位年輕人在碩士期間已經(jīng)解決的問題,但是沒有找到答案;而這位年輕人的出現(xiàn),則給那些科學(xué)家?guī)チ松羁痰乃伎?,即電路設(shè)計(jì)和數(shù)學(xué)的關(guān)聯(lián)。此外, 他還讓那些科學(xué)家看到,數(shù)學(xué)和邏輯其實(shí)是一回事,它們都可以通過一些簡單的方法,也就是布爾代數(shù)在同一個(gè)平臺(tái)上實(shí)現(xiàn)。從此,AT&T 公司在它的核心業(yè)務(wù)方面獲得了巨大的改進(jìn),它運(yùn)用數(shù)學(xué)將全世界的電話網(wǎng)絡(luò)運(yùn)營成本降低,且運(yùn)行更加穩(wěn)定。


在完成實(shí)習(xí)之后,這位年輕人開始思考一些更本質(zhì)的問題。因?yàn)樗岢龅拈_關(guān)電路不僅能夠控制微分分析儀完成計(jì)算,而且它本身就可以實(shí)現(xiàn)二進(jìn)制計(jì)算。比如,我們將開關(guān)的連通和數(shù)字 1 對應(yīng)起來,將斷開和 0 對應(yīng)起來,那么,我們就很容易實(shí)現(xiàn)一個(gè)如下邏輯的開關(guān)電路。

也就是說,當(dāng)兩個(gè)開關(guān)都處于連通或者斷開狀態(tài)時(shí),整個(gè)電路是斷開的;當(dāng)兩個(gè)開關(guān)一個(gè)是連通另一個(gè)是斷開時(shí),整個(gè)電路被連通。這種邏輯被稱為“異或”。這樣的電路有什么用呢?其實(shí)它可以用來實(shí)現(xiàn)二進(jìn)制的加法。我們知道,在二進(jìn)制中:

如果,我們把關(guān)注點(diǎn)集中在結(jié)果的個(gè)位數(shù)上,就會(huì)發(fā)現(xiàn)它和“異或”電路的結(jié)果完全相同。當(dāng)然,在進(jìn)行二進(jìn)制 1+1 的時(shí)候還會(huì)有進(jìn)位,這個(gè)問題也可以用開關(guān)電路來實(shí)現(xiàn)。如果我們回顧一下布爾代數(shù)中的“與”邏輯,就會(huì)發(fā)現(xiàn)進(jìn)位和“與”邏輯實(shí)際上是保持一致的。因?yàn)橹挥挟?dāng)兩個(gè)加數(shù)都是 1 時(shí),進(jìn)位才為 1,否則就是 0。


這樣,利用簡單的“異或”邏輯和“與”邏輯,就可以實(shí)現(xiàn)二進(jìn)制的加法——個(gè)位數(shù)上的結(jié)果取決于“異或”邏輯運(yùn)算的結(jié)果,而進(jìn)位取決于“與”邏輯運(yùn)算。二進(jìn)制的乘法就更簡單了,它本身就是“與”邏輯。四則運(yùn)算中的減法和除法,又分別是加法和乘法的逆運(yùn)算,它們也很容易用開關(guān)電路來實(shí)現(xiàn)。至于其他運(yùn)算,則可以用數(shù)學(xué)公式變成四則運(yùn)算,這樣所有的運(yùn)算都可以用簡單的開關(guān)電路來實(shí)現(xiàn)。有意思的是,開關(guān)電路背后則是半個(gè)多世紀(jì)前就被提出的,但是人們一直沒有找到有直接用途的布爾代數(shù)。再后來,人們發(fā)現(xiàn)布爾代數(shù)中的“與”“或”“非”邏輯,以及我們前面提到的“異或”邏輯,


都可以用一種被稱為“與非”的邏輯來實(shí)現(xiàn)。也就是說,我們甚至不需要實(shí)現(xiàn)“與”“或”“非”三種基礎(chǔ)的邏輯電路,只要設(shè)計(jì)出一種簡單的電路來實(shí)現(xiàn)“與非”邏輯,就能用它作為基本模塊,來搭建能夠完成所有計(jì)算的各種復(fù)雜的電路。


這位年輕人后來還證明,世界上所有的信息都可以用兩種符號來表示,比如 0 和 1。于是,所有的信息處理、存儲(chǔ)和傳輸,從本質(zhì)上講,就是兩種符號和一種簡單的(與非)邏輯。至此,信息處理就有了真正的數(shù)學(xué)理論基礎(chǔ)。這個(gè)基礎(chǔ)的重要性堪比幾何學(xué)中的公理,在此之上才有了今天完整的信息科學(xué)。


這位碩士生在通過碩士論文答辯之后,并沒有在第一時(shí)間把論文交回學(xué)校,而是開始從事更重要的事。第二年(1938 年)他將碩士期間的研究成果發(fā)表在美國電氣與電子工程師學(xué)會(huì)的學(xué)報(bào)上。一直到三年后他才把這篇碩士論文《繼電器和開關(guān)電路的符號分析》交回麻省理工學(xué)院,并且簽上了自己的名字——克勞德·E. 香農(nóng)。同一年, 香農(nóng)獲得了美國工程師學(xué)會(huì)的諾布爾獎(jiǎng)[3],這是一年頒發(fā)一次,并且只授予一位 35 歲以下英才的工程獎(jiǎng)項(xiàng)。


香農(nóng)的這篇碩士論文毫無爭議地被譽(yù)為 20 世紀(jì)最重要的碩士論文,甚至有的學(xué)者認(rèn)為,這可能是有史以來最重要的碩士論文。因?yàn)槲覀兘裉焖袛?shù)字集成電路設(shè)計(jì)最底層的原理都寫在了這篇論文中。從此,人類信息處理進(jìn)入數(shù)字化時(shí)代。


不過,這篇論文并沒有涉及如何運(yùn)用程序來控制那些復(fù)雜的計(jì)算,而同一年一位英國的天才恰好給出了解決這個(gè)問題的數(shù)學(xué)模型。這兩位天才很快在貝爾實(shí)驗(yàn)室相聚了。


天才的聚會(huì)


942 年,美國已經(jīng)被迫卷入第二次世界大戰(zhàn)。那是一場全民戰(zhàn)爭,身處后方的科學(xué)家也責(zé)無旁貸地直接或者間接參與其中。整整的一代數(shù)學(xué)家和物理學(xué)家思考的是和戰(zhàn)爭直接相關(guān)的問題,比如:


?  摧毀一個(gè)特定的目標(biāo)需要多少噸炸藥的爆炸力;
?  轟炸機(jī)應(yīng)該以何種隊(duì)形排列出擊;
?  飛機(jī)有限的裝甲應(yīng)該用于保護(hù)經(jīng)常被炮彈擊中的地方,還是其他地方;
?  深水炸彈應(yīng)該在多深的水域引爆……

被譽(yù)為一代天才的香農(nóng)也接受了一個(gè)和戰(zhàn)爭直接相關(guān)的秘密任務(wù),而他表面的身份僅僅是貝爾實(shí)驗(yàn)室的研究員。


在二戰(zhàn)期間,參戰(zhàn)雙方都在千方百計(jì)地努力破獲對方的情報(bào),同時(shí)讓自己的情報(bào)傳輸和通信變得更加安全。為此,雙方都想出了各種稀奇古怪的辦法,比如,美軍曾經(jīng)找了 500 名印第安土著納瓦霍人作為戰(zhàn)場上的通信員,因?yàn)樗麄兊恼Z言外界無人能聽懂。但是當(dāng)在戰(zhàn)場上進(jìn)行遠(yuǎn)距離通話時(shí),顯然不能在所有的講話人身邊都安排這樣的通信員。因此,雖然美國采取了各種加密措施,并在通話中加入了干擾噪聲,以確保情報(bào)傳遞的安全,但是德國在荷蘭設(shè)立的大型監(jiān)聽站, 還是能竊聽到丘吉爾和羅斯福的談話,因?yàn)楫?dāng)時(shí)的技術(shù)還無法對語音通話進(jìn)行加密。于是這個(gè)較難解決的任務(wù)就交給了貝爾實(shí)驗(yàn)室,項(xiàng)目代號為 X,對外是嚴(yán)格保密的。貝爾實(shí)驗(yàn)室內(nèi)部對此還有一個(gè)特殊的代號,叫作 SIGSALY(見圖 2)。


SIGSALY 的技術(shù)在今天看來簡單得不值一提,但是在當(dāng)時(shí)卻是一個(gè)壯舉。它的原理并不復(fù)雜,首先將語音進(jìn)行數(shù)字化采樣,過濾掉語音中的一些冗余信息,然后對采樣信息(聲音振動(dòng)的幅度)進(jìn)行加密,也就是疊加一個(gè)密鑰。加密后的語音在常人聽起來就和噪聲差不多,因此即使敵方在電話線上裝了竊聽設(shè)備,并且截獲了通話的語音,也聽不懂具體內(nèi)容。而自己的接收方,由于知道密鑰,就可以先將聲音解密,然后再用機(jī)器將聲音還原。這樣在聽到的聲音中就過濾掉了講話人的口音、語氣等很多輔助信息,只剩下非常簡明、尚能辨別含義的語音了。這對于當(dāng)時(shí)的保密電話來講,能夠做到這一點(diǎn)已經(jīng)很不容易了。


圖 2  在美國國家密碼博物館的 SIGSALY 語音加密系統(tǒng)展覽


在那個(gè)還沒有計(jì)算機(jī)的時(shí)代,要利用電子管搭建一個(gè)能完成上述功能的電子系統(tǒng)是一件工程量和難度都相當(dāng)巨大的事情。SIGSALY 系統(tǒng)重達(dá) 45 噸,占地面積 250 平方米,建造費(fèi)用高達(dá) 500 萬美元,是世界上第一臺(tái)電子計(jì)算機(jī)埃尼亞克的 10 倍。不僅如此,SIGSALY 工作起來耗電量也大得驚人,整個(gè)房間需要日夜不停地開著空調(diào)來降溫。為了傳輸一毫瓦的(語音)信息,居然要消耗掉 30 千瓦的電。


即便如此,SIGSALY 還是創(chuàng)造了很多項(xiàng)世界第一。這種對語音進(jìn)行加密的語音系統(tǒng)被稱為聲碼器,至今軍隊(duì)的保密電話依然采用聲碼器來加密。SIGSALY 還第一次對電話進(jìn)行了脈沖編碼調(diào)制(PCM),這是今天數(shù)字電話所用的技術(shù),只不過我們平時(shí)用的電話不需要加密而已。此外,SIGSALY 也是世界上第一個(gè)語音合成系統(tǒng)。香農(nóng)是 SIGSALY 小組的 20 多位成員之一,他負(fù)責(zé)檢驗(yàn)各種加密算法,以保證 SIGSALY 系統(tǒng)加密后信息的安全。


在第二次世界大戰(zhàn)期間,美國幾乎所有的頂級科學(xué)家,包括愛因斯坦、馮·諾伊曼、奧本海默、恩利克·費(fèi)米、歐內(nèi)斯特·勞倫斯和阿瑟·康普頓等人都參與到和戰(zhàn)事直接相關(guān)的各種應(yīng)用研究中。在這個(gè)過程中,誕生了核反應(yīng)堆、原子彈、回旋加速器等現(xiàn)代科技成就, 更重要的是誕生了三個(gè)我們使用至今的理論(或者說新學(xué)科)。它們分別是維納的控制論、馮·諾伊曼的計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)和香農(nóng)的信息論。當(dāng)然,它們誕生的方式完全不同。維納的控制論,早在 1935 年他還在清華大學(xué)任教時(shí)就有了雛形,到了二戰(zhàn)時(shí)他想為戰(zhàn)爭做點(diǎn)兒事情,于是將那些初具雛形的理論用在了火炮控制上,并最終成形。使用至今的馮·諾伊曼系統(tǒng)結(jié)構(gòu),純屬馮·諾伊曼這位超級天才無心插柳的行為。他在研制氫彈時(shí)需要用到計(jì)算機(jī),但發(fā)現(xiàn)從事計(jì)算機(jī)研發(fā)的人完全走錯(cuò)了路,于是他提出了自己構(gòu)建計(jì)算機(jī)的思路。香農(nóng)建立信息論和這兩位成名已久的大人物完全不同,他只不過是在參與SIGSALY 項(xiàng)目時(shí),思考了別人根本不曾思考的理論問題,或者說信息技術(shù)的數(shù)學(xué)基礎(chǔ)問題,然后找到了答案。


香農(nóng)并非 SIGSALY 項(xiàng)目的負(fù)責(zé)人,他甚至沒有被告知自己所做的加密研究最終將應(yīng)用于何處,因?yàn)?SIGSALY 在當(dāng)時(shí)是絕密項(xiàng)目。不過,這項(xiàng)工作讓香農(nóng)接觸到了語音編碼、通信和密碼學(xué),并讓他對此產(chǎn)生了十分濃厚的興趣。當(dāng)時(shí),幾乎所有的密碼學(xué)家都把密碼學(xué)當(dāng)作一門非常實(shí)用的學(xué)科,即利用技巧設(shè)計(jì)一個(gè)可以用得上的密碼系統(tǒng),或者找出其他密碼系統(tǒng)的數(shù)學(xué)破綻。但是,香農(nóng)所思考的則是與密碼學(xué)相關(guān)的數(shù)學(xué)和哲學(xué)問題。他寫的密碼學(xué)論文并沒有涉及太多具體的密碼方法,因此當(dāng)時(shí)的密碼學(xué)專家對此并不十分感興趣。不過, 在戰(zhàn)爭期間,香農(nóng)還是有自己無話不說的知己的。


從 1942 年開始,在很長一段時(shí)間里,大家可以看到有兩個(gè)年輕人經(jīng)常在貝爾實(shí)驗(yàn)室的咖啡廳喝茶聊天。他們是 20 世紀(jì)兩位不世天才——香農(nóng)和圖靈,后者是作為英國密碼項(xiàng)目訪問團(tuán)成員來到美國的。圖靈當(dāng)時(shí)才 30 歲,而香農(nóng)也僅僅 26 歲。貝爾實(shí)驗(yàn)室當(dāng)時(shí)很想把圖靈留下來,他本人也很愿意留下來,但是美國安全機(jī)構(gòu)對此有所顧慮,因?yàn)樗惶胱屚鈬瞬迨周姺矫艽a這樣高度機(jī)密的研究。


這兩位年輕人在情報(bào)界的名氣讓他們的會(huì)面充滿了神秘色彩。后世的記者和傳記作家總在試圖了解他們當(dāng)時(shí)到底談?wù)摿耸裁?,但遺憾的是,不曾有任何人記錄了只言片語。有一點(diǎn)可以肯定的是,由于雙方的工作都屬于各自國家的最高機(jī)密,他們都沒有談及自己正在從事的工作細(xì)節(jié),也沒有打聽對方在做什么。很多年后,記者在采訪香農(nóng)時(shí)又問及這個(gè)問題,香農(nóng)講:“我們一點(diǎn)兒也沒有談到密碼學(xué)……一個(gè)字都沒有交流過?!碑?dāng)被問及是否能猜出對方在做什么的時(shí)候,香農(nóng)講道:“我或許能猜到他所做的那些工作,但是肯定不知道具體的細(xì)節(jié)。我不了解(圖靈所破譯的)恩尼格瑪機(jī),也不了解他(圖靈) 在其中是什么角色?!?/span>


事實(shí)上,香農(nóng)和圖靈當(dāng)時(shí)談?wù)摰酶嗟氖钦軐W(xué)層面的一些問題, 比如能否讓機(jī)器像人類那樣產(chǎn)生智能。幾年后,也就是 1950 年,圖靈提出了判定機(jī)器是否具有智能的方法——圖靈測試。而到了 1956年,香農(nóng)則和明斯基等 9 位科學(xué)家一起,提出了人工智能的概念。很多人都在猜測,如果這兩位天才當(dāng)時(shí)能夠討論密碼學(xué)問題,其卓絕的智力碰撞也許能產(chǎn)生驚人的成就。事實(shí)證明,像密碼技術(shù)這樣的研究課題,對他們而言,實(shí)在是微不足道。雖然密碼學(xué)在二戰(zhàn)時(shí)特別重要,但是像香農(nóng)和圖靈這樣超級聰明的頭腦,應(yīng)該用于思考關(guān)于人類的更重大的問題。事實(shí)上,關(guān)于密碼學(xué)最根本的理論,香農(nóng)在二戰(zhàn)期間已經(jīng)于無意中徹底地解決了。真正讓這兩位年輕人經(jīng)常坐到一起喝咖啡的原因,不是在某一個(gè)領(lǐng)域的共同語言,而是對彼此才華和思想的欣賞。圖靈非常仰慕香農(nóng)的多才多藝,香農(nóng)精通很多領(lǐng)域的知識(shí), 堪稱科技領(lǐng)域的哲學(xué)家,這樣的人在英國很少見。同樣,香農(nóng)對圖靈精深的思想贊嘆不已,絲毫不掩飾自己對圖靈的贊許。他常常向周圍的人們講:“圖靈有偉大的思想,他非常了不起?!?/span>


不過,二位天才間這類隨機(jī)的討論對香農(nóng)創(chuàng)立信息論是否有所啟發(fā)就不得而知了。圖靈當(dāng)時(shí)在破譯德國的恩尼格瑪密碼機(jī)時(shí)發(fā)現(xiàn)了對方密碼的一個(gè)破綻,就是加密后的密文并不具有完全的隨機(jī)性,以至有些常用的字符可以被推測出來,這就大大降低了英國人破譯德國密碼的計(jì)算量。比如,德國人習(xí)慣于使用X 取代單詞之間的空格符“ ”(空格),這對密碼設(shè)計(jì)來講是一個(gè)十分致命的破綻。因?yàn)榭崭穹俏谋局凶畛R姷姆枺軌驇椭喿x者理解文本含義。香農(nóng)在從事了一段時(shí)間的密碼學(xué)工作之后,就開始從具體的問題進(jìn)入了更深層次的思考,他從信息的角度給出了密碼學(xué)兩個(gè)最根本的指導(dǎo)性建議。


首先,任何密碼在使用一段時(shí)間后都會(huì)有泄露的可能性,唯一不會(huì)被破譯的密碼就是一次性密碼。當(dāng)然,在香農(nóng)的那個(gè)年代,使用一次性密碼是根本不可能實(shí)現(xiàn)的事情,但是它成了今天量子通信的最重要亮點(diǎn)。


其次,加密后的密文要力求做到完全的隨機(jī)性,這樣即使對方截獲了密文,他們也不可能從密文中分析出任何有用的信息。在后來正式提出信息論之后,這個(gè)理論就被描述得更加清晰了。假如在對方截獲密文之前所了解的信息量是 I,而在截獲密文之后所得到的信息量是 I’,那么對方獲得的信息增量就是:


ΔI=I’—I


ΔI 要盡可能的小,最好等于零。這樣,無論對方截獲密文與否, 對我們的了解都不會(huì)有任何明顯的變化。


為什么要讓密文看上去完全隨機(jī)呢?因?yàn)橥耆S機(jī)的信號中所包含的信息增量最少。而且,任何不是隨機(jī)的密文都會(huì)多少泄露一些信息。因此,像恩尼格瑪密碼機(jī)那樣的加密方式,因?yàn)樗a(chǎn)生的密文并不具備完全的隨機(jī)性,是有十分嚴(yán)重的破綻的。


和圖靈一樣,香農(nóng)對密碼這種智力游戲有著天生的興趣。他還是孩子的時(shí)候,就一個(gè)人成功破解了愛倫·坡小說《金甲蟲》中的一段密碼。那段密碼是用各種奇怪的符號寫成的,但是那些符號有著和英語相同的統(tǒng)計(jì)規(guī)律。它們雖然看上去是密文,其實(shí)卻包含了和明文相同的信息,而且這個(gè)信息可以輕易地被提取出來?;蛟S是因?yàn)槿魏文軌驓w納出統(tǒng)計(jì)規(guī)律的加密對他來講都太容易破解,所以他對密文一定要具有隨機(jī)性這件事才有特別深刻的體會(huì)。


在香農(nóng)之后,密碼學(xué)演進(jìn)出了十分堅(jiān)實(shí)的理論基礎(chǔ),密碼才開始真正變得安全了。雖然“冷戰(zhàn)”持續(xù)的時(shí)間要比二戰(zhàn)長了 40 年,其間密電文的數(shù)量比二戰(zhàn)時(shí)多出了很多,但是卻沒有像二戰(zhàn)時(shí)那樣,雙方不斷地成功破譯對方的密碼。


當(dāng)然,如果香農(nóng)只是一個(gè)在密碼學(xué)領(lǐng)域有所建樹的理論家,他就不可能獲得今天在信息領(lǐng)域人人皆知的名氣。他所做出的更大貢獻(xiàn)在于,他發(fā)現(xiàn)了密碼學(xué)其實(shí)和通信在原理上根本就是一回事,并且提出了通信的數(shù)學(xué)原理。


噪聲信道:通信數(shù)學(xué)模型的基礎(chǔ)


在香農(nóng)以前,從事密碼工作的人和從事通信領(lǐng)域的人常常是兩類截然不同的人。像貝爾、馬可尼這些人根本不懂密碼學(xué),而雅德利等人也根本不懂通信。這兩類人相安無事地在各自的領(lǐng)域工作了多年, 也沒有覺得對方所擅長的領(lǐng)域和自己有什么關(guān)系。但是在香農(nóng)之后, 這兩個(gè)領(lǐng)域就開始變得互通了,因?yàn)橄戕r(nóng)發(fā)現(xiàn)了它們共同的規(guī)律。香農(nóng)在《保密系統(tǒng)的通信理論》(Communication Theory of Secrecy Systems)一文中這樣寫道:“密碼系統(tǒng)和有噪聲的通信系統(tǒng)沒有什么不同。”


這個(gè)結(jié)論對于外行來講只是一個(gè)陳述,但是對于這兩個(gè)領(lǐng)域的從業(yè)者來講,卻是一語道破天機(jī)。事實(shí)上,只要我們對比一下密碼傳輸和通信各自的工作方式,就不難明白為什么香農(nóng)這么說了。


圖 3 顯示的是典型的通信過程。在這個(gè)過程中,講話人先發(fā)出信息,信息可以是語音,也可以是文字,然后經(jīng)過調(diào)制變成通信線路能夠傳輸?shù)男盘?,比如電話線中的電信號,或者無線電廣播中的電磁波。接下來,這些調(diào)制后的信號經(jīng)過信道進(jìn)行傳輸。這個(gè)信道可以是銅導(dǎo)線、大氣,也可以是光纖。當(dāng)信號到了接收方時(shí),先要進(jìn)行解調(diào)。這個(gè)工作由接收器完成,比如我們?nèi)粘J褂玫氖找魴C(jī)、電視機(jī)都是解調(diào)器。經(jīng)過解調(diào)后,收聽人才能明白講話人原來要表達(dá)的信息。

圖 3  有噪聲信道的通信過程


上述通信過程由于無法完全避免噪聲的出現(xiàn),以至接收方所獲得的信息可能和發(fā)送方想傳遞的信息出現(xiàn)不一致的情況。比如,當(dāng)我們和朋友在飯館里吃飯聊天時(shí),如果周圍的環(huán)境非常吵鬧,我們就可能無法聽清朋友說話的聲音。這就是因?yàn)樾盘栐诳諝膺@個(gè)信道中進(jìn)行傳輸時(shí),噪聲被加了進(jìn)來,和信號混在了一起,以至我們難以識(shí)別講話人在講什么。


真實(shí)的信道永遠(yuǎn)是有噪聲的。其實(shí)電話通信、無線電通信的情形和我們在吵鬧的飯館里聊天差不多,電線中隨機(jī)的脈沖和電壓的波動(dòng),大氣中的宇宙射線和周圍無線電設(shè)備的干擾,都是影響信息有效傳遞的噪聲的來源。噪聲信道的假設(shè)是現(xiàn)代通信理論的基礎(chǔ),它對于通信的重要性,就如同歐幾里得公理對于幾何學(xué),亞當(dāng)·斯密關(guān)于人是理性和自私的假設(shè)對于經(jīng)濟(jì)學(xué)一樣。在香農(nóng)之前,人們并沒有認(rèn)識(shí)到噪聲是通信的天然屬性,還在持續(xù)不斷地努力研究,希望造出一種沒有任何噪聲的信道,或者讓通信不受噪聲的干擾。但是香農(nóng)十分明確地告訴大家,這些努力都是徒勞的。當(dāng)傳輸?shù)木嚯x不斷加長后,信號的強(qiáng)度也在持續(xù)減弱,而噪聲的強(qiáng)度并不會(huì)因此有絲毫下降,于是在超過一定的距離之后,接收方常常會(huì)覺得信號消失了。其實(shí),信號本身其實(shí)并沒有消失,它們只是變?nèi)趿?,甚至被徹底地掩埋在噪聲之下,讓人們無法辨認(rèn)。當(dāng)然,如果我們對噪聲有足夠多的了解,就可以反向疊加同樣的噪聲,將噪聲抵消掉。今天各種高端去噪聲的耳機(jī)用的就是這個(gè)原理。


接下來我們再來看看加密和解密的過程(如圖4 所示),就能理解它和基于噪聲通道的通信之間的一致性了。

圖4  加密和解密的過程


在圖4 中,我們要將信源發(fā)出的信息進(jìn)行加密,然后把密文送到信道中傳輸。這時(shí),信道中傳輸?shù)男盘柺怯稍行畔⒑兔荑€疊加后生成的,這和有噪聲信道中傳輸?shù)男畔⒂尚盘柡驮肼暞B加而成是一個(gè)道理。接收端在收到密文后,由于他知道應(yīng)該用什么密鑰解密,因此可以將密鑰從密文中分離,恢復(fù)原有的信息,這就如同我們在了解噪聲之后可以消除噪聲一樣。


但是對于截取信號的竊密者來講,由于不知道密碼,就無法破解密文,信息被淹沒在噪聲中,無法分離出來。由此可見,加密和解密其實(shí)和噪聲信道的通信是一回事。


不僅密碼傳輸和噪聲信道的通信在過程上是一致的,而且所用方法在理論基礎(chǔ)上也是一致的。


對于正常的通信來講,我們希望噪聲盡可能低,信號盡可能強(qiáng)。這樣,我們就無須過濾噪聲,也無須知道噪聲的來源,就可以收到信號源發(fā)出的信息。這就是我們在嘈雜的飯館里說話需要大點(diǎn)聲的原因。香農(nóng)提出了一個(gè)信噪比的概念,即信號的能量和噪聲能量的比值。當(dāng)信噪比太低時(shí),我們就無法準(zhǔn)確地辨認(rèn)對方傳來的信息。因此,改進(jìn)通信系統(tǒng)的目標(biāo)則是提高信噪比。


密碼設(shè)計(jì)的原理和有噪聲下的通信原理是相同的,但是追求的目標(biāo)卻相反。密碼的設(shè)計(jì)者,要想方設(shè)法讓密文在外人看來完全是噪聲,沒有任何有價(jià)值的信息。從這個(gè)意義上講,加密就等價(jià)于在信號中加入噪聲。那么什么樣的密碼是安全的呢?香農(nóng)指出,加入最難去除的噪聲所對應(yīng)的密碼最安全。那么,什么是最難去除的噪聲呢?答案是白噪聲。它們是一種完全隨機(jī)的信號,在不同頻率下具有相同的強(qiáng)度,沒有任何可以辨別的特定性質(zhì)。因此,想將白噪聲從信號中甄別出來并且徹底去除,根本無從下手?;谶@個(gè)原理,香農(nóng)指出,安全的加密方式是要讓密文看上去像白噪聲,各個(gè)字符出現(xiàn)的頻率都相同,找不到任何統(tǒng)計(jì)規(guī)律,解密者對此就無能為力了。這時(shí),如果我們衡量一下密文的信噪比,它近乎為零。


在理解了密碼和噪聲信道的通信具有相同的原理之后,香農(nóng)進(jìn)一步建立了描述通信原理的數(shù)學(xué)模型,這個(gè)模型后來被稱為香農(nóng)公式。這個(gè)公式對通信的意義類似于熱力學(xué)第二定律之于熱力學(xué)——它不僅指出了通信的極限,而且告訴了人們改進(jìn)通信的方向。從那時(shí)開始, 人類在通信領(lǐng)域,從被動(dòng)自發(fā)的狀態(tài)開始進(jìn)入主動(dòng)自覺的狀態(tài)。


香農(nóng)為通信建立的數(shù)學(xué)模型,后來也成為人工智能的理論基礎(chǔ)。


20 世紀(jì) 70 年代,弗雷德里克·賈里尼克等人利用噪聲信道的通信模型,解決了語音識(shí)別、機(jī)器翻譯等一系列人工智能問題。直到今天, 這個(gè)模型依然被廣泛地應(yīng)用于信息產(chǎn)業(yè)的方方面面。


注:本文節(jié)選自吳軍撰寫的新書《信息傳》,原文標(biāo)題為“開啟信息時(shí)代的天才”。


注釋:


[1].這是人們給那條長上百米、貫穿麻省理工學(xué)院 4 棟大樓的走廊起的名字。

[2].麻省理工學(xué)院的人習(xí)慣于用數(shù)字給所有的東西起名字。

[3].諾布爾獎(jiǎng)(Alfred Noble Award)和諾貝爾獎(jiǎng)(Nobel Prize)在拼寫上很相似,以至很多人會(huì)把它們搞混,但它們完全是兩回事。

制版編輯 | 栗子

參與討論
0 條評論
評論
暫無評論內(nèi)容
《賽先生》微信公眾號創(chuàng)刊于2014年7月,創(chuàng)始人為饒毅、魯白、謝宇三位學(xué)者,成為國內(nèi)首個(gè)由知名科學(xué)家創(chuàng)辦并擔(dān)任主編的科學(xué)傳播新媒體平臺(tái),共同致力于讓科學(xué)文化在中國本土扎根。
訂閱Newsletter

我們會(huì)定期將電子期刊發(fā)送到您的郵箱

GO