Martin Hellman教授在第69屆諾貝爾獎得主大會上發(fā)表演講 | 圖源：www.wagingpeace.org
本文的主要內容來自圖靈獎獲得者、斯坦福大學的 Martin Hellman 教授在德國林道舉行的諾貝爾獎獲得者年會上的講話。
他的演講分享了8個確保做出正確道德決策的經驗。這些經驗由他的一些故事組成，在這些故事中，有的他在后期意識到了當初自己做的是不道德的，有的是他無法評判自己的行為的。
愛因斯坦曾說，“原子釋放出來的能量已改變了除我們的思維方式以外的一切，因此，我們正在走向空前的災難。”另外，如今環(huán)境危機——比如氣候變化——以及最近在基因工程、人工智能和網絡技術方面的突破，更加速了人類倫理進化的必要性。
Hellman希望通過這個演講，幫助人們避免愛因斯坦所說的那個大災難，建立一個可以自豪傳給后代的世界。
● ● ●
在1975年3月，美國國家標準局（NBS），（現(xiàn)已更難名為美國國家標準與技術研究院（NIST））發(fā)布了一份擬議的國家數(shù)據加密標準（DES）。在那個時候，加密幾乎是為軍事和外交領域提供專屬保護，同時逐漸發(fā)展的計算機和通信的關系已經顯而易見。Hellman教授當時與他的同事研究了這一標準，發(fā)現(xiàn)了一個明顯的缺陷——雖然DES聲稱擁有64位密鑰，但其中8位是非活動的，因此它實際上只有56位密鑰。這意味著它只有10億把鑰匙。他們預計一臺特殊用的大規(guī)模并行計算機可以在一天內搜索到這個看似龐大的加密空間，每個解決方案的成本大概在10,000美元。他們認為這是一個bug，于是通知了NBS并期望它能糾正這個錯誤。但是在多次和NBS通信并重新確認他們的預測之后，他們被告知NBS并不認為那是一個bug，反而是一個特色。因此，教授認為如果想提高DES的安全性，就必須把它當作一個政治問題來對待，而不僅僅當作一個技術問題，并且必須得到媒體的報道和國會的關注。1976年1月，就在他們開始這項工作的時候，來自國家安全局的兩名高級職員拜訪了他們，并警告：如果Hellman繼續(xù)走他們目前的道路將 “對國家安全造成嚴重危害” 。在這兩位的拜訪后，Hellman開始思考怎么做。一方面，他收到了國家安全局的警告，另一方面，如果他保持沉默，那么人們的隱私將有可能被暴露。而那是1976年——水門事件發(fā)生幾年之后，人民對政府的信任值非常低。于是，Hellman決定公開DES不充分的秘鑰大小。在當時他認為自己做了正確且理性的決定。但五年之后，即1981年的夏天，他意識到那其實是自己愚弄了自己。那時他參加了一個以前根本不會參加的為期一周的小組討論，并且看了一部關于制造原子彈的名為《The Day After Trinity 》（中譯：《復核之后》）的紀錄片。在紀錄片里，一位采訪者訪問了參與曼哈頓計劃的科學家他們制造在廣島長崎造成大約20萬人死亡的大規(guī)模殺傷性武器的動機。科學家們的回答都是一樣的——當時在德國已經發(fā)現(xiàn)了核裂變，因此必須在納粹之前造出核彈。而后來成為費米實驗室第一任主任的 Robert Wilson，充滿活力地回憶了他加入時的情景：
“那是一個全國團結一致的時代，我認為這是正義的 ……如果納粹……能夠贏得那場戰(zhàn)爭，那就可能導致…… 一千年的黑暗時代，我們所謂的一切文明都可能結束?！?/span>
在紀錄片的后面，采訪者問每個科學家另一個問題。當納粹在1945年5月投降，科學家們所說的研制核彈的動機沒了，但他們?yōu)槭裁催€要繼續(xù)？在回答這個問題時，他們的態(tài)度發(fā)生了顯著的變化。他們變得安靜，甚至是自衛(wèi)。Wilson對自己缺乏內省感到困惑，但他出奇地誠實：
“我現(xiàn)在想，在德國戰(zhàn)敗的時候，我應該停下來，好好考慮一下，仔細考慮一下，那時我應該離開洛斯阿拉莫斯國家實驗室。鑒于我在戰(zhàn)爭之前、期間和之后所信仰的一切，我不明白為什么我沒有采取那種行動。另一方面，當時根本絲毫沒那種想法……我們的生活是為了做一件事。就好像我們是被編程來做那樣的事，我們就像機器人一樣在做。”
當Wilson聽說炸彈落在廣島時，他所做的一切帶來的恐怖感襲擊了他。他被惡心的感覺所壓倒然后嘔吐。這部紀錄片讓Hellman認識到自己正和參與曼哈頓計劃里的那些科學家一樣以一種非常相似的方式在欺騙自己。比如在德國戰(zhàn)敗后科學家們沒有終止研究的動機，除了能說得出口的、能夠被社會的接受的動機外，還有那些說不出口的、對他人隱瞞的不會被社會接受的動機。比如：我，一個一直被其他男孩捉弄的書呆子，能不能也變成一個戰(zhàn)爭英雄？或者：我的大腦夠不夠強到能摧毀一個城市？而考慮到后果是包括婦女和兒童在內的20萬人被殺以及更多人承受折磨，他們那些說不出口的動機就顯得如此卑鄙，以至于他們不會允許這種潛藏的動機被提到意識中。因此包括Wilson在內的科學家才會如此困惑。回顧當時的決定，Hellman發(fā)現(xiàn)，當時自己以為在做決定時把坐在肩上的魔鬼趕走了，但其實那只是把它淹沒在他無意識的自我里面。而在那個陰暗的深處，它肆意搗亂以至于他沒有意識到本質上他是為了出名而枉顧國家安全而不顧。“我沒有做合乎道德的事，而是做了我想做的事情，然后想方設法把它合理化?！?Hellman說道。
Hellman教授和他的同事及學生發(fā)明了一種新的密碼算法——公鑰密碼術，這種技術到今天都還在保障美國人電子銀行和網上個人信用卡消費的安全。不僅如此，它還確保了每天5萬億美元的外匯交易，所以即使是很小的版稅也能讓他們成為百萬、千萬甚至億萬富翁。
但不幸的是，他們的專利并沒有使他們三個人變得富有。雖然有很多原因，但其中之一是便是和他三個前同事創(chuàng)立的RSA數(shù)據安全公司（RSA Data Security）的專利權扯皮。RSA認為Hellman的團隊發(fā)明了公鑰密碼術。但是，當Hellman團隊要求RSA支付版稅時，RSA說Hellman的專利是無效的。并且在Hellman堅持的時候，直接讓Hellman方起訴他們。當Hellman希望這項專利的所有方——斯坦福大學來起訴RSA時，學校的專利顧問說，如果你們沒有25萬美元的預算（相當于今天一百多萬美元），就不要起訴。于是斯坦福大學決定不在這項幾乎無人獲得許可的專利上冒險。很多年以后，硅谷的一個網絡新興公司Cylink的CEO找到Hellman，試圖獲得這項專利的斯坦福大學獨家許可。首席執(zhí)行官 Lew Morris 是一個好斗的人，從言語上也看得出來，他對Hellman說：“你幫我從斯坦福大學獲得獨家許可證，我向你保證，我們會讓那些RSA的混蛋得到他們應得的報應?！?/span>Hellman那時候已經發(fā)誓不再欺騙自己。當他仔細考慮時，雖然他似乎很清楚地知道和Cylink一起工作有很好的商業(yè)意義，但他不能確定那有沒有出于報復心理。因為 “無論什么時候，當你情緒化地投入到一件事中，你都不可能確定自己是客觀的?！?于是在他妻子的建議下，他向與此事沒有商業(yè)利益及情感關系的第三方斯坦福大學技術許可部主任 Nils Reimers 求助。他們開了會，Hellman向他闡釋了困境，Nils表示與Cylink合作是一個很好的商業(yè)決策。這也讓Hellman放了心，他沒有再愚弄自己。因此他的建議是，當你情緒化地參與某個問題時，獲得外界幫助是做出更加合乎道德決定的關鍵因素。即使斯坦福與Cylink合作，他們仍然沒有從他們的專利中賺到太多錢，而RSA幾年后以2.5億美元的價格被出售。Hellman意識到，如果還生以前那幾位創(chuàng)立RSA同事的氣，那么將和他的目的——過一種更加道德也更加快樂的生活——相違背。所以他試著從他們的角度重新思考這場法律之戰(zhàn)。以新的視角，他通過中間人的幫助三個前同事重新聯(lián)系起來。于是，在短期內，他們就把仇恨變成了友誼。
而跟美國國家安全局的矛盾也是這樣化解的。在1978年，Hellman經常和美國國家標準局與完成DES基本設計的IBM公司在媒體上爭論。這兩個機構當時都是美國國家安全局的喉舌。那一年，他接到了國家安全局局長辦公室的電話，被告知Inman上將將去加州，如果Hellman愿意的話，他愿意見面。于是Hellman欣然接受了直接與該機構交談的機會。（Bobby Inman，時任美國國家安全局局長）當他們在辦公室會面的時候，Inman上將對他說自己是在國家安全局所有其他高層的反對下見他的。Inman說他理解高層們的擔憂，但他沒有看到談話有什么壞處——這種以不同角度看問題的方式是Inman上將的特色。他們的關系一開始是謹慎的，但隨著他們開始了解彼此的關切，它發(fā)展成了友誼。大約十年前，英曼上將簽署了一份聲明，支持Hellman為美國核戰(zhàn)略提供一種更客觀、更具風險性的方法。如果他們不同意這個聲明，他們就不會這么做，但如果他們不信任Hellman，他們也不會這么做。大多數(shù)人都認為朋友比敵人好，但有多少人愿意為實現(xiàn)這一奇跡般的轉變而付出必要的努力？正如這些例子所顯示的，這是可能的，也是加快我們道德進化的重要一課：朋友確實比敵人好。
上文提到，在看過紀錄片后的1981年，Hellman發(fā)誓不再欺騙自己。從那時起，他把他認為的所謂 “不道德的行為” 標準降低，每天都在一些小事上練習做道德決策。比如，結婚時發(fā)誓要好好對待的他的妻子，但有的時候就沒有好好對她，那就是 “不道德的”，就得改正。 “我不斷地練習成為一個更好的人。”如果你想臥推數(shù)百磅重量，你不可能只在每次舉重比賽來的時候才舉。你必須不斷地練習和增肌。同樣，如果只在做出重大決策時才做道德決策，比如1976年關于DES秘鑰大小的那個決策，1986年是否接受與Cylink合作的決策，那可能會失敗。通過糾正小到 “輕微” 的道德錯誤，Hellman不斷地練習更合乎道德地生活。而所有那些練習的回報是他擁有了一個更有愛、更快樂的家庭。同時，當 Lew Morris 帶著一份可能會讓他賺錢，并且 “可以復仇” 的禮物接近他時，他能夠清醒地看到有可能所做的決策會有自欺欺人的危險并尋求他人的幫助，確保做出的決定是道德的。Hellman認為我們應當慶幸在生活中會遇到各種問題，我們應當把它們看做是機會，而不是變得生氣瘋狂或做一些既不道德又無效的事，這樣我們才能通過不斷地練習來不斷為自己增加道德的肌肉。道德標準在不斷進化，因此變得有道德是一個過程，而不是終點
按照當時的標準，托馬斯杰弗遜總統(tǒng)是高度道德的，但在當今世界，作為奴隸主，他會被認為犯下了反人類罪。而由于英國當時的法律，艾倫·圖靈被迫因為他的性取向接受化學閹割最后自殺。
我們很容易判斷過去的行為是否道德，但是卻很難判斷現(xiàn)在的行為在未來是否會被視為不道德。但是我們可以應用那些我們用于科學上的嚴格分析法，來對偽裝成公理的一些基礎假設進行質疑。已故的 Harry Rathbun 教授曾將科學精神定義為：熱忱地尋求真理，當普遍持有的信仰與觀察到的數(shù)據相矛盾時，無視這些所謂的信仰。他也主張將科學精神應用于核武器和戰(zhàn)爭等倫理問題。Hellman教授提出了三個具體的提案，作為探尋科學精神的起點：首先，社會目前對核武器的做法有多道德？我們是否已經盡了一切合理的努力將能讓二戰(zhàn)相形見絀的種族滅絕風險降到最低？社會是否仔細權衡了當前核戰(zhàn)略與替代方案的風險？除了明顯（不可行）的直接徹底裁軍之外，社會是否在努力尋找替代戰(zhàn)略？第二，最近的哪些戰(zhàn)爭是合乎道德的？哪些適得其反？我們是否從那些適得其反的戰(zhàn)爭中學到了什么，以讓我們不會重蹈覆轍，并造成額外的、不必要的人類傷害？第三，社會目前對氣候變化的反應有多么道德？我們的行動是否與成本、風險和不確定性相一致？由于社會倫理規(guī)范在不斷演變，因此成為一個有道德的人需要不斷地實踐，它沒有終點。而對當前的失敗保持開放的態(tài)度是這個實踐過程的關鍵。
科學和工程學賦予了我們那種從前被認為只屬于神的物理力量。例如，在猶太基督教傳統(tǒng)中，只有上帝可以用雷電來摧毀城市。今天，我們可以用核武器做同樣的事情。只有上帝才能制造出一種需要諾亞建造方舟的洪水，而人類引起的全球變暖也可能造成類似的破壞。只有上帝才能創(chuàng)造出新的生命形式，而基因工程則讓我們可以經常這樣做。
與科技賦予我們的神圣力量相比，人類的倫理進步充其量只是處于不負責任的青少年階段。核武器、環(huán)境危機和基因工程便是技術力量發(fā)展與倫理發(fā)展之間巨大鴻溝的體現(xiàn)。人類就像一個擁有全新駕照的16歲的年輕人，而他不知怎么得到了一輛500馬力的法拉利。所以我們要么加快我們的倫理進化，要么會殺掉我們自己。Hellman教授認為核戰(zhàn)爭是目前人類面對的最大直接風險，因為它是唯一可以摧毀文明的人為威脅。在過去的十年中，他曾向數(shù)百人詢問他們認為多少年以后核威懾會失敗并摧毀我們所知的文明。因為數(shù)字很難量化，所以Hellman教授讓受訪者們用1-10的數(shù)量級來回答。幾乎所有人都認為 “十年” 太短，“一千年” 太長。因此只剩下了 “一百年” 的數(shù)量級估計。這就相當于從現(xiàn)在開始每年會增加大約1%的風險。而在接下來的十年中會增加10%的風險！除了用數(shù)量級來估計外，Hellman教授還用了另一種更加簡單的方法向觀眾描述這一危機。假設一位穿著TNT背心的男子進入了你所在的房間，在你逃脫之前，他告訴你他不是自殺式炸彈襲擊者。他沒有引爆TNT的按鈕。相反，這兩個按鈕在非常安全的地方——一個在華盛頓與特朗普總統(tǒng)在一起，另一個按鈕則是在普京總統(tǒng)那里，所以再沒有什么可擔心的了。但是你依然會全速逃離那個房間！因為我們直接面對著那個穿TNT背心的人，我們都看不到這兩個控制按鈕我們就跑了。但人類卻已經自信滿滿地坐了50多年，相信著因為地球的爆炸背心還沒有爆炸，所以它永遠不會爆炸。
圖1 穿TNT背心的人 | 圖源演講
在同意第六課觀點的前提下，接下來的問題就是：這樣做有希望嗎？Hellman教授認為答案是：有。
雖然過去的35年多的時間里，他因為所做的事而被很多人說傻，但他依然認為這是有希望的，因為許多最好的想法在實現(xiàn)之前都顯得很愚蠢。鑒于時間關系，Hellman教授沒有展開這個部分，但他推薦了他的另一個演講：《愚蠢的智慧》（有興趣的讀者可在Youtube上搜索Stanford Engineering Hero Martin Hellman Lecture 觀看）。其中一個有希望的原因在于我們促進人類的倫理進化并不是從0開始的。在過去的一兩個世紀里，世界上許多地方都做了以前看來不可能的事情。他們廢除了奴隸制，改善了人權，并開始解決包括氣候變化在內的環(huán)境退化問題。在減少核威脅方面也取得了顯著進展：世界上的軍火庫已經從1986年的大約70000枚彈頭的峰值下降到今天的14000枚。這個數(shù)字在30年前看來幾乎是不可能的。
圖2 社會變革是一個過程，而不是一個非連續(xù)的跳躍 | 圖源演講
另一個原因是：社會變革是一個過程，而不是一個非連續(xù)的跳躍。我們不可能直接從我們現(xiàn)在所處的國家直接過渡到導致第三次世界大戰(zhàn)的極端國家中的任何一個，因此那些說第三次世界大戰(zhàn)不可能發(fā)生的批評者們也有一定道理：沒有幾個國家的過渡，就不可能發(fā)生第三次世界大戰(zhàn)。但從長遠來看，它們是錯誤的，因為我們目前的超級大國就在轉向不同的國家——1962年的發(fā)生的事就已經證明：在古巴導彈危機期間，世界在核深淵上搖搖欲墜。雖然我們在與文明生存有關的各個方面都取得了重大進展，但我們還有很長的路要走。而且，正如最近發(fā)生的事件所表明的那樣，在此過程中還會開很多次倒車。但我們不應該因為這些挫折而無視我們已經取得的巨大進步。即使是諾貝爾獎獲得者，有一個問題也會經常出現(xiàn)：作為一個個體，我能做些什么來幫助解決如此巨大的問題？
沒有人能解決這個問題，即使是諾貝爾獎獲得者或美國國會議員。但是，如果我們都能夠稍微做一點點，我們就可以一起改變世界的亞狀態(tài)，創(chuàng)造新的可能性。奴隸制就是這樣結束的，婦女也是這樣得到了選舉權。我們能做的最有效的事情是，根據我們所在的領域，促進社會的倫理進化。人為導致的氣候變化有關的風險已經獲得了很多公眾關注，但還沒有達成普遍共識，因此我們可以通過，例如，支持在應對氣候變化問題上采取強硬立場的政治候選人或游說政府，來采取行動。與氣候變化不同的是，與核武器有關的風險沒有得到足夠的公眾重視。因此，最有效的行動是與人們交談，告訴他們提高對此的認知。一旦獲得了更多的關注，就有可能產生具體的改變。世界核武庫規(guī)模80%的下降是開始于公眾高度關注的時期。Hellman教授還分享了一個他個人踐行這項建議的例子：他和他遇到的普通人及政府成員都會討論核風險，而和后一種人的對話都傾向于非常 “安靜”。盡管這些談話很 “安靜”，但他們提出的問題可以影響國會議員的投票方式以及他們在聽證會上提出的問題。這反過來可以影響媒體報道和公眾的看法。他還鼓勵與他有關系的國會議員與他們的同事分享他們關切的問題。因為從多個來源聽到一些東西會給人留下更深的印象。在幾個月前，在一個與這個問題毫無關系的晚餐上，Hellman和朋友及朋友的朋友談到了這個問題，那位朋友的朋友很好奇，很樂意幫忙。后來，Hellman得知他是美國國會議員的密友。也因此，他們得到了這位議員的注意，爾后英曼上將（編者注：博比·雷·英曼為已經退役的美國海軍四星上將）以及4位諾貝爾獲者便簽署了一份支持 “重新思考國家安全” 的聲明。他們事先都不知道一次簡單的晚餐談話會有那么大的影響。但通過與許多人交談，增加了各種可能性。所以，如果我們中有足夠多的人致力于促進人類的倫理進化，我們不僅將能共同戰(zhàn)勝面臨的威脅；還將建立一個更和平、更可持續(xù)的世界，我們可以自豪地將其傳給后代。演講的最后，Hellman教授引用了 Harry Rathbun 教授的兩種假設：要么我們能夠做出巨大改變來確保人類生存（這是更高尚的假設），要么我們不能。如果我們認為自己不能改變什么，那么即便我們有能力改變，我們也將注定失敗。但是，如果我們認為我們能夠做出巨大改變，發(fā)生的最糟糕的情況也莫過于我們陷入困境。而最好的情況是人類繼續(xù)其令人敬畏的進化之路。所以，為什么不認為我們可以呢？ 
參考資料：
https://www.wagingpeace.org/wp-content/uploads/2019/07/hellman_technological_imperative.pdf
