超級人工智能何時(shí)能實(shí)現(xiàn)？
當(dāng)人們?yōu)槿斯ぶ悄芗夹g(shù)的突飛猛進(jìn)而歡呼雀躍，并期盼著超級人工智能到來時(shí)，我們不能忘了人類正面臨著一個(gè)非常關(guān)鍵的挑戰(zhàn)：如何確保人工智能的發(fā)展以人為本，基于人類的共同價(jià)值造福人類？這本書為我們帶來了羅素教授多年潛心的研究成果和深刻洞見，讀起來令人賞心悅目。
——張宏江（智源研究院理事長）
撰文 | 斯圖爾特·羅素（加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)家，人類兼容人工智能中心主任）
近未來
1997年5月3日，IBM制造的國際象棋計(jì)算機(jī)“深藍(lán)”和國際象棋世界冠軍加里·卡斯帕羅夫（Garry Kasparov，或許是歷史上最優(yōu)秀的人類棋手）之間的國際象棋比賽開始了，美國《新聞周刊》稱這場比賽是“大腦的最后一戰(zhàn)”。前5局，雙方2.5∶2.5平分秋色。
5月11日，“深藍(lán)”在決勝局中戰(zhàn)勝了卡斯帕羅夫。IBM的市值一夜之間增加了180億美元。所有人都說，人工智能取得了巨大的突破。從人工智能研究的角度來看，這場比賽根本沒有突破。“深藍(lán)”的勝利雖然令人印象深刻，但它只是延續(xù)了幾十年來顯而易見的趨勢。國際象棋算法的基本設(shè)計(jì)是由克勞德·香農(nóng)在1950年提出的，這一基本設(shè)計(jì)在20世紀(jì)60年代初實(shí)現(xiàn)了重大改進(jìn)。此后，最優(yōu)秀的國際象棋程序的等級評分穩(wěn)步提高，這主要是因?yàn)橛?jì)算機(jī)速度更快，讓程序能夠算到未來更遠(yuǎn)處。
1994年，我和彼得·諾維格列出了1965年以來最好的國際象棋程序和國際象棋棋手的等級評分。在這個(gè)評分系統(tǒng)中，卡斯帕羅夫的評分是2805分。1965年，國際象棋程序的等級評分從1400分開始，在隨后的30年里以一條近乎完美的直線上升。從1994年開始推算，系統(tǒng)預(yù)測計(jì)算機(jī)將會在1997年擊敗卡斯帕羅夫，而這與現(xiàn)實(shí)完全相符。
對人工智能研究人員而言，真正的突破發(fā)生在“深藍(lán)”進(jìn)入公眾視野之前的三四十年。類似地，在深度卷積網(wǎng)絡(luò)開始成為頭條新聞的20多年前，它就已經(jīng)存在了，所有的數(shù)學(xué)問題都完全解決了。
公眾從媒體上看到的人工智能取得突破的觀點(diǎn)——人類取得的輝煌勝利，機(jī)器人成為沙特阿拉伯公民等，與全世界各地的研究實(shí)驗(yàn)室里真正發(fā)生的事情幾乎沒有關(guān)系。在實(shí)驗(yàn)室里，研究包括大量的思考、交流和在白板上寫數(shù)學(xué)公式。想法不斷產(chǎn)生、被拋棄和重新被發(fā)現(xiàn)。好的想法，即真正的突破，往往在當(dāng)時(shí)沒有被注意到，可能直到后來才會被認(rèn)為給人工智能的重大進(jìn)步提供了基礎(chǔ)，或許是當(dāng)有人在更合適的時(shí)間重新改造它的時(shí)候。想法是經(jīng)過試驗(yàn)的，它最初往往在簡單的問題上證明了基本直覺的正確性，然后在更困難的問題上，我們才能觀察到想法的延伸效果。通常，一個(gè)想法本身并不能提供能力上的實(shí)質(zhì)性改進(jìn)，它必須等待另一個(gè)想法的出現(xiàn)，二者結(jié)合才能證明價(jià)值。
所有這些活動都是外界完全看不見的。在實(shí)驗(yàn)室之外的世界里， 只有當(dāng)想法逐漸積累，當(dāng)其有效性的證據(jù)超越一個(gè)閾值時(shí)，人工智能才會被看到：在這個(gè)臨界點(diǎn)上，人工智能值得投入資金開展技術(shù)工作，創(chuàng)造新的商業(yè)產(chǎn)品或令人印象深刻的演示了。然后，媒體宣布我們?nèi)〉昧送黄啤?/span>
因此，人們可以預(yù)期，在未來幾年里，世界各地的研究實(shí)驗(yàn)室醞釀的許多其他想法將跨越商業(yè)適用性的門檻。隨著商業(yè)投資率的提高，以及世界對人工智能應(yīng)用的接受程度越來越高，這種情況將會越來越頻繁地發(fā)生。本章提供了一些我們很快就會看到的例子。在此過程中，我將提到這些技術(shù)進(jìn)步的一些缺點(diǎn)。你可能會想到更多的缺點(diǎn)，但別擔(dān)心。我將在下一章討論這些內(nèi)容。
人工智能生態(tài)系統(tǒng)
最初，大多數(shù)計(jì)算機(jī)的運(yùn)行環(huán)境基本上是空洞無形的：它們唯一的輸入來自穿孔卡片，唯一的輸出方法是在行式打印機(jī)上打印字符。也許由于這個(gè)原因，大多數(shù)研究人員將智能機(jī)器視為問答系統(tǒng)。直到20世紀(jì)80年代，機(jī)器作為智能體在環(huán)境中感知和行動的觀點(diǎn)才被廣泛接受。
20世紀(jì)90年代，萬維網(wǎng)的出現(xiàn)為智能機(jī)器開辟了一個(gè)全新的天地。人們創(chuàng)造了一個(gè)新詞“Softbot”，用來描述完全在Web等軟件環(huán)境中運(yùn)行的“軟件機(jī)器人”。Softbot（后來被稱為 bot，即機(jī)器人）可以感知網(wǎng)頁，并通過發(fā)出字符序列、網(wǎng)址等來執(zhí)行動作。
人工智能公司在互聯(lián)網(wǎng)繁榮時(shí)期（1997—2000年）迅速發(fā)展，為搜索和電子商務(wù)提供了核心能力，包括鏈接分析、推薦系統(tǒng)、信譽(yù)系統(tǒng)、比較購物和產(chǎn)品分類。
世紀(jì)初，配有麥克風(fēng)、攝像機(jī)、加速計(jì)和GPS的手機(jī)普及開來，為人工智能系統(tǒng)進(jìn)入人們的日常生活提供了新的途徑。亞馬遜Echo、谷歌Home和蘋果HomePod等“智能音箱”已經(jīng)完成了這一過程。
到2008年左右，接入互聯(lián)網(wǎng)的物體數(shù)量已經(jīng)超過了接入互聯(lián)網(wǎng)的人數(shù)，這一轉(zhuǎn)變被一些人認(rèn)為是物聯(lián)網(wǎng)（IoT）的開端。這些物體包括汽車、家用電器、交通燈、自動售貨機(jī)、恒溫器、四軸飛行器、照相機(jī)、環(huán)境傳感器、機(jī)器人，以及在制造、分銷和零售系統(tǒng)中的各種物料。這為人工智能系統(tǒng)提供了更強(qiáng)大的感知能力和對現(xiàn)實(shí)世界的控制途徑。
最后，隨著感知能力的提高，人工智能機(jī)器人得以走出工廠，進(jìn)入真實(shí)的、非結(jié)構(gòu)化的、混亂的世界，在工廠里它們依賴于嚴(yán)格約束的對象排列，而走出工廠之后，它們的攝像機(jī)可以看到一些有趣的東西。
無人駕駛汽車
20世紀(jì)50年代末，約翰·麥卡錫設(shè)想有一天會有一輛無人駕駛汽車把他送到機(jī)場。1987年，恩斯特·迪克曼斯（Ernst Dickmanns）在德國的高速公路上展示了一輛無人駕駛的奔馳面包車，它可以保持在車道上行駛，尾隨在另一輛車后面，變換車道、超車。330多年過去了，我們?nèi)匀粵]有一輛全自動汽車，但距離它成為現(xiàn)實(shí)已經(jīng)越來越近了。開發(fā)的重點(diǎn)早已從學(xué)術(shù)研究實(shí)驗(yàn)室轉(zhuǎn)移到大公司。截至2019年，性能最好的測試車輛已經(jīng)在公共道路上行駛了數(shù)百萬英里（在駕駛模擬器中行駛了數(shù)十億英里），沒有發(fā)生嚴(yán)重事故。不幸的是，其他無人駕駛汽車和半自動駕駛汽車已經(jīng)造成數(shù)人死亡。
我們?yōu)槭裁匆ㄈ绱碎L的時(shí)間才能實(shí)現(xiàn)安全的無人駕駛？第一個(gè)原因是，性能要求非常嚴(yán)格。在美國，人類司機(jī)大約每行駛1億英里會遭遇一次致命事故，這設(shè)置了一個(gè)很高的標(biāo)準(zhǔn)。無人駕駛汽車要想被人們接受，就需要表現(xiàn)得比這更好，也許要每行駛10億英里出現(xiàn)一次致命事故才行?；蛘哒f，無人駕駛汽車如果每周行駛40小時(shí)，則25000年才會出現(xiàn)一次致命事故。
第二個(gè)原因是，一個(gè)預(yù)期的變通辦法——當(dāng)交通情況混亂或超出其安全操作條件時(shí)，將控制權(quán)交給人類，根本行不通。當(dāng)汽車無人駕駛時(shí)，人類很快就會脫離當(dāng)前的駕駛環(huán)境， 無法足夠迅速地重新了解周圍環(huán)境，安全地接管汽車。此外，如果出了什么問題，坐在后座的非駕駛員或出租車乘客將無法駕駛汽車。
目前的項(xiàng)目目標(biāo)是達(dá)到美國汽車工程師學(xué)會（SAE）的L4級自動駕駛。這意味著車輛必須在任何時(shí)候都能夠自動駕駛、安全停車，但是它受地理?xiàng)l件和天氣條件的限制。因?yàn)榈乩砗吞鞖鈼l件可能會發(fā)生變化，并且可能出現(xiàn)L4 級車輛無法處理的異常情況，所以必須有人在車內(nèi)，并在需要時(shí)隨時(shí)準(zhǔn)備接管汽車。（L5級是不受限制的自動駕駛，它不需要人工駕駛，但更難實(shí)現(xiàn)。）
L4級自動駕駛的自主性遠(yuǎn)遠(yuǎn)超出了簡單的反射型任務(wù)，如在白線內(nèi)側(cè)行駛和避開障礙物。車輛必須基于當(dāng)前和過去的觀察結(jié)果，評估所有相關(guān)物體的意圖和未來可能的軌跡，包括評估現(xiàn)在可能看不到的物體。然后，利用前向搜索，車輛必須找到一條優(yōu)化了安全性的前進(jìn)路徑。一些項(xiàng)目正在嘗試采用更直接的方法，這些方法基于強(qiáng)化學(xué)習(xí)（當(dāng)然主要是模擬）和監(jiān)督學(xué)習(xí)（從數(shù)百名人類駕駛員的記錄中學(xué)習(xí)），但是這些方法似乎不太可能達(dá)到所需的安全水平。
無人駕駛汽車的潛在好處是巨大的。每年，車禍造成全世界120萬人死亡，數(shù)千萬人受重傷。無人駕駛汽車的合理目標(biāo)是將這些數(shù)字降低到現(xiàn)在的10%。一些分析還預(yù)測，交通成本、停車場設(shè)施成本將因此降低，擁堵和污染情況也將有所好轉(zhuǎn)。城市中的私家車和大型公共汽車將轉(zhuǎn)變?yōu)闊o處不在的共享無人駕駛電動汽車，提供門到門的交通服務(wù)，并為樞紐之間的高速公共交通連接提供支持。由于每位乘客每英里的運(yùn)輸成本低至3美分，大多數(shù)城市可能會選擇免費(fèi)提供這項(xiàng)服務(wù)，而讓乘客承受沒完沒了的廣告轟炸。
當(dāng)然，要獲得所有這些好處，業(yè)界必須防范風(fēng)險(xiǎn)。如果有太多的死亡歸因于設(shè)計(jì)不當(dāng)?shù)膶?shí)驗(yàn)車輛，監(jiān)管機(jī)構(gòu)可能會暫停計(jì)劃中的部署，或者實(shí)施可能幾十年內(nèi)都無法達(dá)到的極其嚴(yán)格的標(biāo)準(zhǔn)。當(dāng)然，人們可能會決定不購買也不乘坐無人駕駛汽車，除非它們確實(shí)是安全的。2018年的一項(xiàng)民意調(diào)查顯示，與2016年相比，消費(fèi)者對無人駕駛汽車技術(shù)的信任度大幅下降。即使這項(xiàng)技術(shù)取得了成功，向無人駕駛的過渡也將是一個(gè)令人感到尷尬的過程：人類駕駛技能可能會退步或消失，而由人類駕駛汽車這種魯莽和反社會的行為可能會被完全禁止。
智能個(gè)人助理
到目前為止，大多數(shù)讀者都已經(jīng)體驗(yàn)過不太智能的個(gè)人助理：把從電視購物節(jié)目中聽到的話當(dāng)成購買指令去執(zhí)行的智能音箱，或者聽到“給我打電話叫救護(hù)車！”（Call me an ambulance!）之后回答“好的，從現(xiàn)在開始我叫你‘Ann Ambulance’”的手機(jī)聊天機(jī)器人。這些系統(tǒng)本質(zhì)上是應(yīng)用程序和搜索引擎的語音接口，它們主要基于固定的刺激—反應(yīng)模板。這種方法可以追溯到20世紀(jì)60年代中期的Eliza（人工智能軟件）。
這些早期的系統(tǒng)有三大缺陷：訪問缺陷、內(nèi)容缺陷和語境缺陷。訪問缺陷，即它們對正在發(fā)生的事情缺乏感官意識，例如，它們可能能夠聽到用戶在說什么，但看不到用戶在和誰說話。內(nèi)容缺陷，即它們根本無法理解用戶所說的話或發(fā)送的短信的含義，即便它們可以訪問這些內(nèi)容。語境缺陷，即它們?nèi)狈Ω櫤屯评砣粘Ｉ畹哪繕?biāo)、活動和關(guān)系的能力。
盡管存在這些缺點(diǎn)，智能音箱和手機(jī)助手仍為用戶提供了足夠的價(jià)值，它們進(jìn)入了數(shù)億人的家中和口袋里。從某種意義上講，它們是人工智能的“特洛伊木馬”。因?yàn)樗鼈兙驮谀愕纳磉?，嵌入幾乎每個(gè)人的生活中，它們的能力的每一個(gè)微小進(jìn)步都價(jià)值數(shù)十億美元。
因此，進(jìn)步正在密集而又迅速地到來?；蛟S最重要的是理解內(nèi)容的基本能力：當(dāng)它聽到“約翰在醫(yī)院”時(shí)，它要不僅僅會回答說“但愿沒有什么大礙”，而且還應(yīng)了解更多實(shí)際信息，比如用戶8歲的兒子在附近的醫(yī)院，并且可能受了嚴(yán)重的傷或生了病。訪問電子郵件和文本通信以及（通過屋內(nèi)的智能音箱）訪問電話和家庭對話的能力， 將為人工智能系統(tǒng)提供足夠的信息，它以此來構(gòu)建關(guān)于用戶生活的合理且完整的畫面。這也許比為19世紀(jì)貴族家庭工作的管家或?yàn)槿缃竦腃EO（首席執(zhí)行官）工作的行政助理獲得的信息還要多。
當(dāng)然，僅僅了解原始信息是不夠的。智能助理要想真正發(fā)揮作用，還需要了解世界運(yùn)轉(zhuǎn)的常識：醫(yī)院里的孩子不可能同時(shí)待在家中，因手臂骨折而住院的時(shí)長很少會超過一天或兩天，孩子的學(xué)校需要提前知道缺勤情況等。這樣的知識使智能助手能夠跟蹤它沒有直接觀察到的東西，這是智能系統(tǒng)的一項(xiàng)基本技能。
我認(rèn)為，上一段中描述的能力在現(xiàn)有的概率推理技術(shù)下是可行的，但是這需要花費(fèi)非常大的努力來構(gòu)建構(gòu)成我們?nèi)粘Ｉ畹母鞣N事件和事務(wù)的模型。到目前為止，由于所涉及的成本和不確定的回報(bào)，常識類的建模項(xiàng)目通常還沒有開始（可能在情報(bào)分析和軍事計(jì)劃的分類系統(tǒng)中除外）。然而現(xiàn)在，這樣的項(xiàng)目很容易觸及數(shù)億名用戶，因此投資風(fēng)險(xiǎn)更低，潛在回報(bào)更高。此外，通過接觸大量用戶， 智能助理可以快速學(xué)習(xí)并填補(bǔ)知識上的所有空白。
因此，人們有望看到的智能助理是，用戶每月只需付幾美分就可以讓它幫助自己管理越來越多的日?；顒樱喝粘獭⒙眯?、家庭購物、支付賬單、輔導(dǎo)孩子作業(yè)、發(fā)電子郵件和打電話、提醒、膳食計(jì)劃，以及人們“做夢都想找到的”鑰匙。這些技能不會分散在多個(gè)應(yīng)用程序中。相反，它們將是一個(gè)單一、綜合的智能體的各個(gè)方面，這些方面可以從協(xié)同作用中受益，就像軍事人員所說的“通用作戰(zhàn)態(tài)勢圖”那樣。
智能助手的通用設(shè)計(jì)模板包括：關(guān)于人類活動的背景知識、從感知和文本數(shù)據(jù)流中提取信息的能力，以及使智能助手適應(yīng)用戶的特定環(huán)境的學(xué)習(xí)過程。相同的通用模板至少可以應(yīng)用于其他三個(gè)主要領(lǐng)域：健康、教育和財(cái)務(wù)。對于這些應(yīng)用程序，系統(tǒng)需要跟蹤用戶的身體、思想和銀行賬戶的狀態(tài)（廣義地說）。與日常生活中的助理一樣， 在這三個(gè)領(lǐng)域中創(chuàng)建必要的通用知識所付出的前期成本要分?jǐn)偟綌?shù)十億名用戶身上。
例如，在健康領(lǐng)域，我們所有人的生理狀況大致相同，關(guān)于人體如何工作的詳細(xì)知識已經(jīng)被編碼成機(jī)器可讀的形式。系統(tǒng)將適應(yīng)你的個(gè)人特點(diǎn)和生活方式，提供疾病的預(yù)防建議和疾病的早期預(yù)警。
在教育領(lǐng)域，智能教學(xué)系統(tǒng)的前景早在20世紀(jì)60年代就得到了承認(rèn)，但真正的進(jìn)步還需要很長時(shí)間。主要原因是內(nèi)容和訪問上的缺陷：大多數(shù)教學(xué)系統(tǒng)不理解它們聲稱要教授的內(nèi)容，也不能通過語音或文本與學(xué)生進(jìn)行雙向交流。（我在想象自己用我完全不會說的老撾語教授我完全搞不懂的弦理論的情景。）語音識別的最新進(jìn)展意味著，自動化的教師最終可以與尚未完全識字的學(xué)生進(jìn)行交流。
此外， 概率推理技術(shù)現(xiàn)在可以跟蹤學(xué)生的知識掌握情況，并優(yōu)化教學(xué)內(nèi)容， 最大限度地提高學(xué)習(xí)效果。始于2014年的“全球?qū)W習(xí)XPRIZE競賽” 提供了1500萬美元獎(jiǎng)金，用于開發(fā)“開源的、可擴(kuò)展的軟件，使發(fā)展中國家的兒童能夠在15個(gè)月內(nèi)自學(xué)基本的閱讀、寫作和算術(shù)”。來自獲獎(jiǎng)?wù)摺癒itkit School”（套件學(xué)校）和“onebillion”（十億）的結(jié)果表明，這一目標(biāo)已基本實(shí)現(xiàn)。
在個(gè)人金融領(lǐng)域，系統(tǒng)將跟蹤個(gè)人的投資、收入流、強(qiáng)制性的支出和可自由支配的支出、債務(wù)、利息、緊急準(zhǔn)備金等，就像金融分析師了解公司的財(cái)務(wù)情況和前景一樣。與處理日常生活的智能體進(jìn)行整合，將使系統(tǒng)提供更細(xì)致的服務(wù)，甚至可以確保孩子得到他們的零花錢，孩子還會因?yàn)樗麄兏銗鹤鲃《豢鄣粢徊糠至慊ㄥX。人們在不久的將來將會獲得以往專為超級富豪準(zhǔn)備的高質(zhì)量的日常財(cái)務(wù)建議。
如果在閱讀上面幾段時(shí)，你的“隱私警報(bào)”沒有響起，那說明你沒有關(guān)注新聞。然而，隱私問題有多個(gè)層面。首先，如果你的個(gè)人助理對你一無所知，那么它真的有用嗎？大概沒用吧。其次，如果個(gè)人助理不能從多個(gè)用戶那里采集信息，從而更多地了解普通人和與你類似的人，那么它真的有用嗎？大概沒用吧。因此，這兩件事是否意味著我們必須放棄我們的隱私，才能在日常生活中受益于人工智能呢？
答案是否定的。原因是學(xué)習(xí)算法可以使用安全多方計(jì)算技術(shù)對加密數(shù)據(jù)進(jìn)行操作，這樣用戶就可以在不損害自身隱私的情況下從資源池中獲益。軟件提供商會在沒有立法規(guī)定的情況下自愿采用隱私保護(hù)技術(shù)嗎？這還有待觀察。然而，似乎不可避免的是，只有當(dāng)個(gè)人助理的主要職責(zé)是為用戶服務(wù)，而不是為開發(fā)它的公司服務(wù)時(shí)，用戶才會信任它。
智能家居和家用機(jī)器人
智能家居的概念已經(jīng)發(fā)展了幾十年。1966年，西屋電氣的工程師詹姆斯·薩瑟蘭（James Sutherland）開始搜集多余的計(jì)算機(jī)部件，用來打造第一臺智能家居控制器ECHO。不幸的是，ECHO重800磅，電功率3.5千瓦，卻只能管理三個(gè)數(shù)字時(shí)鐘和電視天線。隨后的系統(tǒng)又要求用戶掌握極其復(fù)雜的控制界面。不出所料，它們從未流行起來。
從20世紀(jì)90年代開始，幾個(gè)雄心勃勃的項(xiàng)目試圖設(shè)計(jì)出能夠在人為干預(yù)盡可能少的情況下進(jìn)行自我管理的住宅，并使用機(jī)器學(xué)習(xí)來適應(yīng)居住者的生活方式。為了讓這些實(shí)驗(yàn)有意義，必須有真人住在房子里。不幸的是，錯(cuò)誤決策的頻繁出現(xiàn)使系統(tǒng)變得糟糕透頂——居住者的生活質(zhì)量非但沒有提高，反而下降了。例如，在華盛頓州立大學(xué)2003年的MavHome項(xiàng)目中，如果訪客的就寢時(shí)間比居住者通常的就寢時(shí)間晚，那么他們就不得不坐在黑暗中，而這種情況經(jīng)常發(fā)生。就像不太智能的個(gè)人助理一樣，這樣的失敗緣于系統(tǒng)對居住者活動的感官接觸不足，以及無法理解和掌握房子里發(fā)生的事情。
配備了攝像頭、麥克風(fēng)，擁有必要的感知和推理能力的真正的智能住宅，可以理解居住者在做什么：做客、吃飯、睡覺、看電視、閱讀、鍛煉、為長途旅行做準(zhǔn)備，還是跌倒后無助地躺在地板上。通過與智能個(gè)人助理配合，住宅可以非常清楚地知道誰會在什么時(shí)間進(jìn)出房間，誰會在哪里用餐等。這種理解使它能夠管理暖氣、照明、百葉窗和安全系統(tǒng)，及時(shí)發(fā)送提醒，并在出現(xiàn)問題時(shí)通知用戶或提供應(yīng)急服務(wù)。美國和日本的一些新建公寓樓已經(jīng)采用了這種技術(shù)。
智能家居的價(jià)值因其執(zhí)行器而受到限制。雖然更簡單的系統(tǒng)（定時(shí)恒溫器、動作感應(yīng)燈和防盜報(bào)警器）對環(huán)境不那么敏感，但它們可以用更可預(yù)測的方式提供許多相同的功能。智能家居不能疊衣服、洗碗或拿報(bào)紙。它的確需要一個(gè)物理機(jī)器人來執(zhí)行它的指令。
我們等待的時(shí)間可能不會太久。機(jī)器人已經(jīng)展示了許多必需的技能。在我的同事彼得·阿貝爾（Pieter Abbeel）所在的加州大學(xué)伯克利分校實(shí)驗(yàn)室中，BRETT（Berkeley Robot for the Elimination of Tedious Tasks，意為“消除煩瑣任務(wù)的伯克利機(jī)器人”）自2011年以來一直在疊成堆的毛巾，而波士頓動力公司的SpotMini機(jī)器人可以爬樓梯和開門。有幾家公司已經(jīng)在制造烹飪機(jī)器人了，盡管它們需要特殊的封閉式設(shè)置和預(yù)先切好的食材，而且在普通的廚房里無法工作。
實(shí)用家用機(jī)器人需要三種基本能力：感知能力、機(jī)動性和靈活性。其中，靈活性最成問題。正如布朗大學(xué)的機(jī)器人學(xué)教授斯蒂芬妮·泰利克斯（Stefanie Tellex）所說：“大多數(shù)機(jī)器人在大部分時(shí)間里都無法拿起大多數(shù)物體。”其原因有三：一是觸覺感知問題；二是制造問題（目前，制造一只靈巧的機(jī)械手成本非常高）；三是算法問題，我們還沒有很好地理解如何將感知和控制結(jié)合起來，以掌握和操縱家庭中各種各樣的常見物體。僅僅針對剛性物體就有幾十種抓握類型，并且有成千上萬種不同的操作技巧，比如從瓶子里倒出兩粒藥丸，撕掉果醬罐上的標(biāo)簽，在軟面包上涂抹硬黃油，或者用叉子從鍋里挑起一根意大利面條，看看它是否熟了。
（左）BRETT機(jī)器人疊毛巾；（右）波士頓動力公司的SpotMini機(jī)器人正在開門
觸覺感知和制造問題有可能通過3D（三維）打印來解決，波士頓動力公司已經(jīng)將3D打印用于Atlas人形機(jī)器人的一些更復(fù)雜的部分。機(jī)器人的操作技能正在迅速進(jìn)步，這在一定程度上得益于深度強(qiáng)化學(xué)習(xí)。最后的推動力——把所有這些整合到一起，形成近似于電影中的機(jī)器人那種令人敬畏的身體技能，很可能來自相當(dāng)乏味的倉儲行業(yè)。
這個(gè)行業(yè)里只有亞馬遜一家公司雇用了幾十萬人，他們從大型倉庫的箱子中挑出產(chǎn)品，然后分發(fā)給顧客。從2015年到2017年，亞馬遜每年都會舉辦一次“挑揀挑戰(zhàn)賽”，以加速能夠完成這項(xiàng)任務(wù)的機(jī)器人的發(fā)展。雖然還有很長的路要走，但當(dāng)核心研究問題得到解決時(shí)——很可能在10年內(nèi)，我們就可以期待高性能機(jī)器人的迅速問世。它們最初將用于倉庫，然后用于其他商業(yè)應(yīng)用，如農(nóng)業(yè)和建筑業(yè)，在這些應(yīng)用中，各種任務(wù)和對象都是相對可預(yù)測的。我們也可能很快會看到它們在零售部門做一些工作，比如給超市貨架裝貨和把衣服重新疊好。
第一個(gè)真正受益于家庭機(jī)器人的群體是年老體弱的人，對他們而言，實(shí)用的機(jī)器人可以提供一定程度的獨(dú)立性，這種獨(dú)立性在其他情況下無從得到。即使機(jī)器人能夠完成的任務(wù)很有限，而且它們對正在發(fā)生的事情只有初步的理解，它們也非常有用。而要制造那種可以從容地管理家務(wù)，并預(yù)見主人每一個(gè)愿望的機(jī)器人管家，我們?nèi)匀挥幸欢温芬?，因?yàn)檫@需要某種接近人類水平的人工智能的通用性。
全球?qū)用娴闹悄?/span>
發(fā)展理解語音和文本的基本能力，將會使智能個(gè)人助理可以做一些人類助理做的事情。（但是它們做這些事的成本是每月幾便士，而不是每月幾千美元。）基本的語音和文本理解能力，也會讓機(jī)器能夠做一些人類做不到的事情——不是因?yàn)槔斫獾纳疃?，而是因?yàn)槭虑榈囊?guī)模。例如，一臺具備基本閱讀能力的機(jī)器將能夠在午餐時(shí)間閱讀人類曾經(jīng)寫過的所有內(nèi)容，然后它會四處尋找其他事情做。憑借語音識別能力，它可以在下午茶之前收聽每一個(gè)廣播和電視節(jié)目的音頻。相比之下，僅僅為了閱讀完當(dāng)前世界上所有的出版物（更不用說過去所有的書面材料）就需要20萬名全職人員，收聽當(dāng)前的廣播則還需要6萬名全職人員。
這樣一個(gè)系統(tǒng)，如果它能提取簡單的事實(shí)性陳述，并能跨所有語言整合所有這些信息，那么它就會成為令人難以置信的回答問題和揭示模式的資源，可能比目前價(jià)值約1萬億美元的搜索引擎還強(qiáng)大得多。它對歷史學(xué)和社會學(xué)等領(lǐng)域的研究價(jià)值將是不可估量的。
當(dāng)然，監(jiān)聽世界上所有的電話也是可能的（這項(xiàng)工作需要大約2000萬人）。有些秘密機(jī)構(gòu)會發(fā)現(xiàn)這很有價(jià)值，其中一些機(jī)構(gòu)多年來一直在進(jìn)行簡單的大規(guī)模機(jī)器監(jiān)聽，比如找出對話中的關(guān)鍵詞，現(xiàn)在已經(jīng)過渡到將整個(gè)對話轉(zhuǎn)錄成可搜索的文本。轉(zhuǎn)錄當(dāng)然有用，但不如同時(shí)理解和整合所有對話的內(nèi)容有用。
機(jī)器可以利用的另一種“超級力量”是瞬間看到整個(gè)世界。粗略地講，衛(wèi)星每天以每像素約50厘米的平均分辨率拍攝整個(gè)世界。在這個(gè)分辨率下，地球上的每一棟房子、每一艘船、每一輛汽車、每一頭奶牛和每一棵樹都清晰可見。檢查所有這些圖像需要超過3000萬名全職員工。因此，目前沒人能遍覽絕大多數(shù)衛(wèi)星數(shù)據(jù)。計(jì)算機(jī)視覺算法可以處理所有這些數(shù)據(jù)，生成一個(gè)每天更新的可搜索的全球數(shù)據(jù)庫，還能生成經(jīng)濟(jì)活動、植被變化、動物遷徙和人口流動、氣候變化影響等的可視化和可預(yù)測模型。像Planet（星球）和 DigitalGlobe（數(shù)字地球）這樣的衛(wèi)星公司正忙著把這一想法變成現(xiàn)實(shí)。
隨著全球?qū)用娴母兄蔀榭赡埽驅(qū)用娴臎Q策也在成為可能。例如，通過全球衛(wèi)星數(shù)據(jù)，人們可以建立詳細(xì)的模型來管理全球環(huán)境，預(yù)測環(huán)境和經(jīng)濟(jì)干預(yù)的影響，并為聯(lián)合國的可持續(xù)發(fā)展目標(biāo)提供必要的分析輸入。我們已經(jīng)看到了“智慧城市”控制系統(tǒng)，它旨在優(yōu)化交通管理、運(yùn)輸、垃圾收集、道路維修、環(huán)境保護(hù)和其他造福市民的功能，這些可能會拓展到國家層面。直到最近，這種程度的協(xié)調(diào)仍然只能通過龐大、低效的人類官僚機(jī)構(gòu)來實(shí)現(xiàn)，這些將不可避免地被照顧我們集體生活越來越多方面的超級智能體所取代。當(dāng)然，隨之而來的可能是全球范圍內(nèi)的隱私侵犯和社會控制，我將在下一章討論這個(gè)問題。
超級人工智能何時(shí)到來？
人們經(jīng)常讓我預(yù)測超級人工智能何時(shí)到來，而我通常拒絕回答，原因有三。首先，歷史上預(yù)測出錯(cuò)的情況經(jīng)常出現(xiàn)。例如，1960年，人工智能先驅(qū)、諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主赫伯特·西蒙（Herbert Simon）寫道：“從技術(shù)上講……20年內(nèi)，機(jī)器將能夠勝任人類能做的一切工作?！?967年，達(dá)特茅斯會議（1956年該研討會首次提出“人工智能”的概念）的聯(lián)合組織者馬文·明斯基寫道：“我相信，在一代人的時(shí)間內(nèi)，機(jī)器會攻克幾乎所有智力領(lǐng)域，創(chuàng)造‘人工智能’的問題將得到實(shí)質(zhì)性解決?！?/span>
第二個(gè)原因是，超級人工智能將要跨越的門檻并不明確。機(jī)器在某些領(lǐng)域已經(jīng)超越了人類的能力。這些領(lǐng)域?qū)煌卣购蜕罨?，在我們擁有一個(gè)完全通用的超級人工智能系統(tǒng)之前，很有可能會出現(xiàn)“超級通用知識系統(tǒng)”“超級生物醫(yī)學(xué)研究系統(tǒng)”“超級靈巧和敏捷的機(jī)器人”“超級企業(yè)規(guī)劃系統(tǒng)”等。這些“不完全超級智能”的系統(tǒng)，無論是單獨(dú)的還是集體的，都會產(chǎn)生許多與通用智能系統(tǒng)相同的問題。
第三個(gè)原因是，超級人工智能何時(shí)到來在本質(zhì)上是不可預(yù)測的。正如約翰·麥卡錫在1977年的一次采訪中指出的那樣，超級人工智能需要“概念上的突破”。他接著說：“要想造出超級人工智能，你需要的是1.7個(gè)愛因斯坦和0.3個(gè)曼哈頓計(jì)劃，而你首先需要的是愛因斯坦。我相信這需要5到500年的時(shí)間。”在下一節(jié)中，我將解釋一些概念上的突破可能是什么。它們到底有多不可預(yù)測？也許就像在盧瑟福宣布鏈?zhǔn)胶朔磻?yīng)完全不可能的幾個(gè)小時(shí)后，西拉德就發(fā)明了鏈?zhǔn)胶朔磻?yīng)一樣不可預(yù)測。
在2015年世界經(jīng)濟(jì)論壇的一次會議上，我回答了我們何時(shí)才能看到超級人工智能的問題。這次會議是按照“查塔姆宮守則”進(jìn)行的，這意味著任何出席會議的人都不能對外發(fā)表任何言論。即便如此，出于謹(jǐn)慎的考慮，我還是在我的回答前面加上了“嚴(yán)格保密”4個(gè)字。我提出，除非發(fā)生災(zāi)難，否則超級人工智能很可能出現(xiàn)在我孩子的有生之年。因?yàn)樗麄冞€很年輕，隨著醫(yī)學(xué)的進(jìn)步，他們可能比參加會議的許多人活得更長。結(jié)果不到兩個(gè)小時(shí)后，《每日電訊報(bào)》就刊登了一篇文章，引用了我的言論，還配上了狂暴的終結(jié)者機(jī)器人的圖片，標(biāo)題是《“反社會”機(jī)器人可能在一代人的時(shí)間里超越人類》。
我提出的時(shí)間點(diǎn)（比如說那之后80年）比典型的人工智能研究者的觀點(diǎn)要保守得多。最近的調(diào)查表明，大多數(shù)活躍的研究人員預(yù)計(jì)人類水平的人工智能將在21世紀(jì)中葉到來。我們在核物理學(xué)方面的經(jīng)驗(yàn)表明，假設(shè)進(jìn)展可能會很快出現(xiàn)，那么人們做好相應(yīng)的準(zhǔn)備才是明智的。如果只需要一個(gè)類似于西拉德發(fā)現(xiàn)中子誘發(fā)的鏈?zhǔn)胶朔磻?yīng)這種概念上的突破，某種形式的超級人工智能就可能會突然出現(xiàn)，那么到時(shí)我們很有可能毫無準(zhǔn)備：如果我們制造出了具有任意程度自主能力的超級智能機(jī)器，我們很快就會發(fā)現(xiàn)人類無法控制它們。然而， 我相當(dāng)有信心，我們尚有喘息的空間，因?yàn)楝F(xiàn)在和超級人工智能之間還隔著好幾個(gè)重大突破，而不僅僅是一個(gè)。
人工智能可以提供的功能是受限的。土地和原材料并不是無限的，因此人口不可能無限增長，也不可能每個(gè)人都在私人公園里擁有豪宅。（因?yàn)槟切枰谔栂档钠渌胤讲傻V，并在太空中建造人工棲息地，但我承諾過不談科幻小說。）驕傲也是受限的：在給定的所有指標(biāo)中，只有1%的人可以排在前1%。如果躋身前1%才能感到幸福，那么99%的人就不會幸福，即使那些處在前1%末尾的人也擁有客觀上美好的生活方式。因此，對我們的文化而言，逐漸淡化驕傲和嫉妒是感知自我價(jià)值的重要因素，這一點(diǎn)很重要。
AI新生，由中信出版集團(tuán)出品
正如尼克·波斯特洛姆（Nick Bostrom）在他的書《超級智能》的結(jié)尾所說的那樣，人工智能的成功將催生“一條文明軌跡，實(shí)現(xiàn)富有同情心地使用人類被賦予的宇宙資源的文明的進(jìn)步”。如果我們不能充分利用人工智能的優(yōu)勢，那么我們只能怪自己。
制版編輯 | Morgan
