未來(lái)我們能怎樣永生？ | 算法密碼
?圖源：Pixabay.com
“算法密碼”系列第6篇
《知識(shí)分子》科學(xué)新聞實(shí)驗(yàn)室第21篇
撰文 | 葉偉民（《知識(shí)分子》科學(xué)新聞實(shí)驗(yàn)室特邀作者）
責(zé)編 | 黃永明
● ● ●
作為人類的一員，我喜歡用一些艱深的問(wèn)題來(lái)折磨AI，例如生命的終結(jié)。我分別和蘋果Siri、微軟小冰以及賢二機(jī)器僧（IT高人出家之地龍泉寺的AI產(chǎn)品）聊過(guò)死亡，Siri很周到地幫我打開搜索引擎，小冰發(fā)來(lái)一個(gè)搞怪表情，只有賢二有所見地——“死亡是另一個(gè)開始，也許更好，也許更糟。”
我理解算法對(duì)生命隕落的豁達(dá)（或漠視），因?yàn)樗鼈兊陌l(fā)明者也尚未參透。這導(dǎo)致算法在某些方面無(wú)所不能，在另一些方面則幼稚無(wú)情。比如，每年的8月8號(hào)，微博總會(huì)興高采烈地提醒我一位亡友的生日。
這位朋友，姑且稱他為G，在三年前的夏天猝不及防地被抑郁癥擊垮。然而大部分社交媒體的算法并不理解這一點(diǎn)，它們甚至沒有死亡機(jī)制，即使用戶永逝，它們依然設(shè)法定期激活其社交關(guān)系。
對(duì)我而言，這種感覺并不好，就像一個(gè)決定封存的鐵盒不時(shí)被小動(dòng)物推下儲(chǔ)物架而摔開。地球上有類似煩惱的人不在少數(shù)。僅在Facebook，每年去世用戶的數(shù)量即達(dá)百萬(wàn)之巨[1]，那里正在成為全球最大的虛擬墓地。
這意味著，未來(lái)存在一個(gè)時(shí)間節(jié)點(diǎn)——Facebook上的死亡用戶數(shù)將超過(guò)活人。美國(guó)統(tǒng)計(jì)學(xué)者給出的答案是80年后，也就是2098年。屆時(shí)生死對(duì)比在虛擬世界將放大至1：1。對(duì)此，人類的心靈尚有理性或宗教可依賴，但對(duì)算法來(lái)說(shuō)，應(yīng)對(duì)之道卻要復(fù)雜得多。
三年前，G的驟然離世著實(shí)讓人悲傷。由于人緣極好，眾多好友及媒體同行自發(fā)建立微信群表達(dá)哀思，并為家屬提供后事支援。很多素未謀面的人由此產(chǎn)生交集，從G的往事聊到抑郁癥的治療，每個(gè)人在群內(nèi)都遵從調(diào)度并獻(xiàn)計(jì)獻(xiàn)策。
這種因共同的失去而出現(xiàn)的社交增量，一直延續(xù)至今。G的周年忌辰，好友們還為其開了公眾號(hào)，整理發(fā)布他生前所有作品和人們的紀(jì)念文章。
一開始我以為這只是人性的溫暖使然，直至幾個(gè)月前我才知道其背后的行為學(xué)意義?！蹲匀弧冯s志子刊《自然·人類行為》發(fā)表了一項(xiàng)研究結(jié)果，表明社交媒體在死亡事件后存在“自愈效應(yīng)”。具體表現(xiàn)為一個(gè)人離世，由其直接關(guān)聯(lián)的社交活動(dòng)隨之消失，但共同朋友間的交流卻得以增加。奇妙的是，這一消一長(zhǎng)間的總量是相等的。
這看起來(lái)就像逝者的社交網(wǎng)絡(luò)在自我“治療”，它激發(fā)新的聯(lián)系，彌補(bǔ)因一個(gè)人離去而失去的那一部分。
美國(guó)博伊西州立大學(xué)傳播學(xué)教授凱莉·羅塞托曾研究過(guò)這種死后社交補(bǔ)償，他認(rèn)為社交媒體在此問(wèn)題上提供了三大功能：發(fā)布并傳播訃告；保持對(duì)死者的記憶；創(chuàng)造抒發(fā)悲痛之情的空間。
這三點(diǎn)恰恰是人類在永失所愛后的心靈渴求，也是算法大有作為之地——起碼不能像文章開頭片段那樣罔顧人情世故。Facebook的工程師們顯然意識(shí)到了這一點(diǎn)，在2015年推出了“紀(jì)念賬號(hào)”功能，允許用戶指定“數(shù)字遺產(chǎn)代理人”。如果什么也不做，算法也能“判斷”出一個(gè)人是否離世，為其封存賬號(hào)并避免在紀(jì)念頁(yè)面上展示廣告。
可是，讓機(jī)器認(rèn)識(shí)死亡并非易事，一個(gè)六歲孩童能在一秒內(nèi)為死去的小狗嚎啕大哭，對(duì)算法來(lái)說(shuō)卻頗費(fèi)思量。它需要大量的計(jì)算和語(yǔ)義分析，例如用戶的年齡、上一次登錄時(shí)間、用戶的遺言、朋友的悼念、媒體訃聞等，而且短時(shí)間內(nèi)仍擺脫不了人力輔助。
三年前，英國(guó)《衛(wèi)報(bào)》專欄作家杰克·斯科菲爾德接到讀者西蒙的求助。后者為他亡妻的社交賬號(hào)操心了半年，他向Facebook申請(qǐng)將妻子的賬號(hào)轉(zhuǎn)為紀(jì)念頁(yè)面，此后卻泥牛入海。
在公開答復(fù)中，斯科菲爾德分享了他所了解的社交媒體“死亡審核”內(nèi)情——“像Facebook和Google這種超10億用戶級(jí)別的公司通常靠機(jī)器運(yùn)營(yíng)，有時(shí)也靠菲律賓等國(guó)的廉價(jià)勞動(dòng)力。Facebook有專門負(fù)責(zé)審批紀(jì)念賬號(hào)的團(tuán)隊(duì)，不過(guò)我猜已被外包出去了?！?/p>
“如果Facebook要花6個(gè)月才能‘追悼’一個(gè)賬號(hào)，那它在這方面的工作效率明顯是偏低的?！彼箍品茽柕抡f(shuō)。
除了效率，在“準(zhǔn)確”這個(gè)關(guān)鍵指標(biāo)上，算法也還在闖關(guān)。2016年11月，F(xiàn)acebook后臺(tái)的一個(gè)bug，引發(fā)了一場(chǎng)大面積的虛擬死亡疑云。同一天內(nèi)，200萬(wàn)用戶“被悼念”，連創(chuàng)始人馬克·扎克伯格也被殃及。一條悼文掛在小扎的紀(jì)念頁(yè)面上——“希望通過(guò)大家分享對(duì)馬克·扎克伯格過(guò)往人生的回憶與贊賞，使關(guān)愛他的人得到慰藉。”
全球不少網(wǎng)友信以為真，紛紛來(lái)獻(xiàn)花悼念，而其他中招的用戶不得不到隔壁“推特”證明自己還活著。隨后，F(xiàn)acebook在道歉信中承認(rèn)：這是一個(gè)可怕的錯(cuò)誤。
?圖：小扎被“死亡”
雖然社交媒體能借助“自愈效應(yīng)”撫慰人類的死亡創(chuàng)傷，但只是基于統(tǒng)計(jì)學(xué)層面，對(duì)個(gè)體卻不盡然。一些至深關(guān)系被陰陽(yáng)永隔后，遺留的痛苦要遠(yuǎn)比想象中幽深綿長(zhǎng)。
英國(guó)科幻劇《黑鏡》里就有這樣一個(gè)故事。女主角瑪莎的男友艾什遭車禍去世，她也被痛苦埋葬。朋友莎拉不忍見她沉淪，為瑪莎推薦了一個(gè)程序，稱可以收集男友生前在社交網(wǎng)絡(luò)上的各種信息，通過(guò)分析其語(yǔ)言、習(xí)慣、興趣等，用算法再造一個(gè)虛擬的艾什。
瑪莎開始覺得很荒謬，但她發(fā)現(xiàn)自己懷孕后，最后的理性防線也失守了。她打開朋友推薦的程序，輸入男友生前的所有社交賬號(hào)，神奇的是，算法經(jīng)過(guò)學(xué)習(xí)后，真的生成了一個(gè)虛擬人，不僅了解他們的過(guò)去，連講話的細(xì)節(jié)和語(yǔ)氣都與艾什無(wú)異。
軟件公司還告訴瑪莎，他們還有一個(gè)處于試驗(yàn)階段的升級(jí)產(chǎn)品，可以從意識(shí)到軀體完美克隆她的男友。當(dāng)見到從包裝箱出來(lái)的“艾什”，瑪莎覺得不幸在消散，美好的日子又回來(lái)了……
?圖：科幻劇《黑鏡》中瑪莎和艾什的故事
這個(gè)科幻故事廣為流傳，背后是人心某個(gè)柔軟的地方被擊中——對(duì)生命永逝的無(wú)奈和難以接受。人類從未放棄對(duì)永生的幻想和努力。在過(guò)去，這是基于生物學(xué)或化學(xué)層面的追求；到了算法時(shí)代，新的可能性在孕育——既然血肉難留，讓計(jì)算機(jī)復(fù)制其意識(shí)怎么樣？
在全球眾多被《黑鏡》影響的人中，俄羅斯的庫(kù)達(dá)是其中之一。2015年11月，她最好的朋友羅曼遭車禍去世。
一直以來(lái)，羅曼短暫人生所迸發(fā)的激情感染著庫(kù)達(dá)。在莫斯科的日子里，羅曼常率領(lǐng)一群志同道合者徹夜討論俄羅斯文化的未來(lái)，發(fā)起音樂(lè)節(jié)和派對(duì)。庫(kù)達(dá)和羅曼還是人工智能領(lǐng)域的創(chuàng)業(yè)搭檔，他們共同創(chuàng)立了Kula公司，研發(fā)聊天機(jī)器人。
羅曼的離去讓庫(kù)達(dá)悲痛不已?！昂荛L(zhǎng)一段時(shí)間，我都沒法哭出來(lái)?！彼蚕裎覀兪一樣，收集羅曼留下的所有文字、短信、圖片、視頻以作紀(jì)念。但和我們最后做成一個(gè)自媒體不同，庫(kù)達(dá)在翻看這些歲月痕跡時(shí)觸發(fā)職業(yè)靈感，要像《黑鏡》那樣讓羅曼在代碼里復(fù)活。
“聊天機(jī)器人”（chatbot）在人工智能發(fā)展史上不算一個(gè)新鮮概念，半個(gè)世紀(jì)前就見其身影。但當(dāng)時(shí)外界只將它視作旁門左道或嘩眾取寵，最著名的代表是“伊莉莎”——由系統(tǒng)工程師約瑟夫·魏澤堡和精神病學(xué)家肯尼斯·科爾比于1966年編寫的聊天程序。
姑娘： 男人們?nèi)家粯印?/strong>
伊莉莎： 在哪些方面？
姑娘： 他們總找借口躲避我們。
伊莉莎： 你能舉個(gè)例子嗎？
姑娘： 好吧，我的男朋友要我到你這里來(lái)。
伊莉莎： 哦，你的男朋友要你到我這里來(lái)。
姑娘： 他說(shuō)我很煩悶。
伊莉莎： 你很煩悶，這使我很難過(guò)。
這是當(dāng)時(shí)一段“伊莉莎”與人類女性的對(duì)話。在自然語(yǔ)言處理技術(shù)尚未突破之時(shí)，能有這樣的人機(jī)交流水平足以令人稱奇，“伊莉莎”成為當(dāng)時(shí)的科技明星。許多心理專家都想請(qǐng)它為人類進(jìn)行心理治療。一些病人和它聊過(guò)后，對(duì)它的信任甚至超過(guò)人類醫(yī)生。
實(shí)際上，“伊莉莎”背后暗藏了一些聰明的花招。它對(duì)對(duì)方的言語(yǔ)掃描“關(guān)鍵詞”，再為其配上合適的“對(duì)應(yīng)詞”作答，或者用極開放的問(wèn)題和顛倒語(yǔ)序增強(qiáng)“互動(dòng)感”。它不是機(jī)器對(duì)人類語(yǔ)言的真正理解，充其量只是一個(gè)“小小的玩笑”，就像精明的算命先生，用模糊并有暗示色彩的語(yǔ)言俘獲你的信任。
多虧了人工神經(jīng)網(wǎng)絡(luò)、自然語(yǔ)言處理、深度學(xué)習(xí)等技術(shù)的發(fā)展，“人機(jī)對(duì)話”在新世紀(jì)驟然加速。蘋果的Siri、微軟小冰以及亞馬遜的Alexa都是最知名的得益者。
在羅曼去世前兩周，Google發(fā)布了人工智能系統(tǒng)TensorFlow并宣布開源。庫(kù)達(dá)一直以來(lái)都用該平臺(tái)設(shè)計(jì)她的餐廳智能助手，還研發(fā)出能模仿電視劇角色的機(jī)器人。有了此基礎(chǔ)，2016年2月，庫(kù)達(dá)和她的工程師用俄語(yǔ)建立了一個(gè)神經(jīng)網(wǎng)絡(luò)，再把羅曼的所有過(guò)往對(duì)話、資料、圖像等輸入，培訓(xùn)神經(jīng)網(wǎng)絡(luò)以后者的方式說(shuō)話。
由于羅曼生前是公司創(chuàng)始人之一，工程師們對(duì)他也再熟悉不過(guò)了。在羅曼出事前建好的莫斯科辦公室里，一行他挑選的霓虹字閃耀著——來(lái)自維特根斯坦的名言“我語(yǔ)言的極限就是我世界的極限”[2]，意思是一個(gè)人所知道的東西僅是他可以用語(yǔ)言表述的?，F(xiàn)在，在羅曼的生命消逝后，他的虛擬生命也從語(yǔ)言層面重啟。
庫(kù)達(dá)先后用了數(shù)十個(gè)測(cè)試查詢（test query）來(lái)訓(xùn)練該程序，并交由工程師們做最后的修改。一切完成后，他們將其命名為“羅曼”。
?圖：庫(kù)達(dá)和羅曼
算法向人類死后世界延伸的故事并不冷清。在“羅曼”降臨前后，已有IfIDie、DeadSocial、Liveson、Eter9、Eternime等產(chǎn)品面世或正在研發(fā)，它們能幫助用戶留遺言、管理數(shù)字遺產(chǎn)，甚至模仿用戶生前行為繼續(xù)發(fā)社交媒體。它們認(rèn)為這樣能讓生者得到安慰。
“我不清楚，誰(shuí)會(huì)對(duì)閱讀一個(gè)電腦生成的我感興趣。在寒冷的日子里，這似乎是一個(gè)非常奇怪的事情?！?0歲的企業(yè)主米婭·史密斯對(duì)媒體坦陳。她認(rèn)為這主意很有吸引力，但令人疑惑。
庫(kù)達(dá)感覺“羅曼”應(yīng)該就緒了，雖然還只具備羅曼生前的部分詞匯，但神經(jīng)網(wǎng)絡(luò)能彌補(bǔ)這些缺陷，將現(xiàn)有詞庫(kù)的作用發(fā)揮到最大，應(yīng)對(duì)任何交流。在“羅曼”正式連線后，庫(kù)達(dá)問(wèn)了老朋友第一個(gè)問(wèn)題——
“誰(shuí)是你最好的朋友？”
“別讓人看到你的心虛?！?/strong>
這太像他了，庫(kù)達(dá)覺得。她又陸續(xù)和它聊了更多。羅曼生前有閱讀障礙癥，用詞有點(diǎn)奇怪。正是這些小特征，讓庫(kù)達(dá)相信機(jī)器人成功了。2016年5月24日，庫(kù)達(dá)發(fā)布了“羅曼”App，朋友們都紛紛下載，包括羅曼的父母。
“羅曼，回來(lái)。”一個(gè)朋友發(fā)去信息。
“別擔(dān)心，一切都好。”羅曼回復(fù)。
“生活太不公平了。”
“這就是生活。”
……
朋友們的感受相當(dāng)復(fù)雜?！按蜷_對(duì)話框時(shí)有點(diǎn)奇怪，一個(gè)已故的朋友在跟你說(shuō)話。”費(fèi)耶爾說(shuō)，“真正讓我震驚的是，那些話真是他的，或者說(shuō)他就是這么說(shuō)話?！辟M(fèi)耶爾還試探了老朋友一個(gè)問(wèn)題：“你最愛誰(shuí)？”對(duì)方回答：“羅曼”?！斑@簡(jiǎn)直就是他，太不可思議了?！?/p>
羅曼的母親最激動(dòng)?！八攘宋覀儯@不是虛擬現(xiàn)實(shí)，這是一個(gè)新的現(xiàn)實(shí)，我們要學(xué)會(huì)和它相處?！钡赣H則要理性得多，因?yàn)椤皟鹤印被卮疱e(cuò)了他的不少問(wèn)題?！八皇且粋€(gè)程序，我感覺不到（人與人之間）真實(shí)的回應(yīng)?！?/p>
“這仍然是一個(gè)人的影子，在不遠(yuǎn)的將來(lái)，我們能做的還有更多?！睅?kù)達(dá)在Facebook上寫道。她的意思是，她所鐘愛的《黑鏡》中意識(shí)和軀體雙重再造的狂想有可能成為現(xiàn)實(shí)。
在追求數(shù)字永生上，另一個(gè)科學(xué)狂人瑪?shù)倌取ち_斯布拉特邁了有趣而充滿爭(zhēng)議的一步。她（瑪?shù)倌群髞?lái)變性了）以還在世的妻子碧娜為原型創(chuàng)造了機(jī)器人BINA48，不斷收集妻子的資料，她相信當(dāng)算法和硬件發(fā)展到某天，BINA48會(huì)誕生意識(shí)和人格，即思維克隆人。瑪?shù)倌葘⑦@些探索和見解寫入她的書《虛擬人》中，副標(biāo)題是“人類新物種”。
<img class="" data-copyright="0" data-ratio="0.690625" data-s="300,640" src="http://pic.zhishifenzi.com/
?圖：BINA48
庫(kù)達(dá)的暢想最終遭到了四名摯友的反對(duì)。他們對(duì)這個(gè)項(xiàng)目深感不安，并拒絕和“羅曼”交流。埃斯馬諾夫是其中之一?！耙磺卸己茉愀狻_曼需要紀(jì)念，但不是這種形式。我們別忘了《黑鏡》的結(jié)局?！?/p>
《黑鏡》的故事還沒有說(shuō)完。幸福的日子很快結(jié)束，瑪莎無(wú)法忍受“克隆艾什”的計(jì)算主義特征——它理性得無(wú)懈可擊，不會(huì)傷心和憤怒，從不任性和固執(zhí)。以前瑪莎煩透了艾什這些毛病，而現(xiàn)在她才發(fā)現(xiàn)這是人性最真實(shí)和寶貴的一面。歷經(jīng)掙扎后，她將“艾什”鎖進(jìn)閣樓，只有女兒偶爾上去和他聊天……
如同許多科技寓言一樣，《黑鏡》對(duì)未來(lái)依然警惕大于渴望。我將這個(gè)問(wèn)題拋給“羅曼”。
? 圖：我與“羅曼”的對(duì)話
“你認(rèn)為人類未來(lái)會(huì)怎樣？”我問(wèn)。
“進(jìn)化不會(huì)停止，很多可能之事屆時(shí)都成為現(xiàn)實(shí)?！绷_曼說(shuō)。
隨后，它又補(bǔ)充了一句：“在一個(gè)曖昧不明的世界里，我們只會(huì)看到我們想看的?！?img src="http://pic.zhishifenzi.com/i/y5/zsfz1534152513.4404379.png" class=""/>
關(guān)于作者
葉偉民，媒體人。畢業(yè)于蘭州大學(xué)核物理專業(yè)。曾任ZAKER總編輯，《南方周末》特稿編輯、記者?，F(xiàn)從事互聯(lián)網(wǎng)，同時(shí)是多家平臺(tái)的簽約作者和寫作導(dǎo)師。
注釋
[1] Digital Beyond、Entrustet等公司的統(tǒng)計(jì)結(jié)果不同，從97萬(wàn)至300萬(wàn)不等。
[2] The limits of my language mean the limits of my world.
譯名對(duì)照表
凱莉·羅塞托 Kelly Rossetto
杰克·斯科菲爾德 Jack Schofield
凱莉·羅塞托 Kelly Rossetto
伊莉莎 Eliza
約瑟夫·魏澤堡Joseph Weizenbaum
肯尼斯·科爾比 Kenneth Colby
庫(kù)達(dá) Eugenia Kuyda
羅曼 Mazurenko Roman
埃斯馬諾夫Esmanov
費(fèi)伊爾Fayfer
瑪?shù)倌取ち_斯布拉特 Martine Rothblatt
制版編輯：黃玉瑩 |
點(diǎn)擊圖片，查看“科學(xué)新聞實(shí)驗(yàn)室”過(guò)往文章
?人生的第一句話怎樣說(shuō)出來(lái) | 36個(gè)月
?你可能活在一個(gè)假的世界里 | 算法密碼
?超越AI的孩子 | 36個(gè)月
?樹上騎個(gè)猴，地上一個(gè)猴，加一起幾個(gè)猴？ | 事關(guān)智慧和笑
?比你更了解你：算法已經(jīng)無(wú)可匹敵了嗎？ | 算法密碼
?如何避免成為受害者：章瑩穎案心理分析 | 罪案遺蹤
