令人擔(dān)憂：神經(jīng)技術(shù)和人工智能的四個(gè)倫理問題
?一個(gè)有脊髓損傷的人(右)為一個(gè)虛擬的自行車比賽做準(zhǔn)備，參賽者使用大腦信號(hào)來操縱虛擬臂。BSIP/UIG/GETTY
原文以Four ethical priorities for neurotechnologies and AI為標(biāo)題
發(fā)布在2017年11月9日的《自然》評(píng)論版塊上
● ● ●
27位神經(jīng)科學(xué)家與技術(shù)專家，臨床醫(yī)師，倫理學(xué)家和機(jī)器智能工程師共同表示，人工智能和腦-機(jī)接口必須尊重和保護(hù)人的隱私、身份認(rèn)同、能動(dòng)性和平等性。
想象一下這樣一種場(chǎng)景：一名癱瘓男子參加一項(xiàng)腦機(jī)接口的臨床試驗(yàn)，他的大腦被植入一枚芯片，芯片與一臺(tái)電腦相連。科學(xué)家訓(xùn)練該電腦來解讀他用大腦預(yù)演動(dòng)作所產(chǎn)生的神經(jīng)信號(hào)。電腦生成的指令能移動(dòng)一個(gè)機(jī)械臂。
有一天，這名男子對(duì)這個(gè)試驗(yàn)組感覺很不耐煩。他的機(jī)械臂奪過一位研究助理的杯子，把它捏碎了，還傷到了那位助理。他道了歉，說這肯定是因?yàn)槟X機(jī)接口裝置故障，但他不得不懷疑自己的不耐煩是否也在這起事故中起到了一定的作用。
這個(gè)場(chǎng)景是虛構(gòu)的，但也說明了我們這個(gè)社會(huì)或許將要面對(duì)的一些挑戰(zhàn)。
眼下，腦機(jī)接口技術(shù)主要聚焦于臨床療效，比如幫助有脊髓損傷的病人。這項(xiàng)技術(shù)已經(jīng)能讓使用者完成一些相對(duì)簡(jiǎn)單的運(yùn)動(dòng)任務(wù)——比如說移動(dòng)計(jì)算機(jī)光標(biāo)，或者控制電動(dòng)輪椅。更甚者，通過人的功能性核磁共振成像，研究者們已經(jīng)可以在一個(gè)較基礎(chǔ)的水平上解讀人的神經(jīng)活動(dòng)，比如說某個(gè)個(gè)體正在想一個(gè)人，而不是一輛車。
或許要再等上幾年甚至數(shù)十年，腦機(jī)接口和其他神經(jīng)技術(shù)才能成為我們?nèi)粘Ｉ畹囊徊糠?。但科技的發(fā)展意味著我們正走在通往一個(gè)新世界的道路上，在這個(gè)世界里，我們可以解碼人們的精神活動(dòng)，直接操縱他們的意圖、情感和決策背后的大腦活動(dòng)機(jī)制；人們能直接通過思考和他人交流；強(qiáng)大的計(jì)算系統(tǒng)直接連接到人們的大腦上，幫助人類和世界交互，極大地增強(qiáng)他們的智能和體力。
這樣的進(jìn)步有望變革很多疾病的治療，從腦損傷、癱瘓到癲癇和精神分裂，并能讓人類擁有更好的生存體驗(yàn)。但這種科技也可能加劇社會(huì)不平等，給企業(yè)、黑客、政府或者其他任何人帶來剝削和操控大眾的新手段。這或?qū)⑸钸h(yuǎn)地影響人類的幾個(gè)核心特征：私密的精神生活，個(gè)體能動(dòng)性，以及對(duì)于人類是被身體束縛的實(shí)體的理解。
因此，現(xiàn)在就應(yīng)該認(rèn)真考慮這可能帶來的后果。
晨邊小組（The Morningside Group）由神經(jīng)科學(xué)家、神經(jīng)技術(shù)專家、臨床醫(yī)生、倫理學(xué)家和機(jī)器情報(bào)工程師組成，他們有的來自谷歌和Kernel（一家位于加利福尼亞州洛杉磯市的神經(jīng)科技初創(chuàng)公司）；有的來自國(guó)際腦科學(xué)項(xiàng)目；有的來自美國(guó)、加拿大、歐洲、以色列、中國(guó)、日本和澳大利亞的學(xué)術(shù)和研究機(jī)構(gòu)。
2017年5月，美國(guó)國(guó)家科學(xué)基金會(huì)贊助在紐約哥倫比亞大學(xué)舉辦了一場(chǎng)研討會(huì)，我們?cè)跁?huì)上討論了神經(jīng)技術(shù)和機(jī)器智能的倫理問題。
我們認(rèn)為現(xiàn)存的倫理規(guī)范對(duì)這個(gè)領(lǐng)域來說是不夠的。這其中包括《赫爾辛基宣言》，一項(xiàng)誕生于1964年的關(guān)于涉及人類被試的醫(yī)學(xué)研究的倫理原則聲明；《貝爾蒙特報(bào)告》，1979年由美國(guó)國(guó)家生物醫(yī)學(xué)和行為研究被試保護(hù)委員會(huì)制定的一份聲明；以及今年年初由商業(yè)領(lǐng)袖、人工智能研究者等多方簽署的《阿西洛馬人工智能原則》。
為了解決這一不足，我們?cè)诖司鸵韵滤膫€(gè)令人擔(dān)憂的領(lǐng)域提出我們的建議：隱私權(quán)和知情同意權(quán)；能動(dòng)性和身份；體智增強(qiáng)；以及偏見。不同宗教、種族和社會(huì)經(jīng)濟(jì)背景的國(guó)家和人民將有不同的需求和愿景。因此，各國(guó)政府必須建立自己的審議機(jī)構(gòu)，協(xié)調(diào)社會(huì)各界代表進(jìn)行公開討論，并決定如何將這些指導(dǎo)方針納入政策當(dāng)中，包括具體的法律和法規(guī)。
智能投資
世界上最富有的一些投資人正在向神經(jīng)科學(xué)和AI的交叉領(lǐng)域下注。世界各地有十幾家公司，包括Kernel和伊隆·馬斯克（Elon Musk）今年成立的創(chuàng)業(yè)公司Neuralink，都在投資研發(fā)一種既能“讀取”人類大腦活動(dòng)又能向大腦里“寫入”神經(jīng)信息的裝置。根據(jù)我們的估算，目前以營(yíng)利為目的的工業(yè)界每年在神經(jīng)技術(shù)上的支出已達(dá)到1億美元，而這一數(shù)字仍在快速增長(zhǎng)。
來自非營(yíng)利部門的投資也很可觀。自從2013年開始，僅僅在美國(guó)腦計(jì)劃（US Brain initiative）一項(xiàng)上，就有超過5億美元的美國(guó)聯(lián)邦政府資金投向了神經(jīng)技術(shù)的研發(fā)。
目前，神經(jīng)科技的發(fā)展已經(jīng)取得了矚目的成績(jī)。一名因?yàn)榧∥s性脊髓側(cè)索硬化癥（ALS）而癱瘓的神經(jīng)科學(xué)家，使用一個(gè)腦機(jī)接口來管理他的實(shí)驗(yàn)室，撰寫科研經(jīng)費(fèi)申請(qǐng)和發(fā)送郵件。
與此同時(shí)，杜克大學(xué)的研究者們表明，三只被植入了電極的猴子能組成一個(gè)“腦力網(wǎng)”，合力移動(dòng)一個(gè)虛擬臂。如果這些信號(hào)能通過網(wǎng)絡(luò)無線傳輸?shù)脑挘@些設(shè)備在千里之外亦能工作。很快這些最多只能刺激和讀取幾十個(gè)神經(jīng)元活動(dòng)的粗糙設(shè)備就會(huì)被取代。
今年早些時(shí)候，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）發(fā)起了一個(gè)叫做神經(jīng)工程系統(tǒng)設(shè)計(jì)（Neural Enginneering System Design）的項(xiàng)目，計(jì)劃在四年內(nèi)獲取美國(guó)食品和藥物管理局的批準(zhǔn)，研發(fā)一種可以同時(shí)利用一百萬個(gè)電極監(jiān)測(cè)大腦活動(dòng)并能選擇性地刺激至多10萬個(gè)神經(jīng)元的人腦裝置。
與此同時(shí)，谷歌、IBM、微軟、臉譜、蘋果和無數(shù)初創(chuàng)公司都在建造更加復(fù)雜精細(xì)的人工神經(jīng)網(wǎng)絡(luò)，這些神經(jīng)網(wǎng)絡(luò)在有明確定義的輸入和輸出的工作項(xiàng)目上，表現(xiàn)早已超過人類。
舉例而言，去年華盛頓大學(xué)的研究者證明，谷歌的FaceNet系統(tǒng)能從一百萬張人臉中辨認(rèn)出正確的那張。另一個(gè)有著相似神經(jīng)網(wǎng)絡(luò)構(gòu)架的谷歌系統(tǒng)，能夠辨認(rèn)出一張街景圖拍攝于何處，表現(xiàn)遠(yuǎn)遠(yuǎn)超過具有豐富旅游經(jīng)驗(yàn)的人類。這兩個(gè)例子證明了這項(xiàng)技術(shù)的普適性。
八月，微軟宣布在某些指標(biāo)上，他們用于識(shí)別會(huì)話性言語的神經(jīng)網(wǎng)絡(luò)的能力已經(jīng)能和經(jīng)過訓(xùn)練的專業(yè)人士匹敵，而后者有機(jī)會(huì)倒帶重聽對(duì)話中的詞句。七月，德國(guó)弗萊堡大學(xué)的研究者利用腦電圖（EEG）數(shù)據(jù)展示了神經(jīng)網(wǎng)絡(luò)如何可用于解碼與計(jì)劃相關(guān)的大腦活動(dòng)，從而可被用來控制機(jī)器人。
幾乎可以肯定，當(dāng)我們更進(jìn)一步地理解了真實(shí)的神經(jīng)網(wǎng)絡(luò)是如何工作的之后，未來的神經(jīng)網(wǎng)絡(luò)甚至?xí)冗@些例子更加強(qiáng)大。目前使用的人造網(wǎng)絡(luò)的靈感來自于50多年前的大腦回路模型，這些模型基于被麻醉的動(dòng)物單個(gè)神經(jīng)元活動(dòng)的記錄。
在今天的神經(jīng)科學(xué)實(shí)驗(yàn)室里，因?yàn)楣鈱W(xué)方法、計(jì)算、分子工程和微電子技術(shù)的進(jìn)步，研究人員可以監(jiān)控和操縱活著且清醒著的動(dòng)物成千上萬的神經(jīng)元活動(dòng)。
我們已經(jīng)與機(jī)器緊密相連。今年，谷歌的研究人員計(jì)算出用戶每年平均接觸手機(jī)的次數(shù)接近100萬次（數(shù)據(jù)未發(fā)表）。人類的大腦控制著聽覺和視覺系統(tǒng)來解讀聲音和圖像，然后命令肢體來持握和操縱我們的設(shè)備。然而，神經(jīng)科技和人工智能的融合發(fā)展將會(huì)帶來一些質(zhì)的不同——人類大腦與機(jī)器智能直接連接，繞過大腦和身體正常的感覺運(yùn)動(dòng)功能。
?在大腦中植入電極刺激神經(jīng)活動(dòng)后，有些人報(bào)告說他們有種身份認(rèn)同被改變的感覺（SIP/UIG/GETTY）
四項(xiàng)要點(diǎn)
神經(jīng)技術(shù)若要在普通消費(fèi)者市場(chǎng)里興起，這些設(shè)備必須是非侵入性的，風(fēng)險(xiǎn)很小，而且部署費(fèi)用要低于目前的神經(jīng)外科手術(shù)?，F(xiàn)在，那些正在開發(fā)類似設(shè)備的公司必須對(duì)其產(chǎn)品負(fù)責(zé)，應(yīng)以一定的標(biāo)準(zhǔn)、最佳實(shí)踐和道德規(guī)范為指導(dǎo)。
在此，我們強(qiáng)調(diào)有四個(gè)方面的問題需要我們立即采取行動(dòng)進(jìn)行應(yīng)對(duì)。盡管我們是在神經(jīng)技術(shù)的語境下提出這些問題的，但它們也適用于人工智能。
隱私權(quán)和知情同意權(quán)。從人們的數(shù)據(jù)軌跡中可以獲取非常多的個(gè)人信息。例如，麻省理工學(xué)院的研究人員在2015年發(fā)現(xiàn)，通過研究人們?cè)趥€(gè)人設(shè)備上的鍵盤輸入模式，精細(xì)地分析他們的運(yùn)動(dòng)行為，使得早期診斷帕金森氏癥變?yōu)榭赡堋?017年的一項(xiàng)研究表明，測(cè)量人類的運(yùn)動(dòng)模式，比如在日?；顒?dòng)中使用智能手機(jī)的人的運(yùn)動(dòng)模式，可以用來診斷阿爾茨海默病造成的認(rèn)知障礙的早期癥狀。
如果利用神經(jīng)信息的話，比如參考那些與特定注意力狀態(tài)相關(guān)的神經(jīng)元的活動(dòng)模式信息，用于投放廣告、計(jì)算保險(xiǎn)費(fèi)或匹配潛在伴侶的算法就會(huì)變得更加強(qiáng)大。與互聯(lián)網(wǎng)連接的神經(jīng)裝置打開了個(gè)人或組織（黑客、公司或政府機(jī)構(gòu)）追蹤甚至操縱個(gè)人精神體驗(yàn)的可能性。
我們認(rèn)為公民應(yīng)該有能力和權(quán)利保護(hù)他們的神經(jīng)數(shù)據(jù)隱私（參見“主觀能動(dòng)性和身份認(rèn)同”）。我們建議采取以下步驟來保障這一點(diǎn)。
對(duì)于所有的神經(jīng)數(shù)據(jù)，默認(rèn)都應(yīng)能選擇不分享，這一點(diǎn)應(yīng)當(dāng)?shù)玫絿?yán)格保護(hù)。如今人們很容易把他們的隱私權(quán)拱手送給提供各種服務(wù)（比如網(wǎng)絡(luò)瀏覽，社交媒體或娛樂）的商業(yè)機(jī)構(gòu)，而從未真正認(rèn)識(shí)到他們交出的究竟是什么。
如果默認(rèn)選項(xiàng)就是拒不分享的話，則意味著神經(jīng)數(shù)據(jù)在大多數(shù)國(guó)家都會(huì)被以和器官或生物組織相同的方式對(duì)待。如果個(gè)人要從任何設(shè)備共享神經(jīng)數(shù)據(jù)的話，他必須明確地選擇和確認(rèn)這一點(diǎn)。其中將涉及一個(gè)安全保障過程，包括一個(gè)知情同意程序，明確規(guī)定誰將使用數(shù)據(jù)，目的是什么，以及使用多長(zhǎng)時(shí)間。
即使實(shí)施這種方法，根據(jù)許多自愿分享者的神經(jīng)數(shù)據(jù)，再加上來源于互聯(lián)網(wǎng)搜索、運(yùn)動(dòng)監(jiān)視器等等多種渠道的大量非神經(jīng)數(shù)據(jù)，也能得出關(guān)于那些選擇不分享的人們的“可靠”結(jié)論。為了遏制這一問題，我們建議對(duì)神經(jīng)數(shù)據(jù)的銷售、商業(yè)轉(zhuǎn)讓和使用進(jìn)行嚴(yán)格的管制。
這樣的法規(guī)也將限制人們放棄自己的神經(jīng)數(shù)據(jù)或?qū)⑸窠?jīng)活動(dòng)直接寫入自己的大腦中，從而換取物質(zhì)報(bào)酬，可能類似于禁止出售人體器官的立法，比如1984年的美國(guó)《國(guó)家器官移植法案》。
另一重保護(hù)措施是限制神經(jīng)數(shù)據(jù)的集中處理。我們提倡使用類似差分隱私或者聯(lián)合學(xué)習(xí)的計(jì)算技術(shù)，來保護(hù)用戶隱私（參見“保護(hù)隱私”）。使用其他專門用來保護(hù)個(gè)人數(shù)據(jù)的技術(shù)也會(huì)有所幫助。
保護(hù)隱私
聯(lián)合學(xué)習(xí)
當(dāng)科技公司使用機(jī)器學(xué)習(xí)來改進(jìn)他們的軟件時(shí)，他們通常會(huì)在服務(wù)器上收集用戶信息，分析特定服務(wù)是如何被使用的，然后在集合的數(shù)據(jù)上訓(xùn)練新算法。
谷歌的研究人員正在試驗(yàn)另一種人工智能訓(xùn)練方法，即聯(lián)合學(xué)習(xí)。使用這種訓(xùn)練方式時(shí)，教學(xué)訓(xùn)練過程發(fā)生在每個(gè)用戶的設(shè)備上，而沒有聚合數(shù)據(jù)再進(jìn)行處理的過程。從單獨(dú)數(shù)據(jù)中總結(jié)出來的知識(shí)（例如， “weekly” (每周) 這個(gè)詞在英語里可以用作形容詞和副詞）被發(fā)回谷歌的服務(wù)器，但實(shí)際的電子郵件、短信等信息仍然保留在用戶自己的手機(jī)上。
其他團(tuán)體也在探索類似的思路。因此，改進(jìn)設(shè)計(jì)后的信息系統(tǒng)更加保障了用戶對(duì)個(gè)人數(shù)據(jù)的所有權(quán)和隱私，同時(shí)仍然可以在這些數(shù)據(jù)上執(zhí)行有價(jià)值的計(jì)算。
例如，基于區(qū)塊鏈的技術(shù)可以讓數(shù)據(jù)能被跟蹤和審計(jì)，而“智能合同”（Smart contracts）則可以對(duì)數(shù)據(jù)的使用方式進(jìn)行透明的控制，而不需要集權(quán)。最后，開放數(shù)據(jù)格式和開源代碼可以讓我們更透明地知道什么信息將保持私密，而什么信息會(huì)被傳遞分享出去。
主觀能動(dòng)性和身份認(rèn)同。有些人通過在腦內(nèi)植入電極接受深部腦刺激，他們報(bào)告說感覺自己的身份和能動(dòng)性被改變了。
在2016年的一項(xiàng)研究中，一個(gè)曾用過大腦刺激器來治療抑郁癥長(zhǎng)達(dá)7年的人在一個(gè)焦點(diǎn)小組中報(bào)告說，他開始懷疑他與他人互動(dòng)的方式，例如說一些他回過頭來認(rèn)為很不合適的話，究竟是因?yàn)殡姌O刺激，他自己的抑郁，還是反映了一些關(guān)于他自己的更深層次的東西。他說：“這一切模糊到了一起，說實(shí)話，到最后我都不確定我是誰了?！?nbsp;
神經(jīng)科技可以很明顯地?cái)_亂人們對(duì)于身份和能動(dòng)性的認(rèn)識(shí)，從而動(dòng)搖關(guān)于自我和個(gè)人責(zé)任的核心認(rèn)知，不論是法律責(zé)任還是道德責(zé)任。
也許通過“自動(dòng)完成”或“自動(dòng)更正”功能，機(jī)器學(xué)習(xí)和大腦接口設(shè)備能夠更快地實(shí)現(xiàn)意圖和行動(dòng)之間的轉(zhuǎn)換，在這種情況下，人們最終可能會(huì)做出一些他們自己難以接受的事情。如果人們能夠通過自己的思想長(zhǎng)距離地控制設(shè)備，或者幾個(gè)大腦被連接到一起工作，那么我們對(duì)自身身份和行為的理解將會(huì)被擾亂。
隨著神經(jīng)技術(shù)的發(fā)展，企業(yè)、政府和其他各種機(jī)構(gòu)開始努力為人類賦能，但是個(gè)人身份認(rèn)同（我們的身體和精神的完整性）以及能動(dòng)性（我們選擇行動(dòng)的能力），必須被作為基本人權(quán)保護(hù)起來。
我們建議在國(guó)際條約（如1948年的《世界人權(quán)宣言》）中加入保護(hù)這類權(quán)利的條款（“神經(jīng)權(quán)利”）。然而，這可能還不夠，國(guó)際宣言和法律只是各國(guó)之間的協(xié)議，即便《世界人權(quán)宣言》也沒有法律約束力。
因此，我們主張制定一項(xiàng)國(guó)際公約，界定與神經(jīng)技術(shù)和機(jī)器智能有關(guān)的被嚴(yán)格禁止的行為，類似于2010年《保護(hù)所有人免遭強(qiáng)迫失蹤國(guó)際公約》所列的禁令。一個(gè)對(duì)應(yīng)的聯(lián)合國(guó)工作組可以審查所有成員國(guó)的遵守情況，并在需要時(shí)建議實(shí)施制裁。
類似的宣言還必須保護(hù)人們接受教育的權(quán)利，讓他們能了解神經(jīng)技術(shù)可能帶來的認(rèn)知和情感方面的影響。目前，知情同意書通常只關(guān)注手術(shù)的生理風(fēng)險(xiǎn)，而不是一個(gè)設(shè)備可能對(duì)情緒、個(gè)性或自我感知帶來的影響。
?本評(píng)論完整的作者名單
體智增強(qiáng)。如果一個(gè)人的身體或大腦功能與大多數(shù)人不同，則常常飽受偏見之苦。人們將來面臨的壓力可能包括采用增強(qiáng)型神經(jīng)技術(shù)，例如允許人們從根本上增強(qiáng)忍耐力或感覺或智能的神經(jīng)技術(shù)，這可能會(huì)改變社會(huì)規(guī)范，引發(fā)公平享有方面的問題，并產(chǎn)生新種類型的歧視。
此外，不難想象軍備競(jìng)賽也會(huì)發(fā)生在體智增強(qiáng)領(lǐng)域。近年來，我們聽聞美國(guó)國(guó)防部高級(jí)研究計(jì)劃局和美國(guó)情報(bào)高級(jí)計(jì)劃局（IARPA）的工作人員在討論為士兵和分析師增強(qiáng)心智能力（“超級(jí)智能特工”）的計(jì)劃。這些計(jì)劃將被用于作戰(zhàn)目的，也會(huì)被用于增強(qiáng)破譯數(shù)據(jù)流的能力。
由于預(yù)測(cè)哪些技術(shù)會(huì)對(duì)人類生活產(chǎn)生負(fù)面影響非常難，所以難以非常清晰地劃定界限。盡管如此，我們?nèi)砸卮僭趪?guó)際和國(guó)家層面制定一些指導(dǎo)方針，對(duì)可實(shí)施的增強(qiáng)型神經(jīng)技術(shù)加以限制，并定義它們被可以使用的場(chǎng)景——就像我們對(duì)人類基因編輯所做的限制一樣。
某些文化比其它文化更注重隱私和個(gè)性。因此，必須在尊重普世權(quán)利和全球性準(zhǔn)則的同時(shí)，在具體文化背景下做出監(jiān)管決策。此外，對(duì)某些技術(shù)的一刀切或許只會(huì)將其推到地下運(yùn)行，所以在制定具體的法律法規(guī)時(shí)，必須組織舉行論壇來進(jìn)行深入且公開的討論。
過去有很多建立國(guó)際共識(shí)、將公眾輿論納入國(guó)家層面科學(xué)決策中的先例，它們都值得借鑒。例如，在第一次世界大戰(zhàn)之后，1925年的一次會(huì)議促成了《日內(nèi)瓦協(xié)議》的起草和締結(jié)，該協(xié)議禁止世界各國(guó)使用化學(xué)武器和生物武器。
同樣地，在第二次世界大戰(zhàn)之后，聯(lián)合國(guó)原子能委員會(huì)（UN Atomic Energy Commission）成立了，旨在管控用于和平目的的原子能，控制核武器的擴(kuò)散。
尤其值得注意的是，我們建議嚴(yán)格管制被用于軍事目的的神經(jīng)技術(shù)。出于顯而易見的原因，任何禁令都應(yīng)該是全球性的，并且應(yīng)當(dāng)是由聯(lián)合國(guó)牽頭的委員會(huì)發(fā)起的。盡管這樣的委員會(huì)和類似的過程可能無法解決所有關(guān)于增強(qiáng)型神經(jīng)科技的問題，但它們提供了一種最有效的模式，能讓公眾知道這種技術(shù)必須被限制，也能讓世界各國(guó)廣泛地投入到這種技術(shù)的發(fā)展和實(shí)施中來。
偏見。當(dāng)科學(xué)或技術(shù)決策是基于一套狹隘的系統(tǒng)、結(jié)構(gòu)或是社會(huì)概念和規(guī)范的時(shí)候，由此產(chǎn)生的技術(shù)可能會(huì)使某些群體獲得特權(quán)，而使另一些群體受害。2015年的一項(xiàng)研究發(fā)現(xiàn)，谷歌的廣告算法展示給女性用戶的招聘職位要比給男性展示的待遇低。
類似地，ProPublica的一項(xiàng)調(diào)查顯示，美國(guó)執(zhí)法機(jī)構(gòu)使用的算法錯(cuò)誤地預(yù)測(cè)，黑人被告比擁有類似犯罪記錄的白人被告更有可能再次犯罪。這種偏見甚至可能會(huì)被嵌入到神經(jīng)裝置中。事實(shí)上，研究過這類案例的研究人員已經(jīng)表明，要以一種數(shù)學(xué)嚴(yán)謹(jǐn)?shù)姆绞絹韲?yán)格定義公平是非常困難的。
工業(yè)界和學(xué)術(shù)界已經(jīng)在討論一些對(duì)抗技術(shù)偏見的實(shí)際步驟。這樣的公開討論和辯論是極有必要的，不論是對(duì)于定義有問題的偏見，還是對(duì)于定義更普世的“常態(tài)”來說都是如此。
我們主張讓對(duì)抗偏見的對(duì)策成為機(jī)器學(xué)習(xí)規(guī)范的一部分。我們還建議可能的用戶群體（特別是那些已經(jīng)被邊緣化的用戶群體）在設(shè)計(jì)算法和設(shè)備時(shí)就大膽發(fā)聲，確保偏見在技術(shù)開發(fā)的第一個(gè)階段就得到處理。
負(fù)責(zé)任神經(jīng)工程學(xué)
提出這些建議是為了呼吁工業(yè)界和學(xué)術(shù)界承擔(dān)起隨著這類神經(jīng)科技設(shè)備和系統(tǒng)而來的相關(guān)責(zé)任。為此，他們可以借鑒之前已經(jīng)為負(fù)責(zé)任創(chuàng)新而制定出來的一些框架。
除了之前提到的幾點(diǎn)指導(dǎo)方針之外，英國(guó)工程和物理科學(xué)研究理事會(huì)也提出了一個(gè)框架來鼓勵(lì)創(chuàng)新者“預(yù)測(cè)、反思、參與和行動(dòng)”，推動(dòng)符合公共利益和社會(huì)期望的科學(xué)和創(chuàng)新。
在人工智能領(lǐng)域，IEEE標(biāo)準(zhǔn)協(xié)會(huì)在2016年4月創(chuàng)建了一個(gè)全球倫理倡議，目的是將倫理融入到所有人工智能和自主系統(tǒng)的設(shè)計(jì)流程中。
歷史表明，在企業(yè)界，追逐利潤(rùn)往往會(huì)凌駕于社會(huì)責(zé)任之上。雖然在個(gè)人層面上，大多數(shù)技術(shù)專家的目的都是想要造福人類，但是他們?nèi)杂锌赡芘龅阶约何丛鴾?zhǔn)備好要去面對(duì)的復(fù)雜倫理困境。我們認(rèn)為，通過將相關(guān)倫理準(zhǔn)則引入到工業(yè)界和學(xué)術(shù)界中來，可以改變業(yè)界普遍的思維模式，增強(qiáng)設(shè)備制造商的應(yīng)對(duì)能力。
第一步就是讓倫理成為工程師、其他技術(shù)開發(fā)人員和學(xué)術(shù)研究人員加入公司或?qū)嶒?yàn)室時(shí)的標(biāo)準(zhǔn)培訓(xùn)的一部分。教育員工更深入地思考如何追求科學(xué)進(jìn)步，實(shí)施有望建設(shè)社會(huì)而非破壞社會(huì)的策略。
這種方法基本上遵循了醫(yī)學(xué)專業(yè)正在使用的思路。醫(yī)學(xué)生接受的教育包括病人病情保密、不傷害原則、行善原則和公正原則，他們還要遵守希波克拉底誓言，堅(jiān)持這個(gè)職業(yè)的最高道德標(biāo)準(zhǔn)。
神經(jīng)技術(shù)可能帶來的臨床效益和社會(huì)效益是巨大的。要想獲得這些效益，我們必須尊重、保護(hù)和支持人性中最珍貴的品質(zhì)，以此指導(dǎo)神經(jīng)技術(shù)的發(fā)展。
原文鏈接：
Nature|doi:10.1038/551159a
版權(quán)聲明：
本文由施普林格·自然上海辦公室負(fù)責(zé)翻譯?！吨R(shí)分子》獲Nature自然科研授權(quán)轉(zhuǎn)載。
制版編輯： 斯嘉麗｜
