顏水成：深度學(xué)習(xí)領(lǐng)域原創(chuàng)成果，都不誕生在中國
講者：顏水成 （奇虎360公司集團副總裁、人工智能研究院院長）
整理：邸利會
速讀：
深度學(xué)習(xí)領(lǐng)域最原創(chuàng)的成果，其實都不誕生在中國
在理論機器學(xué)習(xí)領(lǐng)域，中國做的好的研究者不過5到10人
專注在比較原創(chuàng)的技術(shù)，而且把技術(shù)用在產(chǎn)品中，不只是會成就一個好公司，可能是一個偉大的公司
連接之后意味著黑客就有機會滲透到你的智能硬件里面了，他想做什么樣的事就他說了算
深度學(xué)習(xí)或是人工智能沒有完美的算法，在自動駕駛中，到底撞前面的人，還是把車右轉(zhuǎn)出車道讓自己產(chǎn)生傷亡，道德層面真的不知道該怎么做
我原來在學(xué)術(shù)界當(dāng)教授七年，后來在360公司任職近三年。我以前做的是計算機視覺。不得不說，在過去這些年人工智能發(fā)展的速度非常快，特別是在學(xué)術(shù)界，大家可以看到，每一年和人工智能相關(guān)的學(xué)術(shù)會議發(fā)表的文章越來越多。去年我們做過一個粗略統(tǒng)計，和人工智能相關(guān)的會議每年發(fā)表的數(shù)量有4000多篇。這帶來一個很大的問題，到底到哪兒去尋找足夠多的審稿人，能對文章進行正確的審核。今天我不想說人工智能多么紅火，大家都看到了。我想分享兩個人工智能比較長遠的話題，原創(chuàng)性和安全性。
1. 原創(chuàng)維度
在學(xué)術(shù)界和工業(yè)界，AI技術(shù)無外乎三種，一種是非常原創(chuàng)的，我們叫顛覆式技術(shù)創(chuàng)新；另一種是微創(chuàng)新。第三是沒有創(chuàng)新，技術(shù)在一個領(lǐng)域取得了成功，然后照搬到另外一個領(lǐng)域來。學(xué)術(shù)界做人工智能的研究成果跟數(shù)據(jù)、應(yīng)用場景是相對獨立的，意味著在學(xué)術(shù)界做研究原創(chuàng)性變得非常重要，如果沒有原創(chuàng)性就很容易被大家遺忘。
AI是一個非常大的話題，我們現(xiàn)在看現(xiàn)在最火的深度學(xué)習(xí)。如果仔細去觀察，在深度學(xué)習(xí)領(lǐng)域最原創(chuàng)的成果，比如卷積神經(jīng)網(wǎng)絡(luò)、生成式對抗網(wǎng)絡(luò)、深度學(xué)習(xí)與增強學(xué)習(xí)的融合等，可以看到最初的點其實都不誕生在中國。中國在這個領(lǐng)域更多的是，這些理論出來之后大家覺得非常有意思，一窩蜂出來。比如像生成式對抗網(wǎng)絡(luò)，大家發(fā)現(xiàn)很有意思之后，計算機視覺領(lǐng)域的會議比如CVPR，就能看到一碓的文章全部干這樣的事，但真正能被大家所記住的還是第一個提出者Goodfellow。
最近深度學(xué)習(xí)的發(fā)展，大家對理論的期望越來越高，也就是說我們不再只是去調(diào)調(diào)參數(shù)或者設(shè)計一個網(wǎng)絡(luò)稍微做一點調(diào)整，這意味著對于理論機器學(xué)習(xí)研究者的需求會越來越大。最近我和一個好朋友，一個做的非常好的教授，做一個討論。我說我們倆要不要把中國做理論機器學(xué)習(xí)做得比較好的研究者全部列出來。我們倆微信交流后，最后有一個名單。我是比較保守一點的，列出來大概有10個，但沒想到那個教授更加保守，他的名單其實只有5個。也就是說，在中國做理論的機器學(xué)習(xí)領(lǐng)域，人才的儲備是非常少的，或者是沒有多少人愿意去做這些基本的研究。
但是，這倒也不要那么悲觀，現(xiàn)在國家特別是新一代人工智能的戰(zhàn)略出來之后，對大家來說是一個很好的契機，尤其做的比較好的研究者可以留在學(xué)校慢慢在這方面做一些比較原創(chuàng)性的貢獻，因為原創(chuàng)性是非常重要的。
工業(yè)界和學(xué)界不一樣的地方在于，它沒有訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)的概念。工業(yè)界就是要解決一個問題，有一碓數(shù)據(jù)，然后訓(xùn)練，產(chǎn)生一個模型，應(yīng)用到產(chǎn)品里，如果不起作用就去想辦法，比如去收集額外數(shù)據(jù)中失敗的例子，然后去增強測試的數(shù)據(jù)，不斷迭代，讓應(yīng)用的場景在推廣的范圍之內(nèi)。
一個業(yè)務(wù)的成功取決的因素不只是技術(shù)，還有產(chǎn)品，最終用戶，也包括團隊。那么，這意味著什么？這意味著即使你不做非常原創(chuàng)性的研究工作，只是把好的研究用在工業(yè)界的話，也可以成為一個比較優(yōu)秀的公司。但如果這個公司能有足夠的投入，比如可以專注在這些比較原創(chuàng)的技術(shù)，而且把技術(shù)用在產(chǎn)品中的話，意味著最終不只是會成就一個好公司，可能是一個偉大的公司。
從優(yōu)秀到卓越，如果你更加在乎原創(chuàng)性的話，可能會成為一個卓越的公司。目前，中國卓越的公司還是比較少，但我們已經(jīng)具備這個條件了，我們有好幾個公司在世界范圍內(nèi)都已經(jīng)是巨頭的公司，他們有足夠的財力去組建相應(yīng)做原創(chuàng)的技術(shù)研發(fā)的部門，瞄準的不是一年的產(chǎn)出，而是三、五年甚至更長時間的投入。所以，我覺得機會還是非常有的。
2. 安全維度
另外一個維度，我想分享的是安全。安全可能大家現(xiàn)在思考的還不是非常多，但其實非常關(guān)鍵。
第一點，軟硬結(jié)合之后智能硬件的安全性問題?，F(xiàn)在我們會用很多傳感器，比如有攝像頭、雷達、激光雷達，但這些傳感器其實是非常脆弱的，是很容易被攻破的。比如一個攝像頭拿激光筆對著它，那它很快就會致盲，那如果用攝像頭做自動駕駛的話，挑戰(zhàn)是非常大的。
還有一個問題大家容易忽略的是，傳感器會有老化的問題。老化以后，它獲取到信息的精準度沒有以前那么高了，現(xiàn)在人工智能的算法都是不停的調(diào)優(yōu)調(diào)出來的，如果過了一年兩年之后，到底老化會產(chǎn)生什么樣的影響，以前的模型到底還能不能工作，整個基本上是沒有做任何的探索的。
第二點是AI軟件的安全性?，F(xiàn)在大家用深度學(xué)習(xí)的框架，比如Caffe、Tensorflow，但這些框架多是建立在底層的軟件開發(fā)工具包上的，這些軟件開發(fā)工具包本身也是軟件，里面也存在缺陷。比如我們做一個圖象識別的算法部署到服務(wù)器上，黑客可以利用軟件的漏洞在圖片上加一些信息進去，這個圖片就可以讓服務(wù)系統(tǒng)或者陷入死循環(huán)，或者被劫持沒有辦法獲得系統(tǒng)的控制權(quán)限，這些也是我們平常想的非常少的。
最后一點，軟硬結(jié)合的智能硬件，意味著連接變得不可或缺。連接之后，這也意味著黑客就有機會滲透到智能硬件里面去，他想做什么樣的事，就由他說了算。
另外可能還涉及到道德層面上的問題，比如說我們基本上有一個觀點，深度學(xué)習(xí)或者人工智能是沒有完美的算法，就意味著一定要處理一些特殊問題，比如你做自動駕駛，在極端情況下就需要做出一些決定，比如到底是撞前面的人還是把車右轉(zhuǎn)到車道讓自己產(chǎn)生傷亡，這個從道理層面真的不知道該怎么做?？偟膩碚f，我想說，原創(chuàng)性和安全性非常重要，AI公司如果要活的更長久更優(yōu)秀，這兩個維度可能是大家真的要花時間去關(guān)注的點。
注：本文根據(jù)顏水成在“世界科技創(chuàng)新論壇”上的演講整理而成
