摘要：今年月日收購(gòu)了基于深度學(xué)習(xí)的計(jì)算機(jī)視覺(jué)創(chuàng)業(yè)公司。這項(xiàng)基于深度學(xué)習(xí)的計(jì)算機(jī)視覺(jué)技術(shù)已經(jīng)開(kāi)發(fā)完成，正在測(cè)試。深度學(xué)習(xí)的誤區(qū)及產(chǎn)品化浪潮百度首席科學(xué)家表示目前圍繞存在著某種程度的夸大，它不單出現(xiàn)于媒體的字里行間，也存在于一些研究者之中。

在過(guò)去的三十年，深度學(xué)習(xí)運(yùn)動(dòng)一度被認(rèn)為是學(xué)術(shù)界的一個(gè)異類(lèi)，但是現(xiàn)在， Geoff Hinton（如圖1）和他的深度學(xué)習(xí)同事，包括紐約大學(xué)Yann LeCun和蒙特利爾大學(xué)的Yoshua Bengio，在互聯(lián)網(wǎng)世界受到前所未有的關(guān)注。Hinton是加拿大多倫多大學(xué)教授和研究員，目前就職于Google，他利用深度學(xué)習(xí)技術(shù)來(lái)提高語(yǔ)音識(shí)別、圖像標(biāo)簽以及其他無(wú)數(shù)在線(xiàn)工具的用戶(hù)體驗(yàn)，LeCun在Facebook做類(lèi)似的工作。當(dāng)下人工智能在微軟、IBM以及百度和許多其它公司受到極大的關(guān)注。

我非常興奮，我們發(fā)現(xiàn)一種可以使神經(jīng)網(wǎng)絡(luò)變得更好的方法，尤其是這種方法能夠揭示大腦是如何工作的時(shí)候——Geoff Hinton。?

Geoff Hinton 等人親手締造了深度學(xué)習(xí)的復(fù)興

Hinton本科階段在劍橋?qū)W習(xí)心理學(xué)，他意識(shí)到科學(xué)家們并沒(méi)有真正理解大腦——不能完全掌握數(shù)十億神經(jīng)元之間的交互以及如何提升智力。這些科學(xué)家可以解釋電信號(hào)沿著一個(gè)軸突連接一個(gè)神經(jīng)元到另一個(gè)，但他們無(wú)法解釋這些神經(jīng)元是如何學(xué)習(xí)或計(jì)算的。Hinton認(rèn)為這些都是大問(wèn)題，答案可能最終讓我們實(shí)現(xiàn)1950年代人工智能研究人員的夢(mèng)想。

?

圖1： Geoff Hinton（AI領(lǐng)袖級(jí)人物，目前就職于Google）?

他也沒(méi)有答案，但他將盡全力尋找答案，至少改進(jìn)的人工神經(jīng)網(wǎng)絡(luò)可以模擬人腦的某些方面?！拔曳浅Ｅd奮，我們發(fā)現(xiàn)一種可以使神經(jīng)網(wǎng)絡(luò)變得更好的方法，尤其是這種方法能夠揭示大腦是如何工作的時(shí)候，”Hinton說(shuō)，洋溢著青春的熱情。

這些人工神經(jīng)網(wǎng)絡(luò)可以收集信息，并且能夠做出反應(yīng)，它們可以理解東西看起來(lái)什么樣或聽(tīng)起來(lái)像什么。當(dāng)你將單詞組合起來(lái)，它們?cè)谧鰶Q定的時(shí)候會(huì)變得更聰明，而在完成這些過(guò)程中不需要人類(lèi)提供物體或?qū)ο蟮臉?biāo)簽，這是傳統(tǒng)的的機(jī)器學(xué)習(xí)工具做不到的。

隨著人工智能的發(fā)展，這些神經(jīng)網(wǎng)絡(luò)將更加快速、靈活、高效，它們隨著機(jī)器規(guī)模的增加而變得更加聰明，隨著時(shí)間的推移將能夠解決越來(lái)越多的復(fù)雜任務(wù)。

早在80年代初，當(dāng)Hinton和同事開(kāi)始這個(gè)想法時(shí)，那時(shí)的電腦性能還遠(yuǎn)遠(yuǎn)不能處理神經(jīng)網(wǎng)絡(luò)需要的巨大數(shù)據(jù)集，成功是有限的，隨后人工智能社區(qū)背棄了他們，轉(zhuǎn)而去尋找類(lèi)人腦的捷徑，而不是嘗試模仿大腦的運(yùn)作。

但仍然有一些研究人員堅(jiān)定地支持Hinton的工作。根據(jù)Hinton和LeCun回憶，這極為艱難，甚至直到2004年——已經(jīng)是Hinton和LeCun第一次開(kāi)發(fā)“反向傳播”算法神經(jīng)網(wǎng)絡(luò)20年之后了——學(xué)術(shù)界對(duì)這些毫無(wú)興趣。

但是那一年，從加拿大先進(jìn)項(xiàng)目研究所（CIFAR）拿到的極少量資金，并在LeCun以及 Bengio 的支持下，Hinton建立了神經(jīng)計(jì)算和自適應(yīng)感知項(xiàng)目，這個(gè)項(xiàng)目只邀請(qǐng)一些計(jì)算機(jī)科學(xué)家、生物學(xué)家、電氣工程師、神經(jīng)科學(xué)家、物理學(xué)家和心理學(xué)家。

通過(guò)招聘這些研究人員，Hinton旨在創(chuàng)建一個(gè)的團(tuán)隊(duì)，致力于創(chuàng)建模擬生物智能的模擬——模擬大腦如何篩選大量的視覺(jué)、聽(tīng)覺(jué)以及書(shū)面線(xiàn)索來(lái)理解和應(yīng)對(duì)它的環(huán)境。Hinton認(rèn)為建立這樣一個(gè)組織會(huì)刺激人工智能領(lǐng)域的創(chuàng)新，甚至改變世界，事實(shí)證明，他是對(duì)的。

Geoffrey Hinton 曾感慨自己的學(xué)術(shù)生涯就像 ANN （人工神經(jīng)網(wǎng)絡(luò)）一樣起起伏伏，所幸的是，這位 Gatsby 的創(chuàng)立者一直沒(méi)有放棄 ANN 的研究。他們?yōu)閷?shí)現(xiàn)早期的想法，定期聚集在一起召開(kāi)研討會(huì)，構(gòu)建了更強(qiáng)大的深度學(xué)習(xí)算法，操作更大的數(shù)據(jù)集。期間贏得全球人工智能比賽，再然后互聯(lián)網(wǎng)的巨頭開(kāi)始注意到他們。

2011年，一位NCAP研究員和斯坦福的Andrew Ng在Google建立了深度學(xué)習(xí)項(xiàng)目，今天，公司用神經(jīng)網(wǎng)絡(luò)在Android手機(jī)和社交網(wǎng)絡(luò)以及Google +上標(biāo)記圖像。去年，Hinton加入Google公司，其目的是進(jìn)一步把這項(xiàng)工作做的更為深入。

每年不到一百萬(wàn)美元的CIFAR投資，Hinton和他的伙伴們帶來(lái)的回報(bào)是豐厚的，這不僅發(fā)生在Google也發(fā)生在一些國(guó)家，包括加拿大。

在這個(gè)過(guò)程中，Hinton和NCAP已經(jīng)改變了這個(gè)曾經(jīng)拋棄他們社區(qū)的面貌，當(dāng)下大學(xué)生從傳統(tǒng)機(jī)器學(xué)習(xí)項(xiàng)目轉(zhuǎn)到深度學(xué)習(xí)這種現(xiàn)象無(wú)處不在了 。毫無(wú)疑問(wèn)，現(xiàn)在深度學(xué)習(xí)是主流?！拔覀儾辉偈菢O端分子了”Hinton說(shuō)，“我們現(xiàn)在可是炙手可熱的核心技術(shù)呢。 ”

Hinton也周游世界并為深度學(xué)習(xí)積極布道，Hinton有一個(gè)習(xí)慣就是喜歡突然大喊：“我現(xiàn)在理解大腦是如何工作的了！”這很有感染力，他每周都會(huì)這樣做，你很難模仿。

通過(guò)NCAP 和CIFAR，Hinton開(kāi)辦了一家暑期學(xué)校，致力于培養(yǎng)新一代的人工智能研究人員。有這么多的商業(yè)公司進(jìn)入這一領(lǐng)域，這是比以往任何時(shí)候都更加重要。不僅僅是科技巨頭加入這個(gè)領(lǐng)域，我們也看到大量的深度學(xué)習(xí)初創(chuàng)公司包括Ersatz,、Expect Labs以及 Declara。

“我們希望把AI和CIFAR帶到一個(gè)美妙的新領(lǐng)域，”Hinton說(shuō)，“一個(gè)還沒(méi)有人或者程序到達(dá)的境界?！?/p>

和Geoff Hinton一起共同締造深度學(xué)習(xí)復(fù)興的大神還包括Yoshua Bengio（如圖2）和 Yann LeCun（圖3）教授，他們是Hinton堅(jiān)定的支持者。

Yoshua Bengio（如圖2）教授也是機(jī)器學(xué)習(xí)大神之一，他的研究工作主要聚焦在高級(jí)機(jī)器學(xué)習(xí)方面，致力于用其解決人工智能問(wèn)題。他是少有的幾個(gè)仍然全身心投入在深度學(xué)習(xí)學(xué)術(shù)界的教授之一，好多其他教授早已投身于工業(yè)界，加入了Google或Facebook公司。?

圖2：Montreal大學(xué)教授及AI研究者 Yoshua Bengio?

Yann LeCun和Yoshua Bengio不同，他目前就職于Facebook，任Facebook人工智能研究院主任，也是人工智能尤其是深度學(xué)習(xí)領(lǐng)域最知名的學(xué)者之一，在多倫多大學(xué)隨Hinton讀博士后即加盟貝爾實(shí)驗(yàn)室，期間研發(fā)了卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks）與曾廣泛用于手寫(xiě)識(shí)別和OCR的圖變換網(wǎng)絡(luò)方法。2003年加入紐約大學(xué)，從事廣度與深度兼具的各類(lèi)研究，涉及機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、移動(dòng)機(jī)器人和計(jì)算神經(jīng)學(xué)。

圖3：紐約大學(xué)AI研究者及Facebook人工智能研究院的主任 Yann LeCun

毋庸置疑的是，深度學(xué)習(xí)以及整個(gè)人工智能領(lǐng)域已成為互聯(lián)網(wǎng)巨頭競(jìng)爭(zhēng)的一個(gè)焦點(diǎn)。

深度學(xué)習(xí)領(lǐng)域人才極度稀缺

Montreal大學(xué)全職教授Yoshua Bengio表示：“深度學(xué)習(xí)現(xiàn)在炙手可熱，目前的困境是缺乏專(zhuān)家，一個(gè)博士生大概需要五年的時(shí)間培養(yǎng)，但是五年前還沒(méi)有博士生開(kāi)始從事深度學(xué)習(xí)，這意味著現(xiàn)在該領(lǐng)域的專(zhuān)家特別少，可以說(shuō)彌足珍貴、極度稀缺?！?/p>

據(jù)說(shuō)目前深度學(xué)習(xí)領(lǐng)域的頂尖人才不超過(guò)50人，Andrew Ng表示深度學(xué)習(xí)領(lǐng)域人才匱乏的主要原因首先是數(shù)據(jù)，對(duì)于解決某些領(lǐng)域的問(wèn)題，獲取數(shù)據(jù)并非易事；其次是計(jì)算基礎(chǔ)架構(gòu)工具，包括計(jì)算機(jī)硬件和軟件；最后是這個(gè)領(lǐng)域的工程師培養(yǎng)時(shí)間非常長(zhǎng)。所以科技巨頭們包括Google、Facebook、Twitter、百度等紛紛通過(guò)收購(gòu)深度學(xué)習(xí)領(lǐng)域的初創(chuàng)公司來(lái)招攬人才。

Google 2013年3月收購(gòu)了一家名為DNNresearch的初創(chuàng)公司，這家公司隸屬多倫多大學(xué)計(jì)算機(jī)科學(xué)院，只有三個(gè)人——Geoffrey Hinton 與他的研究生學(xué)生 Alex Krizhevsky 和 Ilya Sutskever。之后，Google今年1月份斥資4億美元收購(gòu)人工智能初創(chuàng)企業(yè)DeepMind，DeepMind由人工智能程序師兼神經(jīng)科學(xué)家Demis Hassabis等人聯(lián)合創(chuàng)立，是前沿的人工智能企業(yè)，其將機(jī)器學(xué)習(xí)和系統(tǒng)神經(jīng)科學(xué)的較先進(jìn)技術(shù)結(jié)合起來(lái)，建立強(qiáng)大的通用學(xué)習(xí)算法。另外，Google還收購(gòu)烏克蘭面部識(shí)別技術(shù)開(kāi)發(fā)商Viewdle。

Google不斷的收購(gòu)深度學(xué)習(xí)領(lǐng)域的公司最主要的目的是“搶購(gòu)”一批世界上最一流的專(zhuān)家，在一個(gè)迅速成長(zhǎng)的人工智能領(lǐng)域里面，這些專(zhuān)家無(wú)一不是佼佼者。?

Facebook也在2012年以近6000萬(wàn)美元的價(jià)格收購(gòu)以色列人臉識(shí)別公司Face.com。人事方面，任命計(jì)算機(jī)科學(xué)家Yann LeCun（圖3）作為人工智能研究院的主任，用深度學(xué)習(xí)專(zhuān)業(yè)知識(shí)來(lái)幫助創(chuàng)建解決方案，更好地在每天上傳到Facebook上的3.5億張照片和視頻中識(shí)別人臉和對(duì)象。去年8月13日Facebook又宣布收購(gòu)了語(yǔ)音識(shí)別及機(jī)器翻譯公司Mobile Technologies，后者將會(huì)幫助我們從圖片識(shí)別拓展到語(yǔ)音識(shí)別領(lǐng)域。假以時(shí)日，F(xiàn)acebook可能會(huì)開(kāi)發(fā)出交互更加自然的服務(wù)，而且相對(duì)于任何現(xiàn)有技術(shù)，它還會(huì)幫助解決多得多的問(wèn)題。

Twitter 今年7月29日收購(gòu)了基于深度學(xué)習(xí)的計(jì)算機(jī)視覺(jué)創(chuàng)業(yè)公司Madbits。Madbits這家公司是由Facebook人工智能實(shí)驗(yàn)室主任Yann LeCun以前兩名學(xué)生創(chuàng)辦的，開(kāi)發(fā)了可自動(dòng)理解、組織和提取媒介內(nèi)容信息的視覺(jué)智能技術(shù)。這項(xiàng)基于深度學(xué)習(xí)的計(jì)算機(jī)視覺(jué)技術(shù)已經(jīng)開(kāi)發(fā)完成，正在測(cè)試。Twitter上每天都會(huì)出現(xiàn)無(wú)數(shù)的圖片。收購(gòu)Madbits可以幫助Twitter推出諸如圖像搜索的功能，基于圖像內(nèi)容改進(jìn)搜索排名，甚至是通過(guò)分析圖像來(lái)更好地理解人們的推文內(nèi)容。

其他公司。雅虎收購(gòu)深度學(xué)習(xí)公司LookFlow和圖像標(biāo)注公司IQEngine；QualComm收購(gòu)圖像識(shí)別公司Kooaba； Pinterest收購(gòu)物體識(shí)別公司VisualGraph；Dropbox收購(gòu)圖像標(biāo)注公司Anchovi Labs；百度成立李彥宏親自?huà)鞄浀纳疃葘W(xué)習(xí)研究院，有Andrew Ng、余凱等技術(shù)大牛加盟； 至此，深度學(xué)習(xí)領(lǐng)域的幾位大?；旧隙几饔兴鶎?。

深度學(xué)習(xí)的誤區(qū)及產(chǎn)品化浪潮

百度首席科學(xué)家Andrew Ng表示：“目前圍繞Deep Learning存在著某種程度的夸大，它不單出現(xiàn)于媒體的字里行間，也存在于一些研究者之中。這是一種不健康的氛圍。將Deep Learning描繪成對(duì)人腦的模擬，這種說(shuō)法非常具有吸引力，但卻是過(guò)于簡(jiǎn)化的模仿，它距離真正的AI或人們所謂的‘奇點(diǎn)’還相當(dāng)遙遠(yuǎn)。”

目前這項(xiàng)技術(shù)主要是從海量數(shù)據(jù)當(dāng)中學(xué)習(xí)，理解數(shù)據(jù)，這也是現(xiàn)今有關(guān)Deep Learning技術(shù)研究和產(chǎn)品發(fā)展的驅(qū)動(dòng)力。而具備與人能力相匹配的AI需要無(wú)所不包，例如人類(lèi)擁有豐富的感情，這些都是當(dāng)下Deep Learning研究尚未涉及的。今天，AI領(lǐng)域較大的挑戰(zhàn)和短板是Perception，如何讓機(jī)器更好地理解人的意圖；而這正是 "深度學(xué)習(xí)"可以發(fā)光發(fā)熱的范疇。

一項(xiàng)技術(shù)能夠快速成為主流，一個(gè)主要原因就是能夠快速推出成熟的產(chǎn)品，深度學(xué)習(xí)也不例外，所以深度學(xué)習(xí)產(chǎn)品化是一個(gè)大趨勢(shì)，追求不切實(shí)際的“天網(wǎng)”或者電影情節(jié)的高科技未免太急功近利、不切實(shí)際。目前 "深度學(xué)習(xí)"讓Google產(chǎn)品在語(yǔ)音，文本和圖像的識(shí)別上變得更加聰明，可以更準(zhǔn)確地洞悉我們的信息輸入，更人性化地理解我們的意圖?，F(xiàn)在，每個(gè)安卓手機(jī)的語(yǔ)音識(shí)別以及Google街景中的圖像處理都有"深度學(xué)習(xí)"的影子。筆者認(rèn)為，隨著深度學(xué)習(xí)的發(fā)展和科技公司加大投入，會(huì)有越來(lái)越多的產(chǎn)品推向市場(chǎng)。

商業(yè)智能與數(shù)據(jù)分析群

興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價(jià)值的辦法，實(shí)際應(yīng)用案例分享與討論，分析工具，ETL工具，數(shù)據(jù)倉(cāng)庫(kù)，數(shù)據(jù)挖掘工具，報(bào)表系統(tǒng)等全方位知識(shí)

QQ群：81035754