資訊專欄INFORMATION COLUMN
摘要：考慮到這一點，我們將這種方法稱為深度學(xué)習(xí)。這使我們回到原來的問題上我們不是因為深度模型而將其稱為深度學(xué)習(xí)。這意味著具有個完全連接的層并且只有完全連接的層的神經(jīng)網(wǎng)絡(luò)將不再是深度學(xué)習(xí)模型，而某些具有少量卷積層的網(wǎng)絡(luò)卻可以稱為深度學(xué)習(xí)。
不管你是業(yè)內(nèi)人士還是業(yè)外人士，在人工智能以燎原之勢發(fā)展的今天，相信對于AI、機器學(xué)習(xí)、深度學(xué)習(xí)這些詞匯，你或多或都有一定的了解，而其中作為人工智能前沿的深度學(xué)習(xí)，火爆程度更是非同尋常，似乎每個人都在探求它的奧妙和神奇之處。
而當(dāng)我們第一次接觸深度學(xué)習(xí)這個概念時，通常會遇到這樣一個問題：
“一個機器學(xué)習(xí)模型深到何種程度才能被視作深度學(xué)習(xí)模型？”
這可能聽起來像是一個好問題。畢竟，在深度學(xué)習(xí)中，我們使用的都是更深、更復(fù)雜的模型。
但結(jié)果卻表明，我們提出的是一個非常愚蠢的問題，我們需要從一個不同的角度切入，來看深度學(xué)習(xí)以了解為什么。
那接下來我們先來了解一下深度學(xué)習(xí)的幾組定義。
“機器學(xué)習(xí)中的一個子領(lǐng)域，它是基于學(xué)習(xí)多種表現(xiàn)形式的算法，以便在數(shù)據(jù)之間建立復(fù)雜關(guān)系。因此，較高級別的特征和概念就是根據(jù)較低級別的特征和概念進行定義的，且這種特征層次被稱之為深度架構(gòu)?！薄渡疃葘W(xué)習(xí)：方法與應(yīng)用》
“概念層次結(jié)構(gòu)允許計算機通過從簡單的概念中構(gòu)建復(fù)雜的概念，然后學(xué)習(xí)這些復(fù)雜的概念。 如果我們繪制一個能夠顯示這些概念是如何相互疊加的圖形，那么這個圖形一定是具有深度的，且具有很多層?？紤]到這一點，我們將這種方法稱為AI深度學(xué)習(xí)?！薄渡疃葘W(xué)習(xí)》 .麻省理工學(xué)院出版社，Ian Goodfellow、Yoshua Bengio和Aaron Courville。
這是一種稱為分層特征學(xué)習(xí)的概念。為了理解這一點，讓我們回顧一下深度學(xué)習(xí)模型的運作方式。
以卷積神經(jīng)網(wǎng)絡(luò)為例。
卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)的一個典范。它們的興起啟發(fā)于神經(jīng)元是如何在視覺皮層（處理視覺輸入的大腦區(qū)域）排列的。在這里，不是所有的神經(jīng)元都連接到視覺域的所有輸入。取而代之的是，視覺區(qū)域是由一組神經(jīng)元（稱為接受域）組成的，它們部分地相互重疊。
卷積神經(jīng)網(wǎng)絡(luò)（CNN）的工作方式與之類似。它們使用數(shù)學(xué)卷積運算符來處理輸入的重疊部分（其近似接收域的工作方式）。
卷積神經(jīng)網(wǎng)絡(luò)
典型CNN的第一卷積層使用一組卷積濾波器來識別輸入圖像中的一組低級特征。然后將這些已識別出的低級特征合并（來自池化層），并將其作為下一個卷積層的輸入，該卷積層使用另一組卷積濾波器從先前識別的較低級別特征中識別一組較高級別的特征。這將繼續(xù)幾層，其中每個卷積層使用來自前一層的輸入來識別比前一層更高級別的特性。最后，最后一個卷積層的輸出傳遞給一組完全連接的層，以用于進行最終分類。
實質(zhì)上，CNN的卷積濾波器首先要識別較低層次的特征，并使用這些已識別的特征通過多個步驟逐步識別更高層次的特征。
這是我們之前討論的分層特征學(xué)習(xí)，它是深度學(xué)習(xí)的關(guān)鍵，它與傳統(tǒng)的機器學(xué)習(xí)算法有什么區(qū)別？
?
分層特征學(xué)習(xí)
一個深度學(xué)習(xí)模型（如卷積神經(jīng)網(wǎng)絡(luò)）并不會試圖即刻理解整個問題所在。
也就是說，它不會像傳統(tǒng)的算法一樣，試圖一次性地掌握所有的輸入特征。
它所做的就是逐件地查看輸入，并從中獲得較低級別的模式/特征，然后，使用這些較低級別的特征來逐層識別更多級別的特征，這些都是通過對多層進行逐此分層實現(xiàn)的。
這使得深度學(xué)習(xí)模型能夠?qū)W習(xí)復(fù)雜的模式，通過從簡單的模式逐漸構(gòu)建它們。這也使深度學(xué)習(xí)模型能夠更好地理解世界，而不僅僅是“看見”特征，還可以看到這些特征的構(gòu)建層次結(jié)構(gòu)。
?
當(dāng)然，必須分層學(xué)習(xí)特征意味著模型必須有很多層。這意味著這樣一個模式將會“很深”。
這使我們回到原來的問題上：我們不是因為深度模型而將其稱為深度學(xué)習(xí)。而是為了實現(xiàn)層次化學(xué)習(xí)，模型需要深度。深度是實現(xiàn)分層特征學(xué)習(xí)的副產(chǎn)品。
?
分層特征學(xué)習(xí)是使得深度學(xué)習(xí)模型能夠拋開傳統(tǒng)機器學(xué)習(xí)模型中的“平臺效應(yīng)（Plateau in Performance）”的原因。
??
深度學(xué)習(xí)（不具備）平臺效應(yīng)
?
那么，我們?nèi)绾巫R別模型是深度學(xué)習(xí)模型還是普通模型？
?
簡單地說，如果模型使用分層特征學(xué)習(xí)——首先識別較低級別的特征，然后建立在它們之上以識別更高級別的特征（例如通過使用卷積濾波器），那么它就是一個深度學(xué)習(xí)模型。如果沒有，那么無論你的模型有多少層，那么它都不被認為是深度學(xué)習(xí)模型。
?
這意味著具有100個完全連接的層（并且只有完全連接的層）的神經(jīng)網(wǎng)絡(luò)將不再是深度學(xué)習(xí)模型，而某些具有少量卷積層的網(wǎng)絡(luò)卻可以稱為深度學(xué)習(xí)。
歡迎加入本站公開興趣群商業(yè)智能與數(shù)據(jù)分析群
興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價值的辦法，實際應(yīng)用案例分享與討論，分析工具，ETL工具，數(shù)據(jù)倉庫，數(shù)據(jù)挖掘工具，報表系統(tǒng)等全方位知識
QQ群：81035754
文章版權(quán)歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址：http://systransis.cn/yun/4611.html
摘要：對深度學(xué)習(xí)模型而言，水就是海量的數(shù)據(jù)。就拿機器識別物體這樣的任務(wù)來說，通過數(shù)百萬副圖片的訓(xùn)練，深度學(xué)習(xí)模型甚至可以超過人的肉眼的識別能力，這確實是人工智能在感知類問題上重要的里程碑。關(guān)于深度學(xué)習(xí)，還有一個有趣的現(xiàn)象。 說到人工智能和機器人，上點兒歲數(shù)的碼農(nóng)們可能對封面這張圖有點印象。不明就里的朋友，可以回去補習(xí)一下《編輯部的故事》。我是個二手的人工智能表演藝術(shù)家：從博士畢業(yè)開始，就在MSRA...
摘要：本文內(nèi)容節(jié)選自由主辦的第七屆，北京一流科技有限公司首席科學(xué)家袁進輝老師木分享的讓簡單且強大深度學(xué)習(xí)引擎背后的技術(shù)實踐實錄。年創(chuàng)立北京一流科技有限公司，致力于打造分布式深度學(xué)習(xí)平臺的事實工業(yè)標(biāo)準(zhǔn)。 本文內(nèi)容節(jié)選自由msup主辦的第七屆TOP100summit，北京一流科技有限公司首席科學(xué)家袁進輝（老師木）分享的《讓AI簡單且強大：深度學(xué)習(xí)引擎OneFlow背后的技術(shù)實踐》實錄。 北京一流...
摘要：劃重點，這是一道面試必考題，我靠這道題刷掉了多少面試者嘿嘿首先這是一道非常棒的面試題，可以考察面試者的很多方面，比如基本功，代碼能力，邏輯能力，而且進可攻，退可守，針對不同級別的人可以考察不同難度，比如漂亮妹子就出題，要是個帥哥那就得上了， 劃重點，這是一道面試必考題，我靠這道題刷掉了多少面試者?(? ? ??)嘿嘿 首先這是一道非常棒的面試題，可以考察面試者的很多方面，比如基本功，代...
摘要：大家好，我是黃文堅，今天給大家講講深度學(xué)習(xí)。我們再來看看這兩個深度學(xué)習(xí)的網(wǎng)絡(luò)，左邊是策略網(wǎng)絡(luò)，我走到一步的時候，分析棋盤上每個位置有多大價值，給每個位置打一個分數(shù)?？梢哉f深度學(xué)習(xí)讓機器人擁有幾歲小孩拾起物體的能力。 大家好，我是黃文堅，今天給大家講講深度學(xué)習(xí)。我不講技術(shù)原理，講講技術(shù)應(yīng)用。深度學(xué)習(xí)是我們明略重要的研究方向，是未來實現(xiàn)很多令人驚嘆的功能的工具，也可以說是通向人工智能的必經(jīng)之路。...
摘要：為什么我又要重新開始寫機器學(xué)習(xí)相關(guān)的文章了最主要的原因是現(xiàn)在的機器學(xué)習(xí)和五年前十年前區(qū)別很大。深度學(xué)習(xí)帶來了什么深度學(xué)習(xí)最重要的東西就是自帶了特征學(xué)習(xí)，有時候也被翻譯為表征學(xué)習(xí)，簡單來說就是，不需要進行特別的特征抽取。 1.為什么我開始寫這個系列博客說五年前我還在某A云公司的時候，身在一個機器學(xué)習(xí)算法組，對機器學(xué)習(xí)懷有濃厚的興趣。花了好多的時間來試圖搞清楚各種流行的機器學(xué)習(xí)算法，經(jīng)常周末也跟...
閱讀 3335·2021-11-25 09:43
閱讀 3020·2021-10-15 09:43
閱讀 1977·2021-09-08 09:36
閱讀 2930·2019-08-30 15:56
閱讀 756·2019-08-30 15:54
閱讀 2697·2019-08-30 15:54
閱讀 2987·2019-08-30 11:26
閱讀 1257·2019-08-29 17:27
