摘要：在飛蛾腦中，章魚胺可以幫助加強(qiáng)產(chǎn)生成功的神經(jīng)線路。廣泛來說，此項(xiàng)研究成果可能給人工神經(jīng)網(wǎng)絡(luò)領(lǐng)域帶來極大的影響。

作為現(xiàn)代機(jī)器學(xué)習(xí)基石的深度神經(jīng)網(wǎng)絡(luò)，雖然模仿的是生物神經(jīng)網(wǎng)絡(luò)，但其實(shí)這兩者之間有著極大的區(qū)別。拋開僅有的一些相似處，有些重要的機(jī)器學(xué)習(xí)機(jī)制沒有任何自然界的版本，而這兩者學(xué)習(xí)過程之間也有著大量的不同。

這些區(qū)別很有可能解釋了為什么機(jī)器學(xué)習(xí)系統(tǒng)在某些領(lǐng)域中的表現(xiàn)遠(yuǎn)遜于自然系統(tǒng)。就拿昆蟲來說，昆蟲僅需接觸幾次新的氣味就能學(xué)會(huì)如何識(shí)別這些新氣味。而機(jī)器則需要海量的數(shù)據(jù)集才能學(xué)會(huì)。因此，計(jì)算機(jī)科學(xué)家希望通過加深對(duì)自然學(xué)習(xí)方式的了解來減少這兩者之間的距離。

為了進(jìn)一步找出自然與機(jī)器學(xué)習(xí)之間的差距，華盛頓大學(xué)研究科學(xué)家Charles Delahunt與他的團(tuán)隊(duì)創(chuàng)造出了一款模仿煙草天蛾（學(xué)名：Manduca sexta）嗅覺學(xué)習(xí)系統(tǒng)的結(jié)構(gòu)與行為的人工神經(jīng)網(wǎng)絡(luò)。他們表示，他們的系統(tǒng)可以對(duì)自然神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式提供一些重要的見解，為機(jī)器學(xué)習(xí)帶來突破。

與其他動(dòng)物相比，飛蛾的嗅覺系統(tǒng)比較簡(jiǎn)單，并已被神經(jīng)科學(xué)家們很好地繪制出來。它是由5個(gè)獨(dú)特的網(wǎng)絡(luò)組成，由每個(gè)網(wǎng)絡(luò)向下一個(gè)網(wǎng)絡(luò)一層一層的傳輸信息。

飛蛾嗅覺系統(tǒng)的首層網(wǎng)絡(luò)，是一個(gè)由3萬多個(gè)用于檢測(cè)氣味的化學(xué)受體所組成的系統(tǒng)。它會(huì)把一套嘈雜的數(shù)據(jù)傳輸?shù)较乱粚樱禾炀€葉（antenna lobe）。天線葉含有大約60個(gè)叫Glomeruli的單元，每一個(gè)單元都會(huì)專注于一種氣味。

天線葉會(huì)把分析過一邊的氣味數(shù)據(jù)傳輸給含有4000個(gè)kenyon細(xì)胞的蘑菇體（Mushroom Body），把它編成記憶。

作為記憶，這些關(guān)于氣味的信息最終會(huì)被一層僅有兩位數(shù)的外在神經(jīng)元讀取。它們將把來自蘑菇體的信號(hào)轉(zhuǎn)化為行為，比如“向上飛”。

這個(gè)系統(tǒng)在多個(gè)方面與機(jī)器學(xué)習(xí)網(wǎng)絡(luò)完全不同。就拿天線葉來說，它會(huì)把信息編碼到低維參數(shù)空間中，把信息傳輸給蘑菇體；但蘑菇體卻會(huì)把信息編碼到高維參數(shù)空間中。相比之下，人工神經(jīng)網(wǎng)絡(luò)每層的維度都十分相似。

此外，一旦飛蛾成功的識(shí)別一種氣味，這將出發(fā)一個(gè)獎(jiǎng)勵(lì)機(jī)制，導(dǎo)致神經(jīng)元向天線葉與蘑菇體噴射一種叫“章魚胺”（octopamine）的化學(xué)神經(jīng)遞質(zhì)。

這種獎(jiǎng)勵(lì)機(jī)制在學(xué)習(xí)過程中起到了至關(guān)重要的作用。在飛蛾腦中，章魚胺可以幫助加強(qiáng)產(chǎn)生成功的神經(jīng)線路。這也是赫布學(xué)習(xí)（Hebbian learning）中最重要的理論之一，即“一起激發(fā)的神經(jīng)元也會(huì)連在一起”（Cells that fire together, wire together）。確實(shí)，神經(jīng)科學(xué)家早就知道去掉章魚胺的飛蛾是無法學(xué)習(xí)的。我們只是不知道章魚胺的具體工作方式。

而機(jī)器的學(xué)習(xí)方式則十分不同。它依賴的是一種叫“反向傳播”（backpropagation）的過程，通過調(diào)整每個(gè)神經(jīng)元之間的連接來提高結(jié)果。但是在這個(gè)過程中，信息是在神經(jīng)網(wǎng)絡(luò)中進(jìn)行反向流動(dòng)的，而它在自然中也沒有任何相似的存在。

為了更好地了解飛蛾學(xué)習(xí)的方式，Delahunt的團(tuán)隊(duì)創(chuàng)造出了一款模仿自然神經(jīng)網(wǎng)絡(luò)的工作方式的人工神經(jīng)網(wǎng)絡(luò)?！拔覀儎?chuàng)造出來一款端到端的計(jì)算模型來模仿煙草天蛾的嗅覺系統(tǒng)，包括天線葉與蘑菇體在章魚胺刺激之下的互動(dòng)行為”，他們說道。

這款模型的設(shè)計(jì)理念就是在每一層百分百重現(xiàn)自然系統(tǒng)的一切行為。比如由氣味受體所產(chǎn)生的嘈雜信號(hào)，以及數(shù)據(jù)從天線葉傳輸?shù)侥⒐襟w時(shí)所產(chǎn)生的維度變化。它甚至還包含了一個(gè)模仿章魚胺作用的機(jī)制。

最終的結(jié)果十分有意思，這款模型顯示，氣味受體所產(chǎn)生的嘈雜信號(hào)會(huì)受到天線葉的前置放大。但是，這些信號(hào)在傳輸?shù)侥⒐襟w時(shí)所經(jīng)歷的維度變化可以有效的排除一切噪聲。因此，這些干凈的信號(hào)可以讓該系統(tǒng)輸出“向上飛”這種明確的指令。

而章魚胺所起到的作用也更明確了。這款模仿系統(tǒng)顯示，在沒有章魚胺的情況下其實(shí)也可以實(shí)現(xiàn)學(xué)習(xí)，但由于它的速度極慢，相當(dāng)于不存在。這意味著章魚胺是一種強(qiáng)效學(xué)習(xí)加速劑。

但是章魚胺具體是如何實(shí)現(xiàn)加速功能的呢？Delahunt與團(tuán)隊(duì)認(rèn)為“這可能是一種讓飛蛾繞開新增突觸在赫布生長(zhǎng)時(shí)固有的有機(jī)約束的方式，否則這種約束可能將飛蛾學(xué)習(xí)的速度限制在一個(gè)難以接受的速度?！?/p>

此外，章魚胺還有另外一個(gè)作用。赫布學(xué)習(xí)只能加強(qiáng)現(xiàn)有的神經(jīng)連接，因此無法解釋新的神經(jīng)線路是如何產(chǎn)生的。Delahunt表示章魚胺還可以打開新的傳輸通道來形成連接：“這會(huì)擴(kuò)展系統(tǒng)學(xué)習(xí)時(shí)能夠探索的解空間”。

總體來說，這款模仿自然神經(jīng)網(wǎng)絡(luò)的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)完美的實(shí)現(xiàn)了它的設(shè)計(jì)目標(biāo)，以一個(gè)自然的方式學(xué)會(huì)了分別氣味?！拔覀兊哪Ｐ涂梢詫W(xué)習(xí)新的氣味，通過模仿出來的整合-激發(fā)神經(jīng)元也與飛蛾體內(nèi)激發(fā)率的統(tǒng)計(jì)特征一致”，Delahunt說道。

廣泛來說，此項(xiàng)研究成果可能給人工神經(jīng)網(wǎng)絡(luò)領(lǐng)域帶來極大的影響?！皬囊粋€(gè)機(jī)器學(xué)習(xí)角度來看，該模型提供了一個(gè)由自然啟發(fā)的機(jī)制，并將十分利于建設(shè)需要用極少樣本實(shí)現(xiàn)迅速學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)”，該團(tuán)隊(duì)總結(jié)道。

所以，未來的機(jī)器學(xué)習(xí)網(wǎng)絡(luò)很可能將會(huì)包含章魚胺等神經(jīng)遞質(zhì)的仿品。

當(dāng)然，神經(jīng)遞質(zhì)并不只在學(xué)習(xí)時(shí)有著重要的地位。神經(jīng)科學(xué)家們十分了解它們?cè)谇榫w與情緒調(diào)節(jié)等機(jī)制中的地位。而這，則可能成為機(jī)器學(xué)習(xí)研究者的下一個(gè)研究方向了。

商業(yè)智能與數(shù)據(jù)分析群

興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價(jià)值的辦法，實(shí)際應(yīng)用案例分享與討論，分析工具，ETL工具，數(shù)據(jù)倉庫，數(shù)據(jù)挖掘工具，報(bào)表系統(tǒng)等全方位知識(shí)

QQ群：81035754