相關(guān)文章

• Graph 卷積神經(jīng)網(wǎng)絡(luò)：概述、樣例及最新進展

  摘要：是直接作用于圖的卷積神經(jīng)網(wǎng)絡(luò)，允許對結(jié)構(gòu)化數(shù)據(jù)進行端到端的學(xué)習(xí)，也即輸入可以是任意大小和形狀的圖。圖譜卷積和圖卷積神經(jīng)網(wǎng)絡(luò)舉個例子，讓我們看下面這個十分簡單的分層優(yōu)化傳播規(guī)律是神經(jīng)網(wǎng)絡(luò)層的權(quán)矩陣，是像這樣的非線性激活函數(shù)。 Graph Convolutional Network（GCN）是直接作用于圖的卷積神經(jīng)網(wǎng)絡(luò)，GCN 允許對結(jié)構(gòu)化數(shù)據(jù)進行端到端的學(xué)習(xí)，也即輸入可以是任意大小和形狀的圖。...

  wushuiyong 2019-04-25 18:05 評論0 收藏0

• 深度學(xué)習(xí)與神經(jīng)科學(xué)相遇（三）[譯]

  摘要：例如，是一些神經(jīng)元的特征，其中突觸權(quán)重變化的符號取決于突觸前后的較精確至毫秒量級相對定時。，是大腦自身調(diào)整其神經(jīng)元之間的連接強度的生物過程。從他博士期間就開始研究至今，目前可以說深度學(xué)習(xí)占領(lǐng)著機器學(xué)習(xí)的半壁江山，而則是深度學(xué)習(xí)的核心。 上次說到誤差梯度的反向傳播（Backpropagation），這次咱們從這繼續(xù)。需要說明的是，原文太長，有的地方會有些冗長啰嗦，所以后面的我會選擇性地進行翻譯...

  _ipo 2019-04-25 18:23 評論0 收藏0

• 深度學(xué)習(xí)與神經(jīng)科學(xué)相遇（一）[譯]

  摘要：如今在機器學(xué)習(xí)中突出的人工神經(jīng)網(wǎng)絡(luò)最初是受神經(jīng)科學(xué)的啟發(fā)。雖然此后神經(jīng)科學(xué)在機器學(xué)習(xí)繼續(xù)發(fā)揮作用，但許多主要的發(fā)展都是以有效優(yōu)化的數(shù)學(xué)為基礎(chǔ)，而不是神經(jīng)科學(xué)的發(fā)現(xiàn)。 開始之前看一張有趣的圖 - 大腦遺傳地圖：Figure 0. The Genetic Geography of the Brain - Allen Brain Atlas成年人大腦結(jié)構(gòu)上的基因使用模式是高度定型和可再現(xiàn)的。 Fi...

  YJNldm 2019-04-25 18:21 評論0 收藏0

• 深度學(xué)習(xí)與神經(jīng)科學(xué)相遇（二）[譯]

  摘要：就像在權(quán)重擾動中，而不同于串?dāng)_的是，最小的全局協(xié)調(diào)是必須的每個神經(jīng)元僅需要接收指示全局成本函數(shù)的反饋信號。在深度強化學(xué)習(xí)中比如可否使用不可微分的目標(biāo)函數(shù)呢值得探索相反，反向傳播通過基于系統(tǒng)的分層結(jié)構(gòu)計算成本函數(shù)對每個權(quán)重的靈敏度來工作。 2. 大腦能夠進行成本函數(shù)優(yōu)化許多機器學(xué)習(xí)方法（如典型的監(jiān)督式學(xué)習(xí)）是基于有效地函數(shù)優(yōu)化，并且，使用誤差的反向傳播（Werbos, 1974; Rumelh...

  mdluo 2019-04-25 18:23 評論0 收藏0