摘要:循環(huán)神經(jīng)網(wǎng)絡(luò)令語音和自然語言處理達(dá)到了新階段。自歸一化神經(jīng)網(wǎng)絡(luò)對于擾動是具有魯棒性的,它在訓(xùn)練誤差上并沒有高方差見圖。構(gòu)建自歸一化神經(jīng)網(wǎng)絡(luò)我們通過調(diào)整函數(shù)的屬性以構(gòu)建自歸一化神經(jīng)網(wǎng)絡(luò)。 近日,arXiv 上公開的一篇 NIPS 投稿論文《Self-Normalizing Neural Networks》引起了圈內(nèi)極大的關(guān)注,它提出了縮放指數(shù)型線性單元(SELU)而引進(jìn)了自歸一化屬性,該單元主...
暫無介紹