摘要：本文介紹了兩篇年不僅較先進(jìn)，而且酷而有趣的兩篇論文。這些步驟涉及兩個(gè)概念，應(yīng)該更詳細(xì)地討論突變和適應(yīng)度函數(shù)。適應(yīng)度函數(shù)在進(jìn)化算法中，適應(yīng)度函數(shù)告訴我們給定孩子與實(shí)現(xiàn)既定目標(biāo)的距離。這里，適應(yīng)度函數(shù)包括兩個(gè)元素質(zhì)量適應(yīng)得分和多樣性健康得分。

本文介紹了兩篇2018年不僅較先進(jìn)，而且酷而有趣的兩篇論文。

作者|Damian Bogunowicz

GAN Dissection: Visualizing and Understanding Generative Adversarial Networks：可視化和理解生成性對(duì)抗網(wǎng)絡(luò) - 考慮到GAN的火熱程度，很明顯這項(xiàng)技術(shù)遲早會(huì)在商業(yè)上使用。但是，由于我們對(duì)其內(nèi)在機(jī)制知之甚少，我認(rèn)為創(chuàng)建可靠的產(chǎn)品仍然很困難。這項(xiàng)工作幫助我們真正理解與控制GAN。查看他們精彩的互動(dòng)演示進(jìn)化的

Evolutionary Generative Adversarial Networks - 這是一篇真正易讀且簡(jiǎn)單易懂的文章。進(jìn)化算法與GAN一起 - 這一定很酷。

GAN Dissection: Visualizing and Understanding Generative Adversarial Networks

論文地址：

https://arxiv.org/pdf/1811.10597.pdf

主要思想

毫無(wú)疑問(wèn)，GAN證明了深度神經(jīng)網(wǎng)絡(luò)的強(qiáng)大功能。 機(jī)器學(xué)習(xí)能夠生成令人驚嘆的高分辨率圖像，就好像它像我們一樣理解世界。 但是，就像其他統(tǒng)計(jì)模型一樣，他們較大的缺陷就是缺乏可解釋性。 這項(xiàng)研究向理解GAN邁出了非常重要的一步。 它允許我們?cè)谏善髦姓业健柏?fù)責(zé)”生成類(lèi)別c中某些對(duì)象的單元。 作者聲稱(chēng)，我們可以找到生成器的一層并找到一些單元，它們負(fù)責(zé)在生成的圖像中生成類(lèi)別c的物體。 作者通過(guò)引入兩個(gè)步驟：解剖（Dissection）和干預(yù)（Intervention），為每個(gè)類(lèi)別尋找一套“因果”單元。 此外，這可能是第一項(xiàng)工作，它為理解GAN的內(nèi)部機(jī)制提供了系統(tǒng)分析。

方法

生成器 G可以被視為潛在向量的映射 ? ? 到生成的圖像 X = G (z) ?。 我們的目標(biāo)是了解 r ，一種內(nèi)部表示，是生成器G的特定層的輸出。

X = G(z)= F(r)

我們想檢查一下r是否與類(lèi)別c的對(duì)象密切相關(guān)。我們知道 r包含有關(guān)這些特定對(duì)象的生成的編碼信息。 我們的目標(biāo)是了解這些信息如何在內(nèi)部編碼。 作者聲稱(chēng)有一種方法可以從r中提取這些單元，然后負(fù)責(zé)生成類(lèi)別c的對(duì)象。

問(wèn)題是，如何進(jìn)行這種分離？ 作者提出了兩個(gè)步驟，即解剖和干預(yù)。

解剖 - 我們想要識(shí)別我們感興趣的類(lèi)，它們具有明確的表示形式 r。 這是通過(guò)比較兩個(gè)圖像來(lái)完成的。 我們通過(guò)計(jì)算x獲得第一張圖像，然后運(yùn)行語(yǔ)義分割網(wǎng)絡(luò)，這將返回像感興趣的類(lèi)別的像素位置s_c(x) 。 第二張圖是通過(guò)在特征圖上進(jìn)行上采樣，使其維度與x相匹配 。然后對(duì)其進(jìn)行閾值處理以確定哪個(gè)像素被該特定單元“點(diǎn)亮”。 最后我們計(jì)算兩個(gè)輸出之間的空間一致性， 值越高，說(shuō)明類(lèi)別c與該單位因果效應(yīng)越強(qiáng)。 通過(guò)對(duì)每個(gè)單元執(zhí)行此操作，我們最終可以找出類(lèi)別c的用r中的單元的顯式表示 。

干預(yù) - 在這里我們要做的是確定相關(guān)的類(lèi)別。 現(xiàn)在，我們?cè)噲D找到每個(gè)類(lèi)別的較佳分割。 這意味著我們一方面消融（抑制）因果單元，希望感興趣的類(lèi)別從生成的圖像中消失。 另一方面，我們放大它們對(duì)生成圖像的影響，希望在生成的圖片中有更多類(lèi)別c的物體。 通過(guò)這種方式，我們可以了解它們對(duì)感興趣的類(lèi)別c的存在有多大貢獻(xiàn) 。 最后，我們將通過(guò)類(lèi)別分割的兩張圖片進(jìn)行比較。 語(yǔ)義圖之間越不像越好。 這意味著在一張圖像上我們完全“調(diào)整”了樹(shù)木的影響。

實(shí)驗(yàn)結(jié)果：

a）由Progressive GAN生成的教堂圖像，b）給定預(yù)先訓(xùn)練的Progressive GAN，我們識(shí)別負(fù)責(zé)生成類(lèi)“樹(shù)”的單元，c）我們可以抑制這些單元從圖像中“擦除”樹(shù)... d）放大圖像中樹(shù)木的密度

結(jié)果表明，我們正在理解網(wǎng)絡(luò)的內(nèi)部概念。 這些見(jiàn)解可以幫助我們改善網(wǎng)絡(luò)的行為。 了解圖像的哪些特征來(lái)自神經(jīng)網(wǎng)絡(luò)的哪個(gè)部分對(duì)于解釋?zhuān)虡I(yè)使用和進(jìn)一步研究非常有價(jià)值。

a）出于調(diào)試目的，我們可以識(shí)別引入工件......，b）和c）的那些單元并將它們關(guān)閉以“修復(fù)”GAN

它可以解決的一個(gè)問(wèn)題是生成不合理的圖片。即使是訓(xùn)練的很好的GAN有時(shí)也會(huì)產(chǎn)生非常不切實(shí)際的形象，而這些錯(cuò)誤的原因以前是未知的。現(xiàn)在我們可以將這些錯(cuò)誤與導(dǎo)致視覺(jué)偽像的神經(jīng)元集相關(guān)聯(lián)。通過(guò)識(shí)別和抑制這些單元，可以提高生成圖像的質(zhì)量。

通過(guò)將一些單位設(shè)置為固定的平均值，例如對(duì)于門(mén)，我們可以確保門(mén)將出現(xiàn)在圖像的某個(gè)位置。當(dāng)然，這不能違反分布的學(xué)習(xí)統(tǒng)計(jì)數(shù)據(jù)（我們不能強(qiáng)迫門(mén)出現(xiàn)在天空中）。另一個(gè)限制來(lái)自這樣的事實(shí)，即某些對(duì)象固有地鏈接到某些位置，因此無(wú)法從圖像中刪除它們。例如：人們不能簡(jiǎn)單地從會(huì)議大廳移去椅子，只能減少它們的密度或大小。

Evolutionary Generative Adversarial Networks

論文鏈接：

https://arxiv.org/abs/1803.00657

主要思想：

在經(jīng)典設(shè)置中，通過(guò)使用反向傳播交替更新生成器和鑒別器來(lái)訓(xùn)練GAN。 這個(gè)最小較大博弈是通過(guò)利用目標(biāo)函數(shù)中的交叉熵機(jī)制來(lái)實(shí)現(xiàn)的。 E-GAN的作者提出了基于進(jìn)化算法的替代GAN框架。 它們以進(jìn)化問(wèn)題的形式重述損失函數(shù)。 生成器的任務(wù)是在鑒別器的影響下經(jīng)歷恒定的突變。 根據(jù)“適者生存”的原則，人們希望上一代生成器能夠以這種方式“發(fā)展”，以便學(xué)習(xí)正確的訓(xùn)練樣本分布。

方法：

最初的GAN框架（左）與E-GAN框架（右）。在E-GAN框架中有一群生成器 G θ ?在動(dòng)態(tài)環(huán)境中發(fā)展 - 鑒別者 d 。該算法涉及三個(gè)階段：變化，評(píng)估和選擇。較好的后代保留下一次迭代。

進(jìn)化算法試圖在給定環(huán)境中（這里是鑒別器）發(fā)展一群生成器。群體中的每個(gè)個(gè)體代表生成網(wǎng)絡(luò)的參數(shù)空間中的可能解決方案。演變過(guò)程歸結(jié)為三個(gè)步驟：

變化：生成器個(gè)體 G θ ?生產(chǎn)孩子 G θ 0 ， G θ 1 ， G θ 2 ....通過(guò)根據(jù)某些突變屬性修改自身。

評(píng)估：使用適應(yīng)度函數(shù)評(píng)估每個(gè)孩子，這取決于鑒別器的當(dāng)前狀態(tài)

選擇：評(píng)估每個(gè)孩子，并根據(jù)適應(yīng)度函數(shù)確定它是否足夠好。如果是，則保留，否則將其丟棄。 這些步驟涉及兩個(gè)概念，應(yīng)該更詳細(xì)地討論：突變和適應(yīng)度函數(shù)。

突變 - 這些是在變異步驟中引入孩子的變化。受到原始GAN培訓(xùn)目標(biāo)的啟發(fā)。作者區(qū)分了三種最有效的突變類(lèi)型。這些是minmax突變（其促進(jìn)最小化Jensen-Shannon散度），啟發(fā)式突變（其添加反向Kullback-Leibler發(fā)散項(xiàng)）和最小二乘法突變（受LSGAN啟發(fā)）。

適應(yīng)度函數(shù) - 在進(jìn)化算法中，適應(yīng)度函數(shù)告訴我們給定孩子與實(shí)現(xiàn)既定目標(biāo)的距離。這里，適應(yīng)度函數(shù)包括兩個(gè)元素：質(zhì)量適應(yīng)得分和多樣性健康得分。前者確保，發(fā)生器產(chǎn)生的輸出可以欺騙鑒別器，而后者則注意生成樣本的多樣性。因此，一方面，教導(dǎo)的后代不僅要接近原始分布，還要保持多樣化，避免模式崩潰陷阱。

作者聲稱(chēng)他們的方法解決了多個(gè)眾所周知的問(wèn)題。 E-GAN不僅在穩(wěn)定性和抑制模式崩潰方面做得更好，還減輕了仔細(xì)選擇超參數(shù)和架構(gòu)（對(duì)收斂至關(guān)重要）的負(fù)擔(dān)。最后，作者聲稱(chēng)E-GAN比傳統(tǒng)的GAN框架更快收斂。

實(shí)驗(yàn)結(jié)果：?

該算法不僅在合成數(shù)據(jù)上進(jìn)行了測(cè)試，還對(duì)CIFAR-10數(shù)據(jù)集和Inception得分進(jìn)行了測(cè)試。作者修改了流行的GAN方法，如DCGAN，并在真實(shí)數(shù)據(jù)集上進(jìn)行了測(cè)試。結(jié)果表明，可以訓(xùn)練E-GAN從目標(biāo)數(shù)據(jù)分布生成各種高質(zhì)量的圖像。根據(jù)作者的說(shuō)法，在每個(gè)選擇步驟中只保留一個(gè)孩子就足以成功地遍歷參數(shù)空間以達(dá)到較佳解決方案。我發(fā)現(xiàn)E-GAN的這個(gè)屬性真的很有趣。此外，通過(guò)仔細(xì)檢查空間連續(xù)性，我們可以發(fā)現(xiàn)，E-GAN確實(shí)學(xué)到了從潛在的嘈雜空間到圖像空間的有意義的投影。通過(guò)在潛在矢量之間插值，我們可以獲得生成的圖像，其平滑地改變語(yǔ)義上有意義的面部屬性。

原文鏈接：

https://dtransposed.github.io/blog/Best-of-GANs-2018-(Part-1-out-of-2).html

聲明：本文版權(quán)歸原作者所有，文章收集于網(wǎng)絡(luò)，為傳播信息而發(fā)，如有侵權(quán)，請(qǐng)聯(lián)系小編及時(shí)處理，謝謝！

商業(yè)智能與數(shù)據(jù)分析群

興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價(jià)值的辦法，實(shí)際應(yīng)用案例分享與討論，分析工具，ETL工具，數(shù)據(jù)倉(cāng)庫(kù)，數(shù)據(jù)挖掘工具，報(bào)表系統(tǒng)等全方位知識(shí)

QQ群：81035754