文章庫ARTICLE COLUMN
摘要：行為識別包含兩個研究方向個體行為識別與群體行為事件識別。同時，隨著行人智能分析與群體事件感知的需求與日俱增，一系列行為分析與事件識別算法在深度學(xué)習(xí)技術(shù)的推動下應(yīng)運(yùn)而生。 行為識別是指通過分析視頻、深度傳感器等數(shù)據(jù)，利用特定的算法，對行...
摘要：例如，即插即用生成網(wǎng)絡(luò)通過優(yōu)化結(jié)合了自動編碼器損失，損失，和通過與訓(xùn)練的分類器定于的分類損失的目標(biāo)函數(shù)，得到了較高水平的樣本。該論文中，作者提出了結(jié)合的原則性方法。 在機(jī)器學(xué)習(xí)研究領(lǐng)域，生成式對抗網(wǎng)絡(luò)（GAN）在學(xué)習(xí)生成模型方面占據(jù)著統(tǒng)治...
摘要：由吳恩達(dá)領(lǐng)導(dǎo)的斯坦福大學(xué)機(jī)器學(xué)習(xí)小組，研發(fā)出一種新的深度學(xué)習(xí)算法，可以診斷種類型的心律失常。吳恩達(dá)表示，機(jī)器學(xué)習(xí)模型可以比專家更較精確的診斷心律失常。這項(xiàng)研究可能是機(jī)器學(xué)習(xí)徹底改變醫(yī)療行業(yè)的標(biāo)志之一。 由吳恩達(dá)領(lǐng)導(dǎo)的斯坦福大學(xué)機(jī)器學(xué)習(xí)...
摘要：目前用于語義分割研究的兩個最重要數(shù)據(jù)集是和。發(fā)展中的方法效果。論文于年月日提交到主要貢獻(xiàn)將端到端的卷積網(wǎng)絡(luò)推廣到語義分割中重新將預(yù)訓(xùn)練好的網(wǎng)絡(luò)用于分割問題中使用反卷積層進(jìn)行上采樣提出了跳躍連接來改善上采樣的粗糙程度。 語義分割是什么？...
摘要：然而，可用數(shù)據(jù)集的規(guī)模卻沒有成比例地?cái)U(kuò)大。這還說明無監(jiān)督表征學(xué)習(xí)，以及半監(jiān)督表征學(xué)習(xí)方法有良好的前景。例如，對于對象探測得分，單個模型目前可以實(shí)現(xiàn)，高于此前的。此外，構(gòu)建包含圖片的數(shù)據(jù)集并不是最終目標(biāo)。 都說深度學(xué)習(xí)的興起和大數(shù)據(jù)息息...
摘要：一項(xiàng)由清華大學(xué)計(jì)算機(jī)系智能技術(shù)與系統(tǒng)國家重點(diǎn)實(shí)驗(yàn)室清華國家信息實(shí)驗(yàn)室清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系英特爾中國研究院清華大學(xué)電子工程系的研究人員共同參與的關(guān)于高效視覺目標(biāo)檢測的研究已經(jīng)被接收。 一項(xiàng)由清華大學(xué)計(jì)算機(jī)系智能技術(shù)與系統(tǒng)國家重點(diǎn)實(shí)...
摘要：而從貝葉斯概率視角描述深度學(xué)習(xí)會產(chǎn)生很多優(yōu)勢，即具體從統(tǒng)計(jì)的解釋和屬性，從對優(yōu)化和超參數(shù)調(diào)整更有效的算法，以及預(yù)測性能的解釋這幾個方面進(jìn)一步闡述。貝葉斯層級模型和深度學(xué)習(xí)有很多相似的優(yōu)勢。 論文地址：https://arxiv.org/abs/1706.00473深...
摘要：人工智能的主流算法深度學(xué)習(xí)的歷史，堪稱也是深度學(xué)習(xí)三劍客和共同走過的年艱難而輝煌的不悔人生。之后使用一種稱為監(jiān)督學(xué)習(xí)的方法來訓(xùn)練感知器，以正確區(qū)分不同形狀。表示，多層次神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)并不會使感知器強(qiáng)大到有實(shí)用價(jià)值。 人工智能的主流算法D...
摘要：循環(huán)神經(jīng)網(wǎng)絡(luò)令語音和自然語言處理達(dá)到了新階段。自歸一化神經(jīng)網(wǎng)絡(luò)對于擾動是具有魯棒性的，它在訓(xùn)練誤差上并沒有高方差見圖。構(gòu)建自歸一化神經(jīng)網(wǎng)絡(luò)我們通過調(diào)整函數(shù)的屬性以構(gòu)建自歸一化神經(jīng)網(wǎng)絡(luò)。 近日，arXiv 上公開的一篇 NIPS 投稿論文《Self-Norm...
摘要：本文將告訴你如何用最省錢的方式，來搭建一個高性能深度學(xué)習(xí)系統(tǒng)。 由于深度學(xué)習(xí)的計(jì)算相當(dāng)密集，所以有人覺得必須要購買一個多核快速CPU， 也有人認(rèn)為購買快速CPU可能是種浪費(fèi)。?那么，這兩種觀點(diǎn)哪個是對的？ 其實(shí)，在建立深度學(xué)習(xí)系統(tǒng)時，...
摘要：所謂的生成式對抗網(wǎng)絡(luò)是深度學(xué)習(xí)領(lǐng)域內(nèi)最熱門的主題，有望以更少的人力創(chuàng)建更擅長學(xué)習(xí)的系統(tǒng)。警察與偽造者生成式對抗網(wǎng)絡(luò)減少深度學(xué)習(xí)所需要的數(shù)據(jù)生成式對抗網(wǎng)絡(luò)通過減少訓(xùn)練深度學(xué)習(xí)算法所需的數(shù)據(jù)量來解決該問題。 如果您還未聽說過生成式對抗網(wǎng)絡(luò)...
摘要：前言標(biāo)題不能再中二了本文僅對一些常見的優(yōu)化方法進(jìn)行直觀介紹和簡單的比較，各種優(yōu)化方法的詳細(xì)內(nèi)容及公式只好去認(rèn)真啃論文了，在此我就不贅述了。就是每一次迭代計(jì)算的梯度，然后對參數(shù)進(jìn)行更新，是最常見的優(yōu)化方法了。 前言（標(biāo)題不能再中二了）本...
摘要：一段時間以來，我一直在嘗試使用生成神經(jīng)網(wǎng)絡(luò)制作人物肖像。生成圖像的質(zhì)量與低分辨率輸出實(shí)現(xiàn)密切相關(guān)。在第一階段，根據(jù)給定描述生成相對原始的形狀和基本的色彩，得出低分辨圖像。使用生成的圖像比現(xiàn)有方法更加合理逼真。 一段時間以來，我一直在嘗...
摘要：主要的功能和改進(jìn)上支持。對象現(xiàn)在從屬于，在發(fā)布時的嚴(yán)格描述已經(jīng)被刪除一個首次被使用，它自己緩存其范圍。在發(fā)布前，許多的的功能和類別都在命名空間中，后被移到。雖然我們會盡量保持源代碼與兼容，但不能保證。為增加了雙線性插值。 主要的功能和...
摘要：我們提出了，它是一個分布式在上可實(shí)現(xiàn)高效通信的架構(gòu)。利用深度程序中的層級模型結(jié)構(gòu)而疊加通信與計(jì)算，這樣以減少突發(fā)性網(wǎng)絡(luò)通信。此外，使用混合的通信方案，并根據(jù)層級屬性和機(jī)器數(shù)量優(yōu)化每一層同步所要求的字節(jié)數(shù)。表神經(jīng)網(wǎng)絡(luò)的評估。 論文：Posei...
摘要：團(tuán)隊(duì)昨天發(fā)布的一個模型學(xué)會一切論文背后，有一個用來訓(xùn)練模型的模塊化多任務(wù)訓(xùn)練庫。模塊化的多任務(wù)訓(xùn)練庫利用工具來開發(fā)，定義了一個深度學(xué)習(xí)系統(tǒng)中需要的多個部分?jǐn)?shù)據(jù)集模型架構(gòu)優(yōu)化工具學(xué)習(xí)速率衰減計(jì)劃，以及超參數(shù)等等。 Google Brain團(tuán)隊(duì)昨天發(fā)...
摘要：但是在傳統(tǒng)的機(jī)器學(xué)習(xí)中，特征和算法都是人工定義的。傳統(tǒng)的深度學(xué)習(xí)中，是由人來決定要解決什么問題，人來決定用什么目標(biāo)函數(shù)做評估。 隨著柯潔與AlphaGo結(jié)束以后，大家是不是對人工智能的底層奧秘越來越有興趣？深度學(xué)習(xí)已經(jīng)在圖像分類、檢測等諸多領(lǐng)...
摘要：近段時間以來，張量與新的機(jī)器學(xué)習(xí)工具如是非常熱門的話題，在那些尋求應(yīng)用和學(xué)習(xí)機(jī)器學(xué)習(xí)的人看來更是如此。計(jì)算機(jī)之所以可憑極快速度求出用線性代數(shù)編寫的程序值，部分原因是線性代數(shù)具有規(guī)律性。但是，我們沒有必要把自己限制在線性代數(shù)上。 近段時...
摘要：深度神經(jīng)網(wǎng)絡(luò)還不清楚如何來檢測參議員投票數(shù)據(jù)集中的關(guān)鍵影響者。目前還不清楚如何用深度神經(jīng)網(wǎng)絡(luò)技術(shù)來推斷不在視頻中的投球手的存在。深度神經(jīng)網(wǎng)絡(luò)在高維特征的處理上很糟糕，這一點(diǎn)不像算法強(qiáng)健的隨機(jī)森林，它需要重度調(diào)參。 1/ 深度學(xué)習(xí)做不了什么...
摘要：為了使的思想更具體化，現(xiàn)在我們來看一下在深度神經(jīng)網(wǎng)絡(luò)中執(zhí)行多任務(wù)學(xué)習(xí)的兩種最常用的方法。圖深度神經(jīng)網(wǎng)絡(luò)多任務(wù)學(xué)習(xí)的參數(shù)共享共享參數(shù)大大降低了過擬合的風(fēng)險(xiǎn)。 目錄1.介紹2.動機(jī)3.兩種深度學(xué)習(xí) MTL 方法Hard 參數(shù)共享Soft 參數(shù)共享4.為什么 MTL ...
摘要：音頻超分辨率旨在重建一個以較低分辨率波形作為輸入的高分辨率音頻波形。由于受到深度學(xué)習(xí)成功應(yīng)用于圖像超分辨率的啟發(fā)，我最近致力于使用深層神經(jīng)網(wǎng)絡(luò)來完成原始音頻波形的上采樣。上采樣塊使用子像素卷積，其沿著一個維度重新排列信息以擴(kuò)展其他維度...
摘要：這種分布式版本的利用了加速服務(wù)器的虛擬化集群，這些集群采用經(jīng)濟(jì)高性能的計(jì)算方法，將深度學(xué)習(xí)的訓(xùn)練時間從數(shù)周縮短到數(shù)小時。 IBM今日宣布推出了一款新的 PowerAI 深度學(xué)習(xí)軟件，該軟件基于 Power Systems 而構(gòu)建，可幫助數(shù)據(jù)科學(xué)家與開發(fā)人員解決所...
摘要：于是，這些黑箱模型經(jīng)常在學(xué)習(xí)過程中受到數(shù)據(jù)偏差的影響，而導(dǎo)致圖像推理的錯誤。程序生成器是由模型實(shí)現(xiàn)的。從左至右，每個問題都會向程序增加一個模塊，在上圖中，增加的模塊用下劃線表示。斯坦福大學(xué)表示將在最近將其開源。 深度學(xué)習(xí)著名學(xué)者 Yann L...
摘要：有能力對元胞狀態(tài)添加或者刪除信息，這種能力通過一種叫門的結(jié)構(gòu)來控制。一個有個這種門，來保護(hù)和控制元胞狀態(tài)。輸出將會基于目前的元胞狀態(tài)，并且會加入一些過濾。同時也將元胞狀態(tài)和隱狀態(tài)合并，同時引入其他的一些變化。 循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)人們的每...
摘要：深度學(xué)習(xí)方法是否已經(jīng)強(qiáng)大到可以使科學(xué)分析任務(wù)產(chǎn)生最前沿的表現(xiàn)在這篇文章中我們介紹了從不同科學(xué)領(lǐng)域中選擇的一系列案例，來展示深度學(xué)習(xí)方法有能力促進(jìn)科學(xué)發(fā)現(xiàn)。 深度學(xué)習(xí)在很多商業(yè)應(yīng)用中取得了前所未有的成功。大約十年以前，很少有從業(yè)者可以預(yù)...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關(guān)性能圖表。同時根據(jù)訓(xùn)練、推理能力由高到低做了...
89542767
社區(qū)管理員
白馬嘯西風(fēng)