模型壓縮精品文章

• 

  深度神經(jīng)網(wǎng)絡(luò)的壓縮和正則化

  ...層的卷積神經(jīng)網(wǎng)絡(luò)（如Alexnet和VGGnet），深度壓縮可以將模型大小減少35到49倍。即使對于全卷積神經(jīng)網(wǎng)絡(luò)（如GoogleNet和SqueezeNet），深度壓縮也可以將模型大小減少10倍。而且上述兩種壓縮情況都不會降低模型預(yù)測的精度。當(dāng)前的...

  blankyao 2019-04-25 18:08 評論0 收藏0
• 

  輕量化神經(jīng)網(wǎng)絡(luò)

  1、基本卷積運(yùn)算手工設(shè)計輕量化模型主要思想在于設(shè)計更高效的網(wǎng)絡(luò)計算方式（主要針對卷積方式），從而使網(wǎng)絡(luò)參數(shù)減少，并且不損失網(wǎng)絡(luò)性能。本節(jié)概述了CNN模型（如MobileNet及其變體）中使用的基本卷積運(yùn)算單元，并...

  curried 2019-04-25 18:30 評論0 收藏0
• 

  揭秘支付寶中的深度學(xué)習(xí)引擎：xNN

  本文介紹支付寶App中的深度學(xué)習(xí)引擎——xNN。xNN通過模型和計算框架兩個方面的優(yōu)化，解決了深度學(xué)習(xí)在移動端落地的一系列問題。xNN的模型壓縮工具 (xqueeze) 在業(yè)務(wù)模型上實現(xiàn)了近50倍的壓縮比， 使得在包預(yù)算極為有限的移動...

  wayneli 2019-04-25 18:19 評論0 收藏0
• 

  AWS推出MXNet模型服務(wù)器

  ...r for Apache MXNet（MMS）是一個開源組件，旨在簡化深度學(xué)習(xí)模型的部署。部署深度學(xué)習(xí)模型不是一項簡單的任務(wù)，它要求收集各種模型文件、搭建服務(wù)棧、初始化和配置深度學(xué)習(xí)框架、暴露端點、實時發(fā)送度量指標(biāo)，并運(yùn)行自定義...

  hover_lew 2019-04-25 18:23 評論0 收藏0
• 

  無問芯穹Qllm-Eval：制作多模型、多參數(shù)、多維度的量化方案

  前言近年來，大語言模型（Large Models, LLMs）受到學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注，得益于其在各種語言生成任務(wù)上的出色表現(xiàn)，大語言模型推動了各種人工智能應(yīng)用（例如ChatGPT、Copilot等）的發(fā)展。然而，大模型的落地應(yīng)用受到其較...

  UCloud小助手 2024-06-25 11:55 評論0 收藏0
• 

  TensorFlow 首個優(yōu)化工具來了：模型壓縮4倍，速度提升3倍！

  ...論是新手還是高級開發(fā)人員，都可以使用來優(yōu)化機(jī)器學(xué)習(xí)模型以進(jìn)行部署和執(zhí)行的技術(shù)。這些技術(shù)對于優(yōu)化任何用于部署的TensorFlow模型都非常有用。特別是對于在內(nèi)存緊張、功耗限制和存儲有限的設(shè)備上提供模型的TensorFlow Lite...

  wangdai 2019-04-25 18:30 評論0 收藏0
• 

  首次披露！阿里線下智能方案進(jìn)化史

  ...得了一些小小的成績。算法方面，我們提出了自主研發(fā)的模型壓縮方法，新型模型結(jié)構(gòu)和目標(biāo)檢測框架；工程方面，我們研發(fā)出一套非數(shù)據(jù)依賴的量化訓(xùn)練工具，并且針對不同硬件平臺，研發(fā)了高效推理計算庫；同時我們也和服...

  keelii 2019-06-26 19:00 評論0 收藏0
• 

  阿里開源首個深度學(xué)習(xí)框架 X-Deep Learning！

  ...百億甚至千億。進(jìn)一步的，不少產(chǎn)品應(yīng)用需要大規(guī)模深度模型的實時訓(xùn)練與更新，現(xiàn)有開源框架在分布式性能、計算效率、水平擴(kuò)展能力以及實時系統(tǒng)適配性的等方面往往難以滿足工業(yè)級生產(chǎn)應(yīng)用的需求。 X-DeepLearning正是面向這...

  hankkin 2019-06-26 18:42 評論0 收藏0