個(gè)人中心PERSONAL CENTER
5月20日，微軟在其特別活動(dòng)上，向世界介紹了一種新類(lèi)別的WindowsPC，一款專(zhuān)為AI設(shè)計(jì)的Copilot+ PC。Copilot+ PC引入了全新的系統(tǒng)架構(gòu)，將 CPU、GPU和高性能神經(jīng)處理單元(NPU)結(jié)合在一起，并與 Azure 云中的大語(yǔ)言模型(LLM)和小語(yǔ)言模型(SLM)協(xié)同工作，帶來(lái)前...
項(xiàng)目簡(jiǎn)介DeepSeek-V2，一個(gè)專(zhuān)家混合(MoE)語(yǔ)言模型，其特點(diǎn)是經(jīng)濟(jì)高效的訓(xùn)練和推理。它包含 2360 億個(gè)總參數(shù)，其中每個(gè)token激活了21億個(gè)參數(shù)。與 DeepSeek67B相比，DeepSeek-V2 實(shí)現(xiàn)了更強(qiáng)的性能，同時(shí)節(jié)省了 42.5%的訓(xùn)練成本，將 KV 緩存減少了 93.3%，并將...
Llama3 中文聊天項(xiàng)目綜合資源庫(kù)，該文檔集合了與Lama3 模型相關(guān)的各種中文資料，包括微調(diào)版本、有趣的權(quán)重、訓(xùn)練、推理、評(píng)測(cè)和部署的教程視頻與文檔。1. 多版本支持與創(chuàng)新：該倉(cāng)庫(kù)提供了多個(gè)版本的Lama3 模型，包括基于不同技術(shù)和偏好的微調(diào)版本，如直接中文...
項(xiàng)目簡(jiǎn)介Funclip 是阿里巴巴通義實(shí)驗(yàn)室開(kāi)源的一款視頻剪輯工具，專(zhuān)門(mén)用于精準(zhǔn)、便捷的視頻切片。它能夠自動(dòng)識(shí)別視頻中的中文語(yǔ)音并允許用戶(hù)根據(jù)語(yǔ)音內(nèi)容來(lái)裁剪視頻。該工具使用了阿里巴巴語(yǔ)音識(shí)別模型FunASR Paraformer-Large確保了剪輯的精準(zhǔn)性。你可以根據(jù)...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得廉價(jià)算力，進(jìn)行AI視頻生成等模型開(kāi)發(fā)和應(yīng)用呢？Compshare是隸屬于UCloud云計(jì)算的GPU算力平臺(tái)，專(zhuān)注提供高性?xún)r(jià)比的NVIDIA RTX 40 系列資源，滿(mǎn)足 AI應(yīng)用、模型推理/微...
Gradient Al最近將Llama-3 8B和7B模型通過(guò)漸進(jìn)式訓(xùn)練方法不斷將Llama-3模型的上下文長(zhǎng)度從8k-路擴(kuò)展到262k、524k今天Gradient Al成功宣布成功地將Llama-3 系列模型的上下文長(zhǎng)度擴(kuò)展到超過(guò)1 M...并且1M上下文窗口 70B 模型在 NIAH(大海撈針)上取得了完美分?jǐn)?shù)。...
NVIDIA和MIT的研究人員推出了一種新的視覺(jué)語(yǔ)言模型(VLM)預(yù)訓(xùn)練框架，名為VILA。這個(gè)框架旨在通過(guò)有效的嵌入對(duì)齊和動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)架構(gòu)，改進(jìn)語(yǔ)言模型的視覺(jué)和文本的學(xué)習(xí)能力。VILA通過(guò)在大規(guī)模數(shù)據(jù)集如Coy0-700m上進(jìn)行預(yù)訓(xùn)練，采用基于LLaVA模型的不同預(yù)訓(xùn)練策略...
NVIDIA和MIT的研究人員推出了一種新的視覺(jué)語(yǔ)言模型(VLM)預(yù)訓(xùn)練框架，名為VILA。這個(gè)框架旨在通過(guò)有效的嵌入對(duì)齊和動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)架構(gòu)，改進(jìn)語(yǔ)言模型的視覺(jué)和文本的學(xué)習(xí)能力。VILA通過(guò)在大規(guī)模數(shù)據(jù)集如Coy0-700m上進(jìn)行預(yù)訓(xùn)練，采用基于LLaVA模型的不同預(yù)訓(xùn)練策略...
ollama介紹在本地啟動(dòng)并運(yùn)行大型語(yǔ)言模型。運(yùn)行Llama 3、Phi 3、Mistral、Gemma和其他型號(hào)。Llama 3Meta Llama 3 是 Meta Inc. 開(kāi)發(fā)的一系列最先進(jìn)的模型，提供8B和70B參數(shù)大?。A(yù)訓(xùn)練或指令調(diào)整）。Llama 3 指令調(diào)整模型針對(duì)對(duì)話(huà)/聊天用例進(jìn)行了微調(diào)和優(yōu)化...
Perplexica是一個(gè)開(kāi)源的人工智能搜索工具，也可以說(shuō)是一款人工智能搜索引擎，它深入互聯(lián)網(wǎng)以找到答案。受Perplexity AI啟發(fā)，它是一個(gè)開(kāi)源選擇，不僅可以搜索網(wǎng)絡(luò)，還能理解您的問(wèn)題。它使用先進(jìn)的機(jī)器學(xué)習(xí)算法，如相似性搜索和嵌入式技術(shù)，以精細(xì)化結(jié)果，并...
Llama3-8B-Chinese-Chat 是基于 Meta-Llama-3-8B-Instruct 模型通過(guò) ORPO進(jìn)行微調(diào)的中文聊天模型。與原始的 Meta-Llama-3-8B-Instruct 模型相比，此模型顯著減少了中文問(wèn)題英文回答"和混合中英文回答的問(wèn)題。此外，相較于原模型，新模型在回答中大量減少了...
2024年4月18日，Meta AI正式宣布推出開(kāi)源大模型Llama3，這標(biāo)志著開(kāi)源大型語(yǔ)言模型（LLM）領(lǐng)域的又一重大突破。Llama3以其卓越的性能和廣泛的應(yīng)用前景，或?qū)⑼苿?dòng)人工智能技術(shù)快速邁進(jìn)新紀(jì)元。為方便AI應(yīng)用企業(yè)及個(gè)人AI開(kāi)發(fā)者快速體驗(yàn)Llama3的超高性能，近期優(yōu)...
隨著人工智能的持續(xù)火熱，好的加速卡成為了各行業(yè)的重點(diǎn)關(guān)注對(duì)象，因?yàn)樵贏I機(jī)器學(xué)習(xí)中，通常涉及大量矩陣運(yùn)算、向量運(yùn)算和其他數(shù)值計(jì)算。這些計(jì)算可以通過(guò)并行處理大幅提高效率，而高端顯卡的存在，使得在處理要求擁有大量算力的任務(wù)時(shí)，變得不那么難了。這篇...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關(guān)性能圖表。同時(shí)根據(jù)訓(xùn)練、推理能力由高到低做了排名。我們可以看到，H100 GPU的8位性能與16位性能的優(yōu)化與其他GPU存在巨大差距。針對(duì)大模型訓(xùn)練來(lái)說(shuō)，H100和A100有絕對(duì)的優(yōu)勢(shì)首先，從架構(gòu)角度來(lái)看，A100采...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說(shuō)合適，而是非常香！直接上圖！通過(guò)Tensor FP32（TF32）的數(shù)據(jù)來(lái)看，H100性能是全方面碾壓4090，但是頂不住H100價(jià)格太貴，推理上使用性?xún)r(jià)比極低。但在和A100的PK中，4090與A100除了在顯...
