我們身處數(shù)字化浪潮中,知識(shí)管理和利用的重要性與日俱增。擁有一個(gè)專屬的本地知識(shí)庫(kù),能極大提升工作效率,滿足個(gè)性化需求。但對(duì)于技術(shù)小白來(lái)說(shuō),搭建這樣的知識(shí)庫(kù)不僅存在技術(shù)門(mén)檻,同時(shí)也意味著需要一定的成本投入。
本期 DeepSeek 入門(mén)教程,優(yōu)刻得將為您提供一個(gè)0成本基于DeepSeek(滿血版)輕松搭建本地知識(shí)庫(kù)的方式。
登錄 UCloud 控制臺(tái)https://console.ucloud.cn/,查找“模型服務(wù)平臺(tái)” URL:https://console.ucloud.cn/modelverse/experience
選擇“體驗(yàn)中心”,并申請(qǐng)權(quán)限
申請(qǐng)通過(guò)后,訪問(wèn)獲取模型服務(wù)Key https://console.ucloud.cn/uapi/detail?id=GetUMInferService
直接點(diǎn)“發(fā)送請(qǐng)求” ——>"確認(rèn)發(fā)送請(qǐng)求"
在“響應(yīng)結(jié)果” 里面Copy出 "Key"對(duì)應(yīng)的值
到這里成功拿到Key信息。
通過(guò)官方網(wǎng)址:Cherry Studio - 全能的AI助手
下載安裝客戶端(這里以Mac版演示)
打開(kāi)Cherry Studio ,點(diǎn)擊左下角的齒輪配置圖標(biāo),選擇“模型服務(wù)”,點(diǎn)擊“+添加”
這里提供商名稱填寫(xiě)UCloud,提供商類(lèi)型選擇 OpenAI 點(diǎn)“確定”
這里填寫(xiě)信息為:
API密鑰: 填寫(xiě)前面從UCloud平臺(tái)獲取到的Key
API地址: https://console.ucloud.cn/uapi/detail?id=GetUMInferService
點(diǎn)擊模型 “+添加”
這里我們填寫(xiě) deepseek-ai/DeepSeek-R1 如下圖,點(diǎn)“添加模型”
添加模型完成后,點(diǎn)“檢查” 在彈窗上“確定” 測(cè)試連接成功
點(diǎn)選“默認(rèn)模型” ,這里均選擇剛才的 deepseek-ai/DeepSeek-R1 模型
點(diǎn)左邊“助手”圖標(biāo),測(cè)試聊天對(duì)話正常
打開(kāi)Ollama官網(wǎng),點(diǎn)“Download”
請(qǐng)根據(jù)本地電腦選擇下載的ollama版(這里演示下載的是 Download for macOS)
下載完成后,打開(kāi)ollama應(yīng)用點(diǎn) “Next”
接下來(lái)我們點(diǎn) “Install” 安裝ollama
直接點(diǎn) “Finish” ollama安裝完成
接下來(lái)打開(kāi)一個(gè)終端,打開(kāi)Mac終端方法:
點(diǎn)擊屏幕左下角的“啟動(dòng)臺(tái)(Launchpad)”圖標(biāo),查找框里輸入“終端”找到并點(diǎn)擊“終端”圖標(biāo)即可打開(kāi)終端
在終端輸入 ollama pull bge-m3 回車(chē)安裝
等待完成后再輸入 ollama list 查看到 bge-m3:latest 已安裝成功
繼續(xù)回到Cherry Studio 客戶端,打開(kāi)“模型服務(wù)”——>選擇 Ollama
并在 API地址框輸入 http://localhost:11434/v1/,點(diǎn)擊“添加”
如下圖輸入 bge-m3:latest信息,點(diǎn)擊“添加模型”
檢查下Ollama 和 UCloud 模型均配置正常且為ON 開(kāi)啟狀態(tài)
接著操作“添加知識(shí)庫(kù)”
在本地準(zhǔn)備一份測(cè)試數(shù)據(jù)
將測(cè)試文檔拖過(guò)來(lái)傳入知識(shí)庫(kù)
回到對(duì)話框,并點(diǎn)選知識(shí)庫(kù),測(cè)試提問(wèn)
提的問(wèn)題是“中午吃飯時(shí)間是什么?” 智能回答“中午吃飯時(shí)間為11:59至13:00” 結(jié)果符合預(yù)期。
優(yōu)刻得將持續(xù)為您輸出DeepSeek保姆級(jí)上手指南,帶你從入門(mén)到精通。
下一期,我們將為您提供“0成本用DeepSeek(滿血版)搭建AI編程助手”的上手教程,敬請(qǐng)期待!
如需更多幫助,歡迎掃描下方二維碼,或前往官網(wǎng)了解:http://systransis.cn/site/product/modelverse.html
聯(lián)系線上客服咨詢指導(dǎo)!
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://systransis.cn/yun/131190.html
DeepSeek V3憑借多頭潛注意力(MLA)與優(yōu)化的混合專家網(wǎng)絡(luò)(MoE)架構(gòu),奠定了高效訓(xùn)練的基礎(chǔ),僅以557.6萬(wàn)元成本實(shí)現(xiàn)媲美OpenAI O1的性能;而R1則基于V3進(jìn)一步突破,通過(guò)無(wú)監(jiān)督強(qiáng)化學(xué)習(xí)與知識(shí)蒸餾技術(shù),在推理能力上對(duì)標(biāo)頂尖模型,同時(shí)開(kāi)源多尺寸版本,推動(dòng)更廣泛的應(yīng)用。DeepSeek三種模式對(duì)比基礎(chǔ)模型(V3):通用模型(2024.12),高效便捷,適用于絕大多數(shù)任務(wù),規(guī)范性 ...
DeepSeek 的持續(xù)火熱,吸引了大量個(gè)人開(kāi)發(fā)者和企業(yè)用戶,他們期望借助 DeepSeek 大模型的強(qiáng)大能力,融合私有知識(shí)庫(kù),訓(xùn)練出契合自身需求的專屬大模型,因此紛紛選擇通過(guò)云端或本地部署的方式來(lái)獨(dú)立部署 DeepSeek。今天,優(yōu)刻得就為大家?guī)?lái)第一期超實(shí)用干貨:僅需 10 分鐘,利用 UCloud 云主機(jī) UHost+DeepSeek + Open-WebUI 快速搭建起屬于自己的私有化知識(shí)...
2月10日,清華大學(xué)KVCache.AI團(tuán)隊(duì)聯(lián)合趨境科技發(fā)布的KTransformers開(kāi)源項(xiàng)目公布更新:一塊24G顯存的4090D就可以在本地運(yùn)行DeepSeek-R1、V3的671B滿血版。預(yù)處理速度最高達(dá)到286 tokens/s,推理生成速度最高能達(dá)到14 tokens/s。KTransformers通過(guò)優(yōu)化本地機(jī)器上的LLM部署,幫助解決資源限制問(wèn)題。該框架采用了異構(gòu)計(jì)算、先進(jìn)量化技術(shù)、...
項(xiàng)目簡(jiǎn)介DeepSeek-V2,一個(gè)專家混合(MoE)語(yǔ)言模型,其特點(diǎn)是經(jīng)濟(jì)高效的訓(xùn)練和推理。它包含 2360 億個(gè)總參數(shù),其中每個(gè)token激活了21億個(gè)參數(shù)。與 DeepSeek67B相比,DeepSeek-V2 實(shí)現(xiàn)了更強(qiáng)的性能,同時(shí)節(jié)省了 42.5%的訓(xùn)練成本,將 KV 緩存減少了 93.3%,并將最大生成吞吐量提高了 5.76 倍。在 AlignBench 中排名前三,超越 GPT-4,...
DeepSeek-R1-32B-WebUIDeepSeek-R1采用強(qiáng)化學(xué)習(xí)進(jìn)行后訓(xùn)練,旨在提升推理能力,尤其擅長(zhǎng)數(shù)學(xué)、代碼和自然語(yǔ)言推理等復(fù)雜任務(wù),該鏡像安裝和使用 Ollama 和 Open WebUI,以便更好地利用深度學(xué)習(xí)模型進(jìn)行推理和交互。第一步:登錄「優(yōu)云智算」算力共享平臺(tái)并進(jìn)入「鏡像社區(qū)」地址:https://www.compshare.cn/?ytag=seo第二步:選擇「Deep...
閱讀 107·2025-02-19 18:27
閱讀 128·2025-02-19 18:21
閱讀 64·2025-02-19 13:50
閱讀 793·2025-02-13 22:35
閱讀 504·2025-02-08 10:20
閱讀 5778·2025-01-02 11:25
閱讀 741·2024-12-10 11:51
閱讀 580·2024-11-07 17:59