北京網(wǎng)頁設(shè)計(jì)高端定制/蘇州seo服務(wù)熱線
[AI]Mac本地部署DeepSeek R1模型 — — 保姆級教程
DeepSeek R1是中國AI初創(chuàng)公司深度求索(DeepSeek)推出大模型DeepSeek-R1。 作為一款開源模型,R1在數(shù)學(xué)、代碼、自然語言推理等任務(wù)上的性能能夠比肩OpenAI o1模型正式版,并采用MIT許可協(xié)議,支持免費(fèi)商用、任意修改和衍生開發(fā)等。 截至2月5日,國內(nèi)外已有眾多云平臺宣布上線DeepSeek- R1大模型。
- DeepSeek官方地址:https://www.deepseek.com/
- 但因目前遭到國外不明人員攻擊以及訪問量激增的原因,導(dǎo)致官方聊天不穩(wěn)定,本文將介紹如何本地安裝部署Deepseek R1模型,解決網(wǎng)絡(luò)不穩(wěn)定的窘境
安裝ollama
-
訪問官網(wǎng)選擇mac os進(jìn)行下載,官網(wǎng)地址:https://ollama.com/
-
下載下來的文件為:Ollama-darwin.zip
-
點(diǎn)擊解壓,并移動到application
-
點(diǎn)擊next,點(diǎn)擊Install安裝ollama
安裝Deepseek模型
-
根據(jù)頁面提示在終端執(zhí)行命令,運(yùn)行ollama即可(但因?yàn)槲覀冃枰渴餯eepseek,所以后面修改下模型版本即可)
-
來到ollama官網(wǎng),點(diǎn)擊models,選擇對應(yīng)版本
-
點(diǎn)擊之后,復(fù)制對應(yīng)命令,在終端執(zhí)行即可
-
等待模型下載完成后,就可以直接在終端進(jìn)行對話
安裝可視化聊天頁面chatbox
- 通過終端命令行操作肯定是不太方便的,所以接下來我們將通過chatbox搭建web可視化頁面,方便我們與其對話
- 打開官方地址:https://chatboxai.app/en,點(diǎn)擊download
- 根據(jù)自己mac搭載的芯片,選擇對應(yīng)版本進(jìn)行下載
- 下載完后是.dmg文件,直接雙擊無腦安裝即可
- 然后在應(yīng)用程序中找到我們安裝的chatbox,雙擊啟動,并選擇使用自己的本地模型
- 選擇模型提供方ollama,并配置本地模型參數(shù)
查看效果
來到聊天框,輸入問題,查看AI回答:
拓展:ollama常用命令
# 啟動ollama服務(wù)
ollama serve# 創(chuàng)建模型:使用 Modelfile 來創(chuàng)建一個(gè)新模型。你需要提供一個(gè)包含模型信息的 Modelfile
ollama create /path/to/Modelfile# 顯示模型信息
ollama show model_name# 列出本地所有模型
ollama list
ollama ls# 運(yùn)行模型
ollama run model_name# 列出正在運(yùn)行的模型
ollama ps# 停止模型
ollama stop model_name# 刪除一個(gè)已安裝的模型
ollama rm model_name# 查看版本信息
ollama -v# 復(fù)制模型
ollama cp old_model new_model# 拉取遠(yuǎn)端模型
ollama pull model_name# 將本地模型推送到模型注冊表中,以便他人或其他系統(tǒng)使用
ollama push model_name# 使用 ollama run 命令啟動模型并進(jìn)入交互模式,在交互模式下,輸入 /bye 或按下 Ctrl+d 退出
ollama run deepseek-r1:1.5b# 單次命令交互
echo "你是誰?" | ollama run deepseek-r1:1.5b