創(chuàng)作不易，請大家多鼓勵支持。

在現(xiàn)實生活中，很多人的資料是不愿意公布在互聯(lián)網(wǎng)上的，但是我們又要使用人工智能的能力幫我們處理文件、做決策、執(zhí)行命令那怎么辦呢？于是我們構(gòu)建自己或公司的私人GPT變得非常重要。

先看效果

?

一、本地部署私人GPT

快速本地安裝步驟：
1.? ? ? ? 克隆存儲庫：
git clone?

git clone https://github.com/imartinez/privateGPT

文件目錄
?

2.? ? ? ? 安裝 Python ：

pyenv install 3.11
pyenv local 3.11

(如果報錯可以直接安裝python3.11)

系統(tǒng)之前已經(jīng)安裝過3.10的舊版本，為了避免干擾需要從系統(tǒng)變量path中刪除：C:\Program Files\Python310\Scripts\；C:\Program Files\Python310\

3.? ? ? ? 安裝依賴：

poetry install --with ui,local

4.? ? ? ? 下載嵌入和 LLM 模型：

poetry run python scripts/setup

5.? ? ? ? （可選，在powershell中運行）啟用GPU：

$env:CMAKE_ARGS='-DLLAMA_CUBLAS=on'; poetry run pip install --force-reinstall --no-cache-dir llama-cpp-python

6.? ? ? ? 運行本地服務器：

set PGPT_PROFILES=local
poetry run python -m private_gpt

7.? ? ? ? 導航到 UI：在瀏覽器中打開 http://localhost:8001/。
?

本公司限時提供免費部署GPT的服務，請在下面留言或聯(lián)系我們。
更多資料：

創(chuàng)建自己的私人GPT