聲明：該文章來(lái)自（大俠之運(yùn)維）版權(quán)由原作者所有，K2OS渲染引擎提供網(wǎng)頁(yè)加速服務(wù)。

?近期deepseek多次沖上熱搜，又是多模態(tài)支持，又是開源發(fā)布R1模型，最近還受到了網(wǎng)絡(luò)攻擊。

這篇文章介紹下如何快速部署deepseek-R1，本地訪問(wèn)，因?yàn)槟壳疤峁┝俗畹?B數(shù)據(jù)集的模型。

部署方案：Ollama + DeepSeek-R1 + Anything-LLM

這個(gè)方案包括如何安裝和配置 Ollama 進(jìn)行模型管理，使用 DeepSeek-R1 進(jìn)行推理，并通過(guò) Anything-LLM 提供 Web 界面。

ollama安裝

windows直接下載安裝部署即可

訪問(wèn)地址：ollama.com

安裝完成后，桌面右下角會(huì)有小圖標(biāo)。

模型下載

直接去搜索deepseek-r1模型，或者首頁(yè)上點(diǎn)擊。

然后在終端命令執(zhí)行

ollama?run?deepseek-r1:7b

anything-llm安裝

好的，以下是使用 Docker 安裝 Anything-LLM 以及配置 DeepSeek-R1 模型的步驟。

1. 安裝 Docker

首先，確保您的系統(tǒng)上已安裝 Docker。如果尚未安裝，可以參考以下鏈接進(jìn)行安裝：

docs.docker.com/docker-for-windows/install/

2. 克隆 Anything-LLM 倉(cāng)庫(kù)

在終端中執(zhí)行以下命令來(lái)克隆 Anything-LLM 的 GitHub 倉(cāng)庫(kù)：

git?clone?https://github.com/anything-llm/anything-llm.git cd?anything-llm

3. 創(chuàng)建 Dockerfile

在?anything-llm?目錄下創(chuàng)建一個(gè)?Dockerfile，其內(nèi)容如下：

#?Use?an?official?Python?runtime?as?a?parent?image FROM?python:3.9-slim #?Set?the?working?directory?in?the?container WORKDIR?/app #?Copy?the?current?directory?contents?into?the?container?at?/app COPY?.?/app #?Install?any?needed?packages?specified?in?requirements.txt RUN?pip?install?--no-cache-dir?-r?requirements.txt #?Make?port?8080?available?to?the?world?outside?this?container EXPOSE?8080 #?Define?environment?variable ENV?NAME?Anything-LLM #?Run?app.py?when?the?container?launches CMD?["python",?"app.py"]

4. 構(gòu)建 Docker 鏡像

在?anything-llm?目錄下執(zhí)行以下命令來(lái)構(gòu)建 Docker 鏡像：

docker?build?-t?anything-llm?.

5. 創(chuàng)建配置文件

在?anything-llm?目錄下創(chuàng)建一個(gè)?config.yaml?文件，并添加 DeepSeek-R1 模型的配置：

model: ??name:?deepseek-r1-7b ??path:?/models/deepseek-r1-7b server: ??host:?0.0.0.0 ??port:?8080

將模型放置在指定目錄下：

將下載的 DeepSeek-R1 7B 模型移動(dòng)到 Docker 容器可以訪問(wèn)的路徑，例如?/models/deepseek-r1-7b。

7. 運(yùn)行 Docker 容器

使用以下命令運(yùn)行 Docker 容器，并將模型目錄掛載到容器中：

docker?run?-d?-p?8080:8080?-v?/path/to/models:/models?--name?anything-llm?anything-llm

請(qǐng)將?/path/to/models?替換為您本地存放模型的路徑。

8. 驗(yàn)證部署

通過(guò)瀏覽器訪問(wèn)?http://localhost:8080，您應(yīng)該能夠看到 Anything-LLM 的界面，并與 DeepSeek-R1 7B 模型進(jìn)行交互。

總結(jié)

通過(guò)上述步驟，您可以使用 Docker 成功安裝和部署 Anything-LLM，并配置 DeepSeek-R1 7B 模型。

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級(jí)服務(wù)市場(chǎng)：https://www.ijiandao.com/