互联网和产品 · 2025年02月18号 0

Deepseek R1 + Dify 大模型+知识库本地部署笔记 【待整理】

OLLAMA安装到其他盘:

OllamaSetup.exe /DIR=D:\AI\Ollama

ollama环境变量设置:

OLLAMA_HOST=0.0.0.0:11434
OLLAMA_MODELS=自定义位置

ollama run deepseek-r1:1.5b

本地大语言分析模型:

ollama pull bge-m3

Dify:

从Github下载Dify源码

./docker/.env文件底部写入配置:

# 启用自定义模型
CUSTOM_MODEL_ENABLED=true

#指定 ollama 的API地址(根据部署环境调整IP)
OLLAMA_API_BASE_URL=host.docker.internal:11434

Docker安装组件:

D:\AI\dify\docker> docker compose up -d

deepseek-r1:1.5b
http://host.docker.internal:11434

 

安装docker到d盘:

https://docs.docker.com/desktop/setup/install/windows-install/

命令提示符:
start /w “” “Docker Desktop Installer.exe” install –quiet –accept-license –installation-dir=”K:\AI\Docker” –wsl-default-data-root=”K:\AI\Docker\data” –windows-containers-default-data-root=”K:\AI\Docker”

Docker config:

# 启用自定义模型
CUSTOM_MODEL_ENABLED=true

#指定 ollama 的API地址(根据部署环境调整IP)
OLLAMA_API_BASE_URL=host.docker.internal:11434