OLLAMA安装到其他盘:
OllamaSetup.exe /DIR=D:\AI\Ollama
ollama环境变量设置:
OLLAMA_HOST=0.0.0.0:11434
OLLAMA_MODELS=自定义位置
ollama run deepseek-r1:1.5b
本地大语言分析模型:
ollama pull bge-m3
Dify:
从Github下载Dify源码
./docker/.env文件底部写入配置:
# 启用自定义模型
CUSTOM_MODEL_ENABLED=true#指定 ollama 的API地址(根据部署环境调整IP)
OLLAMA_API_BASE_URL=host.docker.internal:11434
Docker安装组件:
D:\AI\dify\docker> docker compose up -d
deepseek-r1:1.5b
http://host.docker.internal:11434
安装docker到d盘:
https://docs.docker.com/desktop/setup/install/windows-install/
命令提示符:
start /w “” “Docker Desktop Installer.exe” install –quiet –accept-license –installation-dir=”K:\AI\Docker” –wsl-default-data-root=”K:\AI\Docker\data” –windows-containers-default-data-root=”K:\AI\Docker”
Docker config:
# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
#指定 ollama 的API地址(根据部署环境调整IP)
OLLAMA_API_BASE_URL=host.docker.internal:11434