本地部署deepseek
1. 下载安装ollama
TIP
windows下,最好使用WSL安装
2. 下载运行DeepSeek-R1
搜索 deepseek-r1 ,参考:https://ollama.com/library/deepseek-r1:8b
ollama run deepseek-r1:8b
3. 下载open-webui
参考:https://github.com/open-webui/open-webui
这里本机运行的ollama,可以使用:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
4. 运行
IMPORTANT
先ollama运行LLM,再启动open-webui