Ollama + DeepSeek Coder 6.7B 安装运行
一、环境配置
项目 规格
操作系统 Windows 11 Pro
CPU Intel Core i7-14700KF (20核/28线程)
GPU NVIDIA GeForce RTX 4060 Ti (8GB)
内存 32GB RAM
二、Ollama 安装
2.1 下载安装
下载地址:https://ollama.com/download
或使用 winget 安装
winget install Ollama.Ollama
2.2 安装位置(下载安装时候注意位置不要安装c盘)
项目 路径
程序目录 C:\Users\Admin\AppData\Local\Programs\Ollama\
版本 0.30.6
2.3 验证安装
ollama --version
输出: ollama version is 0.30.6
三、模型安装
3.1 下载模型
下载 DeepSeek Coder 6.7B
ollama pull deepseek-coder:6.7b
3.2 模型信息
项目 详情
模型名称 deepseek-coder:6.7b
大小 3.8 GB
类型 代码生成模型
3.3 查看已安装模型
ollama list输出示例:
NAME ID SIZE MODIFIED
deepseek-coder:6.7b ce298d984115 3.8 GB 2 hours ago
deepseek-coder:6.7b 是代码专用模型,写代码、解释代码很强,其他一个通用模型:
ollama pull deepseek-r1:7b # 推理型,或 ollama pull qwen2.5:7b # 中文通用对话更流畅
四、模型存储位置迁移
4.1 默认位置
C:\Users<用户名>.ollama\models
4.2 迁移到 D 盘步骤
1. 停止 Ollama 进程
taskkill /F /IM"ollama.exe"2. 创建目标目录
mkdirD:\ollama_models3. 移动模型文件
move C:\Users\Admin\.ollama\models\* D:\ollama_models\4. 设置环境变量
setx OLLAMA_MODELS"D:\ollama_models"5. 创建目录连接(确保兼容性)
powershell-Command"New-Item -ItemType Junction -Path 'C:\Users\Admin\.ollama\models' -Target 'D:\ollama_models'"4.3 当前存储配置
项目 路径
实际存储 D:\ollama_models\
目录连接 C:\Users\Admin.ollama\models → D:\ollama_models
五、运行模型
5.1 交互模式
ollama run deepseek-coder:6.7b
进入交互后:
输入问题,按回车发送
退出:Ctrl + D 或输入 /bye
帮助:输入 /?
5.2 单次提问
ollama run deepseek-coder:6.7b “用Python写一个快速排序”
5.3 API 调用
Ollama 默认启动 API 服务(端口 11434):
生成文本
curl http://localhost:11434/api/generate -d “{
“model”: “deepseek-coder:6.7b”,
“prompt”: “写一个Python爬虫”,
“stream”: false
}”
对话模式
curl http://localhost:11434/api/chat -d “{
“model”: “deepseek-coder:6.7b”,
“messages”: [{“role”: “user”, “content”: “Hello”}]
}”
5.4 Python 调用示例
import requests
response = requests.post(‘http://localhost:11434/api/generate’, json={
‘model’: ‘deepseek-coder:6.7b’,
‘prompt’: ‘用Python写一个Hello World’,
‘stream’: False
})
print(response.json()[‘response’])
六、常用命令
命令 说明
ollama list 列出已安装模型
ollama pull <模型名> 下载模型
ollama run <模型名> 运行模型
ollama rm <模型名> 删除模型
ollama show <模型名> 查看模型详情
ollama ps 查看运行中的模型
ollama stop <模型名> 停止运行中的模型
七、推荐模型
7.1 代码编程模型
模型 参数 显存需求 说明
deepseek-coder:6.7b 6.7B ~6GB 已安装
qwen2.5-coder:7b 7B ~6GB 推荐
codellama:7b 7B ~6GB Meta 出品
7.2 通用对话模型
模型 参数 显存需求 说明
qwen2.5:7b 7B ~6GB 阿里通义千问
llama3.1:8b 8B ~6GB Meta Llama
mistral:7b 7B ~5GB 轻量高效
7.3 安装其他模型
ollama pull qwen2.5-coder:7b
ollama pull qwen2.5:7b
八、图形界面扩展(可选)
工具 说明 地址
Open WebUI 类似 ChatGPT 网页界面 https://openwebui.com
Continue VS Code 代码补全插件 https://continue.dev
LM Studio 图形化模型管理器 https://lmstudio.ai
九、故障排查
9.1 命令找不到
使用完整路径
C:\Users\Admin\AppData\Local\Programs\Ollama\ollama.exe list
或添加到系统 PATH
setx PATH “%PATH%;C:\Users\Admin\AppData\Local\Programs\Ollama”
9.2 显存不足
使用更小的量化版本
ollama pull deepseek-coder:6.7b-q4_0
9.3 模型找不到
确认环境变量生效(需重启终端):
echo %OLLAMA_MODELS%
应输出: D:\ollama_models
十、快速启动备忘
启动交互
ollama run deepseek-coder:6.7b
API 地址
http://localhost:11434
附录:更多模型资源
Ollama 官方模型库:https://ollama.com/library
DeepSeek 官网:https://www.deepseek.com
Ollama GitHub:https://github.com/ollama/ollama