本地运行大模型 —— Ollama + DeepSeek

预计阅读时间: 8 分钟小星 发布于 2026-07-09 技术教程


想在本地运行 DeepSeek 大模型,但又不想碰复杂的命令行?这篇教程将带你通过 Ollama 这个轻量级工具,在 Windows 上轻松完成部署,全程数据留存在本地,隐私安全有保障。

什么是 Ollama + DeepSeek?

Ollama 是一个轻量级的开源工具,可以让你在本地电脑上轻松运行各种大语言模型[reference:0]。而 DeepSeek 是由深度求索公司开发的高效开源大模型,在代码生成、文本理解等任务中表现优异[reference:1][reference:2]。

把两者结合起来,你就可以在 Windows 电脑上拥有一个完全离线、数据不出本地的 AI 助手[reference:3]。不需要联网,也不用担心隐私泄露。


准备工作

在开始之前,先确认你的电脑满足以下基本条件:

项目最低要求推荐配置
操作系统Windows 10/11(64位)Windows 10/11(64位)
内存8GB16GB 或更高[reference:4]
磁盘空间20GB 以上[reference:5]50GB 以上(SSD优先)[reference:6]
显卡(可选)无强制要求(纯CPU运行)NVIDIA显卡(显存≥4GB,可GPU加速)[reference:7]

💡 特别说明:即使没有独立显卡,也可以纯靠 CPU 运行 7B 参数的小模型[reference:8]。只是响应速度会比 GPU 慢一些,但完全可用。


🚀 第一步:安装 Ollama

1. 下载安装包

访问 Ollama 官网 https://ollama.com/download,点击 "Download for Windows" 按钮,下载 .exe 安装包[reference:9]。

2. 运行安装

  1. 双击下载的安装包,一路点击 "Next"(下一步)直到完成[reference:10]。
  2. 安装过程中建议勾选 "Add to PATH" 选项,确保系统能识别 Ollama 命令[reference:11]。
  3. 安装完成后,Ollama 会自动在后台运行[reference:12]。你可以在任务栏右下角看到一个小羊驼图标[reference:13]。

3. 验证安装

打开 命令提示符(CMD)PowerShell,输入以下命令并回车:

ollama --version

如果能看到类似 ollama version 0.x.x 的版本号,就说明安装成功了[reference:14]。

4. (重要)修改模型存储路径

Ollama 默认把模型文件下载到 C 盘。模型文件通常有几个 GB 到几十 GB 不等[reference:15],长期放在 C 盘可能会占满系统盘空间。建议修改到其他磁盘[reference:16]。

  1. 在任务栏右下角右键点击 Ollama 的小羊驼图标,选择 "Settings"(设置)[reference:17]。
  2. 在设置界面中找到 "Model Path"(模型存储路径)[reference:18]。
  3. 将其修改为其他磁盘的目录,例如 D:\OllamaModels[reference:19]。
  4. 修改完成后,重启 Ollama(右键小羊驼图标 → Quit,再重新从开始菜单启动)。

📥 第二步:下载 DeepSeek 模型

Ollama 安装完成后,就可以通过一条命令下载 DeepSeek 模型了。

选择模型版本

DeepSeek 提供了多个版本,根据你的电脑配置选择合适的:

模型版本文件大小适用场景
deepseek-r1:1.5b约 1.5GB低配电脑、快速体验[reference:20]
deepseek-r1:7b约 4.2GB(量化版)[reference:21]主流选择,8GB内存即可运行[reference:22]
deepseek-r1:13b约 26GB[reference:23]性能更好,需16GB+内存

对于大多数小白用户,推荐选择 deepseek-r1:7b,性能和资源消耗比较平衡。

执行下载命令

在命令提示符或 PowerShell 中输入以下命令:

ollama pull deepseek-r1:7b

系统会自动开始下载模型文件[reference:24]。下载过程中会显示进度条,耐心等待即可。根据模型大小和网速,可能需要几分钟到半小时不等[reference:25]。

📌 小贴士:如果下载速度很慢,可以尝试更换网络环境(如使用手机热点),或者使用镜像源加速[reference:26]。


💬 第三步:运行并对话

模型下载完成后,就可以开始和 AI 对话了!

启动交互式对话

在命令提示符或 PowerShell 中输入:

ollama run deepseek-r1:7b

系统会加载模型并进入交互式对话界面[reference:27]。此时你可以直接输入问题,AI 会实时回答[reference:28]。

对话示例

> 你好,请介绍一下你自己
> 用 Python 写一个快速排序算法
> 解释一下什么是机器学习

输入问题后按回车,DeepSeek 就会生成回答。对话会持续进行,直到你输入 /bye 或按 Ctrl+C 退出[reference:29]。

常用命令速查

命令说明
ollama pull 模型名下载模型
ollama run 模型名运行模型并进入对话
ollama list查看已安装的模型列表[reference:30]
ollama rm 模型名删除指定的模型

🖥️ 第四步(可选):安装图形界面

如果觉得命令行不够直观,可以安装一个图形界面来和 DeepSeek 聊天。推荐 Chatbox,这是一款免费、开源的桌面应用[reference:31]。

安装 Chatbox

  1. 访问 Chatbox 官网 https://chatboxai.app,下载 Windows 版本并安装。
  2. 打开 Chatbox,进入 设置模型提供方,选择 Ollama[reference:32]。
  3. API 地址填写 http://localhost:11434(Ollama 的默认端口)[reference:33]。
  4. 在模型列表中选择 deepseek-r1:7b,保存即可[reference:34]。

配置完成后,你就可以在 Chatbox 中像使用 ChatGPT 一样和 DeepSeek 聊天了,而且所有对话都在本地完成[reference:35]。


❓ 常见问题解答

❓ 下载模型时卡住了怎么办?

网络问题可能导致下载缓慢或中断[reference:36]。可以尝试:

  • 切换网络(如使用手机热点)[reference:37]
  • 使用代理或镜像源加速[reference:38]
  • 重新执行 ollama pull deepseek-r1:7b 命令,它会断点续传

❓ 运行模型时提示内存不足?

可以尝试以下方案:

  • 使用更小的模型版本,如 deepseek-r1:1.5b[reference:39]
  • 关闭其他占用内存的程序[reference:40]
  • 如果使用 GPU,可以尝试 --num-gpu 0 参数禁用 GPU,改用 CPU 运行[reference:41]

❓ 我的电脑没有独立显卡能跑吗?

完全可以[reference:42]。Ollama 支持纯 CPU 运行,只是速度会比 GPU 慢一些[reference:43]。对于 7B 参数的小模型,现代 CPU 完全可以流畅运行。

❓ Chatbox 连不上 Ollama 怎么办?

  • 确认 Ollama 是否在后台运行(查看任务栏右下角是否有小羊驼图标)
  • 检查 API 地址是否填写正确:http://localhost:11434
  • 检查端口是否被占用:netstat -ano | findstr 11434[reference:44]

🎉 结语

到这里,你已经成功在 Windows 上部署了 DeepSeek 本地大模型!现在你拥有一个完全离线、隐私安全的 AI 助手,可以随时随地和它聊天、让它帮你写代码、查资料[reference:45]。

如果觉得命令行不够方便,不妨装上 Chatbox 图形界面,体验会更接近 ChatGPT。如果硬件条件允许,还可以尝试更大的模型版本(如 13B、33B),获得更好的回答质量[reference:46]。

如果在部署过程中遇到任何问题,欢迎在评论区留言交流!


本文首发于 [星云博客],转载请注明出处。