在自己电脑上部署 DeepSeek,最常见的拦路错误就是显存不足:日志里蹦出 out of memory 或 CUDA OOM,模型加载到一半失败,或者对话时半天不出字。这不是显卡坏了,意思很直白,模型要占的显存超过了显卡当下能拿出来的量。
解法就三个方向:换更小参数的模型(降尺寸)、选占用更低的量化版本(降量化)、关掉后台吃显存的程序(关占用)。用「软领DS一键本地部署大师」的话,模型广场自带兼容筛选,按电脑配置推荐模型,从选型这一步就绕开 OOM。
报 OOM 不是显卡坏了,是模型装不下
显存和内存是两回事。模型运行时,权重要装进显卡的显存,对话时还要留一块给上下文缓存。参数越大占得越多:14B 比 7B 大一截,7B 又比 1.5B 大一截。显存总量是固定的,塞不下就报错,OOM 的全部含义就这么简单。
还有一种情况容易被漏掉:模型本身没超标,但显存先被别的程序占走了。浏览器开着硬件加速、后台挂着游戏或剪辑软件,都会分走一块专用 GPU 内存,留给模型的自然就不够了。
三个方向:降尺寸、降量化、关占用
降尺寸最直接。同系列模型参数退一档,显存占用大致跟着降一档。14B 跑不动就退到 7B 或 8B,再不行退到 1.5B。小模型能力确实弱一些,但先跑起来,比对着报错干瞪眼强。
降量化是第二条路。同样参数量的模型有不同量化版本,量化位数越低,文件越小、占显存越少,代价是回答精度略降。日常问答、写文案、整理文档这类活,低量化版本一般够用。
关占用几乎零成本。按 Ctrl+Shift+Esc 打开任务管理器,切到性能页看 GPU 的专用内存占用。数字偏高就先退出游戏、剪辑软件和多余的浏览器标签页,再回来重试部署。
三招的使用顺序
建议先关占用,不花钱也不掉能力;还报错就降量化;最后才降尺寸。三招能叠着用,比如 7B 低量化配上干净的后台,不少老显卡也带得动。
用 DS一键部署大师把选型交给软件
前面三招是通用思路,落到操作上,「DS一键部署大师」把最容易踩坑的选型替你做了。模型广场里有兼容筛选,打开后只显示按当前电脑配置筛过的模型,旁边就是推荐模型的部署按钮,不用自己去算参数和显存的账。
已经报 OOM 时这样处理
- 安装并打开「DS一键部署大师」,进入「模型」页面。
- 如果提示模型服务未安装,先按页面提示装好。
- 打开“仅兼容”,从推荐模型里挑一个点部署。
- 点部署前,先退出游戏、剪辑这类吃显存的大程序。
- 之前某个模型报过 OOM 的话,换小一档的兼容模型重新部署。
- 到「对话」页选中新模型聊几轮,确认不再报错。

部署完成后模型在本机运行。以后想上更大的模型,先看兼容筛选里有没有它,比自己一个个试错省得多。
大家常问
报 OOM 是不是显卡坏了
不是。它只说明这次要加载的模型超出了显存能给的空间。换小模型、降量化或者清后台,多数情况就能过去。
换小模型会不会笨很多
会有差距,参数小的模型在复杂推理上明显弱一些。但日常问答和文本整理够用,建议先跑通,以后换了显卡再上大的。
内存 32GB 了怎么还报显存不足
内存和显存不是一个东西。模型主要吃显卡上的专用显存,内存再大也替不了。看配置时要盯显卡显存那一栏,不是内存条。
怎么知道哪些程序在偷偷占显存
按 Ctrl+Shift+Esc 打开任务管理器,性能页选 GPU,看专用 GPU 内存曲线;进程页也能按 GPU 占用排序,谁在吃一目了然。
用 DS一键部署大师还会碰到 OOM 吗
打开“仅兼容”筛选后,大部分装不下的模型已经被挡在外面。如果部署后仍然报错,先清后台再试,不行就换更小一档的推荐模型。

提示