方案背景图

DeepSeek R1 有一串尺寸:1.5B、7B、8B、14B、32B、70B 这些蒸馏版,再往上是 671B 满血版。想本地部署的人最常卡在同一个问题上:手里这张显卡,到底够得着哪一档?

网上的答案很零散,东一个 8GB、西一个 24GB,拼不出全貌。这篇把各档显存门槛整理成一张对照表,从入门到服务器一眼看完。用「软领DS一键本地部署大师」的话还能更省事,模型广场的兼容筛选会替你把关,不用自己装 Ollama,也不用敲命令。

一张表看清:1.5B 到 671B 的显存门槛

先说清口径。下表以目前最常见的 4bit 量化版本为参考,列的是把模型完整装进显存所需的大致门槛。量化档位不同、上下文开多长,占用都会浮动,数字当门槛看,别当精确值。

R1 尺寸 4bit 量化文件 显存参考 对应设备
1.5B 1GB 出头 无独显也能试,核显加 8GB 内存可跑 老笔记本、轻薄本
7B / 8B 约 5GB 8GB 显存较稳,6GB 偏紧 主流游戏本、RTX 3060 级
14B 约 9GB 12GB 显存起步,16GB 更从容 RTX 4070 级台式机
32B 约 20GB 24GB 显存一档 RTX 3090 / 4090 级
70B 40GB 以上 单张消费卡装不下,要 48GB 级或多卡 专业工作站
671B 满血版 数百 GB 级 多卡服务器集群 机房,个人设备不建议

两点提醒。门槛值代表装得下,不代表宽裕,显存刚好够的档位,上下文一长照样会挤。70B 和 671B 写进表里是为了完整,家用设备不必惦记这两档。

R1各尺寸显存门槛分级阶梯-软领DS一键本地部署大师 显存门槛逐级抬高,选档先看台阶 无独显可试 1.5B 8GB级显存 7B/8B 12GB级显存 14B 24GB级显存 32B 48GB级或多卡 70B 多卡服务器 671B

显存在哪看,卡在两档之间怎么选

不少人其实说不出自己显卡有多大显存。最快的办法是打开任务管理器,切到性能页选 GPU,右侧的专用 GPU 内存就是显存容量。也可以按 Win+R 输入 dxdiag,在显示页里查看。

对照表时常会夹在中间。比如 10GB 显存,跑 7B 很宽裕,够 14B 又差一点。这种情况往下选一档更顺:装不进显存的部分会被挪去内存,生成速度掉得很明显,体验反而不如小一档跑得舒服。

关于 671B 的边界

满血版 671B 属于多卡服务器的领域,普通台式机和笔记本跑不动,也不建议尝试。家用设备的合理上限通常在 14B 到 32B 之间,取决于显卡。

不想自己算,让兼容筛选替你把关

软领DS一键本地部署大师下载

表格适合先在心里有个数,实际选模型可以更省事。「DS一键部署大师」的模型广场里打开仅兼容,列表只剩当前电脑适配的档位,不用自己装 Ollama,也不用记参数对照。

操作步骤

  1. 下载安装「DS一键部署大师」,打开进入「模型」页面。
  2. 页面若提示模型服务未安装,按提示完成安装。
  3. 打开仅兼容开关,看筛出的档位和上面的表能不能对上。
  4. 选一个模型点部署,等模型文件下载完成,中断了可以续传。
  5. 切到「对话」页面,选择已部署的模型开始用。

模型广场显示模型服务提示、兼容筛选和推荐模型部署按钮-软领DS一键本地部署大师

如果筛出的档位比预期低,先别怀疑软件,多半是显存确实到不了下一档。按筛选结果部署,跑起来通常比硬上大一档舒服。

从查显存到部署对话的选档流程-软领DS一键本地部署大师 选档三步走,最后一步交给软件 1 查显存 任务管理器GPU页可看 2 对照表选档 夹在两档间就往下选 3 开仅兼容 筛选后部署再对话 表格负责心里有数,兼容筛选负责不选错

大家常问

没有独立显卡能跑哪一档?

1.5B 可以试,靠 CPU 和内存跑,速度慢一些但能用。7B 在 16GB 内存的机器上也勉强能动,体验会打折扣,适合先感受一下再决定要不要升级设备。

8GB 显存到底选 7B 还是 14B?

选 7B 或 8B。14B 的 4bit 量化文件接近 9GB,8GB 显存装不全,多出来的部分会挪去内存,生成速度掉得厉害,不如 7B 跑得顺。

表里的数字是绝对的吗?

不是。量化档位、上下文长度、后台同时开的程序都会影响实际占用。数字当门槛参考就好,拿不准的话,开软件里的仅兼容筛选,按结果部署更稳。

4090 能跑 70B 吗?

24GB 显存装不下 40GB 级的 70B 量化文件,硬跑会大量借用内存,速度很难接受。4090 的合理上限是 32B 档,这一档的回答质量日常用已经不错。

公司想上 671B 满血版怎么办?

那是多卡服务器的领域,不在个人电脑的讨论范围里。个人和小团队更实际的路线,是在自己设备上跑 14B 或 32B 蒸馏版,日常问答和本地知识库都够用。

软领DS一键部署大师下载

客服
扫描与客服沟通

回顶部
提示

正在拉起鸿蒙应用市场,如遇无法拉起/无法下载的情况,可使用鸿蒙设备,自行前往应用市场,搜索「Win解压缩」安装。

知道了