方案背景图

家里那台电脑没有独立显卡,只有 CPU 和内存条,DeepSeek 还能不能本地部署?能,但得把话说在前面:纯 CPU 只适合跑小参数模型,速度也和带显卡的机器不在一个档位。

到底能跑多大的模型、跑起来多快,主要看内存。「软领DS一键本地部署大师」在模型广场里做了兼容筛选,打开“仅兼容”后,列表只留下这台电脑带得动的模型,没有显卡也能在界面里完成部署和对话。

没有显卡,DeepSeek到底能不能跑

先给结论:能跑。显卡在本地推理里负责大规模并行计算,没有它,这些计算就落回 CPU 头上。CPU 算得动,只是慢。所以真正的问题不是能不能,是跑多大的模型才不难受。

纯 CPU 比较现实的选择是 1.5B、7B、8B 这类小参数蒸馏版。1.5B 在近几年的主流电脑上,出字速度接近一个人打字,日常问答和写短内容够用。7B、8B 能用,回答长一点就得等。14B 往上明显卡顿,32B 以上纯 CPU 就别勉强了。至于满血 671B,那是服务器级硬件的事,跟普通家用电脑没关系。

纯CPU下不同参数规模模型的可用性阶梯-软领DS一键本地部署大师 没有独立显卡,模型越大越吃力 1.5B 轻快,日常问答够用 7B / 8B 能用,回答偏慢 14B 明显卡顿,要耐心 32B及以上 纯CPU不建议 参数越多,每生成一个字要读的数据越多,速度越慢

速度快慢,卡在内存,不在核心数

不少人以为 CPU 核心越多就越快。核心数有影响,但纯 CPU 推理更常见的瓶颈是内存。模型每生成一个字,都要把整份模型权重从内存里过一遍。模型文件越大,过一遍花的时间越长,字就出得越慢。这也是 1.5B 和 14B 在同一台机器上体验差距巨大的原因。

更麻烦的是内存装不下的情况。拿 8GB 内存去跑一个体积接近 8GB 的模型,系统只能借硬盘当临时内存周转,速度会从“慢”直接掉到“没法用”。挑模型有个简单的经验:模型文件体积要明显小于空闲内存。16GB 内存跑 7B、8B 的量化版一般放得下;8GB 内存老老实实选 1.5B 更稳。

边界说明

不同电脑的 CPU 代际、内存频率差别很大,同一个模型在两台机器上的速度可能差出一截。上面的分档是经验参考,以自己电脑的实际体验为准。

内存装不装得下模型决定纯CPU生成速度的结构关系-软领DS一键本地部署大师 回答快不快,先看内存装不装得下模型 模型文件 几GB起步 内存放得下 整份权重都在内存 生成顺畅 逐字稳定输出 内存不够 借硬盘临时周转 速度骤降 几秒才出一个字 同一台电脑,换小一号的模型常常立刻变快

纯CPU电脑怎么部署:交给兼容筛选

软领DS一键本地部署大师下载

不用自己研究哪个模型带得动。装好「DS一键部署大师」后进「模型」页面,如果提示模型服务未安装,按提示装好即可,不需要打开命令行输入 ollama run 这类命令。之后在模型广场打开“仅兼容”,软件会按这台电脑的硬件过滤模型,没有显卡的机器看到的就是 CPU 带得动的那一批,从推荐里挑一个点部署。

部署步骤

  1. 下载安装「DS一键部署大师」并打开。
  2. 进入「模型」页面,按提示安装模型服务。
  3. 在模型广场打开“仅兼容”。
  4. 从筛选结果里选一个小参数模型,点击部署。
  5. 下载完成后,到「对话」页选中它开始提问。

模型广场显示模型服务提示、兼容筛选和推荐模型部署按钮-软领DS一键本地部署大师

提醒一句:安装模型服务和下载模型需要联网,模型文件几个 GB 起步,第一次部署留够时间和磁盘空间。部署完成后,对话在本机运行。

大家常问

纯CPU跑起来大概是什么体验

小模型问答基本流畅。1.5B 接近即问即答,7B、8B 像对面有个人在慢慢打字。让它一口气写几千字长文会等得比较久,当问答助手和草稿工具比较合适。

8GB内存该选多大的模型

建议 1.5B。7B 就算勉强装下,留给系统和浏览器的内存也不多了,很容易触发硬盘周转,一卡就是全局卡。内存到 16GB 再考虑 7B、8B。

核显算不算显卡,能帮上忙吗

集成显卡跟独立显卡不是一回事,算力和可用显存都有限。不用自己纠结这个,打开“仅兼容”让软件按实际硬件筛,筛出什么就部署什么,省得来回试错。

为什么回答一个字一个字往外蹦

本地模型本来就是逐字生成的,纯 CPU 下更明显。要是慢到几秒才出一个字,多半是模型太大或内存吃紧,换小一号的模型通常立竿见影。

以后加了显卡要重新装一遍吗

软件和已下载的模型都在本机,不用重装。装好显卡后再打开模型广场看“仅兼容”的筛选结果,一般就能部署更大的模型了。

软领DS一键部署大师下载

客服
扫描与客服沟通

回顶部
提示

正在拉起鸿蒙应用市场,如遇无法拉起/无法下载的情况,可使用鸿蒙设备,自行前往应用市场,搜索「Win解压缩」安装。

知道了