从8GB显卡跑30B到16GB显卡跑35B：本地大模型的实战攻略

嗨，朋友们！今天我们来聊一个大家都关心的热点：在普通显卡上跑超大语言模型。听起来像是把大象装进冰箱，但其实只要掌握几招技巧，真的可以把 30 B、35 B 甚至更大的模型塞进 8 GB、16 GB 的显存里。下面我把自己踩过的坑、收集的经验，像聊天一样跟你们拆解开来。

🧩 先说结论：显存不等于上限

很多新人会直觉认为显存是唯一的瓶颈：显存 8 GB 就只能跑 5 B，16 GB 只能跑 12 B。事实并非如此。模型的结构、量化方式、以及显存占用策略都会决定最终能跑多少。核心思路有两点：

• 把不是必须在 GPU 上的参数搬到 CPU 或系统内存。
• 通过更高效的量化把每条参数的体积压缩。

这两手一起用，就能把 30 B、35 B 这类“巨型”模型在 8 GB 显卡上跑得像小模型一样流畅。

🚀 关键技术点拆解

1️⃣ MoE（混合专家）模型的 offload 策略

MoE 模型像是一群专家，每次只请几个专家出来帮忙，而不是所有人一起工作。比如 Qwen3‑30B‑A3B 里，整体 30 B 参数里只有约 3 B 会在一次推理中激活。

如果把所有层都塞进显存，显存占用会飙到 7 GB 左右，速度只有 3 tok/s。换一种思路：

• 把 attention 层（计算最密集）留在 GPU。
• 把 MoE expert 层（大块参数但计算相对轻）搬到 CPU。

这样显存降到 2.6 GB，吞吐提升到 21 tok/s，快了七倍！关键是要识别那些 .ffn_.*_exps. 命名的张量，然后在启动 llama.cpp 时手动指定 offload。

2️⃣ KV Cache 的选择

KV Cache 是模型在推理时保存上下文的缓存。不同的缓存精度会直接影响显存占用和速度。

f16 的速度是 iso3 的近 3 倍，但显存占用也大很多。实战里我通常先算一下 f16 能否装进去：

KV_MB = 2 × layers × kv_heads × head_dim × ctx × bytes / 1024²

如果装得下，就直接用 f16；装不下就回退到 q8 或 iso3。

3️⃣ 并行 slot 的调优

llama.cpp 默认开启 4 个并行 slot，目的是多用户并发。但我们大多数时候是单用户对话，4 路共享显存会把显存均分成四块，实际速度被压了大约一半。把 --parallel 1 开了以后，吞吐从 18.5 tok/s 直接翻到 38.2 tok/s，简直是秒杀。

4️⃣ ubatch（一次性推理的 batch 大小）

ubatch 看起来像是只能调大模型的“批处理”，但对单用户的连续对话也有影响。实测发现：

• 8K 上下文，ubatch=512 比 128 快 7.6%。
• 64K 上下文，ubatch=512 比 128 快 21.6%。

所以直接跑两套 benchmark，挑出最快的那一组就行，别盲目去文档里找推荐值。

5️⃣ 对话压缩技巧

长对话会把显存塞满，很多人会想让模型自己生成摘要再继续对话。实际上生成摘要会占用同一个 slot，导致卡顿甚至超时。

我更倾向于算法式压缩：保留系统 Prompt + 首轮对话，然后把最近 8 K token 的内容完整保留，中间的历史按关键词（代码路径、函数名、TODO 等）抽取保留。这样压缩率可以到 73%，几乎不影响上下文质量，却大幅节省显存。

📦 实战案例：8 GB 显卡跑 30 B（Kaiwu 工具）

下面以 Kaiwu 这款自动调参工具为例，看看一步步把 8 GB 显卡变成 30 B 超跑的全过程。

1. 下载 Kaiwu（Windows 直接 irm https://raw.githubusercontent.com/val1813/kaiwu/main/install.ps1 | iex）。
2. 把模型文件放到 kaiwu/models，比如 Qwen3-30B-A3B-UD-Q3_K_XL.gguf。
3. 运行 kaiwu run Qwen3-30B-A3B --reset，工具会自动探测显存、上下文、KV cache、并行 slot，给出最优配置。
4. 如果显存仍不够，手动加 --moe-offload（把 expert 层搬到 CPU）或调 --gpu-offload-layers。
5. 成功后你会看到类似 Ready — Qwen3-30B-A3B @ 21 tok/s 的提示，说明模型已经跑起来。

实际跑起来的显存占用大约 8 GB，KV cache 用 iso3，ctx 设 64K，速度 21 tok/s，足够日常对话、代码审查、文档写作。

🖥️ 16 GB 显卡跑 35 B（MoE + Qwen3.5）

如果你手头有 RTX 4060 Ti（16 GB）或者同等的移动显卡，可以尝试更大的 Qwen3.5‑35B‑A3B。这里的关键是：

• 选用 MoE 架构的 35 B‑A3B，每次只激活 3 B。
• 在 LM Studio（或 Ollama）里把 GPU Offload 拉满，让注意力层全跑 GPU。
• 把 Number of layers for which to force MoE weights onto CPU 设在 20–35 之间，找到显存与 CPU 之间的平衡。

实测 35 B 在 16 GB 显卡下的显存占用约 12 GB（包括 KV cache），吞吐在 Q4 量化下可达 45 tok/s，甚至在 Q6 量化下还能保持 30 tok/s，完全够日常使用。

💡 小模型也能玩大模型的技巧

如果你只有 8 GB 显存，只想体验 9 B、4 B 等模型，完全可以：

• 使用 Ollama 的一行指令快速拉取模型：ollama pull qwen3.5:4b。
• 在 ollama run qwen3.5:4b 时加上 --gpu-offload 参数。
• 如果想要更长上下文，手动调整 --ctx-size，但要记得 KV cache 会随之增大。

这些步骤不需要写任何代码，完全是点几下就能跑起来的“开箱即用”。

🔧 常见坑与解决方案

🛠️ 工具推荐清单

• Kaiwu：自动探测显存、上下文、KV cache、MoE offload，适合 Windows、Linux。
• Ollama：一键拉取、开箱即用，适合 macOS、Linux，支持 OpenAI 接口。
• llama.cpp：最底层的推理引擎，灵活度最高，可自行调 --gpu-offload、--parallel、--ctx-size。
• Unsloth Studio：面向 Python/Notebooks 用户的 UI，量化自动优化，适合实验。

📊 性能小结表

表格里的数字是我本人在相同环境下的实测，实际会受驱动、CUDA 版本、系统负载等影响，但大致趋势是可信的。

🌟 小结 & 行动指南

1. 先确认显卡是否支持 iso3（SM86 以上）或使用 q8_0/q4_0。
2. 如果是 MoE 模型，务必把 expert 层 offload 到 CPU，保持 attention 在 GPU。
3. 显存紧张时，用 --parallel 1、调小 --ctx-size、换成更低位的 KV cache。
4. 对话压缩推荐保留首轮 + 最近 8 K token，其他部分按关键词抽取。
5. 工具上手：先用 Ollama 拉取小模型体验，随后使用 Kaiwu 或手动编辑 llama.cpp 选项跑大模型。

只要把这些细节都踩好，你的 8 GB、16 GB 显卡就能像“大象装进冰箱”一样，优雅地跑起 30 B、35 B 的语言模型。等你真的跑起来了，别忘了给我留言说说你的感受——我已经等不及想听听你的故事啦！🚀