今天我们来聊聊最近刷到的几篇关于 Dell Pro Max 搭载 NVIDIA GB10 超级芯片的评测。别急,我知道标题看着像高冷的技术报告,但其实这东西跟我们日常的“AI 小玩意儿”关系可大了。把它想象成一台可以放在书桌上的小型数据中心,里面装着一个“十万伏特”级别的 AI 引擎,咱们普通人买它主要是想干啥?要么是玩点儿大模型,要么是把工作流程自动化到几乎不用动手。
一、硬件到底怎么玩?
先说说最显眼的核心——GB10 超级芯片。它把 20 核 ARM CPU(10 个性能强悍的 Cortex‑X925,10 个省电的 Cortex‑A725)和 6,144 核 Blackwell GPU 合在一起,统一共享 128 GB 的 LPDDR5X 超高速内存,带宽高达 273 GB/s。换句话说,这块芯片可以在同一块内存里同时跑算力和显存,省去很多数据搬运的时间。
外观上 Dell 用 L6 机箱把它装进了一个 5.9×5.9 英寸、重量不到 3 磅的盒子。前面有蜂窝状进气口,散热算是做得不错;背面则配了 4 条 USB‑C(其中一条是电源)、10 GbE 网口、两条 200 Gbps QSFP、还有 HDMI 2.1。简直是“AI 版的迷你工作站”,随手一推就能接上显示器、网络、甚至高速互联的其它机器。
二、实际使用感受:开发者的好伙伴还是吃货?
我把这台机器当成了自己的 AI 实验台,主要想看看它跑大模型(比如 27 B 参数的 Qwen 3.5)和小模型(9 B 参数的 Llama)时的表现。以下是几个关键点:
- 单卡跑 27 B FP8 模型时,token‑per‑second(每秒生成的词)在 8 k 上下文、2 并发的情况下还能保持在 3 k 左右。上下文窗口越大,速度会慢,但即便开到 32 k,首 token 仍在 35 秒左右,算是还能接受。
- 相同硬件跑小模型时,吞吐量更高,尤其是并发数提升至 10 时,整体效率提升近 4 倍。
- 对比一下同价位的 Apple Mac Studio,后者在 token‑per‑second 上快一倍,但 Dell 的首 token 时间更短,0.77 秒对 0.97 秒,这在交互式聊天里会更有“即时感”。
总体来说,它更像是一个“开发者玩具”,适合跑各种 benchmark、调参、集成模型到业务系统;如果你期待它像笔记本那样流畅地跑日常文档生成,那可能会有点儿吃力。
三、热量与功耗:是“热锅”还是“温柔乡”?
评测里提到,在高强度的 Prefill(预填)阶段 CPU 温度会冲到 87 ℃,GPU 也能飙到 80 ℃,这已经算是比较热的了。不过一旦进入稳定的 Decode(解码)阶段,温度会在 60‑80 ℃之间持平,没有出现降频或噪音飙升的情况。功耗峰值大约在 70 W 左右,整体功耗在 40‑45 W 区间。
对比同类机型(比如 ASUS、Gigabyte),Dell 的散热稍显紧凑,尤其是 NVMe SSD 那块,温度会比其他机型高出 5‑10 ℃。这主要是机箱内部通风设计的取舍,毕竟它想把所有接口都塞进这么小的空间。
四、存储:是瓶颈还是点缀?
Dell 采用了 4 TB Gen4 SSD(Phison ESL04TBTLCZ),性能在 16 KB 小块读写时表现不错,但在大块(1 MB)读写上不如采用 Gen5 SSD 的竞争对手。数据显示在 1 MB 读吞吐上,它在 8‑64 线程间基本卡在 5‑6 GiB/s,远低于其他系统的 10‑12 GiB/s。写入更是如此,最高只有 2.9 GiB/s。
如果你主要是跑模型推理,这块 SSD 完全够用;但如果你打算把它当成高频数据摄取的“数据湖”,那就需要自行换装更快的 SSD(不过要注意机箱的空间限制)。
五、实际案例:用它赚回成本
ServeTheHome 的一篇文章给了我们一个很好的商业案例:他们把两台 Dell Pro Max 串起来,用 n8n 工作流自动化公司内部的报告生成。通过跑 gpt‑oss‑20B 和 gpt‑oss‑120B 两个模型,对比了准确率和成本。结论是,用 20 B 模型已经能把 97% 的准确率提升到 99.5%,而 120 B 则进一步逼近 99.99%。
更关键的是,他们算出整个系统的电费每月不到 5 美元,折算下来在一年内就能收回硬件投入(大约 6 千美元的成本),这对中小企业来说相当诱人。
六、到底买不买?
如果你是:
- AI 开发者,需要随时在本地跑大模型调参、跑 benchmark;
- 小团队想把繁琐的数据报告自动化,通过 LLM 提升效率;
- 对数据安全有较高要求,不想把敏感数据丢云端。
那 Dell Pro Max 是一个值得考虑的选项,尤其是它的“一站式”软件堆栈(DGX OS + NVIDIA SDK)让上手门槛低。
但如果你的需求是日常办公、视频编辑、或者只是想玩玩本地大模型,Apple M2 Ultra 或者配合 RTX 4090 的台式机性价比会更好。毕竟在 token‑per‑second 这块,Mac Studio 已经快一倍了。
七、小结:一把“双刃剑”
总的来说,Dell Pro Max 搭载 GB10 把惊人的算力压进了书桌尺寸,适合那些想要在本地玩转 AI、又不想在云上花大钱的技术爱好者。它的热量、存储表现都还有提升空间,但作为“开发者专用的迷你服务器”,已经相当“够味”。如果你正好有这块预算,想把 AI 丝丝入扣地嵌进自己的业务流,甚至想把它当成一年内收回成本的投资工具,那就大胆下单吧。只要记得别把它放在只能通风的书架上,给它一点呼吸的空间,它会用“每秒上千词”的速度回报你的期待。
你怎么看?如果已经入手或者正在考虑,欢迎在评论里聊聊你的使用场景和实际体验,咱们一起把这台小型 AI 超算玩出花样!😊
评论 (0)