新浪科技

DeepSeek V4推理成本全景分析:H100 vs 昇腾950PR/910C

架构师技术联盟

关注

温馨提醒:数据中心4件套(服务器、存储、网络、SSD全解系列)姊妹篇已全部发布,之前购买过“架构师技术全店资料打包汇总(全)(已持续更新至48本)”的读者免费发放全店更新(请在发货的汇总链接下载),或请凭借购买记录在微店留言获取(PDF阅读版本)。

各位好,最近AI 圈最扎心的话题莫过于:跑大模型比养娃还费钱。尤其是 DeepSeek-V4 这货一发布,百万上下文、MoE 架构、效率直接卷上天,但问题也跟着来了 ——到底用啥显卡跑它最省钱?

今天咱不整枯燥表格,不搞学术念经,用吃瓜看戏的姿势,扒光 H100、昇腾 910C、昇腾 950PR 这三位 “打工人” 的底裤,看看谁才是 V4 的真命天子。

一、先唠明白:DeepSeek-V4 这 “祖宗” 有多难伺候?

先给不懂行的朋友科普下,V4-Pro 看着吓人:总参数量1.6万亿,但人家玩的是 MoE 套路,每次推理只激活49B,属于 “看着胖、跑着轻” 的精打细算型选手。

数据来自:大饶不老

最狠的是它自带CSA+HCA 混合注意力,相当于给推理装了 “节能挂”:

  • 推理 FLOPs 只有上一代 V3.2 的27%

  • KV 缓存直接压到10%

  • 推理精度直接干到FP4 权重 + FP8 计算

看懂没?这货天生就是为低精度、省显存、省算力而生,谁不支持FP8,谁就等着被按在地上摩擦。

二、三位选手登场:一个土豪、一个尴尬、一个黑马

数据来自:大饶不老

一号选手:NVIDIA H100—— 老钱风土豪

  • FP8 算力:1979 TFLOPS,全场最强

  • 显存:80GB HBM3,带宽 3.35TB/s

  • 价格:$3~4万一张,时租$3.5

  • 人设:行业老大哥、生态无敌、就是贵、还买不着

二号选手:昇腾 910C—— 气氛组尴尬哥

  • FP8:不支持!不支持!不支持!

  • 算力:FP16 勉强 800 TFLOPS

  • 显存:64~96GB,带宽看运气

  • 价格:便宜是便宜,天生和 V4 八字不合

三号选手:昇腾 950PR—— 性价比杀疯黑马

  • FP8 算力:1000 TFLOPS,原生支持

  • 显存:128GB HiBL 1.0,全场最大

  • 互联带宽:2TB/s,甩 H100 两条街

  • 价格:$1.37万,时租只要$1.2

  • 人设:国产新贵、专为 V4 优化、价格腰斩、性能能打

三、真实对决:Prefill vs Decode,谁在裸泳一眼看穿

大模型推理分两段,好比先读题(Prefill)、再写字(Decode),两段痛点完全不一样。

第一轮:Prefill 读题 —— 比的是算力

H100:FP8 火力全开,70700 tok/s,一骑绝尘950PR:FP8 稳稳跑,35700 tok/s,一半性能910C:只能跑 FP16,28600 tok/s,直接拉胯

算钱更刺激:每百万 token Prefill 成本:

  • H100:$1.38

  • 910C:$1.94(比 H100 还贵 41%!)

  • 950PR:$0.93(全场最便宜)

尴尬不尴尬?910C 仗着便宜租,结果算下来比土豪 H100 还费钱。

数据来自:大饶不老

第二轮:Decode 写字 —— 比的是显存带宽

这才是真实场景最耗钱的环节,模型一个字一个字蹦,全看显存脸色。

  • H100:3400 tok/s

  • 950PR:2000 tok/s

  • 910C:1200~3600 tok/s(看脸)

再算钱,心脏不好的跳过:每百万 token Decode 成本:

  • H100:$28.6

  • 910C:$30.9(更贵)

  • 950PR:$16.7(直接便宜 42%)

看到这,结论已经拍脸上了:950PR 全方位吊打另外两位,Decdode 便宜近一半,Prefill 便宜三成。

四、规模化算账:搞个1万QPS集群,差价能买一套房

咱不玩小打小闹,直接上企业级规模:满足1万QPS推理。

  • H100:要 3000 张卡,总成本$1.05亿,年费$9200 万

  • 910C:要 4500 张卡,总成本$1.12亿,年费$7900 万

  • 950PR:只要 3500 张卡,总成本$4800万,年费$3700 万

数据来自:大饶不老

没看错,950PR 采购成本几乎是H100的 1/2,910C的1/2 还不到。一年电费 运维,直接省出一个小目标。

结合 DeepSeek-V4 现在API报价:输入12元/百万 token,输出24元。用 950PR 跑,硬件成本只占定价的 5%~12%,剩下全是利润。难怪官方敢喊:等 950 批量上市,Pro 价格直接大跳水。

五、灵魂总结:谁是天选?谁是炮灰?

昇腾 950PR:真正的 V4 天选打工人

  • 价格只有 H100 的 1/3

  • 性能干到 H100 的 50%~60%

  • 128GB 大显存+原生FP8+超大互联,专为 MoE 长上下文而生

  • 国产自主、不卡脖子、供货稳

一句话:性价比之王,没有之一。

NVIDIA H100:性能王者,但贵到肉疼

  • 单卡性能确实顶

  • 生态成熟、稳定

  • 但成本是 950PR 的 1.5~1.7 倍

  • 还面临出口管制、买不着、涨价风险

适合:有钱、不在乎成本、必须用 CUDA 的土豪。

昇腾910C:纯纯炮灰,谁用谁冤种

  • 不支持 FP8,天生和 V4 相克

  • 跑起来算力缩水、速度拉胯

  • 算下来成本反而最贵

唯一归宿:拿去做训练,别来沾 V4 推理。

以前跑大模型:谁显卡强谁牛逼现在跑大模型:谁成本低谁有饭吃

DeepSeek-V4 这一波,本质上是用 MoE 架构 + 稀疏注意力,给国产芯片开了外挂。昇腾 950PR 也很争气,直接把推理成本打到 “地板价”。

未来 AI 行业的格局很清晰了:H100 负责装大佬,910C 负责打酱油,950PR 负责闷声发大财。

免费加入微信交流群,参与技术讨论!

加载中...