显卡每小时赚38美元 老外证明DeepSeek没吹牛:美国AI能年入10万亿美元
快科技官方
快科技10月25日消息,DeepSeek不仅把AI大模型开源了,前不久甚至把自家的推理框架DeepInfer也给开源了,商业运营的核心机密也奉献给业界。
在DeepInfer这套框架中,DeepSeek公布了两个极具价值的数据,基于DeepInfer框架,他们已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。
目前单一集群的服务吞吐是155万亿Tokens/天,整体收入是每卡每小时38美金(按谷价)。
每张显卡每小时就能收入38美元,还是低谷价,这个数字引发了全球的兴趣,随后这套框架也得到了开源社区的验证,vLLM及SGLang两个项目也在极短时间内升级,确认了DeepInfer框架的有效性,甚至优化后的结果比DeepSeek公布的数据还要好。
这个框架会带来什么改变?依据DeepSeek的数据,一张卡一小时收入38美元,1GW的算力一年就能带来1500亿美元的收入,即便考虑到各种冗余条件,也有1000亿美元的收入。
要知道目前建设1GW算力需要的投资在350-500亿美元之间,其中AMD平台的成本会低一些,500亿美元是NVIDIA CEO黄仁勋的数据,这样算每年的投入回报都是极高的,梁文锋之前说一年回本都是保守的。
美国现在一年建设50GW以上的算力基建,一半用于推理的话,25GW算力也能带来2.5万亿美元的收入,按照美国AI公司的收费标准那就是高达10万亿美元的收入,而全球GDP现在每年也就是125万亿美元,也就是一年增长8%的GDP了。
当然了,这样的算法也就图一乐,因为美国的AI公司不会放弃自己的大模型,只去跑DeepSeek的V4.1 Flash大模型。
【本文结束】如需转载请务必注明出处:快科技
责任编辑:宪瑞