新浪财经 股票

DeepSeek宣布将内部推理框架DeepInfer全面开源

市场资讯 10.20 20:34

(来源:证券时报)

人民财讯10月20日电,10月20日,DeepSeek宣布,将内部推理框架DeepInfer全面开源。

DeepSeek提到,希望通过分享内部的部署经验,帮助开发者与企业组织优化大规模推理的吞吐与延迟,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠。

DeepSeek称,基于DeepInfer,已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。

加载中...