新浪科技讯 7月9日上午消息，近日，无问芯穹联合创始人兼CEO夏立雪发布了无问芯穹大规模模型异构分布式混合训练系统，该系统千卡异构混合训练集群算力利用率最高达97.6%。同时，无问芯穹Infini-AI云平台宣布已集成大模型异构千卡混训能力，可进行单任务千卡规模异构芯片混合训练，具备万卡扩展性，支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA六种异构芯片在内的大模型混合训练。
据介绍，7月起，通过试训申请的用户，已可在Infini-AI上一键发起700亿参数规模的大模型训练。今年三月，无问芯穹Infini-AI大模型开发与服务云平台宣布首次公测，智谱AI、月之暗面、生数科技等大模型公司客户在Infini-AI上稳定使用异构算力，还有20余家AI Native应用创业公司在Infini-AI上持续调用各种预置模型API，使用无问芯穹提供的工具链开发业务模型。
“上次我们证明了10多种异构芯片在Infini-AI上可被用于大模型推理，这次我们则是证明了异构算力在Infini-AI上可以被用来做大模型训练。”夏立雪表示，“这项技术工程化的初衷，是希望能够通过整合更多异构算力，继续推高大模型技术能力的上限，同时通过打通异构芯片生态，持续降低大模型应用落地成本。”（文猛）
举报成功