华为云发布柔性智算操作系统FlexNPU
3月20日,华为云中小企业AI解决方案发布会上推出了柔性智算操作系统FlexNPU,旨在通过构筑强大而灵活的AI Infra层算力调度技术,提升推理池的有效算力利用率,从而以相同AI硬件算力投入,提供更大的Token吞吐输出。
责任编辑:于健 SF069
3月20日,华为云中小企业AI解决方案发布会上推出了柔性智算操作系统FlexNPU,旨在通过构筑强大而灵活的AI Infra层算力调度技术,提升推理池的有效算力利用率,从而以相同AI硬件算力投入,提供更大的Token吞吐输出。
责任编辑:于健 SF069