新浪科技 股票

全球最大开源模型再突破!京企月之暗面发布新一代大模型

市场资讯 10.24 16:44

(来源:北青网-北京青年报)

人工智能大模型智能水平再进一步。10月24日凌晨,月之暗面发布新一代开源模型Kimi K3.1 Pro。该模型为3万亿级参数规模,支持100万词元上下文窗口,继续成为全球参数规模最大的开源模型。在多项国际权威评测中,Kimi K3.1 Pro综合智能水平已接近全球领先的闭源模型,价格仅为GPT 6 Astra的五分之一。

据权威榜单Artificial Analysis,Kimi K3.1 Pro在智能指数中排名第4,位居全球开源模型之首。Kimi K3.1 Pro大幅增加了强化学习环节的算力投入,让模型在数百个领域的反复训练中越练越聪明,拥有智能“大脑”的基础上,长出更多“手”,从而具备更强的专业工具调用能力,在代码编写、3D创作、金融研究和其他长程智能体的能力明显提升,能完成更长时间的多步骤复杂任务。

月之暗面表示,在代码、智能体和知识类基准上,K3.1 Pro 已达到或接近最强闭源模型的水平。

其中,长程编码能力经大规模强化学习进一步增强。在一次内部测试中,研发人员让Kimi K3.1 Pro搭建一个模拟人体行走的系统,通过持续分析实验结果、定位问题并迭代优化行走控制器,推动仿真人体从最初几步之内便倒地,进步到能够交替迈步、连续行走11.2 秒,并修正了肩部肌肉力臂计算中的36 处错误,随后重新训练控制器。

能力越强,越需要守住安全底线。随着Kimi K3.1 Pro能力不断提升,研发团队对其漏洞研究能力做了专项评估,并在训练中实施针对性控制,在降低潜在滥用风险的同时,保留模型的通用能力。

团队在研发中发现,即使没有刻意加入相关数据,模型的网络攻防能力也会随训练规模扩大而自然提升。查明来源后,团队从中期训练和强化学习两个阶段识别并移除了网络攻防的相关数据,今后每个训练阶段都将持续采取此类管控。

同时,研究团队明确了两项开放原则:不发布推进网络攻防能力绝对前沿的开放权重,并逐步提升开放权重中可用的网络攻防能力。团队认为,开放 K3.1 Pro模型权重,将更有利于出于防御目的而需要攻防能力的群体。当能力强大的模型以开放形式提供,并能在用户可控的基础设施上运行时,更多团队将得以审查自身维护的代码。让这一能力逐步扩散,而非集中在少数闭源系统中,最终将使所有软件更加安全。

月之暗面表示,完整模型权重将于11 月4日前发布。

来源:北京日报客户端

加载中...