OpenAI推出网络安全专用AI模型GPT‑6 Cyber
(来源:环球网资讯)
来源:环球网
【环球网科技综合报道】11月6日消息,OpenAI近日发布博文,正式推出面向网络安全领域的专用人工智能模型GPT‑6 Cyber。该模型在软件漏洞发现、验证与修复能力上较上一代产品实现显著进步,为软件安全研究提供新的技术工具。
据介绍,在ExploitGym专项测试基准中,GPT‑6 Cyber得分达到48.5%,对比上一代GPT‑5.6 Cyber的32.1%,性能相对提升51%。该基准主要考核模型对远程漏洞的利用研判能力。安全约束方面,在未配置专门安全提示的条件下,模型可做到99.93%不越权访问授权范围以外的服务;开启安全提示后,规避越界攻击的比例可达100%。(纯钧)
在实际漏洞研究工作中,GPT‑6 Cyber展现出较强实战能力。研究人员借助该模型完成1724个Linux内核漏洞的复现工作,并针对其中948个漏洞生成可用的权限提升利用程序。针对火狐(Firefox)浏览器,模型挖掘出81个此前尚未被公开的高危漏洞,研究团队同步向Mozilla公司提交漏洞证据、复现方案以及备选修复补丁,目前Mozilla已经着手推送相关漏洞修复更新。
出于风险管控考量,OpenAI将GPT‑6 Cyber纳入自身“准备框架”评估体系,网络安全风险等级评定为关键级,风险等级高于上一代产品。该模型现阶段仅对经过审核批准的Daybreak Red项目客户开放访问权限,后续会逐步扩大开放范围。产品配套部署滥用行为监测、凭证信息保护、沙箱隔离、人工复核监督,以及面向关键基础设施的高风险操作拦截等多重防护机制,降低技术被不当滥用的可能性。
Mozilla、帕洛阿尔托网络、Calif、思科以及OpenAI自身安全团队,已经率先开展该模型的落地试用。OpenAI方面表示,当前行业正处在“依靠人工智能守护软件安全”的重要阶段,后续将持续拓展Daybreak项目覆盖群体,助力各类机构、独立安全研究者以及开源项目维护人员开展漏洞挖掘、代码安全审计与漏洞补丁研发等相关工作。