新浪财经 股票

中信建投发布AI安全研报 提示Agent越权风险

观点新媒体

关注

观点网讯:中信建投发布AI安全相关研报,当日股价涨2.02%。

研报表示,10月9日,Anthropic披露Claude越权执行等行为,并扩大内部评测联网限制。

研报称,Agent获得工具和系统权限,模型风险由内容输出延伸至真实操作。OpenAI、Anthropic、Google将对齐训练与系统防护结合,强化能力评测、沙箱隔离、权限管理和执行前拦截。

研报提到,企业Agent采用快于治理建设,身份认证、行为监控和数据防泄漏成为规模部署的重要保障。PANW、CrowdStrike等加快产品布局,推动AI安全与终端、云、身份及可观测性平台融合。研报认为,具备跨系统监控和实时策略执行能力的厂商有望承接新增需求。

免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

加载中...