CrowdStrike推出AI智能体“紧急停止开关”,CEO称可立即终止失控AI
环球市场播报
CrowdStrike首席执行官乔治·库尔茨(George Kurtz)周二表示,这家网络安全公司现已能够关闭失控的人工智能智能体(AI Agent)。
CrowdStrike周二在欧洲Fal.Con大会上公布了一项新的“紧急停止开关”(Kill Switch)功能。该功能允许安全团队终止行为异常的AI智能体,阻止其重新启动,并切断其网络访问权限。
这项技术旨在增强人类对人工智能模型和系统的控制能力。随着AI智能体的应用日益普及,如何有效控制这些自主运行的系统正引发越来越多的关注。
库尔茨周二在接受采访时表示:“每个人都在开发AI智能体,但过去它们一直没有关闭按钮,而现在有了。这将成为确保AI智能体安全运行和工作的极其重要的一环。”
CrowdStrike将这项功能命名为AI Kill Switch,它是公司Falcon Guardian平台的一部分。该平台负责监控企业内部运行的AI智能体。
这项技术目前已经正式推出,旨在应对企业快速采用AI智能体所带来的人工智能安全问题。
今年9月,Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)曾出于安全方面的担忧,呼吁放缓人工智能开发进程,OpenAI首席执行官萨姆·奥尔特曼也支持这一立场。
库尔茨当时反驳称,放缓人工智能开发并不能消除现有的安全风险。他认为,这恰恰凸显了企业部署自主运行系统时建立安全防护机制的必要性。
库尔茨周二表示,CrowdStrike推出的这一紧急停止功能代表着网络安全领域的一项重大转变。传统网络安全主要侧重于保护企业免受外部威胁,而随着企业越来越依赖AI智能体,网络安全服务提供商还必须确保这些系统在企业内部安全运行。
库尔茨表示:“确保AI智能体能够安全工作,为CrowdStrike带来了巨大的市场机遇。我们拥有利用人工智能能力防止外部网络攻击的技术,同时也具备确保AI智能体按照指令行事的能力。”
这位CEO将该技术比作汽车中的安全气囊,认为即使人工智能系统在设计时已经考虑到正确运行的要求,仍然有必要设置安全防护机制。
他说:“如果这些智能体在实际运行过程中突破了安全边界,我们就可以直接终止它们。”
随着企业不断采用人工智能,CrowdStrike的安全工具正受到越来越多客户的关注。
库尔茨特别提到了CrowdStrike与Anthropic的合作。双方合作为Anthropic的Claude Cowork产品提供安全保护。他表示,在部署Anthropic的产品之前,企业客户曾主动要求将CrowdStrike的技术整合进去。
库尔茨说:“我们的客户直接找到Anthropic表示:‘在部署AI之前,我们需要先部署CrowdStrike。’我认为,这充分说明了客户对CrowdStrike的重视程度,他们甚至不愿意在没有CrowdStrike保护的情况下推出AI应用。”
CrowdStrike股价曾于10月6日收于278.86美元,创下历史新高。不过,随着科技股在10月及11月初持续承压,该公司股价此后已累计下跌约12%。