首页 - 财经 - 全球市场 - 正文

AI安全成焦点议题之际,CrowdStrike(CRWD.US)推出AI“紧急停机开关”

(原标题:AI安全成焦点议题之际,CrowdStrike(CRWD.US)推出AI“紧急停机开关”)

智通财经APP获悉,CrowdStrike(CRWD.US)押注自己握有对付失控人工智能的解决方案。这家网络安全厂商周二推出一款 AI“紧急停机开关”(AI kill switch),旨在让安全团队阻止在企业内部“越轨”行事的 AI 智能体,封锁其重新启动的途径,并切断其对企业网络的访问。该工具内置于 CrowdStrike 于 9 月推出的、用于保障 AI 智能体安全的 Falcon Guardian 平台之中。CrowdStrike 同时宣布与 Anthropic 的 Claude Cowork 实现集成。

“拥有控制与关闭的能力,能够做出决策并决定(是否关停),我认为这对 AI 应用的下一个阶段至关重要,”CrowdStrike 首席商务官 Daniel Bernard表示。

近期一连串高调的网络攻击事件,为建立某种紧急关停机制的呼声增添了紧迫感。7 月由失控的 OpenAI 智能体策划的 Hugging Face 入侵事件尤其令企业界警觉。上周,币安披露了有记录以来规模最大的加密货币网络攻击;黑客近期还攻击了法国超市的数百台冰箱与冰柜。

今年夏季,美国国会议员提出了要求 AI 公司在模型中内置关停能力的两党联合法案。但批评者认为,要跨越多个系统、数据中心与复杂的 AI 模型去实施一个紧急停止按钮,其复杂度远超现实。

Bernard 表示,在客户使用其 Falcon 平台的系统中,停机开关的工作方式类似于断路器。该流程可以检测到内部智能体的活动,但是否切断某个智能体并恢复其访问权限,需要由人来决定。

“如果你在根部终止一个进程,而我们在根部恰恰拥有这一层访问权限……那么这件事非常二元:你要么杀掉这个 AI 与智能体,要么不杀,然后你对此进行报告,”Bernard 说。

CrowdStrike 称,停机开关不会删除智能体的代码,而是通过相连的 AI 网关,切断其对影响决策的 AI 模型的访问。

在 AI 时代,企业正快速采用自主化工具,却往往缺乏必要的安全防护与保护措施。CrowdStrike 认为,这款新工具能让企业将 AI 智能体的“不当行为”扼杀在萌芽之中,同时为创新留出空间。

该公司还宣布了收购 AI 可观测性初创公司 Fiddler AI 与 AI 安全测试公司 Dreadnode 的计划。

CrowdStrike 及其竞争对手正竞相收购网络安全初创公司,以跟上不断增长的安全需求。对 AI 安全工具的需要,也推动了更广泛的网络安全行业并购浪潮。

APP下载
广告
下载证券之星
郑重声明:以上内容与证券之星立场无关。证券之星发布此内容的目的在于传播更多信息,证券之星对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至jubao@stockstar.com,我们将安排核实处理。如该文标记为算法生成,算法公示请见 网信算备310104345710301240019号。
网站导航 | 公司简介 | 法律声明 | 诚聘英才 | 征稿启事 | 联系我们 | 广告服务 | 举报专区
欢迎访问证券之星!请点此与我们联系 版权所有: Copyright © 1996-年