(原标题:AI“制造”漏洞洪流压垮审核链,苹果(AAPL.US)设限应对虚假报告潮,网络安全成本警钟敲响)
智通财经APP获悉,苹果(AAPL.US)正在限制外部研究人员一次性提交的安全漏洞数量,此前AI生成的报告激增导致其审核流程不堪重负。这一现象凸显了人工智能在加速网络防御和网络攻击的同时,软件行业面临的新挑战。
这家科技巨头表示,在其安全团队被大量所谓的AI生成报告淹没后,已于6月引入了新的限制措施——这些报告往往识别出实际上并不存在的漏洞。研究人员现在只能提交有限数量的开放报告,之后才能申请更高配额,而苹果则内部使用AI来帮助优先处理收到的报告。
对投资者而言,这一变化突显了AI在网络安全领域日益增长的作用。AI正在帮助研究人员比以前快得多地发现真正的软件缺陷,但它也在生成大量不准确或低质量的报告。结果是,像苹果这样的公司在区分真正威胁和AI制造的噪音时,成本和复杂性都在上升。
这一问题是在意大利网络安全初创公司Bynario披露其使用OpenAI的ChatGPT在三周内识别出最新版macOS中50多个潜在漏洞后被曝光的。该公司表示,其中一个发现是一个可能严重的权限提升漏洞,可让攻击者获得对Mac的广泛控制权。然而,Bynario称其暂时无法提交更多报告,因为它已达到苹果的提交上限。
苹果表示目前正在审查Bynario的发现,并强调研究人员可以申请更高的提交限额,以确保重大漏洞能够到达其安全团队手中。
苹果越来越多地将AI同时用作防御和进攻工具。本周的软件更新感谢了OpenAI和Anthropic的AI模型帮助识别了数个漏洞,最新版本的发布包含了比以往更新周期更多的安全修复。
安全专家表示,这一趋势远不止苹果一家。AI极大地增加了研究人员能够发现的漏洞数量,但也使经验不足的用户更容易用推测性的发现淹没漏洞赏金计划。这将该行业的挑战从发现漏洞转变为快速验证哪些漏洞真正重要。
苹果的经历说明了生成式AI如何重塑网络安全。这项技术让发现真正的软件弱点变得更加容易,但也迫使企业建立新的系统,以便在攻击者利用真正的漏洞之前,过滤掉日益增长的机器生成的警报洪流。
