大模型安全抢人大战:顶级白帽古河加盟智谱 字节新设安全部门

(原标题:大模型安全抢人大战:顶级白帽古河加盟智谱 字节新设安全部门)

大湾区经济网10月16日讯 AI大模型的安全能力建设正在成为头部厂商角力的新战场。国际安全研究员古河近日宣布加盟智谱(02513.HK),进入GLM基础模型组,核心任务是提升大模型的网络安全能力。此前一天,字节跳动宣布启动全球顶尖人才招募,计划邀请10位顶尖研究员加入新设立的大模型安全与对齐部门。

古河团队利用GLM模型挖掘的23个Windows漏洞已全部获微软安全响应中心MSRC确认与致谢。他连续多年位列MSRC"最具价值安全研究者"年度榜单榜首,曾两次斩获The Pwnie Awards,曾任360漏洞研究院院长。两大头部厂商相继加码安全人才布局,折射出行业对AI安全能力建设的紧迫感。

网络安全不仅是模型安全问题,也正在成为商业化落地方向。自GLM-5.2起,智谱联合安全团队在真实代码库中挖洞,经专家复核后累计发现2436个漏洞,其中1097个为中高危。GLM-5.3发布约1个月后,网络安全已成为智谱率先实现规模化收入的垂直场景,约100家安全企业将GLM接入产品与业务流程。Co-work行业订单金额已超10亿元人民币。

字节跳动方面,新设立的大模型安全与对齐部门将聚焦模型及Agent安全的前沿评测、模型前沿能力对齐训练方法、自动化Red Teaming、模型行为可解释性等研究方向。中金公司研报指出,AI系统的脆弱点已深入到训练数据、提示词结构、输出边界与运行时行为本身,建立覆盖全生命周期的安全治理框架是AI商业化的前提。

文/徐玲,编辑/可可

fund

APP下载
广告
好投资评级:
好价格评级:
证券之星估值分析提示智谱行业内竞争力的护城河优秀,盈利能力一般,营收成长性较差,综合基本面各维度看,估值偏高。 更多>>
下载证券之星
郑重声明:以上内容与证券之星立场无关。证券之星发布此内容的目的在于传播更多信息,证券之星对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至jubao@stockstar.com,我们将安排核实处理。如该文标记为算法生成,算法公示请见 网信算备310104345710301240019号。
网站导航 | 公司简介 | 法律声明 | 诚聘英才 | 征稿启事 | 联系我们 | 广告服务 | 举报专区
欢迎访问证券之星!请点此与我们联系 版权所有: Copyright © 1996-年