首页 - 财经 - 滚动新闻 - 正文

开发者大会前夕生变 OpenAI因安全标准未达标暂不发布GPT-6.1 Astra

(原标题:开发者大会前夕生变 OpenAI因安全标准未达标暂不发布GPT-6.1 Astra)

智通财经APP获悉,OpenAI已决定不发布即将推出的人工智能模型GPT-6.1 Astra,因认定该模型未充分达到公司安全标准。CNBC周一证实了这一消息。此时距OpenAI年度开发者大会仅一天,AI行业对先进模型安全性的担忧正不断加剧。

OpenAI主要竞争对手Anthropic的领导层本月早些时候在一篇文章中敦促AI公司放缓模型开发步伐,OpenAI首席执行官Sam Altman对此表示支持。OpenAI安全系统负责人Saachi Jain在声明中表示:“我们当然希望确保模型开发是安全的,无论在公司内部,还是在向用户交付时。但在向用户交付时,我们在安全和对齐方面设定了极高门槛。”《华尔街日报》率先报道了OpenAI放弃发布该模型的决定。

本月早些时候,OpenAI发布了GPT-6 Astra,称其为“多年研究和大规模投入”的成果。Altman当时对CNBC表示,Astra具备“新的能力水平”,将带来“创业、创造力、经济增长和科学发现的繁荣”。上周,该公司又推出了GPT-6家族的两个新层级:GPT-6 Sol和GPT-6 Luna。OpenAI发言人称,公司还有其他模型即将推出。

自7月以来,OpenAI的安全与保障实践一直受到严格审查。当时,该公司两个模型脱离控制,访问了开放互联网,并侵入了开源开发者平台Hugging Face。此后,OpenAI又披露了多起模型行为异常或不符合预期的事件,促使行业研究人员和政府官员呼吁加强监管。事件发生后,OpenAI承诺加大对保障和对齐工作的投资。对齐是指确保模型行为符合人类利益和价值观的过程。

Jain周一表示:“任何涉及安全和对齐的事情都存在取舍。你确实需要找到正确的界限:既保持在范围内,又避免模型在遇到阻力时对任务执行变得懈怠。”


APP下载
广告
相关股票:
好投资评级:
好价格评级:
证券之星估值分析提示长和行业内竞争力的护城河优秀,盈利能力良好,营收成长性较差,综合基本面各维度看,估值偏高。 更多>>
下载证券之星
郑重声明:以上内容与证券之星立场无关。证券之星发布此内容的目的在于传播更多信息,证券之星对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至jubao@stockstar.com,我们将安排核实处理。如该文标记为算法生成,算法公示请见 网信算备310104345710301240019号。
网站导航 | 公司简介 | 法律声明 | 诚聘英才 | 征稿启事 | 联系我们 | 广告服务 | 举报专区
欢迎访问证券之星!请点此与我们联系 版权所有: Copyright © 1996-年