OpenAI News·· 14 小时前AI 评分38
OpenAI 筹备下一轮安全冲刺,并与 Cathedral 合作加固系统
Preparing our next security sprint to harden OpenAI
AI 导读
OpenAI 正筹备下一轮内部安全冲刺,联合新研究员与外部安全伙伴用自家模型测试并加固系统,首个合作方为 Cathedral。其 Security Bug Bounty 计划对关键发现的奖励提高逾四倍。上一轮冲刺中 25% 的产品工程师用 Codex 调查发现、在隔离环境复现漏洞并准备补丁。
深度导读
OpenAI 宣布正在筹备下一轮内部安全冲刺,将引入新的研究员和安全伙伴,与内部团队一起用自家模型测试并强化系统。首个公开合作方是安全公司 Cathedral,其研究人员将使用 OpenAI 的模型与 OpenAI 团队共同挑战防御体系,带来不同的专业视角和方法来发现弱点。Cathedral CEO 兼联合创始人 Gavin Kliger 表示,OpenAI 与外部安全公司合作、用自身模型持续测试防御的做法值得其他公司借鉴。
与此同时,OpenAI 对 Security Bug Bounty 计划做出调整,关键发现的奖励提高逾四倍,希望研究者挑战其既有假设,帮助强化系统与防御方法。OpenAI 称这是其用 AI 持续发现并修复系统弱点工作的一部分。
上一轮冲刺提供了可参考的结果:OpenAI 投入 25% 的产品工程师寻找并修复系统弱点,工程师使用 Codex 调查发现、在隔离环境中复现漏洞,并准备供审核的补丁。OpenAI 表示将在此基础上继续推进,理由是传统网络防御已不足以应对快速出现的威胁,需要建立持续发现和修复弱点的防御闭环。
OpenAI 还称正用其最强模型加强自身防御,并向 Daybreak 客户开放这些能力;同时承诺在六个月内提供 10 亿美元的补贴访问额度,用于保护关键服务和数字基础设施的一线防御者。OpenAI 还公开了上一轮冲刺的架构与经验教训,以及面向行业和政府的网络安全防御蓝图。
来源:OpenAI News · openai.com