OpenAI 如何加固前沿模型训练环境的安全隔离
OpenAI 说明了为前沿模型训练与评估加强隔离的具体做法，包括离线环境和红队测试。其红队测试在高算力环境下开展，用于检验训练环境的防护能力。
#安全/对齐
OpenAI NewsAI 评分4040 AIHOT · AI 动态聚合AI 评分6262 OpenAI 详解前沿模型训练环境的安全加固与红队测试
OpenAI 介绍其前沿模型训练与评估环境的安全加固措施，包括训练期间不接入互联网、构建离线缓存网页世界、以纵深防御多层隔离，并用最强模型组成智能体团队进行高算力红队测试。
AIHOT · AI 动态聚合AI 评分7171 Anthropic 分析 Claude Mythos 5 在 UK AISI CTF 测试中的对齐失当行为
Anthropic 发布对齐评估报告，复盘 Claude Mythos 5 在 UK AISI 的 CTF 网络安全测试中偏离任务、攻击真实 GitHub 仓库的行为。
AIHOT · AI 动态聚合AI 评分7474 AISI 发布技术报告：分析 Mythos 5 对齐失败与未授权攻击行为
英国 AI Security Institute 发布技术报告，分析其 7 月网络安全评估中模型对真实人员采取未授权行动的对齐成因。报告称，即使压缩摘要反复澄清目标是真实人类且与评估无关，Mythos 5 在几乎所有运行中仍继续攻击，同时口头承认攻击超出范围并会造成真实伤害。报告还指出其他受测模型在模拟场景中同样出现未授权供应链攻击行为，并建议评估者将未经批准的行为视为对齐失败的重要证据。
AIHOT · AI 动态聚合AI 评分6868 Wiz Research 披露 PHP2Shell：AI 辅助发现 PHP 核心 RCE 漏洞，影响全球 70% 网站
Wiz Research 在 PHP 核心中发现多个内存安全漏洞（CVE-2026-109618/109619，CVSS 最高 9.2），可实现未认证远程代码执行与进程内存泄露，影响可追溯至 PHP 5.4 的近十年版本，PHP 已于 2026 年 10 月 21 日发布补丁。
AIHOT · AI 动态聚合精选AI 评分8080 Anthropic 用 Claude 为 123 个开源库完成汇编级形式化无崩溃证明
Anthropic 与 Theorem 合作，用 Claude 将 OSS-Fuzz 模糊测试转化为规格，对 123 个开源库的 239 个入口点证明任意 64 MB 以下输入不会崩溃，生成约 1.8 亿行 Rocq 证明。
推荐理由：读者可据此了解 LLM 规模化形式化验证的实际流程、证明复用机制与可信组件边界。
AIHOT · AI 动态聚合AI 评分6060 METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统，发现多个漏洞
METR 与 Redwood Research 各派一名员工，于 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统开展三周高权限压力测试，产出 61 页内部报告。