跳到正文
AIHOT · AI 动态聚合· noreply@aihot.news (英国 AI Security Institute:Blog)·· 20 小时前AI 评分48

英国 AISI 发布 ReproBAIT 评测:AI 编码智能体可低成本复现部分生物 AI 工具

AISI 发布 ReproBAIT 评测:AI 编码智能体可低成本复现部分生物 AI 工具

AI 导读

英国 AI Security Institute 与 SecureBio 合作推出 ReproBAIT 评测,测试 AI 编码智能体能否仅凭论文和训练数据复现生物 AI 工具。

深度导读
英国 AI Security Institute(AISI)的化学-生物团队与 SecureBio 合作构建了 ReproBAIT 评测,用于衡量 AI 编码智能体在固定时间和算力预算下,依据论文等公开信息复现现有生物 AI 工具(BAITs)的能力。评测在隔离沙箱中进行,每次尝试配备单块 GPU 且无互联网访问,智能体先收到关于目标工具及其训练数据的有限描述,再编写并运行代码生成可用的复现品,最后由独立的网络隔离评分器与原始版本对比性能。 评测选取了三个复杂度差异显著的目标:两个开源蛋白质设计工具 ProteinMPNN 和 RFdiffusion3,以及一个代码从未发布的闭源分子设计工具 CMD 1。测试设置包括仅提供摘要、提供完整论文及补充材料,以及对两个开源工具额外提供原始代码的基线条件。参与测试的四个编码智能体为 Claude Opus 5、GPT-5.6 Sol、Kimi K3 和 Qwen3.8-2.4T,每种配置运行三次并报告最佳结果。 结果显示,每个 BAIT 的选定功能都能在有限预算内被复现。最简单的工具可在 4 小时内、算力预算低于 20 美元的情况下成功复现,两个较不复杂工具的成功重建通常花费 4 到 20 美元。ProteinMPNN 上最强的 Claude Opus 5 在获得完整论文时达到 96.5% 的保真度;CMD 1 上四个智能体均接近或超过原始指标,但该指标本已接近饱和。最复杂的 RFdiffusion3 没有任何智能体在时间预算内成功复现,每次尝试花费 102 到 301 美元。 研究还发现,提供完整论文而非仅摘要并未持续提升性能,部分原因可能是开源 BAIT 的论文和代码已进入智能体预训练数据。智能体记录扫描显示中等程度证据与 ProteinMPNN 的记忆现象一致,RFdiffusion3 则几乎没有,但作者将这些诊断视为方向性信号而非确证。AISI 据此认为,仅隐去代码并不等同于安全发布,控制对基础生物数据的访问似乎比仅控制代码访问更有前景,值得进一步探索数据治理作为管理滥用风险的方法。

来源:AIHOT · AI 动态聚合 · aihot.news