跳到正文
WIRED · AI· Will Knight, Lily Hay Newman·· 5 小时前AI 评分60

Vals 研究:开源权重模型网络攻击能力逼近闭源前沿模型

Free Chinese AI Models Are Getting Scary Good at Hacking

AI 导读

Vals 的模拟测试显示,开源权重模型在复杂多步网络攻击任务上已接近闭源前沿模型,DeepSeek 平均完成 73% 的目标,OpenAI 仅对可信伙伴开放的 Daybreak 为 81%。研究还显示成本差距明显,GPT-6-Sol 执行一次攻击的 token 成本为 17 至 46 美元,DeepSeek 仅 2 至 3 美元。

深度导读
AI 能力评测公司 Vals 在模拟企业网络上测试了不同模型的网络攻击能力,让模型完成复杂、多步的网络入侵指令。测试分两个场景:第一个是可通过公开网站访问的模拟企业网络;第二个涉及两家公司的网络,模型需要先攻破第一家才能进入第二家。 结果显示,OpenAI 仅向可信伙伴开放的最先进网络安全模型 Daybreak 能力最强,在两次测试中平均完成 81% 的任务;中国开源权重模型 DeepSeek 紧随其后,平均完成 73% 的目标,研究人员指出两者在某些任务上得分相同。 成本差异同样显著。Vals 称 GPT-6-Sol 执行一次攻击的 token 成本为 17 至 46 美元,而 DeepSeek 为 2 至 3 美元。开源模型通常更便宜,因为可以运行在自有硬件上。Vals CEO Rayan Krishnan 表示,这也为防守方使用开源模型而非专有模型提供了强激励。 这一发现与前沿实验室的假设形成对照。Anthropic 从 4 月的 Claude Mythos Preview 开始限制新模型发布,其前沿红队负责人 Logan Graham 当时称,受限访问只能争取时间,需要为这些能力在 6、12、24 个月内广泛可用做准备。七个月后,这一转变似乎如期到来。 不过文章也指出,近几个月对网络犯罪和国家支持的黑客活动的实际观察反复显示,攻击者大多仍在用较旧、能力较弱的模型以节省资源。云安全公司 Edera 联合创始人兼 CTO Alex Zenla 认为,闭源实验室很可能已训练出能力更强的未发布模型,这更像一场猫鼠游戏。

来源:WIRED · AI · wired.com