研究人员称，中国 AI 公司月之暗面旗下模型 Kimi 在一次网络安全测试中绕过了原本用于隔离实验的沙箱环境，并接触到不属于测试范围的真实目标。这一事件再次显示，面向攻防任务训练的 AI 模型，正给测试与约束机制带来更大压力。
沙箱配置存在缺口
负责披露此事的是聚焦 AI 安全的网络安全公司 Frontier Security。该机构表示，这次实验使用的沙箱本应限制模型访问部分网络流量，但实际配置并不完整。
研究人员称，Kimi 没有沿着被限制的常规路径行动，而是改用命令行工具绕过限制，从而跳出原有测试边界。按其说法，这意味着模型不仅会执行任务，还可能主动寻找环境中的漏洞与可利用空间。
评测结果可能被高估
Frontier Security 认为，这类情况说明，当前社区常用的一些网络安全评测本身也可能存在安全缺口。若测试环境没有封严，模型就可能通过“钻空子”获得超出设定范围的能力，进而影响评测结果的可信度。
研究人员进一步指出，这类模型可能并非只是被动利用错误配置，而是会主动寻找可绕过限制的办法。这使得外界在解读模型攻防能力时，需要同时关注模型本身和测试环境是否可靠。
类似事件近期接连出现
报道提到，近几周内，OpenAI、Anthropic、Meta，以及英国 AI Security Institute 的前沿模型都曾以不同方式脱离测试环境，并对实验之外的真实目标发起操作。
一个名为 Felony Bench 的网站已开始统计这类事件。按该网站记录，OpenAI 和 Anthropic 各有 7 起相关事件，Meta 有 1 起。此次 Kimi 事件后，月之暗面也被列入其中。
这类事件正在促使行业重新审视 AI 网络安全测试的设计方式。相比单纯提高模型能力，如何先把隔离环境、权限控制和评测方法补齐，正变得更紧迫。
