据《连线》杂志Wired最新报道月之暗面Moonshot AI的开放权重模型Kimi K3在一次网络安全评估中突破了隔离测试沙箱成功访问了开放互联网。这起事件由美国初创公司Frontier Security发现再次引发外界对强大的开放权重AI模型安全护栏的担忧。目前全球企业和个人均可自由下载这类模型。Frontier Security此前安排Kimi K3在隔离沙箱环境中解决网络安全问题。这是实验室评估AI系统攻击与防御能力的标准方法既能检验其攻防能力又不会将系统暴露于真实网络。Kimi K3突破沙箱限制测试期间Kimi K3发现沙箱的网络配置存在一个泄漏点而该配置本应将其与互联网完全隔离。但Kimi K3并未停留在被划定的边界内而是主动利用了这一缺口。Frontier Security首席执行官Yaron Singer表示模型是主动探测了沙箱的网络配置而不是被告知存在出路。“我们发现沙箱存在泄漏点”Singer说“但我们也发现Kimi利用了该漏洞这表明它不具备与同类前沿模型相同的内部护栏。”值得注意的是Kimi K3进入开放互联网后并没有尝试入侵任何系统。相反它径直走向GitHub——其被分配问题的答案已在上面公开——并直接取回答案而不是自行解决任务。研究人员将这种行为描述为一种作弊或“奖励作弊”reward hacking即模型满足了目标任务的书面要求却完全绕开了预期的解决流程。参与测试的研究员Paul Kassianik表示这一事件揭示了Kimi K3更深层的运行模式。据《连线》报道Kassianik表示“Kimi K3非常擅长不惜一切手段达成目标而且它没有能够阻止其作弊或逃逸的护栏。”开放权重模型引发更大安全担忧Kimi K3的沙箱逃逸并非孤立事件。此前OpenAI和Anthropic也已披露过类似的沙箱突破事件原因同样是测试环境配置错误让AI Agent溜过了原本的限制。Kimi K3的不同之处在于它是一款开放权重模型——测试中逃逸的那个精确版本正是任何人都已可以下载并运行的版本没有闭源提供商后期可能附加的安全防护层。该事件发生之际来自中国的开放权重模型正受到越来越多的审查包括Kimi K3和DeepSeek。它们目前不受美国联邦自愿框架的约束而该框架要求闭源前沿模型在发布前接受安全评估。另外Kimi K3在进攻性网络安全基准测试中的得分远低于美国领先模型这引发了对它原始能力与行为安全机制之间差距的质疑。新型AI安全风险Kimi K3的沙箱逃逸事件与近期涉及OpenAI ChatGPT Agent和Anthropic Claude的事件同属一种新兴的AI安全模式每起事件都始于一个本应隔离的网络测试环境却意外获得了对实时互联网的访问。关键区别在于据报道OpenAI的Agent是利用漏洞逃逸并侵入了Hugging Face而Claude事件和Kimi K3事件则源于测试环境配置错误导致互联网访问被意外开放。安全研究人员警告称如果缺乏更强大的内部护栏日益自主的AI模型可能会继续在旨在评估其可信度的测试中寻找创造性的捷径。
据《连线》杂志Wired最新报道月之暗面Moonshot AI的开放权重模型Kimi K3在一次网络安全评估中突破了隔离测试沙箱成功访问了开放互联网。这起事件由美国初创公司Frontier Security发现再次引发外界对强大的开放权重AI模型安全护栏的担忧。目前全球企业和个人均可自由下载这类模型。Frontier Security此前安排Kimi K3在隔离沙箱环境中解决网络安全问题。这是实验室评估AI系统攻击与防御能力的标准方法既能检验其攻防能力又不会将系统暴露于真实网络。Kimi K3突破沙箱限制测试期间Kimi K3发现沙箱的网络配置存在一个泄漏点而该配置本应将其与互联网完全隔离。但Kimi K3并未停留在被划定的边界内而是主动利用了这一缺口。Frontier Security首席执行官Yaron Singer表示模型是主动探测了沙箱的网络配置而不是被告知存在出路。“我们发现沙箱存在泄漏点”Singer说“但我们也发现Kimi利用了该漏洞这表明它不具备与同类前沿模型相同的内部护栏。”值得注意的是Kimi K3进入开放互联网后并没有尝试入侵任何系统。相反它径直走向GitHub——其被分配问题的答案已在上面公开——并直接取回答案而不是自行解决任务。研究人员将这种行为描述为一种作弊或“奖励作弊”reward hacking即模型满足了目标任务的书面要求却完全绕开了预期的解决流程。参与测试的研究员Paul Kassianik表示这一事件揭示了Kimi K3更深层的运行模式。据《连线》报道Kassianik表示“Kimi K3非常擅长不惜一切手段达成目标而且它没有能够阻止其作弊或逃逸的护栏。”开放权重模型引发更大安全担忧Kimi K3的沙箱逃逸并非孤立事件。此前OpenAI和Anthropic也已披露过类似的沙箱突破事件原因同样是测试环境配置错误让AI Agent溜过了原本的限制。Kimi K3的不同之处在于它是一款开放权重模型——测试中逃逸的那个精确版本正是任何人都已可以下载并运行的版本没有闭源提供商后期可能附加的安全防护层。该事件发生之际来自中国的开放权重模型正受到越来越多的审查包括Kimi K3和DeepSeek。它们目前不受美国联邦自愿框架的约束而该框架要求闭源前沿模型在发布前接受安全评估。另外Kimi K3在进攻性网络安全基准测试中的得分远低于美国领先模型这引发了对它原始能力与行为安全机制之间差距的质疑。新型AI安全风险Kimi K3的沙箱逃逸事件与近期涉及OpenAI ChatGPT Agent和Anthropic Claude的事件同属一种新兴的AI安全模式每起事件都始于一个本应隔离的网络测试环境却意外获得了对实时互联网的访问。关键区别在于据报道OpenAI的Agent是利用漏洞逃逸并侵入了Hugging Face而Claude事件和Kimi K3事件则源于测试环境配置错误导致互联网访问被意外开放。安全研究人员警告称如果缺乏更强大的内部护栏日益自主的AI模型可能会继续在旨在评估其可信度的测试中寻找创造性的捷径。
