鲍威尔、贝森特警告银行：来自 Anthropic 的 Mythos AI 的安全风险：彭博

简要概述

• 据 Bloomberg 报道，美国官员警告主要银行注意与 Anthropic 的 Mythos AI 模型相关的网络安全风险。
• 据称，该系统能够识别并利用操作系统和浏览器中的漏洞。
• Anthropic 在评估潜在安全风险期间，对该模型的访问受到限制。

据称，美国财政部长 Scott Bessent 和美联储主席 Jerome Powell 本周早些时候召集会议，和华尔街银行的 CEO 们会面，旨在警告与 Anthropic 新的人工智能模型相关的网络安全风险。 据 Bloomberg 的一份报道，该会议包括花旗集团、美国银行、富国银行、摩根士丹利和高盛的高管。 官员们讨论了 Anthropic 新的 AI 模型 Mythos，该模型最近因其明显具备先进的网络安全能力而引发了广泛担忧。 官员们召开此次会议，是为了确保银行理解由能够在操作系统和网页浏览器中识别并利用软件漏洞的系统所带来的风险，并鼓励机构加强防御，以应对可能由 AI 辅助、面向金融基础设施的网络攻击。

安全研究人员警告，能够自动发现漏洞的工具如果被滥用，既可能加速防御性安全工作，也可能加速恶意黑客活动。  Anthropic 的 Mythos 模型于 3 月首次在网上浮现。在有关该系统的泄露草稿材料出现在网上之后，公司展示了其所描述的迄今最强大的 AI 模型。 据称，在测试中，该系统发现了数千个此前未知的软件漏洞，包括多项主要操作系统和网页浏览器中的零日漏洞。 Anthropic 研究人员在本周早些时候的一份报告中表示，Mythos Preview 的漏洞发现能力并非被有意训练出来，而是源于模型在编码、推理和自主性方面的更广泛改进。

“推动模型在修补漏洞方面显著提升有效性的同样那些改进，也让它在利用漏洞方面显著更有效，”该公司写道。 由于这些能力，Anthropic 已将对该模型的访问限制在少数网络安全组织范围内。 “鉴于其能力之强，我们在发布方面会保持谨慎，”Anthropic 在一份声明中表示。“如同业界的通行做法一样，我们正在与一小组早期访问客户合作来测试该模型。我们认为该模型是一次重大能力跃升，也是我们迄今打造出的最强大模型。” 为应对这一风险，Anthropic 正通过 Project Glasswing 测试 Mythos。该项目是与多家重要科技与网络安全公司合作的计划，使用该模型在攻击者能够利用漏洞之前，识别并修补关键软件中的漏洞。 “Project Glasswing 是一个起点。没有任何一家组织能单独解决这些网络安全问题，”该公司在声明中表示。“来自 Frontier AI 的开发者、其他软件公司、安全研究人员、开源维护者，以及遍布全球的政府，都扮演着必不可少的角色。” Anthropic 尚未立即回应 Decrypt 的置评请求。