鲍威尔、贝森特警告银行：来自 Anthropic 的 Mythos AI 的安全风险：彭博社

简要概述

• 据 Bloomberg 报道，美国官员警告主要银行注意与 Anthropic 的 Mythos AI 模型相关的网络安全风险。
• 据称，该系统能够识别并利用操作系统和浏览器中的漏洞。
• 在评估潜在安全风险时，Anthropic 对该模型的访问权限有限。

据称，美国财政部长 Scott Bessent 和美联储主席 Jerome Powell 本周早些时候与华尔街银行 CEO 召开了一次会议，目的是警告与 Anthropic 新的人工智能模型相关的网络安全风险。 根据 Bloomberg 的一份报道，该会议包括花旗集团（Citigroup）、美国银行（Bank of America）、富国银行（Wells Fargo）、摩根士丹利（Morgan Stanley）和高盛（Goldman Sachs）的高管。 官员们讨论了 Anthropic 新的 AI 模型 Mythos，该模型近期因其似乎具备先进的网络安全能力而引发了广泛担忧。 官员们召开此次会议，旨在确保银行了解由能够在操作系统和网络浏览器中识别并利用软件漏洞的系统所带来的风险，并鼓励机构加强防御，以应对可能由 AI 辅助、针对金融基础设施的网络攻击。

安全研究人员曾警告，能够自动发现漏洞的工具如果被滥用，可能同时加速防御性安全工作与恶意黑客行为。  Anthropic 的 Mythos 模型于 3 月首次在网上曝光，此前关于该系统的草稿资料泄露到了网上，显示出该公司所称其迄今最强大的 AI 模型。 在测试中，据称该系统发现了数千个此前未知的软件漏洞，包括覆盖主要操作系统和网络浏览器的零日漏洞。 Anthropic 的研究人员在本周早些时候的一份报告中表示，Mythos Preview 的漏洞发现能力并非被有意训练，而是源于模型在代码、推理和自主性方面的更广泛改进。

“使模型在对漏洞进行修补方面显著更有效的同样那些改进，也使它在利用漏洞方面显著更有效，”该公司写道。 由于具备这些能力，Anthropic 已将对该模型的访问限制在少数网络安全组织范围内。 “鉴于其能力之强，我们在发布上会保持审慎，”Anthropic 在一份声明中说。“与业界的通行做法一致，我们正在与一小组早期接入客户合作，以测试该模型。我们认为该模型是一次量级上的飞跃，也是我们迄今构建的最具能力的版本。” 为应对这一风险，Anthropic 正通过名为 Project Glasswing 的项目测试 Mythos——这是与主要科技与网络安全公司展开的合作，使用该模型在攻击者能够加以利用之前识别并修补关键软件中的漏洞。 “Project Glasswing 是一个起点。没有任何一家机构能够单独解决这些网络安全问题，”该公司在声明中表示。“来自前沿 AI 开发者、其他软件公司、安全研究人员、开源维护者以及遍布全球的政府——所有这些都扮演着至关重要的角色。” Anthropic 尚未立即回应 Decrypt 的置评请求。