金融相場担当の大臣、中央銀行総裁、そしてシニアの金融関係者は、AnthropicのClaude Mythosモデルがもたらし得るリスクにますます注目しており、グローバルな金融インフラの重大な弱点を露呈する可能性があるとの懸念が背景にある。
要約
このモデルはすでに、高レベルの議論や緊急対応型の会合を引き起こしており、初期テストで主要なOSおよび広く使われているアプリケーション全体にわたる脆弱性が判明した後に、そうした動きが出た。当局者および業界の専門家は、このシステムがサイバーセキュリティ上の欠陥を「前例のない」能力で検知し悪用し得る可能性があると述べているが、一部では、その全能力はまだ十分に理解されていないとして慎重な見方もある。
カナダの財務大臣フランソワ＝フィリップ・シャンパーニュは、ワシントンで今週行われた国際通貨基金（IMF）会合の場で、この問題が会話の中心を占めたと述べた。
「もちろん、それはすべての財務大臣の関心を引きつけるのに十分に深刻だ」と同氏は語り、加えて、物理的なリスクと異なり、AIの課題は「未知の未知」だと付け加えた。
同氏は、セーフガード（防護措置）の必要性を強調し、「私たちが、金融システムのレジリエンス（強靭性）を確保するためのプロセスがあることを確認する必要がある」と述べた。
大手銀行や政府機関は現在、より広範なロールアウトの前に脆弱性を評価するため、Mythosへの早期アクセスを提供されている。
バークレイズの最高経営責任者（CEO）であるC. S. ヴェンカタクリシュナンは、懸念は重大であり、即時の対応を要するほどだと述べた。
「それは十分に深刻で、皆が心配しなければならない」と同氏は言う。「私たちはそれをよりよく理解しなければならない。そして、露呈されている脆弱性を理解し、迅速に修正しなければならない。」
同氏はさらに、この状況は、リスクと機会がますます絡み合う、よりつながった金融システムを反映しているとも付け加えた。
Anthropicは、Mythosがすでに、OS、金融プラットフォーム、Webブラウザにまたがって複数の欠陥を見つけ出したと示している。これを受けて、アクセスは大手テクノロジー企業やシステム上重要な銀行を含む少数の機関に制限され、より広範な露出の前に防御を強化できるようにしている。
米国当局も同様の措置を取っている。財務省は、主要銀行に対し、モデルを内部に展開して弱点を特定するよう促す一方で、連邦機関に対して管理された形で提供する方法も模索している。ホワイトハウス行政管理予算局（Office of Management and Budget）からのメモには、そうしたアクセスが付与される前にセーフガードを導入する計画が記されている。
イングランド銀行の総裁アンドリュー・ベイリーは、サイバー犯罪への影響は真剣に受け止めるべきだと述べた。
「私たちは今、この最新のAI開発がサイバー犯罪のリスクに対して何を意味し得るのかを、非常に注意深く見極めなければならない」と同氏は語り、そのようなツールが「悪意のある主体（bad actors）」にシステムの脆弱性を特定し悪用することをより容易にする可能性があると警告した。
スコット・ベセントおよびジェローム・パウエルを含む上級の米国当局者はすでに、リスクに対処するためにウォール街の幹部を招集している。出席者には、ゴールドマン・サックス、バンク・オブ・アメリカ、シティグループ、モルガン・スタンレーなどの大手銀行のリーダーが含まれていたと報じられており、この問題がシステム全体として重要であることを浮き彫りにしている。
業界の声としては、懸念はAnthropicに限られない可能性があるという見方もある。情報筋によれば、別の米国のAI企業が、同等の能力を持つモデルを、比較可能なセーフガードなしにリリースするかもしれないという。
バルダートン・キャピタルのジェームズ・ワイズは、Mythosを「システムの脆弱性を露呈し得る、これからさらに数多く登場するであろう強力なモデルの最初のもの」と表現した。同氏のSovereign AI部門は、AIセキュリティに注力する企業に投資しており、さらに「私たちは、脆弱性を露呈するモデルが、同時にそれを修正するモデルでもあることを期待している」と付け加えた。
MythosはAnthropicのClaudeファミリーの一部であり、OpenAIおよびGoogleの提供物に対抗する競合システムだ。これまでのリリースと異なり、同社は、ツールが悪用されて機微な欠陥をあぶり出したり、保護されたシステムに侵入したりすることにつながり得るという懸念から、アクセスを制限している。
モデルが、通常は高度に熟練したハッカーが見つけ出す必要がある重大なバグを特定したことを受けて、社内テストで警報が鳴った。報道によれば、一部の脆弱性は数十年前にさかのぼるものもあり、従来のセキュリティシステムでは見過ごされていたギャップを示している。
懸念は、政策をめぐる論争にも波及している。ペンタゴンは最近、Anthropicを潜在的なサプライチェーンのリスクとして指定した。これは通常、外国の敵対者に対して用いられる手法だ。同社は裁判で提案された禁輸（ban）に対して異議申し立てに成功し、それが重大な経済的損失につながると主張した。
国家安全保障の分野の関係者の間では、Mythosがサイバー脅威をどう評価するかに新たな不確実性を持ち込んだ。ある当局者は、その影響を、一般的なハッカーに、エリートの運用者が使うのに近いツール一式を装備することに匹敵すると説明した。
リスクがあるにもかかわらず、当局は引き続きAnthropicとの協議を続けている。連邦政府の機関は、管理された形でのアクセスの可能性に備えている一方で、規制当局と金融機関は、同モデルがすでに特定し始めている脆弱性を理解し、それに対処するために、競うように動いている。
