米国当局者、AnthropicのAIのリスクについてウォール街に警告

神話モデルはセキュリティリスクを示唆

焦点は、Anthropic社のMythosモデルにある。このモデルは、オペレーティングシステムやWebプラットフォームにおける脆弱性を検出し、それを検出したうえで悪用できるとされている。さらに同社は、モデルが管理された条件下で挑発されると攻撃をシミュレーションできることを認識している。そのため当局は、このような能力が悪意ある人物によって悪用された場合の可能性を、脅威として考えている。これにより、金融・規制分野での監視が強まっている。AnthropicはMythosへのアクセスが限定的である一方、Project Glasswingによって防御型アプリケーションを拡大している。Amazon、Apple、JPMorgan Chaseのような大企業がこの取り組みに参加している。加えて、Google、NVIDIA、Linux Foundationといった組織も関与した。AIベースの脆弱性検出によってソフトウェアのセキュリティを強化することを掲げ、これらのグループはこの目標を追求している。

同社は、取り組みの推進と防御範囲の強化に多くのリソースを投じた。Anthropicは、最大100 million usage creditsと、直接の資金提供として4 millionを提供した。さらに、重要インフラを管理する40以上の組織がシステムへアクセスできた。この共同の取り組みは、広く使われているソフトウェアに存在する高い重大度の欠陥を発見し、解決することを目的としている。Anthropicは、法的および規制上の動向の変化とともに、依然として注目されている。トランプ政権は、同社をその区分において取り締まろうとしたが、サンフランシスコの連邦裁判所によって阻止された。Rita Lin判事は、その指定は実質的に法律に基づくものではないと命じた。したがって、この判断は短命の猶予にとどまった。というのも、AI企業は引き続き監視の対象にあるからだ。

同社は堅調な財務成長を記録しており、年次経常収益はここ数か月で急激に増加している。これにより、テクノロジー分野だけでなく金融分野でも関心が高まっている。加えて、アナリストは引き続き、Palantir Technologiesのような競合企業に対する全体的な影響を評価している。市場のプレイヤーたちは、AI導入が業界の競争にどのような影響を与えるかを追跡している。Anthropicにおける最新の革新は、AIセキュリティ、規制要件、そして市場への影響に対する関心を高めることにつながった。これらは、政策をめぐる議論や財務面での備えにおいても依然として影響力を持ち続けている。

この記事はもともと、US Officials Warn Wall Street About the Risks of Anthropic AI というタイトルで、Crypto Breaking News — 暗号ニュース、Bitcoinニュース、ブロックチェーンの最新情報をお届けする信頼できる情報源 — に掲載された。