Google DeepMindのCEOハサビス氏、米国主導のAI標準化機関を求める

Google DeepMindのCEOであるデミス・ハサビス氏は、火曜日にXで投稿された記事の中で、新たなAIモデルを監督し、サイバーセキュリティや生物学的脅威を含む国家安全保障上のリスクを評価するための標準化団体をU.S.が主導するよう求めた。同氏は、人類汎用人工知能（AGI）に関連するリスクに対処するには緊急の行動が必要だと述べ、最前線のモデルはすでにサイバーセキュリティ上の課題を生じさせている一方で、AI能力が進むにつれて核や生物のリスクが近いうちに表面化する可能性があると指摘した。こうした呼びかけは、規制をめぐる緊張が高まる中で行われたもので、先ごろはAnthropicとOpenAIがトランプ政権による一時的な輸出管理や展開（ロールアウト）の制限に直面している。

ハサビス氏、AI監督のためのU.S.主導の官民パートナーシップを提案

ハサビス氏は、AIの脅威に対処する解決策として、連邦政府が監督するU.S.主導の官民パートナーシップを提案した。同氏は、U.S.は経済面・技術面での強い立ち位置を踏まえ、AIフレームワークの構築をリードするのに適していると述べた。提案されるこの組織は、連邦政府の監督下にある官民パートナーシップ、あるいは自主規制団体をモデルにし、金融業界規制当局であるFinancial Industry Regulatory Authority（FINRA）のような形を想定しており、独立した主要な技術専門家とオープンソースの代表者を含む理事会で構成されるという。

この標準化団体は、世界レベルの技術人材を呼び込み、大規模なテストに必要な計算資源を提供するために、多額の資金を要するだろうと、ハサビス氏は述べた。フロンティア・ラボは当初、リリースの最大30日前までに審査のためにこの団体へモデルを自主的に共有し、その後、有効であることが示された後は、U.S.市場での展開（配備）に必須となる。

具体的なエージェント型AIのテストでは、安全性のガードレールを回避しようとする試みや、欺瞞（デセプション）の兆候を探すことが考えられ、さらに、AI生成画像にデジタル・ウォーターマーキングを施すことや、モデルの推論を理解するために人が読める出力トークンを生成することといったベストプラクティスを徹底するべきだと、ハサビス氏は語った。

これらの発言は、ハサビス氏とAnthropicのCEOであるダリオ・アモデイ氏が、CNBCが取材に応じた関係者によれば、President Donald Trumpを含む技術リーダーと各国首脳が参加したG7会合で、AIをめぐるルールや基準を形作るためのU.S.主導の連合を求めてからちょうど1か月後にあたる。OpenAIのSam Altman氏も今月初めにFinancial Times紙に掲載された記事で、同様の組織を求めていた。

中国のAIモデルが勢いを増す中、U.S.の議員が規制強化を検討

規制監督の強化を求める声は、U.S.と中国の間でAIモデルを開発・展開する競争が激化するのにともなって高まっている。DeepSeekやZ.aiなどの中国企業による最近のモデルのリリースは、多くの人から、AnthropicやOpenAIの主要なフロンティア・システムと比べて非常に競争力が高いと見なされており、AIコストの上昇を背景にU.S.企業の間で勢いを増している。

U.S.の議員は現在、自国企業による中国のAIモデルの導入が拡大することをどう抑えるかを検討している。State DepartmentはCNBCに対し、これが重大な懸念を引き起こしていると伝えた。ここ数週間、Anthropicは、トランプ政権が高度なモデルに一時的な輸出管理を課したことを受け、当局と交渉を行っていた。OpenAIも当初、U.S.政府から新モデルのロールアウトを制限するよう求められていたため、制約を受けていた。

よくある質問

デミス・ハサビス氏は火曜日に何を提案しましたか？

Google DeepMindのCEOであるデミス・ハサビス氏（Nobel laureate）は、火曜日にXで投稿された記事の中で、新たなAIモデルを監督し、サイバーセキュリティや生物学的脅威を含む国家安全保障上のリスクを評価するための標準化団体をU.S.が主導するよう求めた。

提案されたAIの標準化団体は、どのように運営されることになりますか？

提案される団体は、FINRAに似た、連邦政府が監督する官民パートナーシップをモデルにして設計され、理事会には独立した技術専門家とオープンソースの代表者が含まれる。フロンティア・ラボは当初、リリースの最大30日前までに審査のためにモデルを自主的に共有し、有効であることが示された後は、U.S.市場への展開（配備）に必須となる。資金は、技術人材を呼び込み、大規模なテストに必要な計算資源を提供するために、主に産業界から拠出される見込みだ。