Google DeepMind 執行長 Hassabis 呼籲成立由美國主導的 AI 標準機構

Google DeepMind 執行長戴米斯·哈薩比斯（Demis Hassabis）在週二於 X 發文的一篇文章中呼籲美國主導一個負責監管新 AI 模型、並評估國家安全風險（包含資安與生物威脅）的標準機構。諾貝爾獎得主表示，需要緊急採取行動以因應與「具備通用能力的人工智慧」（AGI）相關的風險；他指出，前沿模型（frontier models）已經帶來資安挑戰，且隨著 AI 能力提升，核子與生物風險可能很快浮現。此呼籲之際，監管層面的緊張情勢正在加劇；近期，Anthropic 與 OpenAI 分別遭遇川普政府的暫時性出口管制與推行限制。

Hassabis 提出由美國主導的公私合作夥伴關係以進行 AI 監督

哈薩比斯提出一個由美國主導、由聯邦政府監督的公私合作夥伴關係，作為因應 AI 威脅的解決方案。他表示，由於美國在經濟與技術上具備優勢，其在制定 AI 框架方面很適合扮演領導角色。這個提議的機構將參照由聯邦政府監督的公私合作夥伴或自律組織模式，例如金融產業監管局（Financial Industry Regulatory Authority, FINRA）；董事會將包含獨立的頂尖技術專家以及開放原始碼代表。

依哈薩比斯所述，該標準機構需要龐大資金，以吸引世界級技術人才，並提供大規模測試所需的運算資源；資金可能來自產業。前沿實驗室（Frontier labs）一開始將會自願地在發布前最多 30 天，向該機構分享模型以供審查；之後，在被證實有效後，這些模型才會成為在美國市場部署的強制要求。

哈薩比斯表示，特定的代理式（agentic）AI 測試可能會察看是否有人試圖繞過安全護欄或出現欺騙跡象，並確保如數位浮水印標記 AI 生成影像，以及產生可供人類理解的輸出代幣（tokens）以理解模型推理等最佳實務。

這些評論是在哈薩比斯與 Anthropic 執行長達里奧·阿莫德（Dario Amodei）呼籲在七國集團（G7）會議上組成由美國主導的聯盟，以制定圍繞 AI 的規則與標準的消息之後一個月；該會議包含科技領袖與國家元首，且有美國總統唐納·川普（Donald Trump）出席。根據與 CNBC 溝通的消息人士透露，OpenAI 的山姆·阿爾特曼（Sam Altman）也在本月初《金融時報》（Financial Times）的一篇文章中呼籲設立類似機構。

隨著美國立法者考慮加強管制，中國 AI 模型開始獲得動能

當美國與中國之間爭相研發與部署 AI 模型的競賽升溫時，就出現了加強監管的呼聲。許多人士認為，中國公司近期發布的模型（包含 DeepSeek 與 Z.ai）相較於 Anthropic 與 OpenAI 的領先前沿系統具高度競爭力，且隨著 AI 成本上升，正獲得美國企業的採用動能。

美國立法者目前正考慮要如何限制由本土企業日益採用的中國 AI 模型；美國國務院（State Department）告訴 CNBC，這引發了嚴重疑慮。近幾週，Anthropic 在川普政府暫時對一款先進模型施加出口管制後，與官員陷入談判。OpenAI 也面臨限制，因為起初美國政府曾要求其限制新模型的推出。

FAQ

戴米斯·哈薩比斯週二提出了什麼？

戴米斯·哈薩比斯（Demis Hassabis），Google DeepMind 執行長，在週二於 X 發文的一篇文章中呼籲美國主導一個負責監管新 AI 模型、並評估國家安全風險（包含資安與生物威脅）的標準機構。

提議中的 AI 標準機構將如何運作？

提議中的機構將參照類似 FINRA 的由聯邦政府監督的公私合作夥伴模式來設立；董事會將包含獨立的技術專家以及開放原始碼代表。前沿實驗室一開始將會自願分享模型以供審查，最長在發布前 30 天；在被證實有效後，這些模型才會成為用於美國市場部署的強制要求。資金可能來自產業，以吸引技術人才並提供大規模測試所需的運算資源。