央行官員與金融監管機構正加強對金融市場快速採用自主式人工智慧的警告，稱這項技術可能引入現有監管框架尚未準備好管理的全新系統性風險。這些擔憂出現之際，銀行與金融機構正加速使用能夠自主決策、執行交易並在有限人為干預下協調複雜任務的AI系統。
近期在國際政策論壇上發言的官員強調，雖然人工智慧能提升效率、降低成本並擴大金融服務的可及性，但自主式AI代表著與傳統自動化的重大轉變。與傳統AI模型不同，自主系統能獨立規劃、推理並在多個金融流程中行動，為監督與問責帶來新挑戰。
Growing Concerns Over Autonomous Decision Making
英格蘭銀行副行長Sarah Breeden警告，隨著自主式AI更深入整合進銀行、支付與交易，金融監管可能需要重大改革。她主張傳統的人為監督要求可能不再足夠，因為自主系統能以超越人類監督的速度與規模運作。
Regulators are increasingly concerned about several risks, including:
- AI代理透過協調交易行為放大市場波動。
- 網路攻擊因AI識別系統漏洞而變得更加精密。
- 營運故障在互聯金融機構間快速擴散。
- 自主系統做出金融決策時責任歸屬不明。
Breeden也建議監管機構可能需要新的安全機制，例如緊急熔斷機制、終止開關，以及更強的營運韌性措施，以限制AI驅動中斷的影響。
Calls for Stronger Global Oversight
這項討論不限於英國。央行官員與國際金融組織已強調擔憂，認為與AI相關的投資熱情也可能推高資產泡沫，若期望未能符合經濟現實，將增加金融不穩定性。
與此同時，監管機構承認AI為金融機構帶來實質的生產力提升，因此全面禁止的可能性不大。反之，政策制定者似乎專注於制定能在創新與金融穩定間取得平衡的治理框架。
隨著金融公司持續部署越來越自主的AI系統，各國央行正釋放出監管現代化將成為優先事項的信號。目前的挑戰在於確保安全機制能快速發展以跟上技術步伐，避免在自主金融系統深深嵌入全球市場之前落後。
