英国外交大臣伊维特·库珀警告称，各国政府需要全球协议来管理人工智能风险。在周一发表的一篇文章中，库珀将这一挑战比作二战后核安全方面的努力，并指出如果等到创造AI法律才行动，政府可能会重蹈核时代初期犯下的错误。库珀称这一问题可能成为"未来十年最大的安全挑战"，并敦促美国、中国和其他AI强国在安全标准上合作。她的警告是在2023年布莱切利公园AI安全峰会以及近期对AI网络安全能力日益担忧之后发出的。
库珀将AI治理挑战比作核军备竞赛
库珀写道，AI带来了突破，但也随着技术变得更加强大和广泛可用而带来新的风险。"上个月，在中国深圳，我看到了AI和机器人在拯救生命医疗保健方面的非凡前景，"库珀表示。"但同样的技术也在以令人担忧的方式重塑战争、犯罪和社会凝聚力的未来。"
库珀将当前开发AI系统的竞赛比作早期的核军备竞赛，指出全球安全协议只有在各国目睹原子武器造成的破坏后才出现。"在核问题上，国际协议只有在世界看到广岛新技术的可怕力量后才达成，"库珀写道。"我们不能等到AI出现广岛级别的灾难才采取行动。"
库珀呼吁英国利用其外交影响力，将美国、中国和其他AI大国聚集在一起，制定共同的安全原则和标准。她指出2023年在布莱切利公园举行的AI安全峰会，来自29个国家和欧盟的全球领导人齐聚一堂讨论新兴的AI风险，称这是英国"动员世界共同维护AI安全"能力的例证。
近期AI安全事件促使政策回应
库珀的警告是在数月来对政府应如何监管日益强大的AI系统的担忧不断升级之后发出的。今年5月，英国AI安全研究所警告称，AI网络安全能力快速提升，此前OpenAI的GPT-5.5成为继Anthropic的Claude Mythos Preview之后第二个在无人协助下完成模拟网络攻击的模型。
几天后，国际货币基金组织警告称，AI可能通过降低利用漏洞所需的技能来"放大"针对全球金融体系的网络攻击，敦促政策制定者将网络安全视为金融稳定问题而非纯粹的技术问题。
今年6月，总统唐纳德·特朗普签署了一项行政命令，创建了发布前审查高级AI模型的自愿框架，扩大了AI网络安全项目，并指示各机构评估前沿AI模型潜在的国家安全风险。
同月，Anthropic首席执行官达里奥·阿莫迪认为透明度要求已远远不够，并呼吁对前沿模型进行强制性第三方测试。这一要求之后，美国政府出于国家安全考虑命令Anthropic限制对Claude Fable 5和Mythos 5的访问，随后在7月解除了该命令。
常见问题
英国外交大臣伊维特·库珀就AI治理发出了什么警告？
英国外交大臣伊维特·库珀警告称，各国政府需要在危机迫使行动之前就通过全球协议管理AI风险。在周一发表的一篇文章中，她表示管理AI风险可能成为"未来十年最大的安全挑战"，并将此情况比作核军备竞赛——只有在目睹广岛灾难后国际协议才得以达成。
库珀呼吁在AI安全方面进行怎样的国际合作？
库珀呼吁英国利用其外交影响力，将美国、中国和其他AI大国聚集在一起，制定共同的安全原则和标准。她指出2023年在布莱切利公园举行的AI安全峰会——来自29个国家和欧盟的领导人齐聚一堂讨论AI风险——是英国在AI安全方面号召全球合作能力的例证。
库珀警告之前发生了哪些近期的AI安全发展？
今年5月，英国AI安全研究所警告称，在OpenAI的GPT-5.5在无人协助下完成模拟网络攻击后，AI网络安全能力快速提升。国际货币基金组织警告称，AI可能放大针对全球金融体系的网络攻击。今年6月，总统唐纳德·特朗普签署了一项行政命令，创建了审查高级AI模型的框架，美国政府出于国家安全考虑命令Anthropic限制对某些模型的访问，随后在7月解除了该命令。
