CEO da Google DeepMind, Hassabis, pede a criação de um órgão de padronização para IA liderado pelos EUA

O CEO da Google DeepMind, Demis Hassabis, pediu que os EUA liderem um órgão de padrões para supervisionar novos modelos de IA e avaliar riscos à segurança nacional, incluindo ameaças cibernéticas e biológicas, em um artigo publicado no X na terça-feira. O laureado com o Nobel disse que era necessária ação urgente para lidar com os riscos associados à inteligência artificial geral (AGI), observando que modelos de ponta (frontier) já trazem desafios de cibersegurança e que riscos nucleares e biológicos podem surgir em breve à medida que as capacidades de IA avançam. O apelo ocorre em meio a tensões regulatórias crescentes, com a Anthropic e a OpenAI enfrentando recentemente controles temporários de exportação e restrições de liberação impostas pela administração Trump.

Hassabis propõe parceria público-privada liderada pelos EUA para supervisão de IA

Hassabis propôs uma parceria público-privada liderada pelos EUA e supervisionada pelo governo federal como uma solução para enfrentar ameaças de IA. Ele disse que os EUA estão bem posicionados para liderar o desenvolvimento de uma estrutura de IA devido ao seu desempenho econômico e técnico. O órgão proposto seria modelado em uma parceria público-privada ou organização de autorregulação supervisionada pelo governo federal, semelhante à Financial Industry Regulatory Authority (FINRA), com um conselho que incluiria especialistas técnicos independentes e representantes do código aberto (open-source).

O órgão de padrões exigiria um financiamento substancial para atrair talentos técnicos de nível mundial e fornecer os recursos de computação necessários para testes em larga escala, com o financiamento provavelmente vindo da indústria, segundo Hassabis. As “frontier labs” inicialmente compartilhariam voluntariamente modelos com o órgão para revisão por até 30 dias antes do lançamento, antes de se tornarem obrigatórios para implantação no mercado dos EUA depois de terem sido demonstrados como eficazes.

Testes específicos de IA agentic poderiam buscar tentativas de burlar barreiras de segurança ou sinais de decepção e garantir práticas recomendadas, como inserir marcas d’água digitais em imagens geradas por IA e gerar tokens de saída legíveis por humanos para entender o raciocínio do modelo, disse Hassabis.

Os comentários vêm um mês depois de Hassabis e do CEO da Anthropic, Dario Amodei, pedirem uma coalizão liderada pelos EUA para moldar regras e padrões sobre IA em uma reunião do G7 com líderes de tecnologia e chefes de Estado que incluiu o presidente Donald Trump, de acordo com fontes que falaram à CNBC. Sam Altman, da OpenAI, também pediu um órgão semelhante em um artigo publicado pelo Financial Times no início deste mês.

Modelos de IA chineses ganham tração enquanto legisladores dos EUA consideram restrições

Os apelos por mais supervisão regulatória surgem enquanto a disputa entre os EUA e a China para desenvolver e implantar modelos de IA se intensifica. Lançamentos recentes de modelos de empresas chinesas, incluindo DeepSeek e Z.ai, são vistos por muitos como altamente competitivos em comparação com sistemas de ponta (frontier) da Anthropic e da OpenAI, e estão ganhando tração entre empresas dos EUA à medida que os custos de IA aumentam.

Atualmente, legisladores dos EUA estão considerando como conter a crescente adoção de modelos de IA chineses por empresas locais. O Departamento de Estado disse à CNBC que isso levanta preocupações sérias. Nas últimas semanas, a Anthropic ficou em negociações com autoridades após a administração Trump impor temporariamente controles de exportação sobre um modelo avançado. A OpenAI também enfrentou restrições, já que inicialmente foi solicitado ao governo dos EUA que limitasse a liberação de um novo modelo.

FAQ

O que Demis Hassabis propôs na terça-feira?

Demis Hassabis, CEO da Google DeepMind, pediu que os EUA liderem um órgão de padrões para supervisionar novos modelos de IA e avaliar riscos à segurança nacional, incluindo ameaças cibernéticas e biológicas, em um artigo publicado no X na terça-feira.

Como funcionaria o proposto órgão de padrões de IA?

O órgão proposto seria modelado em uma parceria público-privada supervisionada pelo governo federal semelhante à FINRA, com um conselho incluindo especialistas técnicos independentes e representantes do código aberto (open-source). As “frontier labs” inicialmente compartilhariam modelos de forma voluntária para revisão por até 30 dias antes do lançamento, antes de se tornarem obrigatórias para implantação no mercado dos EUA depois de terem sido demonstradas como eficazes. O financiamento provavelmente viria da indústria para atrair talentos técnicos e fornecer recursos de computação para testes em larga escala.