Chefe da ONU adverte contra 'Vibe Coding' na governança de IA na Cúpula de Genebra

O secretário-geral da ONU, António Guterres, abriu na segunda-feira o primeiro Diálogo Global sobre Governança de IA em Genebra, dizendo aos 193 estados-membros que a inteligência artificial está avançando mais rápido do que as instituições conseguem governá-la. Guterres alertou que a implantação da IA está superando até mesmo os desenvolvedores que a constroem, descrevendo a trajetória atual como "um experimento em si mesmo sem um plano e sem consentimento". A cúpula marca o primeiro esforço multilateral para estabelecer uma governança internacional de IA sob o mandato da ONU criado pelo Pacto Digital Global de 2024.

Guterres Alerta Contra Abordagem de 'Vibe Coding' para Governança de IA

Guterres pegou emprestado o termo 'vibe coding' — cunhado por Andrej Karpathy, membro fundador da OpenAI e ex-diretor de IA da Tesla — para descrever a prática de deixar a IA escrever software sem supervisão humana rigorosa. A frase, recentemente adicionada ao dicionário Merriam-Webster, refere-se a programar por intuição: diga à IA o que você quer, deixe ela cuidar do resto, não olhe muito de perto.

"Vibe coding pode fazer maravilhas", reconheceu Guterres, já que mais pessoas confiam em produtos feitos por IA. "Mas não podemos fazer vibe code da verdade. Não podemos fazer vibe code do futuro da humanidade."

Ele disse ao público que a IA atingiu um bilhão de usuários em dois anos, contra 15 anos para a internet. "Os sistemas atuais não são mais ferramentas que aguardam instruções — eles estão escrevendo código, agindo online e tomando decisões com cada vez menos supervisão humana", afirmou. "Nossas instituições foram construídas para governar máquinas que seguem comandos. Elas não estão prontas para máquinas que decidem."

Chefe da ONU Identifica Três Riscos Centrais da IA: Velocidade, Poder e Verdade

Guterres extraiu três alertas do relatório preliminar do Painel Científico Internacional Independente sobre Inteligência Artificial, publicado na semana passada por 40 cientistas de 140 países. O painel concluiu que ninguém pode atualmente garantir que a IA não causará danos catastróficos.

O primeiro alerta foi a velocidade: "Uma tecnologia que pode remodelar economias, transformar o mundo do trabalho, influenciar eleições e inclinar o equilíbrio da segurança está sendo implantada mais rápido do que qualquer um — incluindo as pessoas que a constroem — consegue acompanhar", disse Guterres em seu discurso principal.

O segundo foi o poder: computação, dados e talento concentrados em um punhado de empresas e países, excluindo a maior parte do mundo das decisões que já o moldam.

O terceiro foi a verdade. Guterres afirmou que uma mentira viabilizada por máquina agora convence tão eficazmente quanto um fato verificado, corroendo constantemente "a integridade do nosso ecossistema de informações".

Guterres Lança Compromisso de Segurança Infantil em IA e Pede Proibição de Armas

Guterres anunciou um Compromisso de Segurança Infantil em IA que exige que as empresas comprovem a segurança por meio de testes independentes antes que qualquer IA alcance as crianças. O compromisso determina tolerância zero para a geração de imagens de abuso sexual infantil e exige que crianças em sofrimento sejam conectadas a apoio humano real, em vez de ficarem sozinhas com um chatbot. "Nenhuma criança deve ser cobaia de IA não regulamentada", disse ele.

Ele também chamou as armas autônomas letais — máquinas que selecionam e matam um alvo sem julgamento humano — de "moralmente repugnantes" e exigiu uma proibição por lei internacional. Os Estados já estão na mesa de discussão, observou Guterres, e ele não sugeriu que eles demorassem.

ONU Agenda Segundo Diálogo sobre IA em Nova York para 2027

O Diálogo Global sobre Governança de IA será retomado em Nova York em 2027. Guterres também pediu à Assembleia Geral que crie um Fundo Global para IA focado no acesso à computação para países em desenvolvimento. Ele desafiou todas as grandes empresas de IA a operar todos os data centers com energia renovável até 2030 — ano em que ele estima que essas instalações superarão todos, exceto cinco nações, no consumo de eletricidade.

FAQ

O que o secretário-geral da ONU, Guterres, alertou sobre a governança de IA na cúpula de Genebra?

Guterres alertou que a inteligência artificial está avançando mais rápido do que as instituições conseguem governá-la, descrevendo a implantação atual da IA como "um experimento em si mesmo sem um plano e sem consentimento". Ele usou o termo 'vibe coding' — deixar a IA escrever software sem supervisão humana rigorosa — como uma metáfora para uma governança perigosamente passiva, afirmando: "Não podemos fazer vibe code do futuro da humanidade."

Que propostas concretas Guterres fez na cúpula de governança de IA?

Guterres lançou um Compromisso de Segurança Infantil em IA exigindo que as empresas comprovem a segurança por meio de testes independentes antes que a IA alcance as crianças, mantenham tolerância zero para a geração de imagens de abuso sexual infantil e conectem crianças em sofrimento a apoio humano real. Ele também exigiu uma proibição por lei internacional de armas autônomas letais e pediu um Fundo Global para IA para fornecer acesso à computação a países em desenvolvimento. Além disso, desafiou as grandes empresas de IA a operar todos os data centers com energia renovável até 2030.

Quando a ONU realizará seu próximo diálogo sobre governança de IA?

O segundo Diálogo Global sobre Governança de IA está programado para ser retomado em Nova York em 2027.