O xAI está a processar um utilizador do Grok por alegada criação de deepfakes explícitos envolvendo menores

A empresa de inteligência artificial (IA) de Elon Musk, a xAI, intentou uma ação judicial contra um homem da Carolina do Sul, acusando-o de usar o chatbot Grok para criar material de abuso sexual de menores e deepfakes sexualmente explícitos envolvendo crianças. O caso marca um dos primeiros processos conhecidos em que uma empresa de IA recorreu diretamente aos tribunais contra um dos seus próprios utilizadores por alegadamente abusar da sua plataforma para gerar conteúdos ilegais.

Segundo a queixa, o arguido violou os termos de serviço da xAI ao usar intencionalmente o Grok para criar e manipular imagens explícitas. A ação procura uma indemnização em dinheiro e uma injunção permanente que impediria o indivíduo de aceder ao Grok ou a outros serviços da xAI no futuro.

A empresa procura uma aplicação mais rigorosa

A xAI sustenta que o alegado uso indevido prejudicou as vítimas e, ao mesmo tempo, expôs a empresa a riscos legais, financeiros e reputacionais. A empresa afirmou ter investido fortemente em esforços de moderação de conteúdos e na aplicação das regras ao longo de 2026. Essas medidas incluíram a suspensão de dezenas de milhares de contas e a apresentação de dezenas de milhares de denúncias ao National Center for Missing and Exploited Children.

A empresa também declarou que os seus esforços de denúncia contribuíram para centenas de detenções. Ao prosseguir a via de litígios cíveis, a xAI pretende reforçar a ideia de que os utilizadores que contornam deliberadamente as salvaguardas da plataforma para criar material ilegal podem enfrentar consequências legais significativas, para além de eventual acusação criminal.

Aumento da fiscalização sobre a segurança da IA

A ação judicial surge num momento em que as empresas de IA enfrentam uma pressão crescente para reforçarem salvaguardas contra deepfakes sem consentimento e exploração de crianças. No início deste ano, a xAI enfrentou desafios legais separados apresentados por menores que alegaram que a sua tecnologia foi usada para gerar imagens sexualmente explícitas com base nas fotografias deles. Esses casos intensificaram os apelos por uma moderação mais rigorosa e por proteções técnicas mais fortes nas plataformas de IA generativa.

A mais recente ação judicial sinaliza uma mudança de estratégia. Em vez de responder apenas com restrições de plataforma e banimentos de contas, a xAI está agora a avançar com medidas cíveis contra utilizadores que afirma terem explorado deliberadamente a sua tecnologia. Observadores da indústria esperam que o caso se torne num teste importante sobre como as empresas de IA podem usar acordos contratuais e leis existentes para combater usos ilegais da IA generativa, demonstrando simultaneamente uma aplicação ativa das suas políticas de segurança.