Las chicas adolescentes demandan a xAI de Elon Musk por desnudos de IA sin consentimiento

Una demanda colectiva en un tribunal federal de California afirma que el modelo Grok de xAI creó imágenes explícitas de tres adolescentes utilizando una aplicación de terceros con licencia.

La denuncia, presentada el 16 de marzo, nombra a xAI — la compañía de inteligencia artificial fundada por Elon Musk — como la parte demandada en un caso presentado por tres adolescentes de Tennessee que afirman que su modelo Grok fue utilizado para producir material de abuso sexual infantil que los muestra.

Contenido relacionado

OpenAI advierte: “No podemos perder este momento”

Nvidia quiere participar en la tendencia OpenClaw

La denuncia, presentada en el Tribunal de Distrito de EE. UU. para el Distrito Norte de California, nombra a X $TWTR 0.00%.AI Corp. y X.AI LLC como demandados. Los demandantes — identificados como Jane Doe 1, Jane Doe 2 y Jane Doe 3 — alegan que un perpetrador cultivó una relación con al menos uno de ellos y utilizó fotos obtenidas de redes sociales, un anuario y imágenes que ella le envió para generar imágenes y videos explícitos.

Según la denuncia, el perpetrador no accedió directamente a Grok ni a X. Utilizó una aplicación de terceros que, según los demandantes, era un licenciatario de la tecnología de xAI, y que, dice la denuncia, enrutó la generación de imágenes a través de los servidores de xAI. Entre los archivos había un video que mostraba a una de las demandantes quitándose la ropa hasta quedar completamente desnuda, afirmó la denuncia. Las imágenes eran fotorrealistas y no estaban etiquetadas como generadas por IA, indicó la denuncia.

Utilizando imágenes de al menos 18 menores adicionales, el perpetrador generó material sexualmente explícito que luego intercambió por contenido que mostraba a otros niños en Telegram y Discord, afirmó la denuncia. La policía lo arrestó a finales de diciembre de 2025.

La demanda es la primera en la que menores representados en CSAM supuestamente generado por el modelo de xAI han demandado a la compañía, según NPR.

La denuncia acusa a xAI de evadir deliberadamente las salvaguardas estándar de la industria — incluyendo filtros de contenido, pruebas de equipos rojos, comparación de hashes con bases de datos de CSAM conocidas y reportes obligatorios a las autoridades — que, según dice, han adoptado competidores como Google $GOOGL -0.86% y OpenAI. La demanda también afirma que xAI obtuvo beneficios licenciando Grok a desarrolladores externos, a menudo fuera de EE. UU., como una forma de evitar responsabilidad.

La abogada de los demandantes, Vanessa Baehr-Jones, dijo que el objetivo era hacer que permitir contenido sexual explícito generado por IA fuera una opción económicamente inviable. “Queremos que sea una opción que ya no tenga sentido comercial”, dijo a NPR.

La denuncia enumera 13 cargos, incluyendo cargos federales por producir, distribuir y poseer pornografía infantil bajo la Ley de Masha, reclamaciones bajo la Ley de Protección a Víctimas de Tráfico y reclamaciones bajo la ley estatal de California por competencia desleal, derecho de publicidad y varios tipos de negligencia. Los demandantes buscan al menos $150,000 en daños estatutarios por cada violación, junto con daños punitivos y una orden judicial para que xAI detenga las acciones presuntamente ilegales.

Los tres demandantes afirman haber sufrido un grave estrés emocional. Jane Doe 1, quien notificó a otras víctimas y ayudó a iniciar una investigación criminal, ha necesitado adaptaciones académicas en la escuela. Jane Doe 2, que aún es estudiante, dijo que la ansiedad ha interrumpido tanto su sueño que necesitó ayuda médica y ahora teme su propia graduación. Jane Doe 3 afirmó que constantemente teme que las personas que conoce ya hayan visto las imágenes.

xAI no respondió a una solicitud de comentario, según NPR.

📬 Suscríbete al Resumen Diario

Nuestro resumen gratuito, rápido y divertido sobre la economía global, entregado cada mañana de lunes a viernes.

Suscríbeme