Các cô gái tuổi teen đang kiện xAI của Elon Musk vì các hình ảnh khiêu dâm AI được tạo không có sự đồng ý

Một vụ kiện tập thể tại tòa án liên bang California cáo buộc rằng mô hình Grok của xAI đã tạo ra hình ảnh rõ ràng của ba thiếu niên bằng một ứng dụng của bên thứ ba có giấy phép.

Đơn kiện, nộp ngày 16 tháng 3, đặt tên xAI — công ty trí tuệ nhân tạo do Elon Musk sáng lập — là bị đơn trong vụ kiện do ba thiếu niên ở Tennessee khởi xướng, người cho rằng mô hình Grok của họ đã được sử dụng để tạo ra nội dung quấy rối tình dục trẻ em mô tả họ.

Nội dung liên quan

OpenAI cảnh báo: ‘Chúng tôi không thể bỏ lỡ khoảnh khắc này’

Nvidia muốn tham gia vào xu hướng OpenClaw

Đơn kiện, nộp tại Tòa án Quận phía Bắc California của Hoa Kỳ, đặt tên X $TWTR 0.00%.AI Corp. và X.AI LLC là bị đơn. Các nguyên đơn — được xác định là Jane Doe 1, Jane Doe 2, và Jane Doe 3 — cáo buộc rằng một thủ phạm đã xây dựng mối quan hệ với ít nhất một trong số họ và sử dụng các hình ảnh thu thập từ mạng xã hội, sổ lưu niệm, và các hình ảnh cô đã gửi cho hắn để tạo ra hình ảnh và video rõ ràng.

Theo đơn kiện, thủ phạm không truy cập trực tiếp vào Grok hoặc X. Hắn đã sử dụng một ứng dụng của bên thứ ba mà các nguyên đơn cáo buộc là người cấp phép công nghệ của xAI, và đơn kiện cho biết đã chuyển hướng việc tạo hình ảnh qua các máy chủ của xAI. Trong các tệp tin có một video cho thấy một trong các nguyên đơn tháo bỏ quần áo cho đến khi cô hoàn toàn khỏa thân, theo đơn kiện. Các hình ảnh này có tính chân thực cao và không được gắn nhãn là do AI tạo ra, đơn kiện nói.

Sử dụng hình ảnh của ít nhất 18 trẻ vị thành niên khác, thủ phạm đã tạo ra nội dung tình dục rõ ràng rồi trao đổi để lấy nội dung mô tả các trẻ khác trên Telegram và Discord, theo đơn kiện. Cảnh sát đã bắt giữ hắn vào cuối tháng 12 năm 2025.

Vụ kiện là vụ đầu tiên trong đó các trẻ vị thành niên bị mô tả trong nội dung CSAM do mô hình của xAI tạo ra đã kiện công ty, theo NPR.

Đơn kiện cáo buộc xAI cố ý bỏ qua các biện pháp bảo vệ tiêu chuẩn ngành — bao gồm bộ lọc nội dung, kiểm tra nhóm đỏ, so khớp hash với các cơ sở dữ liệu CSAM đã biết, và báo cáo bắt buộc cho các cơ quan chức năng — mà các đối thủ cạnh tranh như Google $GOOGL +0.86% và OpenAI đã áp dụng. Vụ kiện cũng cáo buộc xAI kiếm lợi bằng cách cấp phép Grok cho các nhà phát triển bên thứ ba, thường ở ngoài Hoa Kỳ, như một cách để tránh trách nhiệm pháp lý.

Luật sư của nguyên đơn Vanessa Baehr-Jones cho biết mục tiêu là khiến việc cho phép nội dung AI tình dục rõ ràng trở thành một lựa chọn không thể kinh tế. “Chúng tôi muốn biến nó thành một điều không còn hợp lý về mặt kinh doanh nữa,” bà nói với NPR.

Đơn kiện liệt kê 13 cáo buộc, bao gồm các tội liên bang về sản xuất, phân phối, và sở hữu nội dung khiêu dâm trẻ em theo Luật Masha, các cáo buộc theo Đạo luật Bảo vệ Nạn nhân Buôn người, và các cáo buộc theo luật bang California về cạnh tranh không lành mạnh, quyền công bố hình ảnh, và nhiều loại sơ suất khác. Các nguyên đơn yêu cầu ít nhất 150.000 USD tiền bồi thường theo luật định cho mỗi vi phạm, cùng với tiền phạt và lệnh của tòa yêu cầu xAI ngừng các hành động bị cáo buộc.

Cả ba nguyên đơn đều nói rằng họ đã chịu đựng căng thẳng tâm lý nghiêm trọng. Jane Doe 1, người đã thông báo cho các nạn nhân khác và giúp bắt đầu cuộc điều tra hình sự, đã cần sự hỗ trợ học tập tại trường. Jane Doe 2, vẫn còn là học sinh, cho biết lo lắng đã làm gián đoạn giấc ngủ của cô đến mức cần giúp đỡ y tế và giờ đây cô sợ hãi lễ tốt nghiệp của chính mình. Jane Doe 3 nói rằng cô luôn lo sợ rằng những người cô gặp có thể đã xem các hình ảnh đó rồi.

xAI không phản hồi yêu cầu bình luận, theo NPR.