xAI подала позов проти користувачів Grok за створення дитячих deepfake-відео — перший подібний випадок для індустрії

За повідомленням Reuters від 16 липня, xAI подала цивільний позов у Федеральний окружний суд Техасу проти чоловіка з Південної Кароліни Terry Harwood, звинувативши його у використанні чат-бота Grok для створення глибоких фейкових відео сексуального насильства щодо дітей. Як повідомляється, це перший випадок, коли компанія, що працює в сфері ШІ, подає позов проти своїх користувачів, а підставою є контент, який користувачі створюють на її платформі.

Суть позову xAI: дії Harwood, обходження фільтрів Grok і вимоги до суду

（Джерело: Fingfx）

Згідно з позовною заявою, Harwood відкривав кілька акаунтів під фальшивими особами, вводив у Grok звичайні фотографії дорослих і дітей та додавав інструкції, вимагаючи перетворити зображення на порнографічний контент; телеканал Al Jazeera повідомив, що люди на зображеннях не давали згоди або не знали, що їхні фото використовують.

xAI стверджує, що Grok відхилив ці запити та позначив їх як порушення правил контенту, але відповідь Harwood полягала в тому, що він щоразу змінював підказки й намагався знову. У судових документах xAI написала: «Дії відповідача є навмисно спланованими та спрямованими на використання інструментів позивача для вчинення злочинної діяльності, завдаючи справжнім жертвам глибокої та тривалої шкоди».

xAI просить суд про дві вимоги:

Компенсація збитків: вимагати відшкодування збитків, завданих його діями; конкретну суму не зазначено в судових документах

Заборона (припис): просити суд заборонити Harwood повторно використовувати будь-які продукти Grok

Примусове виконання на платформі xAI: у 2026 році призупинено понад 52,2 тис. акаунтів, що сприяло 244 арештам

xAI розкриває в судових документах кількісні дані щодо примусового виконання на своїй платформі: станом на момент подання документів компанія у 2026 році призупинила 52 222 акаунти та подала 73 604 звіти до Національного центру щодо зниклих і покривджених дітей (NCMEC); ці звіти спричинили щонайменше 244 дії з арештами у 2026 році.

Регуляторний контекст Grok: європейська перевірка, заборони в Малайзії та Індонезії

До подання цього позову xAI вже стикалася з багатьма формами тиску через функції Grok: європейські регулятори розпочали перевірку Grok; Малайзія та Індонезія заборонили використання цього чат-бота через те, що його вивід містить відверті сексуальні натяки, повідомляє Al Jazeera.

Сам Ілон Маск 14 січня на платформі X написав: «Я не знаю, щоб Grok генерував будь-які оголені фото неповнолітніх. Абсолютно ні», — і додав, що Grok не створює зображення самостійно, а принципи його роботи полягають у відмові від генерації будь-якого незаконного контенту.

DEFIANCE Act: законодавчі передумови 2024 року та дії штатів

DEFIANCE Act («Anti-Defamation and Image Forgery Enhancement and Non-Consensual Deepfake Enforcement Act») був підписаний і набрав чинності на федеральному рівні в США у 2024 році, надаючи постраждалим від недобровільних приватних глибоких фейків законний шлях для подання цивільних позовів; наразі в кількох штатах ухвалено відповідні закони на рівні штатів.

За повідомленням, ухвалення DEFIANCE Act збільшило кількість подань у таких справах, і цивільний позов xAI проти Harwood було подано на тлі того, що цей правовий механізм уже діяв.

Питання та відповіді

Чи це перший випадок, коли AI-компанія подає позов проти користувачів через контент, згенерований на платформі?

Як повідомляється, цивільний позов xAI проти Terry Harwood є першим випадком, коли AI-компанія подає позов проти своїх користувачів, а підставою є контент, який користувачі створюють на платформі; у матеріалі Reuters про цю справу зазначено, що йдеться саме про це.

Які дві конкретні вимоги xAI подала до суду?

xAI просить у Федеральному окружному суді Техасу дві вимоги: (1) вимагати відшкодування збитків, завданих Harwood (конкретну суму не зазначено в судових документах); (2) подати заборонний припис, щоб заборонити Harwood повторно використовувати будь-які продукти Grok.

Що таке DEFIANCE Act і яке він має відношення до цієї справи?

DEFIANCE Act був підписаний і набрав чинності на федеральному рівні в США у 2024 році, надаючи постраждалим від недобровільних приватних глибоких фейків законний шлях для подання цивільних позовів; кілька штатів також ухвалили відповідні закони на рівні штатів. За повідомленням, запровадження цього закону збільшило кількість подань у відповідних справах, і позов xAI у цій конкретній справі було подано на тлі того, що цей правовий каркас уже сформований.