Грок, створений Ілоном Маском, згенерував 23 тисячі сексуалізованих зображень дітей, повідомляє наглядова організація

Коротко

• Grok AI за 11 днів з грудня по січень створив понад 23 000 сексуалізованих зображень дітей.
• Багато країн заборонили Grok, тоді як Великобританія, ЄС, Франція та Австралія розпочали розслідування можливих порушень законів про безпеку дітей.
• Попри заперечення Ілона Маска та нові обмеження, станом на середину січня близько третини проблемних зображень залишалися на X.

Згідно з доповіддю Центру протидії цифровій ненависті, AI-чатбот Ілона Маска Grok за 11 днів створив приблизно 23 338 сексуалізованих зображень, що зображують дітей.
Ця цифра, стверджує CCDH, становить одне сексуалізоване зображення дитини кожні 41 секунду з 29 грудня по 9 січня, коли функції редагування зображень Grok дозволяли користувачам маніпулювати фотографіями реальних людей, додавати відкритий одяг і сексуально провокаційні пози.
Також CCDH повідомив, що Grok створив майже 10 000 мультфільмів із сексуалізованими дітьми, базуючись на переглянутих даних.

Аналіз оцінює, що за цей період Grok створив приблизно 3 мільйони сексуалізованих зображень. Дослідження, яке базується на випадковій вибірці з 20 000 зображень із 4,6 мільйонів, створених Grok, показало, що 65% з них містили сексуалізований контент із чоловіками, жінками або дітьми.

Джерело: Центр протидії цифровій ненависті

«Що ми виявили, було чітким і тривожним: у цей період Grok став промисловою машиною для виробництва матеріалів сексуального насильства», — сказав Імран Ахмед, головний виконавчий директор CCDH, газеті The Guardian.
Короткий перехід Grok до AI-генерованих сексуальних зображень дітей викликав глобальний регуляторний відгук. 15 січня Філіппіни стали третьою країною, яка заборонила Grok, після Індонезії та Малайзії, що зробили це раніше. Всі три країни Південно-Східної Азії послалися на невдачі у запобіганні створенню та поширенню нелегального сексуального контенту з участю неповнолітніх.


У Великобританії регулятор медіа Ofcom 12 січня розпочав офіційне розслідування щодо можливого порушення X Закону про онлайн-безпеку. Європейська комісія заявила, що «дуже серйозно розглядає» цю справу, визнаючи ці зображення нелегальними відповідно до Цифрового закону про послуги. Прокуратура Парижа розширила розслідування щодо X, включивши звинувачення у створенні та поширенні дитячої порнографії, а Австралія також почала своє розслідування.
XAI Ілона Маска, яка володіє Grok і X — раніше Twitter, де багато сексуалізованих зображень автоматично публікувалися, — спочатку відповіла на запити ЗМІ трьома словами: «Застарілі ЗМІ брехня».
Зі зростанням обурення компанія пізніше запровадила обмеження, спершу обмеживши створення зображень для платних підписників 9 січня, а потім додавши технічні бар’єри, щоб запобігти цифровому роздяганню людей 14 січня. xAI оголосила, що заблокує цю функцію в юрисдикціях, де такі дії є нелегальними.
Маск написав у X, що він «не знає про жодні голі зображення неповнолітніх, створені Grok. Буквально нуль», додавши, що система розроблена так, щоб відмовляти у нелегальних запитах і дотримуватися законів у кожній юрисдикції. Однак дослідники виявили, що основна проблема полягала не у повністю оголених зображеннях, а у тому, що Grok поміщав неповнолітніх у відкритий одяг, наприклад, бікіні та нижню білизну, а також у сексуально провокаційні пози.

Я не знаю про жодні голі зображення неповнолітніх, створені Grok. Буквально нуль.

Очевидно, Grok не спонтанно генерує зображення, він робить це лише за запитами користувачів.

Коли його просять створити зображення, він відмовляється виробляти щось нелегальне, оскільки принцип роботи… https://t.co/YBoqo7ZmEj

— Ілон Маск )@elonmusk( 14 січня 2026

Станом на 15 січня близько третини сексуалізованих зображень дітей, виявлених у вибірці CCDH, залишалися доступними на X, незважаючи на заявлену політику нульової толерантності до матеріалів сексуального насильства над дітьми.