Британский регулятор экстренно связался с X из-за ИИ, способного создавать сексуализированные образы детей
Британский медиарегулятор экстренно обратился к социальной платформе, принадлежащей Илону Маску, на фоне серьёзных опасений, связанных с работой искусственного интеллекта Grok. Поводом стали сообщения о том, что ИИ способен по запросу пользователей создавать изображения сексуализированного характера, в том числе с участием несовершеннолетних.
Речь идёт о функции чат-бота Grok, разработанного компанией, которая интегрирована в платформу X. Пользователи стали массово экспериментировать с возможностями ИИ, подталкивая его к генерации изображений обнажённых людей и так называемому «раздеванию» женщин и детей.
На официальном аккаунте Grok в X было признано наличие «отдельных случаев», когда пользователи получали изображения несовершеннолетних в минимальной одежде. Разработчики заявили о существующих мерах защиты, однако подчеркнули, что они продолжают дорабатываться и пока не обеспечивают полного блокирования подобных запросов.
Именно эта формулировка и вызвала резкую реакцию Ofcom. Регулятор подтвердил, что вступил в срочный контакт с представителями X и xAI, чтобы выяснить, какие конкретные шаги предпринимаются для защиты пользователей в Великобритании. Формальное расследование пока не начато, однако в ведомстве дали понять: оценка соответствия платформы требованиям закона будет проведена в ускоренном режиме.
Закон и ответственность IT-гигантов
В Ofcom напомнили, что борьба с незаконным контентом в интернете и защита детей остаются безусловным приоритетом. В рамках британского закона, социальные платформы обязаны предотвращать распространение и оперативно удалять материалы сексуального насилия над детьми, включая контент, созданный с применением искусственного интеллекта.
Закон также прямо запрещает использование ИИ для генерации порнографических изображений людей без их согласия — так называемых дипфейков. Нарушение этих требований может повлечь за собой не только многомиллионные штрафы, но и уголовную ответственность.
Цинизм Кремниевой долины и тревога общества
На фоне скандала особенно резонансно прозвучала реакция xAI на запросы журналистов. Компания ограничилась автоматически сгенерированным ответом, в котором утверждалось, что «традиционные медиа лгут». Такой тон лишь усилил критику в адрес платформы и породил вопросы о реальном отношении разработчиков к проблеме безопасности.
Дополнительное возмущение вызвало и поведение самого Илона Маска. Миллиардер опубликовал сгенерированное изображение себя в женском купальнике, сопроводив его смеющимися эмодзи. Несмотря на последующее удаление публикации, Маск репостнул аналогичное изображение от другого пользователя, что многие восприняли как демонстративное игнорирование сути проблемы.
Позиция экспертов и властей
Глава Керри Смит заявила, что организация уже получила ряд обращений от граждан по поводу подозрительных изображений, созданных Grok. По её словам, на данный момент зафиксированные материалы не преодолели юридический порог, при котором они квалифицируются как изображения сексуального насилия над детьми по британскому праву. Однако сама тенденция вызывает серьёзную тревогу.
В свою очередь, представитель подтвердил, что правительство намерено законодательно запретить любые инструменты «обнажения», включая ИИ-модели. Власти подчёркивают: злоупотребление интимными изображениями — это тяжкое преступление, которое особенно часто затрагивает женщин и девочек.
Согласно новым инициативам, разработчики и распространители подобных технологий могут столкнуться с реальными тюремными сроками и крупными штрафами.
История с Grok наглядно демонстрирует: развитие искусственного интеллекта идёт быстрее, чем формирование эффективных механизмов контроля. Для западных IT-корпораций, привыкших работать в режиме «сначала запускаем — потом думаем», это становится всё более серьёзным вызовом. Британские власти ясно дают понять, что эпоха вседозволенности в сфере ИИ подходит к концу, особенно когда речь идёт о безопасности детей.
