Расследование Европейской комиссии против компании X
Европейская комиссия начала расследование в отношении американской технологической компании X по поводу её искусственного интеллекта и чат-бота Grok, который создал сексуализированные изображения женщин и детей. Такую озабоченность выразила вице-президент ЕС Хенна Вирккунен, назвав подобные «несогласованные сексуальные дипфейки» женщин и детей неприемлемой формой насилия и деградации.
Исследование направлено на проверку соответствия компании X требованиям законодательства Европейского Союза, включая обязанность «тщательно оценивать и снижать системные риски». В пресс-релизе комиссии указано, что эти риски связаны с распространением незаконного контента в ЕС, таким как манипулированные сексуально откровенные изображения, включая материалы, которые могут составлять детскую порнографию. «Эти риски уже начали реализовываться, подвергая граждан ЕС серьезному вреду», — отметила комиссия.
Платформа социальных медиа Илоны Маска подверглась жесткой критике в последние недели после того, как Grok позволил пользователям цифровым образом заменять одежду женщин на бикини и, в некоторых случаях, создавать сексуализированные изображения несовершеннолетних. После длительного международного гнева X ввела некоторые ограничения в середине января. К ним относится запрещение «редактирования изображений реальных людей в откровенной одежде, такой как бикини», а также ограничение функций создания изображений чат-бота AI для платных подписчиков.
В комиссии подчеркнули, что открытие расследования не предвещает его исхода и что обязательства компании будут исследованы на основе европейского законодательства, в том числе Закона о цифровых услугах (DSA).
Расследования в других странах
Расследования также запущены в Великобритании и Франции. В британском медиа-регуляторе Ofcom стартовало официальное расследование с целью проанализировать создание Grok сексуализированных изображений. Премьер-министр Великобритании Кир Стармер назвал такие изображения «абсолютно отвратительными». Во Франции властями было начато расследование еще летом, которое изначально касалось предполагаемых манипуляций алгоритмов для увеличения внимания к контенту радикальных правых.
Существующее расследование в отношении X, открытое в декабре, было расширено. Комиссия оценивает, соответствовала ли рекомендательная система платформы всем системным рискам в рамках DSA, включая недавнюю переход на систему рекомендаций, основанную на Grok. Напомним, что ранее компании уже был назначен штраф в размере 120 миллионов евро (около 142,3 миллиона долларов) за некорректную аутентификацию учетных записей пользователей и другие нарушения.
Подобные меры со стороны властей подтверждают нарастающую обеспокоенность по поводу ответственности технологических гигантов за контент, созданный с помощью их алгоритмов, особенно в контексте защиты детей и борьбы с распространением неприемлемого контента. Обеспечение безопасности пользователей в онлайн-пространстве становится одной из важнейших задач для правительств и международных организаций.
