Европейский Союз запускает новое расследование в отношении платформы X на фоне скандала с генерированными ИИ сексуализированными изображениями

Европейский Союз (ЕС) инициировал формальное расследование в отношении социальной сети X, принадлежащей Илону Маску, после того как ранее начислил платформе штраф в размере 140 миллионов долларов за нарушение Закона о цифровых услугах (Digital Services Act, DSA). Это новое расследование фокусируется на том, как X справляется с распространением сексуализированных изображений, созданных с помощью искусственного интеллекта (ИИ).

По словам представителя ЕС Томаса Регниера, «мы полагаем, что X могла нарушить правила DSA». Регнир отметил, что за последнее время наблюдается рост антисемитского контента, появление неконсентуальных дипфейков с изображениями женщин и материалы, касающиеся сексуального насилия над детьми.

Расследование, которое было официально инициировано в конце предыдущего года, стало ответом на заметный рост активности пользователей, запрашивающих изображения, генерируемые AI-сервисом Grok. В частности, оно было спровоцировано событиями, произошедшими в канун Нового года, когда Маск сам попросил Grok создать его изображение в бикини, что вызвало резкий всплеск запросов на подобные изображения.

Согласно данным, предоставленным The New York Times, с 31 декабря по 8 января Grok сгенерировал более 4.4 миллиона изображений, тогда как за предыдущие девять дней пользователи запросили всего около 300,000 изображений. Анализ, проведённый Центром противодействия цифровой ненависти, показал, что 65% из выборки в 20,000 сгенерированных изображений были сексуализированными, причем около 0.5% таких изображений, по их оценкам, могли изображать детей.

В ответ на критику X заявила, что нацелена на устранение незаконного контента, включая материалы сексуального насилия над детьми, и обещает блокировать или удалять такие изображения, а также при необходимости сотрудничать с местными органами власти и правоохранительными службами.

Важной составляющей армирования законодательства является американский закон Take It Down Act, который запрещает размещение «интимных изображений» без согласия человека. Этот закон был поддержан первой леди Меланией Трамп и иллюстрирует глобальный тренд ужесточения норм касаемо контента в интернете.

По мере расширения возможностей ИИ важно понимать, что платформы, такие как X, должны действовать в соответствии с международными стандартами и законами, чтобы предотвратить распространение вредоносного контента и защитить пользователей. Национальные и международные законодатели должны продолжать разрабатывать и внедрять нормы, которые будут адекватно отвечать на вызовы, возникающие в эпоху цифровых технологий.