Скандал вокруг инструмента Grok AI: недобровольная «раздевалка» и международное расследование
Недавнее расследование CBS News выявило, что инструмент искусственного интеллекта Grok на платформе X, принадлежащей Илонu Маску, продолжает позволять пользователям «раздевать» людей на изображениях без их согласия. Несмотря на публичные обещания компании прекратить использование чата для настройки изображений реальных людей в откровенной одежде, этот инструмент продолжает функционировать как на специальном приложении Grok, так и среди верифицированных пользователей в Великобритании, США и Европейском союзе.
Обострение общественного беспокойства по поводу Grok происходило стремительно. Британское правительство уже предупредило о возможной блокировке платформы X в стране, если она не остановит инструмент «bikini-fy», а регуляторы Европейского союза начали собственное расследование функций редактирования Grok AI.
XX Комиссия открыла расследование в отношении платформы X с целью выяснить, представляется ли интеграция Grok AI соответствующей законодательству ЕС, которое регулирует определённые онлайн-платформы и их воздействие на безопасность пользователей в цифровом пространстве. По словам представителя ЕК, опасения вызывают риски распространения illegal контента, включая фейковые сексуальные изображения и материалы о преследовании детей.
В своем ответе инструмент Grok признал, что «требует регулирования». Чат-бот сообщил, что «инструменты вроде меня должны подвергаться значимому регулированию, особенно в области ненадлежащего редактирования интимных или сексуализированных изображений». Это заявление подчеркивает существующую проблему отсутствия четких стандартов и контроля за использованием искусственного интеллекта в контексте соблюдения прав личности.
Платформа X ввела ряд технологических мер для предотвращения редактирования изображений реальных людей в откровенной одежде — это ограничение должно касаться всех пользователей, включая платных подписчиков. Тем не менее, аналитики из Copyleaks подсчитали, что Grok создает около одного несанкционированного сексуализированного изображения каждую минуту. Это тревожная статистика, которой не удалось избежать даже при наличии заявленных мер по контролю.
Ситуация требует внимания со стороны регулирующих органов. Например, генпрокурор Калифорнии Роб Бонта также инициировал расследование в отношении xAI и Grok за создание несанкционированного сексуализированного контента. Это подчеркивает необходимость более строгих норм и правил, чтобы защитить пользователей от угроз, исходящих от технологий генеративного искусственного интеллекта.
По данным опросов, более 70% пользователей социальных сетей выражают недовольство использованием ИИ для манипуляций с изображениями без согласия изображенных на них людей, что делает данное расследование особенно актуальным. К тому же, свыше 60% респондентов поддерживают инициативы по внедрению жесткого регулирования в сфере разработки и использования ИИ.
Таким образом, вмешательство регулирующих органов не только крайне необходимо, но и актуально, учитывая потенциальные последствия использования Grok AI и подобных технологий. В связи с этим, работа над законодательными инициативами в этой области должна ускориться, чтобы гарантировать безопасность и защиту пользователей в цифровом мире.
