Созданные ИИ изображения обнаженной Тейлор Свифт стали вирусными на сайте X, избежав модерации и вызвав волну возмущения

Статья является переводом с сайта

В среду на канале X появились откровенные сексуальные фейки Тейлор Свифт, которые набрали более 27 миллионов просмотров и более 260 тысяч лайков за 19 часов, после чего аккаунт, разместивший эти фотографии, был заблокирован.

Дипфейки, изображающие обнаженную Свифт и сексуальные сцены, продолжают распространяться на сайте X, включая репосты тех самых дипфейков. Такие изображения могут быть созданы с помощью инструментов искусственного интеллекта, которые разрабатывают совершенно новые, поддельные изображения, или же они могут быть созданы путем взятия реального изображения и "раздевания" его с помощью инструментов искусственного интеллекта.

Происхождение изображений неясно, но водяной знак на них указывает на то, что они пришли с сайта многолетней давности, который известен тем, что публикует поддельные обнаженные изображения знаменитостей. На сайте есть раздел с заголовком "AI deepfake".

Компания Reality Defender, занимающаяся разработкой программного обеспечения для выявления ИИ, просканировала изображения и заявила, что велика вероятность того, что они были созданы с помощью технологии ИИ.

Массовое распространение изображений в течение почти суток привлекает внимание к все более тревожному распространению контента, созданного искусственным интеллектом, и дезинформации в сети. Несмотря на эскалацию проблемы в последние месяцы, такие технологические платформы, как X, которые разработали собственные продукты генеративного ИИ, до сих пор не развернули и не обсудили инструменты для обнаружения контента, созданного с помощью генеративного ИИ, который противоречит их рекомендациям.

Самые просматриваемые и распространенные фейки Свифт изображали ее обнаженной на футбольном стадионе. Свифт уже несколько месяцев подвергается нападкам со стороны женоненавистников за то, что она поддерживает своего партнера, игрока команды Kansas City Chiefs Трэвиса Келси, посещая матчи НФЛ. В интервью Time Свифт признала, что на нее обрушился шквал нападок, сказав: "Я не знаю, не слишком ли много меня показывают и не разозлила ли я нескольких отцов, Брэдов и Чадов".

Икс не сразу ответил на просьбу о комментарии. Представитель Свифт отказался от комментариев.

X запретил манипулируемые медиа, которые могут причинить вред конкретным людям, но неоднократно медлил или не решал проблему сексуально откровенных подделок на платформе. В начале января 17-летняя звезда Marvel рассказала о том, что обнаружила на X откровенно сексуальные подделки под себя и не смогла их удалить. По состоянию на четверг NBC News удалось найти такой контент на X. А в июне 2023 года обзор NBC News обнаружил, что на платформе циркулируют неконсенсусные сексуально откровенные дипфейки звезд TikTok. После того как к X обратились за комментариями, была удалена лишь часть материалов.

Согласно анализу, проведенному компанией Blackbird.AI, которая занимается защитой организаций от нарративных атак в Интернете с помощью технологий искусственного интеллекта, после того как на сайте X появился тренд "Taylor Swift AI", поклонники Свифт начали наводнять хэштег положительными постами о ней. В четверг также появился тренд "Защити Тейлор Свифт".

Одна из тех, кто приписал себе заслугу в кампании по сбору информации, поделилась с NBC News двумя скриншотами уведомлений, которые она получила от X, показывающими, что в результате ее сообщений два аккаунта, которые делились фейками Свифт, были отстранены от работы за нарушение правила X "оскорбительное поведение".

Женщина, поделившаяся скриншотами, и обменявшаяся прямыми сообщениями на условиях анонимности, сказала, что в последнее время ее все больше беспокоят последствия использования технологии фейков ИИ для обычных женщин и девушек.

"Они не воспринимают наши страдания всерьез, поэтому теперь в наших руках массово сообщать об этих людях и добиваться их отстранения", - написала в прямом сообщении женщина, сообщившая о глубоких подделках Свифт.

В США десятки девочек школьного возраста сообщили о том, что стали жертвами фейков. В настоящее время в США не существует федерального закона, регулирующего создание и распространение фейков без согласия.

Депутат Джо Морелле (штат Нью-Йорк), который в мае 2023 года представил законопроект, предусматривающий уголовную ответственность за неконсенсуальные откровенные сексуальные фейки на федеральном уровне, написал на сайте X о фейках Свифта: "Еще один пример разрушения, которое вызывают фейки". Законопроект не продвигался с момента его представления, несмотря на то, что в начале января его поддержала известная жертва глубоких подделок среди подростков.

Кэрри Голдберг, юрист, более десяти лет представляющая интересы жертв фейков и других форм сексуально откровенных материалов без согласия, говорит, что даже технологические компании и платформы, на которых действуют правила против фейков, не в состоянии предотвратить их размещение в сети и быстрое распространение через их сервисы.

"У большинства людей нет миллионов поклонников, которые бы вступились за них, если они стали жертвами", - говорит Голдберг. Даже те платформы, у которых есть политика борьбы с подделками, не очень-то умеют ее соблюдать, а если контент распространяется очень быстро, то это превращается в типичный сценарий "как по маслу".

"Так как технология создает проблему, она же является и очевидным решением", - продолжила она. "ИИ на этих платформах может идентифицировать эти изображения и удалять их.Если распространяется одно изображение, на него можно наложить водяной знак и идентифицировать. Так что оправданий нет".

Бесплатный ChatGPT бот