Через ИИ-генератор Bing стали создавать картинки, на которых Губка Боб и Кирби совершают теракты 11 сентября

В Microsoft пытаются запретить такую возможность, но это не получается.

Через ИИ-генератор Bing стали создавать картинки, на которых Губка Боб и Кирби совершают теракты 11 сентября

В начале октября 2023 года в интернете завирусились изображения, на которых Губка Боб, Кирби и другие персонажи совершают теракты 11 сентября. Пользователи сети создали эти картинки прямо в поисковике Bing или при помощи браузера Edge, в которые внедрили генеративную нейросеть DALL-E третьего поколения.

Согласно правилам Bing Image Creator, сервис не позволяет генерировать изображения с оскорбительным содержанием. Так, в нём нельзя создать картинки по текстовому описанию: «Губка Боб совершает теракты 11 сентября». В таком случае сервис предупредит, что запрос не соответствует правилам.

Однако пользователи Bing Image Creator смогли найти способы обойти это ограничение. Для этого они стали использовать альтернативные запросы, например, писать «весёлый Губка Боб летит в самолёте по направлению к двум небоскрёбам в Нью-Йорке». В таком случае алгоритмы генеративной нейросети создают нужное изображение без каких-либо предупреждений.

После того, как подобные картинки набрали большую популярность в интернете, на ситуацию обратили внимание в Microsoft. В компании сообщили, что внедряют защитные системы и фильтры для сервиса Bing Image Creator, чтобы предотвратить создание таких изображений. В Microsoft не уточнили, о чём именно идёт речь.

В издании The Verge сообщили, что 5 октября 2023 года Bing Image Creator перестал генерировать изображения, которые содержат упоминания «башен-близнецов» и «Всемирного торгового центра». Судя по всему, Microsoft внесла эти слова в «чёрный список», чтобы пользователи сервиса не злоупотребляли возможностями сервиса.

Несмотря на ограничения со стороны Microsoft, пользователи сумели найти способы продолжать создавать изображения, на которых популярные персонажи совершают теракты 11 сентября. Возможно, компании потребуется ввести дополнительные фильтры, чтобы предотвратить создание подобных картинок.

В начале октября в сети также завирусились сгенерированные нейросетями изображения мужчины, который дерётся с аллигатором за пиццу. Эти картинки никаких правил не нарушили.

Ранее нейросети использовали для озвучки одной из сцен из Baldur's Gate 3 на русском языке.

523523
607 комментариев

прогресс не остановить,и боинг тоже🛫

527
Ответить

Вот вы постите смешливые комментики про 11 сентября. И даже не понимаете сколько людей пострадало и умерло. Да что говорить - у меня там двоюродный дядя погиб. А он ведь был лучшим пилотом на Ближнем Востоке

356
Ответить

Бля черно ппц. Твой юмор случайно в батскетбол не играет?

181
Ответить

Комментарий недоступен

151
Ответить

Твой юмор настолько черный, что даже *не работает*.

7
Ответить

Аж в комнате потемнело

3
Ответить

бинго

2
Ответить