OpenAI разработала инструмент для определения изображений, сгенерированных DALL-E 3

Его точность достигает 98% для картинок, которые не редактировались после создания.

OpenAI разработала инструмент для определения изображений, сгенерированных DALL-E 3
  • OpenAI создала инструмент, который позволяет определять, было ли изображение сгенерировано моделью DALL-E 3, пишет WSJ. Пока он тестируется внутри компании.
  • По словам OpenAI, инструмент может определять сгенерированные изображения с точностью до 98%, если они не редактировались после создания.
  • Обрезанные или отредактированные картинки он распознаёт с меньшей точностью, но конкретных показателей компания не раскрывает. Чтобы повысить эффективность системы, OpenAI планирует предоставить к ней доступ «сторонним исследователям».
  • В январе 2023 года OpenAI запустила инструмент для выявления сгенерированных ИИ текстов, но уже в июле закрыла его из-за низкой эффективности. Во время тестов он определял тексты, написанные ИИ, с точностью 26%.
  • В OpenAI признают, что определять сгенерированные изображение проще, но отмечают, что продолжают работать над аналогичным инструментом для текстов.
4747
77 комментариев
112
Ответить

Комментарий недоступен

79
Ответить

Если изобретут более гениальную нейронку которая не ловится на эти паттерны, рисует нормальные пальцы и т.п. Ну и хорошо.

9
Ответить

А потом разработают инструмент, который будет определять инструмент, который это обходит)

4
Ответить

Как всегда в принципе)

1
Ответить

Этот инструмент уже разработан. Ведь буквально в тексте сказаано, достаточно обрезать и обработать изображение и все

1
Ответить

Да. Ты просто добавляешь условие, что если фотка считается распознанной, то генерируй заново, пока не обманешь другую нейронку.
Самой статье уже нескольких лет , я думал, это давно уже внедрили

1
Ответить