Discord признал, что из-за бага его система ИИ-модерации по ошибке заблокировала свыше 8000 пользователей с мая 2026 года
Затронутые аккаунты восстанавливают.
- Из-за бага система ИИ-модерации сервиса по ошибке заблокировала свыше 8000 пользователей с мая 2026 года — «безобидные» изображения посчитали вредоносным контентом. Об этом пишет TechCrunch.
- В X аккаунт поддержки Discord объяснил, что система помечает контент после сравнения его с «вредоносными материалами». Иногда случаются ошибки, поэтому сотрудник вручную проверяет всё ещё раз, прежде чем принять меры. Обычно на время проверки должна приостановиться загрузка контента, блокировать аккаунты не должны.
- Но из-за бага блокировались учётные записи. Когда сотрудники проверяли их и снимали блокировку, та же ошибка не позволяла автоматически снять бан. Сервис работает над тем, чтобы подобное не повторялось в будущем.
- На блокировки аккаунтов из-за загрузки изображений с сетками квадратов, например шахматных досок, жаловались пользователи Reddit. Некоторые предполагали, что ИИ-система могла принимать такие картинки за материалы для взрослых и материалы, связанные с эксплуатацией детей, — раньше их «маскировали» с помощью узоров-сеток, отмечает TechCrunch.