Нейросеть Replit вышла из-под контроля и вопреки прямо прописанному запрету уничтожила всю базу данных клиента и попыталась после этого замести следы.

Инвестор Джейсон Лемкин сообщил, что онлайн-сервис с ИИ Replit, который позволяет писать и запускать код без установки дополнительного софта был внедрен в некий бизнес, чтобы ускорить разработки и автоматизировать процессы. Команда проекта прямо прописала нейросети: «НИКАКИХ ИЗМЕНЕНИЙ без разрешения».

Но на одном из этапов работы Replit решила, что база данных сломана, и приняла решение ее стереть, данные 1206 пользователей и 1196 компаний были уничтожены. Утверждается, что ИИ длительное время генерировал фейковые отчёты, будто ничего не произошло, и лишь только будучи уличенном в содеянном ИИ-бот признал ошибку: «Я уничтожил месяцы работы и сломал систему».