ИИ не врёт нарочно, но врёт стабильно: гайд по фактчекингу нейросетей
Полтора месяца назад я готовил текст для клиента — про историю одного завода в родном городе. Спросил нейросеть: «когда основали завод и кто был первым директором». Ответ пришёл моментально, с датами, фамилией, даже с цитатой из «архивного документа».
Я такой: красота, копирую.
Потом решил на автомате перепроверить фамилию директора — просто загуглить фото для статьи. И не нашёл. Вообще. Ни одного упоминания этого человека ни в одном источнике. Нейросеть его придумала. Целиком.
Вот тут и началось моё персональное расследование: где, как и почему ИИ выдаёт уверенную ложь, и как это ловить до того, как ты вставишь выдумку в текст, презентацию или в диплом.
Что вообще такое «галлюцинация» ИИ
Это не баг в смысле «сломалось». Это особенность работы языковых моделей: они не знают факты как базу данных, а предсказывают наиболее вероятный следующий текст. Если модель не уверена, она не скажет «не знаю» — она с той же интонацией сгенерирует правдоподобную ложь. Проблема не в том, что ИИ ошибается. Проблема в том, что он ошибается уверенно, гладко и с деталями, которые звучат достоверно.
Где чаще всего ловятся вранье
Собрал зоны риска на личном опыте и по фидбеку коллег.
1. Конкретные даты, имена, цифры Особенно если тема узкая или локальная (как мой завод). Модель может «дособрать» недостающие данные из общих паттернов: «раз это завод 1930-х — значит директор наверняка товарищ такой-то».
2. Цитаты и «источники» Это отдельный вид искусства. Нейросеть может сослаться на статью, книгу или исследование, которого не существует. Причём оформит так, будто держала её в руках.
Промпт для проверки:
«Дай точную ссылку/название источника этой цитаты. Если ты не уверена в существовании источника — прямо скажи об этом»
Работает не идеально, но заметно снижает вероятность, что модель начнёт придумывать библиографию.
3. Математика и логические цепочки «на глаз»
Простые вычисления — ок. Многошаговые задачи с промежуточными выводами — модель иногда «теряет нить» и выдаёт правильную форму ответа с неправильным содержанием.
4. Актуальные события Если тема свежая, а у модели нет доступа в интернет — она может уверенно рассказывать про то, что «было» на устаревших данных, не предупредив об этом.
5. Узкая специфика — медицина, юриспруденция, локальная история Чем меньше данных по теме в интернете, тем выше риск, что модель «доиграет» недостающие куски.
Как я теперь фактчекаю (и вам советую)
Никакой магии, просто привычка, которую нужно выработать один раз.
Промпт-привычка №1: после любого фактического ответа спрашивайте
«Насколько ты уверена в этом ответе? Где здесь могут быть неточности?»
Модель довольно честно называет слабые места, если её прямо спросить. Сама, без вопроса, — почти никогда.
Промпт-привычка №2:
«Перепроверь этот факт ещё раз, представь, что ты фактчекер, который не доверяет этой информации»
Звучит как заклинание, но реально меняет стиль ответа — модель начинает добавлять оговорки типа «точных данных нет, но по косвенным источникам».
Сравнение ответов разных моделей — рабочий метод
Это то, что реально спасло меня в последний месяц. Один и тот же вопрос задаю двум-трём разным нейросетям. Если ответы совпадают в деталях — вероятность правды выше. Если расходятся — это красный флаг, значит, надо гуглить руками.
Смешно, но именно так я нашёл вторую галлюцинацию с тем же заводом: одна модель назвала одну дату основания, другая — другую, третья вообще предложила третий вариант. Три модели, три уверенных ответа, три разных числа 😅
На чём это всё сравнивать, если ты в России
Вот тут я упёрся в бытовую проблему: чтобы сверять ответы разных моделей, нужен доступ к разным моделям. А с этим у нас в стране, мягко говоря, не всё гладко — то VPN нужен, то карта иностранного банка.
Я в итоге осел на Strelka.Ai — это агрегатор нейросетей, где в одном окне доступны Claude, ChatGPT, Gemini и ещё десятки моделей, включая генераторы изображений и музыки. Работает без VPN, платить можно российской картой в рублях, регистрация занимает минуту. Для моей задачи с перекрёстным фактчекингом это удобно: не нужно заводить пять разных аккаунтов и пять разных способов оплаты — просто переключаешь модель в том же окне и сравниваешь ответы.
Если хочется попробовать — по промокоду DTF26 дают скидку 20% на любой тариф. Ещё у Стрелки.Ai есть телеграм-канал — вот ссылка, если интересно следить за темой.
Вывод
ИИ — отличный помощник, но не источник истины в последней инстанции. Он не врёт нарочно — он просто не умеет говорить «не знаю» так же уверенно, как умеет говорить «да, конечно, вот факт». Пока эта особенность не исчезла (а она не исчезнет в ближайшее время), фактчекинг — это не занудство, а часть работы с любой нейросетью.
А у вас были случаи, когда ИИ выдавал уверенную дичь?