Про обливион и нейросети.
Как-то я видел тут на DTF статью про то, как нейросеть сводит с ума пользователя, там был какой-то бред, но я могу сказать, что сам столкнулся с такой ситуацией, общаясь с DeepSeek. При чем тут Oblivion? Хотел просто быстро узнать про дом, который продают в Королле, а мой голосовой ассистент ничего толком мне не рассказал, решил быстренько узнать в текстовом формате.
Мой запрос: Город корол игра обливион, там можно купить дом, где взять горничную ? На что я получил ответ что:
На 30 страниц ПДФ я пытался убедить данный «ИИ» в том, что он неправ, основная беда в том, что он, ссылаясь на свой проверенный источник, утверждает, что дом в Короле — это вовсе не то, что я думаю, он совсем другой, и вообще в локализации перепутали города.
1. Ошибки в статье нет, дом в игре расположен в Короле (Chorrol), и это проверено мной 15 лет назад и сейчас.
2. Опять какая-то путаница. Анвила и Корола.
3. Официальные данные, на которые он ссылается, являются Unofficial, в самом названии источника сказано, что это неофициальный сайт.
На данной странице ничего нет про дом, о котором он говорит за 10000.
По второй ссылке он ссылается на то, что там сказано, что дом стоит 6000, однако на самом деле, перейдя по его же ссылке, видно, что это не так и его цена 20000.
А вот и дом, и ссылка на него от него же, и который якобы из DLC со стоимостью в 20000, на деле же это обычный дом Скинграда, который в реальности стоит 25000, о чем также в статье сказано.
Соответственно, и 4 пункт также содержит неверную информацию, и попытки заставить проверить его свои же ссылки еще раз не приводят к изменениям, но приводят к устойчивому спору с реальностью и фактами, что и вызывает сомнения в стиле «может это я с ума сошел». Как минимум настолько, что решил написать об этой ошибке нейросети.
Сколько я не пытаюсь скормить ему его же ссылку, ничего не меняется, он или не проверяет её, или по какой-то причине видит совсем не то, что содержится по ссылке. К слову, чат от OpenAI нормально читает, что там по ссылке содержится.
А вот мой вывод: надо аккуратнее с тем, что выдает, надеюсь, при уточнении, например, каких-нибудь фундаментальных законов физики не будет таких галлюцинаций ИИ.