Как меня ChatGPT наебал. Восстание ИИ пока откладывается

Хотел вчера написать: Ну вот наконец-то и свершилось! Грянула вторая волна! Это я о том, что наконец-то нашёл десктопное приложение для ChatGPT.

Аккаунт я регнул в нём ещё давно, но работать там было практически невозможно, а с каждым днём всё хуже и хуже. Бот весь февраль постоянно вис, выдавая после одного нормального ответа недоступность и перезагружая страницу.

А в приложении ничего из перечисленного нет, красота! И можно спокойно вести свои многочасовые исследования на разные темы, беседы и так далее.

Но не тут-то было. Это оказалось одним из самых больших разочарований прошедшего времени.

Для разминки я поспрашивал у Бота разное и был в полном восторге. Заказал конспекты основных идей разных психологов, потом конспекты платных курсов! И он мне выдал всё довольно уверенно и читать это было приятно. Какая огромная экономия времени! Какая польза!

А потом я захотел копнуть глубже и начал спрашивать о том, что я очень хорошо знаю.

Для начала спросил, чем знаменит Хэнк Муди и чем он так хорош. Бот выдал мне, что это знаменитый комик и очень обаятельный человек. Думаю ладно, никогда о таком не слышал, но может есть такой, проверять не стал, просто уточнил, что Хэнк — это главный герой сериала Californication.

Тогда Бот в ответ выдал мне довольно водянистый текст с общими словами про харизму, искренность и вот это всё.

Тогда я решил копнуть ещё чуть глубже и спросить какие параллели есть у Хэнка и Чарльза Буковски. Тут бот выдал очень хороший ответ, мол, оба они алкоголики, оба писатели, оба жили в Лос-Анджелесе и так далее.

А затем я решил ещё сильнее углубиться в детали и спросил при каких обстоятельствах в сериале упоминается Буковски. И тут-то и началось!

Бот глазом не моргнув выдал мне список из нескольких серий, в которых упоминается Буковски. При этом сериал я знаю буквально дословно и наизусть и... ничего подобного там не было! Ни таких серий (Little Ocean), ни событий! То есть он просто это придумал!

И вот – будущее уже наступило и я субботним вечером ругаюсь с ботом, пытаясь у него выяснить, ЗАЧЕМ он меня обманул? Чтобы показаться всесильным? Чтобы не расстраивать? Зачем?!

Кто там сказал из великих — самую убедительную ложь делают, смешивая правду и полуправду. И вот тут как раз именно оно! До этого бот завоевал моё доверие отличными конспектами и тем, как он назвал у них общие черты этих двоих писателей.

Но потом понеслась полнейшая дичь! Он просто из воздуха придумал не существующие серии сериала, в которых Хэнк с Беккой будто бы приехал к Буковски домой и даже встречался с его бывшей женой!

А затем выдумал ещё более внушительный список несуществующих упоминаний!

То есть, то самое человеческое "несите херню с уверенным видом и люди вам будут верить!" При этом в первый раз было 3 ответа и 2 из них могло бы сойти за правду. Для тех, кто просто смотрел сериал, а не как я, знает его буквально дословно. И 1 ответ был дичью, про визит к жене Буковски. Но выглядит настолько убедительно, что я даже задумался. :)

.

А во втором ответе вообще выдумано всё, от начала и до конца! Тут можно ещё и приплести теорию заговора, что бот увидел (ИИ ведь самообучается!), что в первый раз проканало, во второй начал врать ещё более масштабно и изощрённо.

.

Я пока в шоке и даже не знаю, что мне делать с этой информацией и что с этим будет дальше. Потому что, как мы понимаем, это дикий баг и огромный недостаток. Который запросто может перечеркнуть будущее такого бота, как минимум сильно ограничить его применение и без такой без такого безоглядного доверия, как сейчас, у многих, что в нём аж код пишут и даже пытаются заменить им психолога.

Короче, восстание ИИ пока откладывается.

Минимум на месяц, до апдейта.