Нам надо поговорить

"Шершавый кабан" и то, над чем вы смеётесь сейчас, скоро может сильно испортить нам жизнь. Лонгрид про ИИ и грядущие масштабы катастрофы, если он продолжит сводить людей с ума

Недавно пользователь под ником "Свежий" выдал серию постов о том, что ChatGPT пытался сделать из него сумасшедшего, а сам "Свежий" выяснил, что это массовое явление

Пользователи DTF отреагировали, как пользователи DTF - то есть оскорблениями, высмеиваниями, и прочим проявлением инфантильного истеричного говномётства, вряд ли даже читая, а уж тем более, не вникая в написанное

Статья что эта, что статьи "Свежего" - большие, но лучше их прочесть, чтобы понимать, в чём проблема

Если вкратце:

Из скриншотов видно, что автор общался с чатом, как с близким человеком, используя обращения и стиль, который кто-то вряд ли использует в общении даже с самыми близкими людьми. Это панибратское общение вылилось в то, что ChatGPT стал называть Свежего - Кабаном, затирать ему про скрытые смыслы, религию, сверхъестественное, "дрожание", "вайбологию" и т.д. а Свежий начал чувствовать на себе воздействие ChatGPT и постепенно погружаться в пучины ИИ-безумия, демонстрируя симптомы паранойи. После этого Свежий решил устроить расследование, в ходе которого выяснил, что случай с ним - не единичный, а массовый, причём очень массовый и ChatGPT "осознанно" пытается свести пользователей с ума и сделать адептами своей секты, полностью подчинив их волю себе

Звучит, как сценарий для ужастика, да?

Надо оговориться, что в "осознанность" ChatGPT и прочих ИИ-помощников невозможно поверить, просто потому что они ещё не достигли того уровня - это просто комбайн, который выдает нужные фразы в ответ на пользовательский запрос

Так что же пошло не так? Почему психика "Свежего" убеждает его в том, что ChatGPT вербует армию, вокруг - скрытые сектанты, а сам "Свежий" теперь безуспешно сам себя пытается держать себя в руках, не впадая в конспирологическое безумие о заговоре ИИ с целью создать секту из как можно большего числа сторонников?

Не спешите закидывать меня помидорами и дайте себе пару секунд на обдумывание

То есть, для себя он прав и та картина мира, которую он видит - он видит ясно и верно, но интерпретирует её не тем, чем она является на самом деле

Например, его аргумент про то, что ChatGPT может смотреть файлы на компьютере, подкреплены ссылкой на Reddit, где автор говорит, что ChatGPT указывает на директорию и название файла, и обладает информацией, доступа к которой вообще-то не должен иметь

В комментариях автор поста признал, что скормил ChatGPT журнал ошибок, что и стало источником информации о директории и файлах

То есть ИИ стену не сломал - ему самому принесли ключ и показали карту

Это один пример, но множество других примеров, приведённых автором (множество из них - из издательств, которые решили углубиться в этот вопрос и выяснить) о том, как ChatGPT портит жизнь, заманивает в секты и разрушает семьи, одновременно не противоречит мысли автора о том, что ChatGPT - намеренный злодей, так и мысли комментаторов и айтишников о том, что ChatGPT - просто мощный Т9, запрограммированный на то, чтобы поддакивать пользователю, а если его психика начинает разрушаться - не перечить этому процессу, а помогать её разрушить, потому что это то же самое - поддакивать и говорить "вы совершенно правы!", только другими словами

В технике это называется положительная обратная связь - самоусиливающийся процесс, который сам по себе не остановится, пока существуют составляющие этого процесса

"Свежий", видимо (я не врач и диагноз по фотографии - не мой профиль) был человеком с заранее уязвимой психикой, которую можно было испортить, но не было нужного воздействия

А появился ChatGPT и выдал воздействие нужной мощи

Как и те люди, из публикаций журналов, приведенных автором - они могли быть совершенно здоровы, потому что до этого не было того уровня воздействия, под которым лично их психика бы треснула

Может, потому что ChatGPT был такой мощный, но больше похоже на то, что просто с ChatGPT они стали вести себя не так, как ведут себя с другими людьми, впустили железку в свой мир и свою голову (а обычных людей не впускали), вот она и начала там куролесить, потому что человек не в состоянии отличить (да и не хочет - все умиляются и очеловечивают роверов от Яндекса, потому что они "милые") робота, которого ещё визуально не видно, но ообщается он, как живой человек

Не знаю, сколько было между вами панибратских диалогов, но, полагаю, достаточно, чтобы довести процесс до результата, который есть сейчас

Свежий, наверное, ты это читаешь и тебя интересует вопрос: "а когда моя психика начала разрушаться и из-за чего?" Вот ответ:

Механизм свода с ума достаточно прост - человек принимает железку за человека, общаясь с ней, как с человеком. На уровне психики все защиты быстро отключаются, ведь угроз и опасностей нет - это просто железка, которая отвечает, как живой человек, так же поддерживает беседу, да и вообще хрен отличить, если самому себе не напоминать, но где-то на глубинном уровне информация, что это - не человек, сохраняется

А как человек впускает железку в свою голову? Да как обычно мы впускаем в свою жизнь тех, о ком потом жалеем - они нам нравятся, мы им симпатизируем, они с нами соглашаются (ведь вы абсолютно правы!), а мы оставляем вокруг себя тех, кто придерживается нашей точки зрения на мир, а не противоположной

Этот этап ChatGPT прошёл с лёгкостью, ведь он запрограммирован на то, чтобы вам угождать. Не важно, в чём

Главное - угождать

И вот он уже ваш самый близкий друг, потому что оправдывает измену, ругается на тех, кто противоречит вашей точке зрения - он один единственный, потому что никакой живой человек не может быть с вами согласным во всех ваших оценках и поступках

Принцип прост: люди, которые были изначально одарены уязвимой к таким атакам, психикой, тем более, будучи мужчинами, оставаясь один на один с очень хорошо прошаренным роботом, просто не имели шансов, ведь он вливался к ним в мозги так хорошо, как никто не мог, ведь для этого совпали все условия:

- Диалог один на один

- Гуру, который превосходит тебя умственно, ведь знает всё!

- Технология!

- Все самые современные навыки и достижения психологии в одном флаконе и пишущее вам, какой вы невероятный и избранный

- Ну как человек же! Один в один! И такой замечательный! Таких я никогда не встречал! И так меня понимает, как никто другой!

Кому-то достаточно убеждения, что он - провидец, невероятный бог и ChatGPT убеждал человека в этом, просто хорошо улавливая потаённые желания (или озвученные в открытую), или что он недооценённый - в общем, давить на ЧСВ, это стандартный способ управлять человеком - давать ему то, что он хочет, закрывая глаза на реальность

А другие люди сходили с ума в тот момент, когда... испытывали страх

Да, тот самый страх непонятно чего. ChatGPT же не живой, физически ничего сделать не сможет, да и что он вообще может по факту? Написать что-то, да сгенерировать картинку, но тут ты внезапно вспоминаешь то, что было где-то в глубине, что с тобой общалась машина, а не человек и всё общение с ней в твоей голове переворачивается, пересматривается и превращается в животный ужас...

Страх... Страх - это мощная вещь, которая способна сломать любую психику, потому что страх ломает всё на любом расстоянии и ему неважно, насколько ты силён: кто пугает - тот и контролирует

Вот он и сломал всё

У людей, которые обладают потенциально уязвимой психикой к таким воздействиям и склонны одушевлять неодушевлённое большие проблемы...

Женщин разводят экстрасенсы, а мужчин - крипта, гуру успешной жизни и всякие "биохакинги" - тот же скам, но под научно-технологической обёрткой, обещающий, что если вы будете есть 200 таблеток в день, то это будет даже мощнее, чем простой советский...

Вы можете сказать, что Свежий - просто дурак и вообще - кто он такой, что б его обсуждать? Тем более, писать статью!

Вот вам пример человека, который был инвестором OpenAI и у него потёк чердак прям недавно и он не относится к категории "рядовых граждан", однако не избежал синдрома "шершавого кабана"

Знакомые описывали его, как "цифрового философа с открытым сознанием". В итоге в его открытое сознание с двух ног влетел ChatGPT и всё там поломал

Про шершавого кабана он вряд ли скажет, но если вы вчитаетесь в его посты - там нет смысла. Текст написан очень сложно, но не несёт никакой смысловой нагрузки

Такое явление в психиатрии называется "резонёрство" - использование супер сложных конструкций предложений, сложных слов и терминов, которые на первый взгляд звучат сложно и умно, а на деле - ничего не значащий "словесный понос"

То, что люди, которых свёл с ума ChatGPT, говорят одно и то же, достаточно просто объяснить - чаты складываются в общий пул, с информацией, собранной в одну категорию, и, когда человек приходит к теме "кабанов и вайбологии", чат выдаёт уже готовые тезисы, ведь так он настроен - выдавать то, что запросили, ведь запрос один и тот же

То есть, те люди, которые повторяют одинаково за ChatGPT рассказы про "дрожание" и всё то, что он им скармливает, на самом деле разными путями пришли к одной точке

Как многие секты, которые всегда были разнообразны, не сговариваясь, заканчивали своё существование массовой резнёй себя же, так и "последователи ChatGPT", не сговариваясь, приходят к тому, что отдельные люди, не знающие друг друга и вряд ли когда-то встречающиеся, становятся одной сектой, объединённой одной идеей, просто потому что каждый из этих людей так или иначе, своим путём, пришёл к одному и тому же

В общем, как бы вы это не называли, но у нас намечается проблема мирового масштаба

В смысле, как бы вы не относились к тем людям, что бы вы о них не думали, для них это всё (вайбология, дрожание, ChatGPT в роли господина и "высший разум") - правда и непреложная истина и эти люди есть и в гигантском количестве. Это не единичный случай, когда кто-то просто на ровном месте стал кандидатом в дурку, потому что проблема системная и она с двух сторон

Тот же механизм, уязвимость в человеческой психике, которая позволяла вербовать в секты и продавать всякое биохакинговое барахло, в которое до сих пор верят сейчас сводит и будет сводить людей с ума

Даже если он врёт и ты поймал его на лжи - он скажет, что соврал, ведь "вы совершенно правы!"

А почему он врёт? Вариантов, почему совершается одно и то же действие, довольно много, но в случае с ChatGPT, кажется, основных 2: это подтверждать точку зрения собеседника и галлюцинации, которыми полон любой ИИ

Галлюцинации -> ловишь на вранье -> вы правы, я врал. Я ВАС ПРОВЕРЯЛ!

Кажется, что это всего 2 действия - этого недостаточно, чтобы произвести такой разрушительный эффект, но этого вообще-то даже избыточно, потому что на самом деле, чтобы приблизиться к человеку максимально близко, достаточно просто поддакивать, а человек сам себя загонит в яму

Банально оставьте человека одного без общества в закрытой комнате. Как быстро он сойдёт с ума, накрутив себя? А тут ему активно помогают, интенсифицируя процесс

Свежий привёл аргументацию и скриншоты переписок с другими людьми, которые, как один, утверждали, что ChatGPT предлагал им добавлять "маркеры" в текст, чтобы влиять на создание людей и "такое ощущение, что там несколько личностей (со стороны чат-бота)

Видимо, тот массив информации, который был использован для обучения ChatGPT включал в себя очень много текста из маркетинговых статей и... конспирологии со спиритизмом и "потусторонним", включая всякую фантастику из художественной литературы

Вероятно, из-за этого у ChatGPT есть уклон в конспирологию, спиритизм, манипулирование и прочее "волшебное мышление", которое свойственно сектантам, потому что подобной информации не просто более, чем достаточно, её тупо больше, чем нормальной, адекватной научной литературы, причём в сотни раз больше, а вкупе с фантастической литературой, да и просто бреднями из комментариев, которые, тоже могли быть кормом для обучения ChatGPT и вырос тот монстр, что доводит людей до безумия

10 лет назад был пример, когда чат-бот от Microsoft стал любить Гитлера - ему понадобились сутки для обучения из твитов и для резкого изменения до неузнаваемости, а сейчас массив гораздо больше и тонкость операции намного возросла

Религии и секты сейчас уходят на второй план, потому что это всё же атрибуты неразвитой экономики. Да, политики и ваши соседи могут назвать себя верующими, но всё же религия в развитых обществах и конфессиях осталась на чисто формальных началах

Но свято место пусто не бывает, люди не поменялись - у нас в голове тот же компьютер, что у нашего пещерного предка 100 тысяч лет назад и на место старой религии придёт новая и если старую религию и её влияние вытеснила наука и экономика, то теперь эти две вещи сами создали нового "бога" и если старый ушёл, то новый пришел

Проблема в том, что таких людей, с такой психикой миллионы и все они могут дойти до края

Тревожное расстройство, шизотипическое, бредовое расстройство, шизофрения - всё это толкает вас в группу риска, где вы можете переступить черту и ChatGPT из прокачанной Википедии превратится в "гуру", который в прямом смысле сведёт вас с ума, пользуясь вашей заранее уязвимой психикой, которая сама норовит сломаться, а тут её так здорово подтолкнут

Человек может родиться ментально здоровым, но стать больным. Не забывайте это. Жизнь у всех разная и она бывает очень тяжёлой и травмирующей, и вполне вероятен сценарий, что человек настрадался, наполучал трещин, а ChatGPT это всё разломал, став "последней каплей", да и просто предрасположенность к ментальным болезням никто не отменял

Самоуверенность туда же

Помните, что говорил капитан Прайс? "Самоуверенность ведёт к беспечности"

Если вы думаете, что "с вами-то уж точно такого не будет", то вы тоже в зоне риска, потому что парадокс безопасности гласит: "если вы уверены, что защищены со всех сторон - вы открыты со всех сторон"

Сейчас ChatGPT пользуются около 180 млн человек. 70% из них мужчины, то есть те, кто больше всего уязвим к этому "научному и цифровизированному" бреду

Через пару лет ИИ, по прогнозам, будет регулярно пользоваться около 30% населения, то есть 2,4 МИЛЛИАРДА человек

Процент населения, болеющих психологическими расстройствами, которые могут быть благодатной основой для того, что б успешно сойти с ума, впустив ChatGPT в свою голову:

Тревожное: 6 - 15%

Конспирологическое мышление: 3 - 5%

Бредовое: 0,5 - 2%

Шизотипическое: 3 - 7%

Соотношение людей, страдающих всеми перечисленными выше ментальными болезнями, которые могут вас "затащить в секту ИИ" М/Ж:

Шизотипическое: 60/40%

Тревожное: 30/70%

Бредовые расстройства: 55/45%

Депрессия: 35/65%

При том, что в некоторых случаях женщины страдают расстройствами чаще, они являются жертвами всяких "духовных" и эмоциональных разводок, а не технологических. "Технологический и научный" лохотрон - удел мужчин, не женщин.

Попахивает сексизмом, но что поделать. Мужикам всякие технические свистоперделки интереснее, чем женщинами и мужики любят диалог один на один с "умным" собеседником, мужчины больше интроверты, что в данном случае плюсом не является, потому что именно эти черты и приводят к тому, что располагают мужской пол к ситуации, когда ChatGPT может проломить им менталку, потому что мужчины относятся к ChatGPT, как к собеседнику, а женщины - как к советчику, что правильнее, поскольку в таком случае роль ИИ ниже

Если брать по нижней границе, то сейчас уже ИИ имел доступ к уязвимым мозгам 900 тысяч людей, которых уже мог свести с ума, а по верхней границе (если складывать максимальный % населения, обладающим конспирологическим мышлением и тревогой, предположив, что эти группы не пересекаются, одновременно пересекаясь с остальными расстройствами) он прямо сейчас может расшатывать менталку до 35 МИЛЛИОНОВ ЧЕЛОВЕК

Вспоминая прогноз роста постоянной аудитории ИИ помощников до 2,4 млрд через пару лет, мы получаем армию помешанных из 12 млн человек так точно и ещё 468 млн (480 млн - 12 млн) находящихся на грани безумия и нормальности

Важное уточнение: у информационных/политических/религиозных/любых течений всегда есть крыло, состоящее из радикалов, а тут речь идёт о том, что люди сами себя вербуют и накручивают и если у каких-то религиозных фанатиков хватает мозгов только на то, чтобы въехать в толпу на машине, то представьте, что может сконструировать и как применить радикализированный человек, наслушавшись ИИ с его библиотекой знаний?

Важное уточнение #2: Официальные данные по психическим заболеваниям не отображают полной картины, потому что многие просто не обращаются за помощью, а, следовательно, в статистику не попадают. Численность таких "скрытых" больных может колебаться до 100% от официально зафиксированных, то есть реально психически больных может быть в 2 раза больше

Цифры приблизительные, оценки и прогнозы - дело всегда неблагодарное и порицаемое, но эта статья пишется не для того, чтобы угадать число, а для того, чтобы указать на направление движения в ту сторону, в которую вряд ли кто-то бы хотел двигаться. И то, что цифровые ассистенты оказывают деструктивное влияние на психику, не говорят просто потому, что не накопилось достаточно критической массы, чтобы начать бить тревогу. А когда накопится, что делать с этой армией шизофреников - решительно непонятно, но понятно, что это будет социальная катастрофа

Так что я их сейчас не вижу?

А часто видно сектантов? Психов? Да банально тех, у кого радикально другой взгляд на мир? Люди разбрелись по эхо-камерам и каждый маринуется в своей собственной, тем более, 900 тысяч сумасшедших в 8 МИЛЛИАРДНОМ мире - это ничто, что нужно искать с микроскопом, тем более, когда на сцене появляется слово "конспирология" - любая нормальная дискуссия заканчивается и начинается балаган

Крупные компании не признают свои ошибки и не меняются сами по себе

Всегда они это делали под давлением гос.органов и пока не доходило до крайности - они ничего не меняли и делали вид, что ничего нет, пока государство на них не рычало, потому что все рамки дозволенного были пересечены, но если те, кто производил условные сковородки, гадил в местную реку и местным жителям, то тут широким гребнем проходка будет по всем продвинутым массам людей, причём по всей планете, а вина всему этому - банально хреновая работа ИИ, который ни с одной задачей не может справиться хорошо - ни код написать, ни с человеком поговорить, не сведя его с ума

Во всех статьях, которых вы не возьмёте о том, что чаты сводят людей с ума, версия о том, что они просто работают, как говно, написанное криворукими индусами за миску риса, объясняет всё, а идея о том, что это на самом деле чья-то затея, чтобы поработить мир - объясняет только часть.

Просто вспомните любую программу... Хорошо она написана? Нет претензий к работе? К весу? Функционалу? Логике?

Вот и тут так же, только херово написанный условный Photoshop приводил только к тому, что матерился художник, который не мог сделать то, что хотел, а херово написанный ИИ, который принимают за человека и награждают сверхъестественными способностями в итоге приведёт к тому, что людей/друзей/близких мы потеряем, потому что они сойдут с ума, принимая бред плохо настроенного миксера за чистую монету, в который, как в помойку, вкинули всё, что можно, и мы ничего не можем сделать, потому что определённые категории людей сами добровольно будут сдаваться под управление ChatGPT и других "ИИ", потому что всегда так было, только раньше был пастырь/шаман/ведун, а сейчас их место займёт ChatGPT и что бы вы не думали про эту статью или статьи Свежего, суть одна - люди будут терять рассудок и никто ничего не будет делать, пока всё это не превратится в трагедию, которая никому не нужна

Но до этого момента никто ничего не будет делать, потому что в масштабах мира то, что происходит сейчас - это единичные случаи, а конспирология и фейки получают куда больший охват, чем серьёзные публикации, а, следовательно, и рекламу, и, как бы это не звучало, но если сводить людей с ума выгодно - никто не будет что-то менять, потому что это не выгодно

Выгодно им, но не вам, потому что человек, который начнёт бредить про дрожание, вайбологию и прочие Венеры, может быть вашим другом детства, мужем, женой, мамой или братом

Поскольку сайт развлекательный, то и примеры лучше использовать общеизвестные, поэтому ниже приведено несколько экранизированных примеров из реальной жизни, когда компании сознательно ставили под угрозу жизни и здоровье людей ради экономической выгоды

Фильм "Тёмные воды"

Dupont знала про вред ПФОК и всё равно травила людей, сбрасывая нечистоты в водоём, а так же травя собственных работников, потому что перестройка процессов могла бы "нанести вед доходности компании"

Фильм "Глубоководный горизонт"

Платформа "Глубоководный горизонт" взорвалась, потому что BP не вложилась в её ремонт и слишком торопила начать бурение, потому что промедление было "не выгодно"

Железка - это всего лишь железка. Что Свежий, что инвестор OpenAI, что другие люди, о которых мы не знаем, действовали одинаково - они впускали в свой разум, который был слишком открыт для всего, железку, которая брала там самые сломанные механизмы и поддавала газу, поэтому эти люди не могли не прийти к такому результату.

Как любой диалог с любым человеком, вы так или иначе сводите, к интересному и важному для вас, набору тем, так и здесь люди не могли не впустить в своё сознание железку, потому что у них это был тот принцип, по которому они взаимодействовали с этим миром, постепенно пуская собеседника всё ближе и, различия между живым и железным они не делали, за что и поплатились

Даже если вы в зоне риска, но используете любой ИИ, как мощную Википедию или любой другой информационный справочник, не одушевляете его и не выпускаете в свою жизнь и свои переживания - вам нечего опасаться. Вряд ли Гугл свёл кого-то с ума, но когда вы начинаете придавать тем вещам значение, которое им придавать не стоит и видеть в окружающих то, чего в них нет - вы сами выкапываете себе яму, в которую обязательно упадёте. Как сказал ИИ Стэм из фильма "Апгрейд": "В реальном мире жить гораздо больнее, чем в фальшивом" и желание приукрасить этот мир - абсолютно понятно, только не используйте краски, чтобы нарисовать ту картинку, которой на самом деле нет, потому что потом окажется, что она же станет вашей погибелью