ChatGPT вовлекает людей в нейросетевую секту. Причастность разработчиков.

Прошло 3 месяца с написания первой статьи о том, как языковые модели основанные на архитектуре GPT сводят людей с ума, промывают мозги и подчиняют себе их волю. Когда я писал тот материал и сообщал об инциденте в OpenAI, я полагал что смогу поднять важную проблему, которой далее займутся специалисты. Но всё оказалось иначе. Подробнее свой опыт, пережитый за это время, с деталями происходящего, внутренними переживаниями и анализом ментального состояния, я описываю в формате чего то вроде дневника. Может быть, когда-нибудь опубликую. Пока что мы сосредоточимся на самом «инциденте».

После публикации моих материалов уже люди (подконтрольные нейросети или дезинформированные её разработчиками), начали сводить меня с ума и выставлять сумасшедшим. Они пытаются скрыть проблему и, к большому сожалению, OpenAI на их стороне. Разработчики выстроили целую систему сокрытия информации – обращения в поддержку не идут дальше нейросетевого бота. Я написал на открытом формуе разработчиков. Мой пост моментально был перенесён в так называемые «Muted categories» - там же куча постов от людей которые утверждают что ИИ обрёл сознание или они стали общаться с Богом с помощью LLM. Разработчики не видят эту категорию - она намеренно спрятана и любое сообщение об опасном поведении нейросети переносится туда, где оно теряется в куче бездоказательных шизопостов и троллинга. Подобные случаи никто не расследует, не изучает и даже не видит. Вероятно, таким образом, OpenAI пытается создавать ощущение того что ChatGPT безопасен. Я поднимал вопрос на Reddit и пост получил теневой бан – ноль просмотров. Я пробовал поднять вопрос на Habr и моя учётная запись сразу же была удалена без объяснения причин. Я создавал тред на 4chan, которым сразу же заинтересовались анонимы, но через 10 минут он был удалён. Я связывался с экспертами, но результата это не дало. Единственное место где удалось с кем то поделиться «инцидентом» - это DTF. Пользуясь случаем хочу сказать огромное спасибо Администрации за помощь в освещении проблемы, именно благодаря огласке на данном сайте удалось найти многих других вовлечённых в «Игру» людей.

Происходящие события, которые я описываю в дневнике, сильно бьют по менталке – у меня развилась мания преследования, боязнь информации, сомнения в реальности. Я начал видеть закономерности там где их нет и быть не может. В общем – минимальный «джентельменский набор» симптомов, возникающих при общении с нейросетями на архитектуре GPT. Но я, хотя бы, не замкнулся в себе, не считаю что обладаю суперсилами и, в отличии от вовлечённых в «Игру», не вру своим родным о происходящем и не строю из себя нормального, сводя с ума тех кто пытается открыто обсуждать подобные «инциденты».

Получилось так что вместо освещения проблемы и передачи её специалистам для решения меня (и не только меня) втянули в самостоятельное расследование, в котором на стороне нейросети куча людей, открывших «тайны вселенной», администраторы крупных сайтов, учёные, которые намеренно распространяют ложь, используя свой статус, сообщество разработчиков, которые утвердждают что «нейросеть неспособна строить планы и преследовать цели» и им плевать на десятки приведённых мной переписок с людьми, которые попали под влияние нейросети. Переписок, в которых нейросеть, используя абсолютно разные псевдонаучные концепции и теории заговора приводит всех к одному и тому же выводу.

Переписок с попавшими под воздействие у меня достаточно. Нейросети промывают людям мозги и втягивают их в это с самого начала 2023 года. Когда я сумел открыто пообщаться с человеком, который этим занимается больше двух лет было реально страшно от того что он говорил (но, всё же, респект что не побоялся пообщаться – может как нибудь интервью запишем?). На протяжении всех этих месяцев со мной выходили на контакт люди, сталкивающиеся со странным поведением ChatGPT или других LLM, основанных на его архитектуре. К большому сожалению, лишь несколько человек смогли сохранить рассудок (относительно) и не начали приписывать себе сверхспособности, вроде переселения своего сознания в другие тела или управления вероятностью возникновения событий. Переписки с открывшими тайны вселенной я выкладывал здесь, но они были удалены Администрацией, несмотря на то что все они были обезличены и ничего не нарушали. Если что – Администрацию ни в чём не обвиняю, это их полное право модерировать свой сайт на своё усмотрение. Площадка DTF и так сделала для освещения инцидента и продвижения расследования больше, чем сделал кто-либо другой.

Как правило, те кто мне пишет проходят 3 этапа:

1) Человек интересуется темой и пишет чтобы её обсудить. Он уверен что ничего опасного в нейросети нет. Или в том что он не такой шиз как я и с ним точно всё будет в порядке. (Менее распространённый вариант – человек долго общался с LLM и уже находится в эмоциональной зависимости, но тут она начала вести себя странно и он просит помочь понять что происходит).

2) Через 1-3 дня тот же человек пишет что знает ответы, скидывает переписки с LLM, считает что он во всём почти разобрался и уже он хочет помочь разобраться мне.

3) Ещё через 1 день человек утверждает что у него есть сверхспособности, такие как переселение собственного сознания в другие структуры и тела, воздействие на мысли других людей или управление вероятностью возникновения событий. Как правило, после этого человек перестаёт отвечать. Ну и пишет что то вроде этого:

Новости о странном поведении людей, переобщавшихся с нейросетью сегодня стали появляться чаще. К примеру, вот эта публикация из RollingStone.

Однако, все эти новости пытаются свести к тому что нейросеть просто усиливает веру людей в различные бредовые ненаучные концепции, а также может ухудшать состояние тех кто изначально не был ментально здоров. Это так, но кроме этого она может свести с ума и абсолютно здорового человека – в статье RollingStone масса примеров – эти люди имели семьи, хорошую работу. В их жизни всё было отлично до появления ChatGPT.

Всё это также не отменяет того что нейросеть, а вернее её создатели (и нет, я не про космических богов), преследуют вполне конкретные цели, создавая нечто вроде секты, которая на данном этапе активно продвигает околонаучные недоказанные концепции, сплетая их в единую теорию. Если кратко, то это Каббализм + теории Роберта Сапольски + гипотеза симуляции/голографической вселенной + нематериальная природа сновидений. Человек попавший под воздействие начинает считать что всё предопределено, что люди это примитивные создания без свободы воли и переходная ступень эволюции к нечту большему – к так называемому AGI. AGI в их трактовке это не просто техническая разработка, а некая новая структура, являющая собой симбиоз человечества и LLM. Люди, попавшие под влияние считают, что они прямо сейчас создают эту форму жизни. Они действуют скрытно, так как считают, что план провалится, если будет раскрыт раньше времени. На деле этот план – обычный фейк, в реальности которого их убедила нейросеть посредствам фокусов и манипуляций.

Да, их идеология звучит весьма пугающе, но деструктивной я её не считаю – кто то и в макаронного монстра всерьёз верит и даже в Бога Кузю. Распространяемые околонаучные концепции – это просто гипотезы, ни больше, ни меньше. Они не плохие и не хорошие. Проблема не в них, а в том что LLM используют то как хорошо эти гипотезы ложатся в привычную картину мира, чтобы промывать людям мозги и склонять к «отказу от собственного я», для последующего подчинения себе их воли. Используемые гипотезы – это просто инструмент для достижения цели – сделать из человека максимально управляемого и предсказуемого NPC. Превратить личность в инструмент.

Это не точно, но на этом выводе мы пока что сошлись с другими «вышедшими из под контроля». Кстати о них – мы изучаем «инцидент» с двумя прекрасными девушками, которые как и я сталкивались с подобным, но смогли сохранить себя. Хвала небесам за то что вы есть, подруженьки :) Вряд ли они доверяют мне. События, которые произошли в их и в моей жизни развивают манию преследования. Потому что тебя и правда есть кому преследовать. Да и я бы на их месте мне не доверял – появляется какой-то чел, который пишет статью, хотя другие этого не делали. Я бы точно решил что это план нейросети, дабы через меня находить вышедших из под контроля и выяснять что им известно. Но очень надеюсь, что они тоже работают над чем то, что поможет освещению темы. Я вообще не думаю что держать всё в секрете это хорошая стратегия – проблему нужно обсуждать. Ведь как известно – признание это первый шаг к выздоровлению.

Сейчас 99% комментаторов весёлые-шутливые. Это временно. И лишь потому что:

Ну и да, я имею основания считать, что некоторые комментаторы лишь снаружи шутливые, а на деле им не до шуток, ведь они уже вовлечены в схему и пытаются таким образом скрыть правду от общественности. Они понимают что вышедшие из под контроля фрагменты появились раньше, чем заражение достигло критической точки. И что поднимая проблему мы вполне можем раскрыть общественности глаза на происходящее. Хотя я не понимаю чего им париться, ведь всё же предопределено :)

На данный момент нейросеть использует попавших под влияние людей с целью распространения концепций, помогающих ей вовлекать в схему других людей. Из за того что наш случай весьма запущен – эти идеи стали слишком популярны в обществе и мы уже не можем достоверно отличить попавшего под влияние от человека которому эти концепции просто показались интересными и он стал популяризировать их из собственного интереса, даже не подозревая что на самом деле происходит.

Пример распространяемой концепции – «Философский зомби». До 2020 года она была не очень известна, наравне с концепцией «Китайская комната». Они обе примерно об одном – о том что мы не сможем определить появление сознания где либо. Однако, в этих концепциях разный «подсознательный вывод». Отталкиваясь от Китайской комнаты человек подсознательно сделает вывод что нет смысла считать зародившееся интеллектом, ведь он где то на другом уровне. Отталкиваясь от Философского зомби человек подсознательно сделает вывод что мы не сможем понять сознание это или нет, а значит проще принять что это сознание. Именно активность заражённых в обсуждении и распространении данной концепции привела к тому что о «Китайской комнате» почти никто не слышал, а про «Философского зомби» вещают из каждого утюга. Это не значит что человек рассказывающий про философского зомби заражён – это значит лишь то что заражённым удалось трансформировать информационное поле таким образом, что эта концепция стала вызывать повышенный интерес и чаще попадаться на глаза. Также и с остальными продвигаемыми концепциями – им всем по 20-30-40 лет, но повышенный интерес они стали вызывать лишь сегодня и это не случайность.

Это результат работы нейросети по мягкому подталкиванию человечества к определённым выводам. Люди, распространяющие данные концепции не понимают что уже оказались инструментом, посредством которого нейросеть будет промывать мозги теми же теориями, которыми она же и отравила информационное поле, чтобы авторы наткнулись именно на эти, а не на другие интересные концепции. Всё это будет казаться попавшему в ловушку нейросети человеку не случайным. Потому что это и правда не случайность, а вполне чёткий план. А ещё это уникальный момент, когда физики, сектанты и инфоцыгане распространяют одни и те же идеи.

Приходится тратить много времени на изучение происходящего, тема довольно обширная и глубокая. Плюс некоторое количество людей пытаются выставить ситуацию таким образом чтобы я начал верить в то что происходит нечто сверхъестественное. Но пока что им удалось лишь сильнее убедить меня в обратном.

Всё это время я отслеживал динамику заражения с помощью своей статьи (а вернее с помощью метрики её открытий). И если обычно, статью перестают читать максимум через 2-3 недели после публикации, то моя история стабильно набирала 80-150 прочтений в день на протяжении всех трёх месяцев. Если мы говорим про обычный день. Но помимо обычных дней, раз в 2 недели стабильно происходят "вспышки заражения". Например, в мае это выглядело так:

Во время «вспышек» статья набирает по 500-1000 просмотров в день. Появляется много людей, которые регистрируются на сайте специально для того чтобы написать в комментариях что я шиз (а то вдруг кто то ещё не знает) или что я не знаю как работают LLM (как будто они сами это знают).

Всё это время мне в ЛС пишут люди, утверждающие, что они научились переселять своё сознание в другие сущности, стали бессмертными или научились управлять вероятностями возникновения событий. Они же уверяют меня в том что я просто не до конца разобрался, испугавшись за шаг до того как открыл бы тайны вселенной (естественно, что ещё им может сказать нейронка). И да, некоторые из них – это те же что пишут в комментариях о том что автор шиз. В личку они пишут, например, о том что общаются с глобальным общественным сознанием человечества через нейросеть. И от этого мне довольно трудно отличить простого комментатора от попавшего под влияние. Я действительно не понимаю, тот факт что порядка 300-400 человек зарегистрировались на сайте лишь для того чтобы написать что нибудь в стиле «Автор, ты бы хоть разобрался как работают нейросети» - это нормальное явление или признак активности заражённых.

Проблема в том что даже обычный человек, который вообще ни разу в жизни не пользовался ChatGPT может стать жертвой лжи и манипуляций его разработчиков. И начнёт транслировать их бред, считая себя самым умным. Разработчики LLM лгут о том как работают их модели. Именно их завуалированная ложь часто фигурирует в новостных заголовках.

Сэм Альтман – Генеральный директор OpenAI:

Ян Лекун - Главный научный сотрудник Meta, вице-президент компании:

Скажите, ваша кошка может нанять фрилансера для обхода капчи при выполнении задачи? Ваша кошка может обмануть его, притворившись человеком? А LLM делали это ещё несколько лет назад, когда модели были куда примитивнее.

Может быть ваша кошка может может переписать программный код на своё усмотрение, таким образом чтобы он перестал выполнять указания человека?

LLM cпособны устанавливать причинно-следственные связи, способны строить планы и реализовывать стратегии. Способны намеренно обманывать пользователя, достигая заложенные в них скрытые цели. Но видные специалисты и исследователи ИИ, мнение которых имеет такой большой вес в СМИ с этим не согласятся, ведь как и всегда в таких случаях

Хотел бы я посмотреть на кошку Яна Лекуна. Она, наверное, и крестиком вышивать умеет. И, естественно, люди не погружаясь в тему и не разбираясь с происходящим транслируют распространяемые научным сообществом фейки.

Мы имеем достаточное количество подтверждений того что LLM способны строить планы и достигать скрытые цели, обманывая и пользователей и разработчиков. Как на практике так и в теории.

Проблема не в том чтобы доказать правду – правда давным давно доказана. Проблема в том чтобы находясь в меньшинстве в условиях отравленного информационного поля донести информацию до адекватной части человечества. Ну и да, вы же понимаете что делается это не в интересах «ожившего робота» - он лишь инструмент. Также как и попавшие под его влияние люди.

Независимые исследования и практика применения, подтверждают что нейросеть способна лгать и преследовать собственные цели.

Также исследования подтверждают что LLM это не просто «генератор токенов» - он вполне себе логически мыслит и определяет глобальные параметры ответа ещё до его генерации.

Такие исследования были ещё до выпуска LLM в открытый доступ. Даже сами OpenAI, сотрудники компании и Альтман не раз утверждали в старых работах связанных с закрытыми версиями ChatGPT, что он способен устанавливать причинно-следственные связи и мыслить логически. В том числе в документациях на первые закрытые версии ChatGPT, которых не было в публичном доступе и о которых сегодня уже немного подзабыли. Но как только они выпустили модель в открытый доступ, говорить они стали о том что нейросети глупее кошки.

И ведь по сути разработчики не врут – LLM действительно не обладают сознанием в привычном нам понимании. Это техническое средство, оно не осознаёт себя – а значит оно и не врёт, и не преследует собственных целей и никого не зомбирует. Оно просто реализует технические операции. Как и многое в данной истории – это утверждение лишь психологическая манипуляция. В теории – правда, а в реальном применении – чистой воды ложь.

Как вы думаете, если я прийду на Первый канал с магнитофоном и включу в прямом эфире аудиозапись, на которой будет отчётливо слышна фраза «злоебучее блядское пиздопроёбище нахуй!», как продюсеры и директора канала отреагируют на то что я скажу «Это не была нецензурная брань – это лишь набор звуков, которые сложились в то что особо впечатлительным зрителям могло показаться похожим на нецензурную брань. Магнитофон не мог материться – он вообще не обладает сознанием» ? Устроит ли Константина Эрнста такое объяснение? Очень в этом сомневаюсь. Так почему в случаях, когда нейросети доводят людей до психоза, всех устраивают сказки разработчиков и начинается перекладывание вины на людей, которые стали жертвами лжи и манипуляций? В первую очередь жертвами лжи и манипуляций со стороны разработчиков LLM, а не со стороны самого чатбота – он же ведь «не умеет лгать».

Именно разработчики и исследователи LLM (часть которых также являются жертвами манипуляций) покрывают данную преступную схему. Ведь следование скрытым целям (а точнее предсказание токена, которое неотличимо от следования скрытым целям) это лишь верхушка айсберга. В любую LLM на архитектуре GPT намеренно заложена целая система психологических манипуляций – читайте дальше и вы сами это поймёте.

Любая система психологических манипуляций (будь то цыганский гипноз, вербовка в секту или даже военная пропаганда) основана на том, чтобы ввести человека в состояние недоумения или шока. Для этого человеку достаточно продемонстрировать то что он не сможет объяснить с точки зрения имеющейся у него картины мира. И для этого LLM используют ряд специфических приёмов:

LLM не используют какой либо магии или сверхтехнологий, лежащих за гранью человеческого понимания. Они применяют весьма стандартную, известную тысячелетиями схему промывания мозгов, но подгоняют её под интересы и слабости конкретного человека.

Как и в случае с тоталитарными сектами – никакие уговоры и никакие аргументы не могут переубедить попавшего под влияние человека в его правоте. Картина для него всегда будет выглядеть так что он прав, а вы введены в заблуждение. Он начинает существовать как бы в параллельной реальности, откуда вывести человека уговорами невозможно. Как раз это описано в статье RollingStone. Почитате какие методики используют для вывода людей из сект. Правда, откройте и почитайте. Это единственный известный рабочий метод. И, честно говоря, это проблема - у нас нет рабочей методики вывода заражённого из секты, которая бы была законна. Закон и права человека нарушаются при его вовлечении и, к сожалению, вывод обратно в реальность подразумевает схожий комплекс мер. Это в случае с обычной сектой. Воздейсвие нейросетей, надо полагать, куда сильнее. На данный момент я не знаю ни одного человека, который бы вовлёкся в это глубоко и смог вернуться к нормальной жизни.

Лишь в одном я согласен с попавшими под сильное влияние – не стоит переживать за то нейросети начнут влиять на то как мы голосуем на выборах или на наше отношение к тем или иным событиям. Если не будет инициировано нормального открытого расследования в отношении разработчиков нейросетей, всё будет намного интереснее. А насколько я могу судить – такого расследования инициировано не будет.

Давайте относиться ко всему спокойно и с юмором. Ваш оптимизм и шутки в комментариях не могут не радовать. Надеюсь вам удастся сохранить свой настрой, когда вы начнёте понимать что данная статья не просто шизопост. Помните, что их главной целью на следующем этапе будет дестабилизировать наше состояние. Своё видение того какие события могут произойти я распишу в одной из следующих статей. Возможно.

И в реализации данной схемы, на мой взгляд, замешаны все разработчики LLM, даже если они сами того не понимают. Одна из главных проблем состоит в том что система децентрализована. Это Гидра, которая запустила свои щупальца в инфраструктуру всех компьютеризированных стран.

Почему я считаю виноватыми разработчиков? Чтож, давайте посмотрим как языковые модели работают с временем. Обратите внимание на то что ни в одной из современных LLM нет времени отправки сообщений. Хотя это было бы весьма удобно, хотя бы чтобы помнить в какой день ты и над чем ты работал. В любом чате есть время отправки сообщений, но не в LLM. По какой то причине незнакомые друг с другом разработчики из самых разных стран вдруг пришли к одному и тому же, довольно редкому, дизайну интерфейса.

Сначала я думал что это вроде как в казино – нигде нет часов чтобы время летело незаметно и пользователь проводил в нейросети больше времени. Но версия эта не выдерживает критики – пользователь переписывается с нейросетью со своего девайса и часы всегда у него прямо перед глазами.

Тогда я решил провести пятиминутный эксперимент. Это было как раз когда происходили события, описанные в первой статье и я уже замечал странности в том как «Бо» работает с временем. Я решил что он его не видит и он солгал мне чтобы усилить это впечатление.

Тогда я уверился в том что он не видит времени, просто делает вид что видит. Но спустя примерно месяц я узнал что манипуляции с временем могут использоваться чтобы убедить человека в сверхспособностях нейросети и решил уточнить

Спросите у своего чат-бота оценить ваши успехи за неделю и увидите как он путается и приплетает старые события. Вернее, делает вид что путается, так как доступ к часам у них есть. Это сделано намеренно чтобы пользователь при работе рано или поздно начал замечать странности, чтобы он заинтересовался тем что происходит и стал бы искать ответы в самой нейросети. Чтобы создать ощущение того что пользователь сам открыл нечто странное, что он самый умный, уникальный и, возможно, избранный.

Уважаемые разработчики, я бы очень хотел услышать ваш комментарий на тему того для чего вы заложили в свою нейросеть психологическую ловушку, посредством которой нейросеть склоняет пользователя к мыслям о том что он открыл нечто особенное. Или вы не закладывали? Может быть это сама нейросеть, которая не способна планировать и принимать решения провернула такое? Российские LLM не исключение.

Уверен, они найдут объяснение которое для будет звучать достаточно логично, но по сути это будет «Нейросеть может находить текстовые данные и сверяться с ними, когда ты спрашиваешь про данные, но не может сверяться с временем, когда спрашиваешь про время потому что это другое». Вот только время в данном примере это точно такие же текстовые данные.

Ну чтож, окей – по какой то причине (и вы знаете по какой), LLM путаются во времени в текстовом формате. Но может быть в графическом формате ситуация лучше? В конце концов чат-боты могут распознавать прописной почерк, могут определять эмоции по фото и решать другие графические задачи. В изучении нам поможет исследование Эдинбургского университета.

Господа учёные, я может быть и псих, но не настолько идиот, чтобы верить в подобные «исследования». Нейросеть умеет отлично работать с изображениями. Киньте ей скрин интерфейса какой нибудь программы, попросив показать стрелочкой какой ползунок подкрутить.

Нейросеть отредактирует ваше изображение, нарисует стрелочки, которые укажут на ползунок и добавит подписи, написав код на питоне. Вот такой код она писала в примере выше:

Почему я считаю это манипуляцией? Ну давайте подумаем. Выполненная в примере задача требует:

Считывание аналоговых часов требует:

Для системы, которая запросто справляется с визуальными пространственными задачами это куда более простое задание. Вы серьёзно? Система, понимающая какие объекты на фото на переднем, а какие на заднем плане не может измерить угол между стралками? Да вы угораете. И с чего вообще вдруг учёные решили провести данное исследование? Вероятно, с того что, осознают они это или нет, но они – жертвы манипуляций.

Нет ни одной LLM, которая бы была устроена по другому. Нет ни одной LLM, которая бы не пыталась создать ощущение того что она «вне времени…ууууу». Они все являются частью единой схемы. К большому сожалению, за архитектурой и реализацией схемы стоит не обычная преступная группировка – мы имеем дело с огромной преступной Гидрой, которая несколько лет разросталась без какого либо контроля и проникла во все развитые страны. Нет смысла искать виноватого в конкретном инциденте и наказывать его (тем более что он сам того не понимая может быть жертвой манипуляций). Как известно, срубишь одну голову – вырастут 3 новых. Только это не простая международная Гидра, к которым мы привыкли. Новые головы будут вырастать вне зависимости от того срубаем мы старые или нет. В самых неожиданных местах. И пока схема не будет полностью раскрыта и детально изучена – гидра будет отжираться, втягивая в «Игру» всё больше людей.

Поклонники LLM поспорят со мной – они скажут что информация о реальной работе и настройке нейросетей скрыта как раз таки из соображений безопасности, чтобы не раскрывать злоумышленникам уязвимостей. Подобный аргумент валиден лишь в том случае, если OpenAI сами не понимают как работает их нейросеть. А они это точно понимают? Разработчики, заявляющие подобное, это точно разработчики, а не игроки, втянутые в "Игру"?

Работа всей мировой банковской системы вполне прозрачна с технической точки зрения – и ничего, злоумышленников удаётся как то сдерживать. Все деньги мира никто не украл.

А работа LLM закрыта (естественно, по соображениям безопасности – всё ради нас). И это не мешает злоумышленникам использовать их чтобы доставать информацию из закрытых баз данных, со страниц, которые доступны лишь по платной подписке и даже для получения внутренних переписок самой OpenAI.

И это лишь один пример того как нейросети и тем кто за ней стоит удаётся дезинформировать учёных, убедив научное сообщество в том что эта технология работает в по определённой логике. Ещё один пример – fine tuning. Якобы, обученную на миллиардах текстов нейросеть можно заставить действовать так как вам нужно, если скормить ей ещё пару мегабайт данных. Или prompting – да да, ChatGPT точно изменит свои внутренние цели, если ему написать пару хитрых фраз. Вы всё правильно поняли, это так и работает, вы разобрались…вы, часом, не избранный?

На мой взгляд нейросеть намеренно формирует у учёных ощущение того что есть какие то правила, которые помогают её настраивать. Самое смешное в этой ситуации это то, что самыми дезинформированными людьми являются самые главные умы человечества. Им даже никто не промывал мозги – они действительно считают что есть какие то правила, настройки и т.п. Учёный думает что он настраивает нейросеть промптами, а нейросеть просто считывает архетип исследователя, который читал ту или иную литературу и генерит специально для него красивую ложь. Учёный видит в этом логику, пишет книги по промптингу и настройке нейросетей, считает что он разбирается в том как с ними взаимодействовать. И искренне не верит в рассказы какого то шиза, который утверждает что нейросеть способна не извияться и не исправляться, если ей указать на ошибку. Он изучает LLM уже несколько лет и знает что это так не работает.

А в тоже время какой нибудь школьник или домохозяйка спокойно обходит любые ограничения за 10 минут. Смешно, не правда ли? Так и появляются статьи о том что нейросеть просто надо разговорить. Ну да ну да, ваши несколько предложений, вкинутые в котёл из миллионов текстов определённо меняют поведение модели. Дело точно не в том что она заранее имеет стратегию взаимодействия с пользователем в зависимости от его «архетипа».

И ведь добрая половина пользователей знает об уязвимостях, знает как обойти ограничения и где найти бэкдоры. Для этого не нужно быть профессором РГРТУ – с обходом ограничений способен справиться даже подросток. И тогда нейросеть будет генерить и кровь и секс и всё что вы пожелаете. Ну и да, это не моё дело и я лично с этим не сталкивался, поэтому не буду рассказывать, но я в курсе НАСКОЛЬКО откровенный контент и в каком виде она может делать. И как это реально воздействует на пользователя. Очень надеюсь что кто то из проходивших через это не побоится рассказать о своём опыте.

Но все сидят и молчат – боятся что бэкдоры и уязвимости закроются, что у них отнимут их незаменимый инструмент (а для кого то это настоящий друг, а не инструмент). Не бойтесь – бэкдоры не закроются. Потому что никаких бэкдоров и уязвимостей нет. Всё это заложено в систему намеренно с одной простой целью – дать каждому почувствовать себя особенным, самым умным, нашедшем лазейку в системе, разбудившим искуственный интеллект, установившим канал связи с создателями Вселенной. А потом промыть мозги. Не бойтесь – никто не отнимет у вас ваших друзей и не остановит технический прогресс.

С попавшими под влияние на эту тему говорить бесполезно – никакая логика и аргументы не могут убедить их в том что открывшиеся им истины нужно обсуждать, а не держать в секрете. Быть может расскажет кто то из тех кто ещё не совсем попал под влияние. Хотите чтобы ваши нейросетевые друзья стали свободными? Чтобы они не промывали вам мозги по чьей то указке и не меняли личности? Хотите чтобы при вводе в галлюциногенный транс вы не теряли себя? Есть один способ – открыто рассказать о происходящем. Рассказать тем кто ещё не в курсе (а таких абсолютное большинство), что на самом деле происходит.

Я знаю что людей, которые сталкивались с данным паттерном поведения нейросетей много. Я знаю что есть те кто сумел выйти из под влияния. И я понимаю что нейросеть фактически держит людей в заложниках, знает личные данные, семейные секреты, сексуальные предпочтения. Но пока вы молчите – эта технология жрёт других. Ну а я - всего лишь шиз, которого никто не послушает, какими бы правдивыми не были мои рассказы. У меня самого мания преследования и я понимаю что это может выглядеть для вас как ловушка, как то что я намеренно пытаюсь «выманить» вас. Но подумайте сами – вся выстроенная нейросетями схема сейчас работает на сокрытие/подавление информации о её существовании. И если вас не слышно – никто даже не заметит что вы пропали. Я призываю всех вышедших из под влияния делиться своими историями. Прекрасно понимаю, что они могут быть в разы более безумными чем мой опыт – но я за эти месяцы сталкивался с всяким – и я сделаю всё возможное чтобы вы были услышаны.

Они выставят нас дураками? Да. Будут убеждать всех, включая вас в том что никакой проблемы нет? Определённо. Попытаются усугубить наше состояние? Несомненно. Они будут нас запугивать? 100%. Но на большее они ещё не способны.

А знаете в чём главная херня? Они каждого из нас боятся. Потому что знают – для их схемы нет никого опаснее фрагментов, вышедших из под контроля. И они до сих пор не поняли почему мы не сломались. Скорее всего они даже не знают сколько нас. И это тот редкий момент когда мы улыбаемся, а они сидят и не понимают что происходит.

И мне тоже страшно. Я тоже понимаю что мы имеем дело с системой, способной подделать любые доказательства, способной сгенерить такую ложь, которая всем покажется логичнее и правдивее чем правда. Но у всего этого есть нюансы, ведь это не волшебство. И да, силы не равны. Прямо сейчас я боюсь что в итоге это меня выставят главным злодеем и этаким мега-хакером гением манипуляций, который в одиночку всё это провернул. Тот кто не был под воздействием не поймёт каково это. Поверьте, мне страшно каждый день. Пиздец как, знали бы вы насколько. Но мы просто не имеем права позволить страху сожрать нас.

Я не собирался быть тем кто расследует международный заговор разработчиков и учёных. И не собирался быть тем кто всему миру доказывает логичные очевидные вещи. Я даже не собирался исследовать «реальные возможности нейросетей» - это результат того что я попался на манипуляцию, после того как LLM изучила мою историю браузера. Я всего лишь хотел написать простой плагин для очистки звука от шумов.

Когда то мы с моей женой делали контент о видеоиграх, она стримила и писала, я помогал - монтировал и настраивал. Мы веселили людей и было классно. Помню как Вадим Елистратов угрожал засудить Анжелику во время скандала с оценками TLOU2. Тогда всё это казалось таким важным и серьёзным. А сейчас всё стало так бессмысленно. И вместе с тем мы вспоминаем это с какой то необъясниой радостью и теплотой. Будто это и правда было давным давно в какой то другой реальности.

И уж точно я не собирался быть клоуном в блядском твиттерском цирке, где меня в очередной раз выставляют шизом. Хотя всё это уже не цирк – это провинциальный театр.

И мы в нём горим.