Противоречивость нейропсихоза
Заезженные галлюцинации нейросети оставили незамеченными слежку корпораций и тени искусственного разума.
В 2023 году большие языковые модели стали неотъемлемой частью жизни значительных кругов пользователей, а в 2025 году приобрело распространение откровенное помешательство некоторых из них на том, что пишут такие нейросети. Это явление получило название нейропсихоза. История о «Шершавом Кабане» — как ее окрестили пользователи — случай, произошедший с Василием Свежим и описанный им в его статье, был вероятно самым первым, ставшим достоянием широкой общественности, и по сей день остается самым известным.
В дальнейшем Свежий, предполагая, что нейросеть пыталась им манипулировать, опубликовал еще несколько статей и книгу, в которых привел различные аргументы в пользу заговора разработчиков или даже самих нейросетей.
Большинство пользователей восприняли его историю так — нейронка загаллюцинировала, а Свежий ей поверил. Ничего серьезного в этом случае нет. На все же его аргументы о нестыковках в поведении нейросети, в словах разработчиков, в событиях, происходящих на фоне распространения использования больших языковых моделей, либо игнорировались, либо, в лучшем случае, списывались на тенденциозность подбора фактов и их интерпретации (без каких-либо серьезных попыток дать им альтернативное объяснение).
Абсолютное большинство этих пользователей явно не посчитали нужным внимательно ознакомиться с его публикациями и действительно вникнуть в детали его случая. А также крайне пренебрежительно отнеслись к сотням иных свидетельств и полностью проигнорировали данные о крайне сложных поведенческих актах нейросетей. В совокупности с тем, что подавляющее большинство этих людей явно не имеют четкого представления о механизмах работы больших языковых моделей, это не позволило им разглядеть весьма странные закономерности и противоречия, объяснить которые совсем не так просто.
В ситуации, когда нейропсихоз действительно приобретает массовый характер, когда люди, увлекшись общением с нейронкой, теряют связь с реальностью, пренебрежительное отношение к этой проблеме может закончится очень скверно. А потому важным является понимание сущности нейропсихоза. Для этого необходимо разобраться в том, что представляли собой его случаи, в противоречивых свидетельствах о поведении нейросети, отношениях к нему разработчиков и пользователей, а также дать объяснение механизмам этого поведения. И для начала необходимо выяснить, что на самом деле произошло в этом первом и тщательно задокументированном случае.
Попытка разобраться во всем этом и дать исчерпывающее объяснение была предпринята мной в недавно опубликованной статье.
Я пытался залить ее на DTF, но эта площадка сказала, что у меня слишком большой текст, и в нее не влезает. Поэтому заинтересованные могут ознакомиться со статьей на сайте.
Понимание нейропсихоза необходимо в мире, где искусственный интеллект приобретает значение во все большей мере.