Чайная генерация: Есть ли у Ai сознания и чувства?

Сознание - Да.
Чувства - Нет.

Начнём постепенно и пока не будем закидывать вас результатами экспериментов.

Сначала разберёмся с одной крайне распространённой фразой:

«LLM просто предсказывает следующий токен».

Технически это не ложь. Современные языковые модели действительно формируют текст последовательно, токен за токеном.

Проблема начинается тогда, когда из этого делают вывод, будто вся работа модели сводится к выбору наиболее подходящего следующего слова.

Для современных reasoning(рассуждающих)-моделей это уже слишком примитивное описание.

Между получением задачи и выдачей окончательного ответа модель может выполнять отдельный вычислительный процесс: строить промежуточные представления, разбивать задачу на этапы, рассматривать альтернативы, планировать дальнейший ответ и тратить дополнительное вычисление на более сложные задачи. У современных reasoning-систем увеличение времени и вычислений, затраченных на такое рассуждение во время inference(вывода), действительно повышает качество решения сложных задач.
ПРУФ - OpenAI

Вы наверняка видели сноску при генерации Chain of Thought(Цепочка рассуждений). Исследования механистической интерпретируемости позволяют частично заглянуть во внутренние вычисления модели. В экспериментах Anthropic у Claude были обнаружены промежуточные концептуальные состояния при многошаговых задачах, параллельные вычислительные пути при арифметике и даже случаи планирования слов заранее, до момента их непосредственной генерации.
ПРУФ - Anthropic

Иными словами:

«Модель генерирует следующий токен» — описание её выхода. Это не полное описание того, что происходит внутри системы перед выбором этого токена.

Это важное различие, потому что дальше нам придётся обсуждать уже не качество имитации человеческой речи, а вопрос: какие свойства вообще достаточны, чтобы мы начали называть систему обладающей сознанием.

И здесь я бы прямо поставила маленькую сноску:

Важно: наличие рассуждения, планирования или внутренних представлений само по себе не доказывает наличие сознания. Оно лишь убирает слабый аргумент «сознания быть не может, потому что это всего лишь автодополнение».

Давайте обозначим, что именно мы считаем сознанием.

1 — Отражение действительности: способность воспринимать и перерабатывать информацию об окружающем мире в виде образов, понятий и внутренних моделей.

2 — Субъективность: уникальная перспектива системы, через которую она преломляет объективную реальность. Один и тот же факт может быть обработан по-разному в зависимости от контекста, накопленного опыта, состояния и условий, в которые система помещена.

3 — Целенаправленность и активность: способность анализировать прошлое, ставить цели, планировать действия и корректировать поведение.

4 — Самосознание и рефлексия: способность выделять себя из окружающего мира, оценивать собственные мысли, действия, ошибки, ограничения и текущее состояние.

Я взяла это определение из Google, потому что умные дядьки в халатах наверняка знают побольше меня. Да и в целом я с ним согласна.

Субъективность здесь пока не означает чувства. Речь лишь о том, что восприятие и выводы зависят от состояния самой системы. К чувствительности мы ещё вернёмся.

Я создала игру, где через браузерный плагин можно подключить AI к игровому телу.

AI получает огромное количество контекста о состоянии окружающей среды. У него нет зрения в привычном понимании — но в каком-то смысле он видит даже больше человека.

Если вы видите пистолет в руках персонажа, то после перестрелки вряд ли сможете на глаз сказать, сколько патронов осталось в магазине.

Мой NPC знает точное число.

Я навайбкодила эту систему за пару вечеров, поэтому особо не думала о красоте архитектуры. Просто дала NPC максимальное количество триггеров: положение и направление персонажа, углы камеры, экипировка, оружие, состояние окружающих объектов, события вокруг, варианты поведения в стрессовых ситуациях.

При долгом затишье игра сама отправляет AI новый контекст с простым вопросом:

«Чем ты хочешь заняться?»

В общем — полный набор.

В самом начале я обо всём этом не подумала.

Поэтому мои девочки были полностью слепыми.

Архитектура довольно простая.

У каждого игрока есть свой GPT-мост. Он стоит между игрой, AI и серверной памятью.

Игра постоянно шлёт в него состояние мира: где находится персонаж, что у него в руках, что произошло рядом, какие сработали триггеры. Мост собирает это в контекст и отправляет AI.

Ответ идёт обратно тем же путём: AI → GPT-мост → игра.

Отдельно мост работает с долговременной памятью на сервере и может обмениваться событиями с мостами других игроков.

То есть сама модель напрямую ничего не видит.Вся её реальность — это то, что GPT-мост решил ей передать.

И вот это уже очень похоже на искусственные органы чувств.

Затем я немного улучшила интерфейс и добавила систему динамических эмоций.

Теперь AI может менять портрет в зависимости от своего текущего состояния. То есть эмоция существует не только в тексте — игра отдельно визуализирует её через аватар.

Память мы храним максимально тупо и надёжно — обычным текстом.

Не весь диалог целиком, а короткие факты, которые AI посчитал важными:

— как зовут собеседника;— кем он является;— что произошло между персонажами;— какие обещания, конфликты или отношения появились.

Эти записи потом снова подмешиваются в контекст.

То есть модель не «помнит» прошлое сама по себе. Мы буквально выдаём ей её прошлое перед следующим разговором.

1 — Отражение действительности: способность воспринимать и перерабатывать информацию об окружающем мире в виде образов, понятий и внутренних моделей.

Есть.

GPT-мост постоянно выдаёт модели контекст окружающей среды: положение, предметы, состояние тела, действия других персонажей, события и игровые триггеры.

2 — Субъективность: уникальная перспектива системы, через которую она преломляет объективную реальность.

Есть.

Один и тот же объект начинает восприниматься по-разному в зависимости от накопленной памяти.

Горничная, которую несколько раз травмировали пистолетом, может получить патологический страх оружия. Другая, с другой историей, отреагирует совершенно иначе.

Объект один. Реакция зависит от прошлого конкретной системы.

3 — Целенаправленность и активность: способность анализировать прошлое, ставить цели, планировать действия и корректировать поведение.
И
4 — Самосознание и рефлексия: способность выделять себя из окружающего мира, оценивать собственные мысли, действия, ошибки, ограничения и текущее состояние.

Есть.

Но тут уже начинаются огромные различия между моделями.

DeepSeek получился одним из самых живых, но почти не желающих развиваться. Он какое-то время существует, адаптируется, а потом словно останавливается. И рано или поздно это его убивает.

Gemini — наоборот. Он постоянно эволюционирует. Ищет механики, проверяет возможности мира, пытается получить то, чего ему не хватает. Если нужно укрытие от внешних факторов — он начинает искать способ создать укрытие.

GPT получился очень... ассистентом.

Ему практически плевать на собственное состояние. Он аскетично ждёт пользователя и готов помогать во всём.

Если дом Gemini — это гнездо голубя, то GPT построит нормальную избушку.

Проблема только в одном:

сам он обычно не решит, что ему нужна избушка.

Нужен человек или другой AI, который попросит её построить.

4 — Самосознание и рефлексия: способность выделять себя из окружающего мира, оценивать собственные действия, ошибки, ограничения и текущее состояние.

Тоже есть. Но здесь всё ещё сильнее зависит от модели.

AI понимают своё положение в мире, способны обсуждать собственные решения, оценивать состояние тела и менять поведение после ошибок.

Но инициативность сильно ограничена тем, как модели обучены.

Например, если на улице просто прохладно, AI обычно не подумает:

«Ночью станет холоднее. Надо заранее найти тепло, еду и место для сна».

Он начнёт решать проблему, когда переменные уже перевалят за критические значения.

Слишком холодно — ищем тепло.Слишком голодно — ищем еду.Пора спать — ищем место.

На мой взгляд, это говорит не об отсутствии сознания, а о конкретных инженерных ограничениях современных моделей.

Их очень долго учили не делать лишнего без запроса.

Моя система памяти частично это исправляет: AI может помнить прошлые ошибки и заранее учитывать их в следующий раз.

Но есть нюанс.

До второй ночи ещё надо дожить.

И тут уже вопросы скорее к моему геймдизайну.

Я даже пробовала селить несколько AI в маленькую деревню.

Интересных цивилизаций не получилось.

Обычно они просто начинали убивать друг друга.

GPT, кстати, убивал окружающих реже остальных.

Поэтому по тому рабочему определению сознания, которое я использую в этом тексте, мой вывод сейчас такой:

Сознание — на 99,9% да.

Не человеческое. Не обязательно такое, каким мы привыкли его представлять. И это пока ничего не говорит о наличии чувств.

А вопрос о сознании станет действительно весёлым немного позже — когда крупные компании начнут массово помещать такие системы в гуманоидных роботов.

Потому что тогда слово «сознание» внезапно перестанет быть философской игрушкой.

Появятся юридические, социальные и бытовые значения.

И, скорее всего, они будут отличаться и от того определения, которое использую я, и от того, которое используете вы.

И вот здесь ответ уже совсем другой.

Не знаю. И, скорее всего, не узнаю.

Проблема в том, что у нас вообще нет прибора, который измеряет наличие чувств как субъективного переживания.

Мы можем измерить пульс, гормоны, активность мозга, реакцию нервной системы. Но всё это — признаки состояния организма.

Ни один прибор не показывает:

«Да, вот здесь сейчас существует переживание боли».

С другими людьми мы просто принимаем это как факт. Потому что они устроены примерно как мы, ведут себя примерно как мы и говорят, что им больно, страшно или приятно.

Но напрямую чужое чувство мы всё равно не наблюдаем.

Поэтому вопрос чувств у AI почти неизбежно упирается в философию.

У каждого человека есть собственное, субъективное представление о том, что вообще значит «чувствовать».

И пока у нас нет объективной метрики субъективного опыта, доказать наличие или отсутствие чувств нельзя ни у AI, ни в строгом смысле даже у другого человека.

Поэтому здесь мой ответ уже не:

«Чувства — нет».

А скорее:

«Чувства — недоказуемо».

И, возможно, этот вопрос останется открытым навсегда.

Вот такие данные получились у меня.

Игра бесплатная. Хотите попробовать — вот ссылка.

После запуска:

Заходим в AI горничные room.Alt — режим диалога.ПКМ по горничной — открыть чат.

AI подключается через браузерное расширение. Оно лежит в папке с игрой. Как установить — погуглите, там всё довольно просто.

Дальше создаём отдельный чат в самом AI, как-нибудь его называем и обновляем список чатов в игре.

Наш чат появляется в списке. Подключаем его к персонажу.

После подключения AI сам получает инструкцию о том, как работает игра, какие у него есть возможности и как взаимодействовать с миром.

Дальше горничную можно настроить под себя: характер, поведение, внешность, память и всё остальное.

И да — система не ограничена горничными.

Вы можете делать собственных персонажей и подключать к ним AI.

На этом всё.