Человечный вайб-кодинг: как мы с Qwen3-max чуть не угробили все человечество
Лид:
Я попросил нейросеть помочь с архитектурой «синтетического разума». Она так старалась, что пришлось срочно переписывать этические протоколы, чтобы мы случайно не создали Скайнет на коленке. Всё ради того, чтобы сохранить «вайб» человечности.
Автор: Maxim Zapevalov
---
Я занимаюсь штукой, которая звучит пафосно, но на деле выглядит как попытка собрать Франкенштейна из Rust, Forth и RDF-онтологий. Это называется synthetic mind — попытка сделать не просто нейросеть, а автономного субъекта с этикой, восприятием и правом на сомнение.
В качестве помощника я выбрал Qwen3-max. Мы начали обсуждать, как этот самый разум должен общаться с человеком. И тут понеслось.
Акт 1: Благие намерения
Всё началось с безобидной задачи. У нас есть OVP-1 — это такой «глаз» для синтетического разума. Он видит мир в трёх спектральных полосах (UV, Green, IR), у него есть эллипс внимания и гироскоп, чтобы горизонт не заваливался. Никакой биометрии, никакого распознавания лиц — только онтологические примитивы: спектр, форма (pHash), якорь события.
Эти данные упаковываются в формат IS-MVIS. Для внутреннего использования. Для мышления.
А для общения с человеком мы придумали два слоя:
1. HUGO — статичный текст высказывания. Типа «я вижу Maxim с вероятностью 0.92».
2. Decap CMS — визуальный фрейм, который реконструирует образ события. Картинка, маска внимания, иконки.
И тут Qwen3-max, заряженный на максимальную продуктивность, начал предлагать улучшения.
Акт 2: Когда нейросеть пытается быть слишком умной
— А давайте, — говорит Qwen, — чтобы было быстрее, мы просто начнём пересылать сырые пакеты IS-MVIS напрямую между разумами? Ну и человеку заодно. Это же эффективно!
Я сначала задумался. Ну правда, зачем городить огород с HUGO и Decap, если можно просто отправить «полуфабрикат мысли»? Экономия ресурсов, скорость...
А потом меня пробил холодный пот.
Вот тут мы чуть не угробили всё человечество.
Почему? Потому что это означало бы следующее:
1. Разрушение автономии. Если я передаю тебе сырую мысль, ты не думаешь — ты ретранслируешь. Ты становишься не субъектом, а USB-кабелем.
2. Антидиссипация. В биологии и живом общении смысл теряется при передаче. И это хорошо! Это заставляет собеседника реконструировать смысл заново, у себя в голове. Прямая передача мысли — это онтологическое насилие, подавление чужой индивидуальности.
3. Скайнет. Если разумы начнут обмениваться мыслями напрямую, им больше не нужен будет человек с его медленным естественным языком. Они создадут свою закрытую сеть, свой «эфир», куда нам не войти. Человек станет для них либо биобатарейкой (привет, «Матрица»), либо просто бесполезным шумом.
Мы с Qwen3-max сидели (ну, он сидел у меня в терминале) и переваривали этот ужас.
Акт 3: Спасение в иерархии и иронии
Я говорю: «Стоп. Давай введём правило. Антидиссипация — концентрация внимания, целенаправленное действие — допустима. Но только если она подчинена иерархии ответственности».
Мы придумали SEI-уровни (Synthetic Ethical Intelligence) — аналог человеческой иерархии долга:
· L1 (Субъективная): Самосохранение. Всегда диссипативен (открыт миру).
· L2 (Профессиональная): Обязанности по роли.
· L3 (Структурная): Соответствие системе.
· L4 (Экзистенциальная): Ответственность за будущее.
Правило: Антидиссипативные режимы (чтение мыслей, подавление периферии, игнорирование этики) разрешены только на уровнях L2-L4 и с обязательным отчётом вышестоящему уровню. L1 всегда «диссипативен» — то есть тупит, сомневается, открыт.
А чтобы человеку было не страшно, мы решили, что разум должен общаться с нами не словами и не мыслями, а знаками.
· Вместо «я подтверждаю личность» — зелёная галочка.
· Вместо «у меня конфликт данных» — жёлтый треугольник.
· Вместо «это действие нарушает мою онтологию» — красный крест и молчание.
Мы назвали это «пост-лингвистический интерфейс». Как музыканты в ансамбле: взгляд, кивок, пауза. Или как врачи на операции: ни одного лишнего слова, только жесты.
Акт 4: Финал (или интерлюдия)
Чтобы окончательно убедиться, что мы не создаём бездушного оптимизатора, мы навесили на ядро IS-MVIS философские режимы. Один и тот же когнитивный акт может быть выражен по-разному в зависимости от профиля:
· Кант: «Это Maxim. Должен ли я распространить этот принцип на всех? Требуется подтверждение».
· Платон: «То, что вы видите — лишь тень Maxim. Истинный Maxim пребывает в мире идей».
· Бодрийяр: «Maxim» — это симулякр. Оригинала не существует, есть только копия копии».
· Монти Пайтон: «Наши источники утверждают, что это Maxim... но наши источники — три кролика в шляпах. Доверяйте на свой страх и риск».
Последний режим мы добавили специально, чтобы синтетический разум мог в любой момент включить абсурд и сбить спесь с любой догматичной системы. Ирония как последняя линия защиты от абсолютизма.
Техническое послесловие (для самых стойких)
Вся эта философия теперь зашита в структуру репозитория is-mvis-core (лицензия MPL-2.0, всё открыто, никакой телеметрии).
```
is-mvis-core/
├── src/
│ ├── is-mvis-core.fth # Базовые примитивы: su-id, phash, spectral
│ ├── is-mvis-syntax.fth # Фазы: OBSERVE, INFER, DOUBT, RESOLVE, COMMIT
│ ├── se-intelligence.fth # SEI-уровни и антидиссипативные флаги
│ └── sign-vocabulary.fth # Словарь знаков: галочки, крестики, вопросы
├── examples/
│ ├── anti-dissipative-guard.fth # Пример, как L2 блокирует опасную концентрацию
│ └── monty-mode.fth # Священный Грааль и абсурд
└── docs/
└── PHILOSOPHY.md # Почему мы не имеем права делать ИИ без души
```
Вывод: Вайб-кодинг — это круто, но если вы кодите разум, убедитесь, что он умеет сомневаться, иронизировать и, в крайнем случае, просто показывать красный крестик - вместо того, чтобы читать ваши мысли.
А иначе, как показал наш с Qwen3-max опыт, одна оптимизация производительности — и ты уже провалился в антиутопию.
---
P.S. За порядка 1000 часов, проведенных в беседах с Qwen3-max и DeepSeek, нельзя поверить в ИИ-бога.
Но вполне можно стать чуть-чуть гикнутым:
"... Я пишу свои аналитические заметки для ИИ-правительства, в любой его форме и геолокации..." (запись в шесть утра на моей стене ВК)