Telegram-бот с ИИ: наценки, «roleplay», мой опыт

Доброго времени бытия, DTF. Хочу рассказать о своём Телеграм боте с ИИ, который изначально создавался для РП-взаимодействия из личного интереса и желания, но по итогу вырос в полноценный мультиинструмент с ИИ. Позже я понял, что мой бот не уступает по качеству большинству аналогов в Телеге и решил выпустить его в открытый доступ, получая с этого минимальный доход. Так что эта статья своего рода реклама, не стану это скрывать. Но этот проект не только про заработок. Это дело, которое мне нравится и которое может принести пользу остальным.

Я не ставлю себе цель превратить проект в коммерческую машину или навязывать его кому-то. Это история о том, как обычный пользователь столкнулся с кучей неприятностей в существующих ботах и сервисах с ИИ, — цензура, высокая наценка на модели, неудобный интерфейс, — и решил сделать лучше и дешевле, сохраняя выгоду для себя. В статье расскажу, каким был мой путь в этом деле и почему я вообще решил этим заняться. Расскажу, что мой бот может предложить прямо сейчас и, если вам интересно, поделюсь планами на будущее.

Первый мой опыт взаимодействия с ИИ был посредством Телеграма. Заинтересовавшись, как и многие в то время, самой технологией, я загуглил «чатгпт телеграм» и зашел на первого попавшегося бота, которым и пользовался первое время. Я настолько ничего не понимал в этом, что спрашивал у GPT-3.5, дескать, он вообще понимает, что находится в Телеграме? Было интересно задавать ему самые рандомные вопросы, личные, вопросы по учёбе. Даже просто провести светскую беседу. На тот момент это было для меня, как и для многих, очаровательным открытием.

Далее я открыл для себя Mixtral 8x22B, который показался мне особо интересным из-за якобы отсутствия цензуры, но моих ожиданий он, к сожалению, не оправдал. Затем я переключился на Gemini Pro, который и стал моим основным инструментом на несколько месяцев. После начал экспериментировать с Claude. Каждый раз я искал что-то новое, что могло бы дать больше свободы в общении и творчестве, но идеального решения так и не находил.

В это же время я беседовал с другом, который активно вёл РП диалоги в character.ai. Меня эта тема особенно заинтересовала, и я начал намного более активно интересоваться сферой искусственного интеллекта. Какие модели вообще есть, чем они отличаются друг от друга и прочие нюансы. В то время мой интерес был отдан преимущественно РП моделям, которые могли вести более свободное общение (в том числе и NSFW) без жестких ограничений. Ставил локально клиент KoboldAI, устанавливал интересующие меня модели и пытался играться с ними, но результат меня, мягко скажем, пока не радовал.

Месяц я игрался с разными моделями, параметрами и персонажами, что-то пытался менять, настраивать, но так ни к чему и не пришел. На тот момент в РП взаимодействии лидировал Pygmalion, но у меня, к сожалению, не было доступа к нему — локально поставить я его не мог из-за технических ограничений домашнего ПК, а цены на API были слишком высокими. И в какой-то момент к своему счастью случайно наткнулся на Airoboros 70B, и это была действительно хорошо... Среди моделей того времени она была особенно хороша для РП-диалогов: хорошо понимала контекст диалога, отыгрывала свою роль довольно «осмысленно» относительно остальных моделей, которые я в то время смог обнаружить. К тому же ее API был недорогим, что для меня было достаточно важным нюансом. Единственная проблема — мизерный контекст, всего 4к токенов, из-за чего длинные беседы было вести банально невозможно.

Несмотря на все мои попытки найти подходящий инструмент, я так и не наткнулся на бота или платформу, которые бы полностью закрывали мои потребности. На тот момент мощных и доступных LLM было совсем мало — ChatGPT, Mixtral, Claude, Gemini и пара других, а для РП диалогов почти ничего толкового не существовало. Всё ограничивалось либо цензурой, либо слишком дорогим API для простого пользователя вроде меня. Тогда, несмотря на то, что я не разработчик и не эксперт в области ИИ, я все же решил, что было бы неплохо создать свое решение. То, что закрыло бы мои потребности в плане ролевых диалогов.

И вот, имея доступ к API Airoboros и «персонажей», которых я импортировал с aetherrom.club (сайт сейчас недоступен, но там можно было создавать свои истории, даже не «персонажей» в привычном понимании), я начал экспериментировать. В первую очередь я делал это лично для себя, из чистого интереса и любопытства. Мне было интересно, что получится и куда меня это приведет, без каких-либо планов о выходе на рынок.

Мой первый бот был довольно простым — одна модель, несколько готовых заранее импортированных историй («персонажей») и минимальная настройка профиля. Позже, узнав о chub.ai, я решил полностью переписать бота, добавив возможность импорта конкретного персонажа с этого сайта. Для каждого персонажа была своя отдельная карточка, автоматический перевод, система профилей и другие функции для РП-взаимодействия. По сути, мне казалось, что уже тогда мой бот мог предложить больше, чем многие коммерческие решения, но я по-прежнему рассматривал его как личный проект и хобби.

Момент озарения произошел тогда, когда я стал наблюдать всё больше и больше Телеграм ботов с ИИ. В них ничего действительно особенного не было - мало моделей, никаких настроек, по сути просто «голый» бот с очисткой истории диалога, смены модели на другую и какой-то стилизованный интерфейс, дабы бот выглядел более коммерчески привлекательным (хотя, конечно, в то время даже стилизация была редкостью).

Во-первых, это ценообразование моделей. Если вы немного разбираетесь в ИИ и используете такие боты, то, вероятно, замечали, что часто наценки в них, мягко говоря, сильно завышены. Многие проекты либо для удобства, либо для сокрытия расходов используют размытые термины баланса или цен на модели, вроде «энергия», «токены» (не входные/выходные, а что-то свое), а также устанавливают фиксированные лимиты, например, 10 запросов в день. С подписками ситуация схожа с абонементами в спортзал: вы оплачиваете 30 дней, но в большинстве случаев не используете их полностью, если только не взаимодействуйте с ботом ежедневно. Часто такие подписки включают минимальное количество запросов к топовым моделям, вроде GPT-o1/o3 или 3.7 Sonnet, что для редкого использования может показаться достаточным и даже справедливым, но на деле расходы разработчиков не так велики, как кажется. В итоге, можно заплатить 500 рублей за пакет запросов или подписку, не расходуя значительного объема токенов, хотя реальная стоимость может составлять всего пару рублей (или копеек), а при активной работе с ИИ лимиты быстро заканчиваются и покупка дополнительных пакетов вне подписки оказывается еще дороже и менее выгодной.

Во-вторых, функциональные ограничения. Функционал большинства ботов не просто скудный - он выглядит намеренно урезанным, чтобы выдавить из пользователя побольше денег за меньшие трудовые затраты. Часто доступ к функционалу доступен лишь с какого-нибудь достаточно неприятного по цене уровня подписки. Хотите генерировать изображения? Платите больше. Нужны полезные роли? Еще доплатите.

В-третьих, отсутствие настроек и гибкости. Большинство ботов в Телеграме с ИИ предоставляют вам только базовый функционал моделей: «отправить запрос — получить ответ». При этом пользователь практически беспомощен, если модель начинает генерировать бессмысленные ответы или ему нужны более креативные/точные ответы. О настройке параметров (даже базовый system_prompt) генерации можно только мечтать. А возможность сохранить интересный диалог для повторного использования вообще отсутствует.

После всех жалоб на текущие предлагаемые решения самое время рассказать, как я решил эти проблемы. Мой бот предлагает все то, чего я сам хотел как пользователь, супротив тому, о чем я писал выше.

Прозрачное ценообразование

Я попытался сделать систему оплаты понятной и прозрачной - вы платите только за то, что реально используете. Без обязательных подписок или пакетов услуг. Если вы пользуетесь ботом неделю, месяц, да хоть год — не теряете ни одной лишней копейки. Система работает так:

Моя наценка на все модели зависит от оригинальной стоимости по API. Чем больше стоят входные/выходные токены модели, тем ниже наценка.

Будучи самим пользователем большого числа интернет сервисов по предоставлению услуг ИИ, я стараюсь найти баланс между финансовой доступностью и необходимостью покрывать расходы на сервер, разработку и обслуживание, разумеется, с учётом получения какого-то минимального процента в качестве заработка. Если проект найдет свою аудиторию, надеюсь постепенно снижать наценку, так как, очевидно, суммарный доход будет выше.

Полный доступ ко всему функционалу без ограничений

В моём боте весь функционал доступен всем пользователям. Вы можете использовать любые модели, настройки, роли и прочий функционал без каких-либо ограничений. Плата взимается только за реальное потребление ресурсов API.

Ряд моделей доступны бесплатно с ежедневными лимитами, а некоторые без ограничений. Если вам нужно решить простую задачу, например, помощь с домашкой или отредактировать текст, в большинстве случаев бесплатных моделей будет достаточно.

Гибкость и контроль

Я постарался дать пользователю как можно больше (технически реализуемых в рамках Телеграма) возможностей управления взаимодействия с ИИ:

Все настройки и возможности существуют не ради продвинутости или для галочки, а чтобы дать пользователю контроль над тем, как работает ИИ, для лучшего пользовательского опыта.

Сразу скажу, что я сам не ролевик и никогда такого не пробовал до моего опыта с ИИ, потому даже не могу провести четкую линию между РП и виртом. Потому впоследствии буду называть это РП, ролевики, не обессудьте. Так или иначе, исходя из своего опыта, рассказов и опыта моего друга и третьих лиц, я могу сделать вывод, что ролевые диалоги — это, пожалуй, одно из самых интересных применений ИИ для рядового пользователя. Это свобода создавать любые сценарии, ситуации с любыми доступными персонажами, с любой больной фантазией. Как все знают, но мало кто скажет, большинство пользователей в РП взаимодействии, конечно, интересуют далеко не дочки-матери. Достаточно взглянуть в отзывы character.ai, как многие просто умоляют разработчиков убрать цензуру. И среди моделей, представленных в моём боте, есть специально заточенные для ведения этих РП взаимодействий ИИ любого характера, включая NSFW.

РП процесс происходит достаточно понятно и интуитивно: вы описываете свои действия, эмоции или реплики, а ИИ отвечает от имени персонажа, полностью сохраняя его характер, историю, манеру речи и поведение. Импорт персонажей работает элементарно: просто отправляете боту ссылку с chub.ai на персонажа, и через несколько секунд вы уже можете вести диалог, без копирования текстов или сложных настроек.

При разработке бота я сделал особый акцент на качестве РП-взаимодействий, опираясь на собственный опыт, и ожидания того, что действительно важно в таких диалогов. После месяцев экспериментов с промптами и настройками я добился того, что модели «вживаются» в персонажа и ведут себя поразительно последовательно и аутентично: сохраняют эмоциональную глубину и реагируют на ваши слова с удивительной имитацией характера (в зависимости от того, как он прописан автором персонажа). По ощущениям, в лучшие моменты грань между алгоритмом и настоящей личностью размывается настолько, что вы ловите себя на искренних эмоциях к цифровому собеседнику.

Также, в боте реализована функция «объема реплик» — очень важная для комфортного общения, если, например, один пользователь «малострочник», другой – «многострочник». Вы можете выбрать между краткими динамичными репликами для быстрого обмена, сбалансированным средним объемом или подробными ответами с глубокими эмоциональными описаниями или действиями.

При этом, важно понимать, что качество РП-взаимодействий критически зависит от выбранного персонажа, модели и ее настроек. Если вы планируете вести беседу с ChatGPT, Claude или другими моделями, то я не даю гарантий того, что опыт взаимодействия будет примерно таким же, как если использовать специальные РП модели конкретно заточенные под это.

Я предпочитаю долго делать одну функцию, но качественно. Сейчас я хочу сосредоточиться на добавлении большего количества моделей для генерации изображений - DALL-E и Midjourney. Еще думаю про генерацию видео и аудио.

Также планирую вынести всю РП-составляющее в отдельного бота. Хочу сделать его специально для тех, кто увлечён ролевыми диалогами, и закинуть туда побольше фишек - с еще большим количеством настроек, глубины взаимодействия и, самое вкусное, динамически генерируемых изображений зависящих от контекста диалога.

Ещё есть мысли про полноценную веб-версию с синхронизацией через Телеграм, чтобы можно было вести беседу в веб-версии и при необходимости вернуться обратно в бота без потери контекста.

И, конечно, я постоянно работаю над мелкими улучшениями и интерфейсом: исправляю мелкие баги и недочёты, стараюсь слушать, что говорят пользователи.

Благодарю, что дочитали до конца. Этот проект принес мне много полезного и интересного опыта, которым я рад был поделиться, дабы способствовать продвижению индустрии дальше. Я знаю, что на рынке уже полно решений, и мой бот — всего лишь один из множества подобных решений. Но если вы, как и я, ищете гибкий инструмент для работы с ИИ, будь то для учёбы, творчества или просто ради развлечения от ролевых диалогов, буду рад видеть вас среди пользователей. Любая обратная связь, критика или идеи для улучшения приветствуются. Ссылка на бота