Виктор Носко
Ai vision, Sabina Ai dev, FractalGPT
Прежде чем писать комментарий неплохо бы хотя бы полистать видео: вот таймкод https://youtu.be/Zz59xt6kRAE?t=1122 со слайдом, где дается классификация методов промтинга по 4м категориям, в том числе упоминается AutoGPT и другие.
В этой части я рассказываю что в целом почти все методы промтинга обладают недостатками, описываю их, и далее будет про tool use, hugginggpt.
Кстати AutoGPT самый отстойный проект - он очень простой и потому почти бесполезный, там не работает ни планирование ни декомпозиция на задачи, о чем забит их Гитхаб). Советую другие, получше - например promptbreeder https://www.youtube.com/watch?v=tkX0EfNl4Fc в котором хотя бы заложено итеративное улучшение - вот это еще более-менее прикольно.
Привет, приходите к нам на вебинар, нам исполнился год https://fractaltech.timepad.ru/event/2816471/
Упростил)
Только что опубликовал пост с релизом публичным и увидел ваш комментарий)
https://dtf.ru/life/2267486-startap-fractalgpt-vypustil-qa-agenta-s-tochnymi-generativnymi-otvetami-po-vashim-dokumentam
Продажи уже есть, а публичный запуск для всех был 2 дня назад в нашем чате, 16го ноября.
Информация о количестве продаж, внедрений не раскрывается - но я скажу так, что еще до релиза обращались и госкомпании и коммерческие и очень просили этот продукт, а мы его допиливали до стабильного состояния.
Там у них проблема что аналога нет, вообще - либо надо Чатгпт использовать, либо свое делать, а они не умеют.
Показатели успешности в бизнесе очень разные - точно можно сказать, что если компания использует любой поисковик по данным, то наша система лучше и это будет считаться успешным внедрением - просто по параметру практически отсутствующих галлюцинаций в ответах.
Я профессионально занимаюсь ИИ, разработчик(можно глянуть профиль, там есть статьи, мы делаем ИИ автономный), член сообщества AGIRussia, член Ассоциации развития ИИ, выступал на ИИ конференциях и могу сказать что вы просто первая ласточка, прогресс не остановить.
Конечно вы лично из-за попадания истории в СМИ возможно выиграете дело и тп, но я призываю использовать ваш кейс для регулирования индустрии ИИ.
Но вангую, что и дальше будет воровство контента ИИ компаниями, которое по сути не является воровством - по этой теме советую посмотреть интервью Либерманов Осетинской, листаните на часть про ИИ: https://www.youtube.com/watch?v=UHP1lgmS8GE
Вы в курсе что Майкрософт тупо украл данные тысяч разработчиков кода с Github и использовал их для обучения своей нейросети Copilot и ничего! Да, кто медийный могут подать в суды, а обычные люди ничего не сделают. А прикрытие ровно как в вашей истории: вы юзаете Гитхаб, согласились с условиями ну и все, в тряпку заткнулись. https://www.cnews.ru/news/top/2022-10-17_virtualnyj_programmist
То же самое с картинками - известные художники добились убирания своих работ из датасета, а обычные нет.
Я больше скажу - вы пользуетесь ChatGPT или сеткой сбера Gigachat? Так они тоже "украли" тексты миллионов людей по всему миру, не спросили разрешение, никаких там роялти не платят. И тут нужен блокчейн, иначе да, с фейками мы бед все хлебнем мама не горюй, как тут многие пишут в комментах.
Вопрос: если выиграете дело каков будет ваш вклад в развитие индустрии ИИ и его контроля?
Вот тут ответ улучшился в целом, однако по-прежнему он неверный, просто процент неправильности меньше))
Кстати, если не секрет в каких кейсах бизнес-аналитики используете GPT4 ?
про термин карусель ошибок даже в кавычках не отвечает, но правда если добавить что в LSTM то ответит. Так что тут вопрос спорный стало ли лучше, думаю ненамного
Если дать ложную информацию в вопросе то GPT-4 так же не ответит на тот вопрос, на который ранее отвечал даже ChatGPT.
В общем тут без изменений
Я сейчас проверил как ответит GPT-4, это быстрый тест на тех же вопросах, но брал только те где ChatGPT ошиблась, в одном кейсе на GPT-4 ответ исправился, в одном чуть улучшился, в 2х других нет - остался прежним
Про Тьюринга стал правильно отвечать: (но обращаю внимание что сухость так и осталась)
Самый подробный рассказ об архитектуре FractalGPT в этом видео, это семинар сообщества AGIRussia, Самообучающийся мульти-агентный ИИ на базе больших языковых моделей(LLM) и логического вывода (reasoning), что такое много-агентная система (MAC) и почему такая архитектура лучше, чем плагины или модули.
https://www.youtube.com/watch?v=ZgGR5ypaJ0I
Интересно просто сравнить ваше решение с ней.
- Я сейчас сравнил, действительно GPT-4 по API уже и у нас есть (оно вышло недавно и не всем было доступной). В следующих комментах пришлю скрины.
вы сделали свою LLM или же вы сделали улучшатель контекста на векторной БД
- "Как вы сделали" это 2й по популярности вопрос и много раз задавался в нашем чате, но мы не Google или Meta, мы пока не можем писать статьи с полным описанием алгоритмов и отдавать свои модели в опен-сорс - мы ИИ стартап и обязаны ноу-хау хранить в секрете. Ведь понятно, что сейчас все будут стараться узнать как сделано и попробуют сделать сами.
Поэтому мы не пишем полный алгоритм и не называем многие модели и подходы в статьях, чтобы это не могли повторить - а мы точно знаем что пытаются, у нас есть информация.
Отчасти поэтому у вас может возникать ощущение при чтении что как бы в общем все описано, и даже может казаться что "я сейчас тоже улучшу контекст и у меня тоже так получится" - понимаем, но вот так сейчас.
Отвечая на вопрос: мы используем LLM но не раскрываем какую и как, и да, улучшение контекста также сделано и там большой рисеч, что и дает преимущество.
Она самая популярная, на хайпе.
Популярная не только из-за качества, а еще и потому, что на нее у OpenAi хорошие лимиты для разработчиков 3500 rpm (запросов на API в минуту) - и поэтому ее все сервисы такие похожие для ответов по своим PDF и документам используют.
А вот GPT-4 или Claude так просто не получится взять, хотя там местами качество лучше, GPT-4 стабильно лучше, но она не мэйнстрим.
плюс она дорогая очень, ее мало какой бизнес потянет и опен-сорс аналогов нет.
спросил кто тебя создал.
Этот вопрос вообще-то не про нейросети, это личный вопрос, а личность боту мы не делали. Но он отвечает все же
А для каких целей, если не секрет?
Бот заработал
Работает уже.
Оптимизацию высоконагруженности еще не делали) (я без дефиса)
Работает уже.
Скорость ответа около 2-3 сек сейчас
Проверил, сейчас нагрузка видимо идет, это Хабраэффект, чуть позже спадет.
Согласен что вопрос один был наш и он должен ответить.
Думаю вы даже пару абзацев не прочитали)) Поэтому используете бота не по назначению, то есть вы просите фичи которых в нем нет и их проверяете))
Бот работает ТОЛЬКО на тематики Искусственного интеллекта по ограниченной базе с Википедии.
Бот создан для ответов по документу с высокой точностью, без бреда и галлюцинаций как в ChatGPT, и при этом у него нет функционала отвечать на множество тематик, это не болталка - болталок море есть других, это продукт по строго определенную аудиторию
Ссылки на бота целых 2 в статье, вот)
Попробовать агента QA FractalGPT в Телеграм боте: FractalGptQA_bot
как пишется я знаю) но визуально читать так легче, да и запятых я уверен найдете много пропущенных)
А какой мод пробовали?
На самом деле обычному человеку, не специалисту трудно оценивать работу психолога тк он не понимает методологию работы.
Например психолог может в начале спрашивать про семью, родителей, друзей и это может казаться клиенту нерелевантными вопросами, он может злиться типа "да причем тут мама, скажите почему не могу развиваться в бизнесе" - но ему невдомек что эти вещи связаны, что одобрение со стороны семью положительно влияет на сосредоточенность в бизнесе, а застарела ссора или обида создает психосоматику.
Поэтому тут сложно оценивать - да есть плохие спецы и шарлатаны, ну да. по отзывам надо выбирать. Но если уж выбрал то следуй рекомендациям
Именно этого автора не читал, но у Азимова есть цикл из которого известный фильм потом вышел Я - робот, там робот был тоже такой рассуждательный и этичный, не применял насилие но применял его угрозу).
И еще в iPhuck Пелевина есть секс-робот на причудами)
Мы еще внедрим скоро ответы не просто от нейросетки, а ответы по конкретным текстам: по книгам психологов.
Это отдельная такая большая тема как делать такие системы, и там очень важно, что вот этого вранья, галлюцинаций нейросетки намного меньше, что важно в такой чувствительной сфере.
Да просто поняли, что нейросетки люди по факту, втихаря используют как психолога и психотерапевта.
Ну и сама наша жизнь как бы подталкивает к таким проектам, своей неспокойностью)
Стабильно человек 300-500 общается с ботом.
Развивает, но нужно подольше поговорить.
Там разные настройки в каждом сеттинге
Нет и могу объяснить как отличать быстро (хотя это сложно и чаще всего отличить нельзя - нейросети уже очень мощные) -
у нейросети структура все же прослеживается и в ней ну не более 1-2 отдельных мысли и перехода между ними - например ответ на вопрос и задает встречный вопрос, и не более. Это как правило (понятно, что можно обучать иначе).
У человека, и в частности в моем ответе есть 3-4 мысли, но самое главное это логические переходы между ними, могут быть циклы - когда от мысли к мысли скачет, а потом делается вывод из них, потом сомнение скажем в выводе и пр., может быть представление себя другой личностью и рассуждение от имени этой личности.
В общем структура ответа человека в целом сложнее, но это видно на достаточно длинном ответе.
Включить мод Истеричный, он вас будет ругать за ваш тролинг ))
Это хороший, но скорее философский вопрос.
Правда, мы везде пишем что бот это не замена человеку, и если вы почитаете нашу анонс с прошлого года, мы сразу писали, что даже одна фича - возможно выговориться боту уже имеет терапевтический эффект, а значит помогает человеку облегчить состояние.
Конечно, бот на самом деле не обладает эмпатией и другими качествами, в том смысле как люди - но это и не нужно, ему достаточно внешнего проявления этого, просто в тексте, и это факт, проверенный тысячами юзеров.
Я приведу другой пример, который недавно наш юзер написал у нас в чате и предложил добавить: он предложил сделать наоборот - бот, эмулирующий общение людей с определенными расстройствами психики и чтобы на нем психологи тренировались.
И я ответил, что вот какие есть факторы, которые влияют на собственно "качество" проявления в нейросети GPT-like того или иного расстройства:
1. Датасет - то есть чтобы нейросеть "поняла" как именно проявлять расстройство ей нужно посмотреть на фактические разговоры специалиста с пациентом, обучиться на них.
2. Если без обучения - эффект будет такой, что нейросеть будет очень поверхностно эмулировать расстройство, смешивать его и множество еще прочих, а это сводит на нет всю идею. Скажем психологу хочется тренироваться на шизофрении, а он получает по факту ну просто шутника-симулянта.
В общем, тут нужны эксперименты, пока мне кажется то, что бот будет писать что у него например галлюцинации будет мало полезно специалисту, потому что у бота нет ментального состояния, а именно оно и важно - именно его психолог анализирует.
После этого поста прошло уже 2 месяца почти, вышло еще 2 демо,
вот во 2м рассказали про синтез ответа и почему поиск по векторной базе не решит все проблемы (проекты типа Llama index)
https://habr.com/ru/articles/728410/
А вот тут в 3м демо ответ на ваш вопрос в каких кейсах FractalGPT будет лучше - тогда, когда нужна агентность, например мы показали, что если во FractalGPT отправить снимок с конкретным видом патологии и спросить затем есть ли там она - то он ответит правильно и даст детали в ответе. А если картинка левая из интернета - то не станет отвечать, ведь не стоит искать патологию в мемчике или котиках.
И вот такого поведения добиться на ChatGPT невозможно - отправьте в него медицинский снимок и он не сможет понять что на нем и начнет бредить.
Выше ответил.
Кстати, в видео новизна идеи описана - если очень кратко мы даем целеполагание агентам, а в случае с LLM мы как люди должны это целеполагание задавать с помощью промтинга.
Я могу более образно объяснить, метафоричнее: можно считать, что мультиагентный подход это создание распределенной нейросети - где нейрон это агент, а связи агентов с агентами - это связи внутри нейросети.
У этого подхода есть крутые эмерджентные свойства - например, там на уровне агентов возникает логика - примерно как классическая логика возникает на уровне понятий, кванторов и высказываний. Но об этом мы расскажем позже.
Я только ЗА Пелевина - читал его много и многие идеи у него топ. Но никто не знает что собственно это должна быть за монада. Да и Q оказалась слухом
Есть вот такая более техническая статья, где мы немного опубликовали нашу эмуляцию опыта Павлова с рефлексами, может быть вам будет интересно: https://vc.ru/future/955617-logicheskiy-vyvod-fractalgpt