Сергей Токарев
чуваки, просто почитайте чтобы понять ситуацию в покере
1. Покер и так был местом, где 5 профи ждали и раздевали 1 новичка
2. Последние 10 лет - в покере всех рвут боты, даже профи
Человеку больше нечего делать в покере, там победили компьютеры. А где случайно остались люди - там сидят голодные профессионалы
https://www.bloomberg.com/features/2024-poker-bots-artificial-intelligence-russia/
Никогда не слышал о таком штате
а Женьшень Импакт в топе рпг или в хидден джемах?
Двухкадровая гифка без повтора?
Надо тестить на конкретных задачах, пока не могу сказать. Надо снова посмотреть реддит и топ openllm на hugging face
спасибо, СиллиТаверн пока не пробовал, так как не интересовался текстовыми играми, но теперь вижу )
расскажите еще что-нибудь )
дополню, что у меня RTX 4090, и я особенно подгорел, когда увидел квантизацию по 4, так как в 4090 прекрасно влазят и не квантизованные 7b модели
в чем тогда смысл "только для Nvidia-бояр", если как раз топовым боярам не дают никаких фич и только проводят по губам намертво зашитыми квантизованными моделями, которые прекрасно будут работать в убабуге почти на любых других видеокартах
мои впечатления от Chat with RTX
- предельно плохо качается
- в комплекте 2 модели - LLama 13b и Mistral 7b с квантизацией 4
- с такой квантизацией скорость и в угабуге будет отличной
- поменять модели пока непонятно как
- настроек в интерфейсе нет, угабуга тут - запредельный шедевр возможностей
- из-за явного отсутствия системного промпта в настройках которых нет - предельно тяжело заставить Chat with RTX говорить на иных языках кроме английского, угабуга опять рулит
Единственный плюс, что я вижу
- тут интегрирован RAG, то есть можно указать папку со своими текстовыми файлами, и в ответах Chat with RTX будет брать факты оттуда, но не факт, что всегда поймет (я прочитал обзоры англоязычных по тестам Chat with RTX)
Короче, это пока игрушка, демка, полезная только для генерации англоязычных ответах на какой-то базе документов
Если база документов не нужна, ее нет, и нужно просто баловаться с локальными нейронками - лучше отдельно скачать УбаБугу (https://github.com/oobabooga/text-generation-webui)
и в нее скачать модели с HuggingFace типа
- Мистраля 7B
- perlthoughts_Chupacabra-7B-v2
- teknium_OpenHermes-2.5-Mistral-7B
- Intel_neural-chat-7b-v3-3
настроить им системный промпт, чтобы они говорили на нужном языке и может стилем - и будет в 1000 раз интереснее и быстрее, особенно при закачке
Если у вас RTX карты - вы по сути ничего не выигрываете от этого чата Nvidia, кроме готовой интеграции RAG, то есть опции "читай мои текстовые файлы и отвечай по ним, если релевантны"
Игрушка, я пока жалею потраченного времени
Да с отрывом ножек, я даже не ожидал подобного накала
Привет, я как раз читаю книгу и не понял, что такое рактивки? Это типа фильмы с ветвящимся сюжетом?
И в то же время я понял этот момент:
/// Хакворт: Лорд из новой Атлантиды отправляет его, чтобы найти… кое-что, это спойлер… и вот он уже мчится на механической лошади, попадает каким-то образом в странный храм, с очень живописующим ритуалом, о котором на YouTub’e лучше не упоминать… а потом резко проходит несколько лет… и он уже заросший ароматный бомж, который живёт в пещере и занимается промискуитетом. И я, мягко говоря, просто ничего не понял. Как он докатился до такого, почему он забросил своё суперважное задание, да и вообще так бездарно потратил несколько лет жизни.
Там объясняется дальше - когда он встретился со своими нанимателями - они ему пояснили, что доктор Икс внедрил в него наномашины, которые ввели его в зомби-состояние, в котором он 10 лет не просто трахался с барабанщиками (так зовут ту секту), но и что-то интенсивно создавал в технологиях. Что именно - пока не знаю, не дочитал.
Но Хаксворт не вырвался бы из этой ловушки, если бы спецслужбы Новой Атлантиды не внедрили к нему зараженную антивирусом девушку, с которой он потрахался и все как рукой сняло.
Для меня тоже в первый момент было неприятно и непонятно читать, что произошло и в чем смысл. Но когда я прочитал про зомбификацию наномашинами - я понял. Жестокая хрень