Мы открыли THX-01: decision model на 322M параметров, которая работает даже на телефоне и обходит Jev на некоторых бенчмарках
Всем привет! Сегодня наша команда HAL-X AI зарелизила THX-01, полностью open-source decision model, обученную на 20 языках.
Идея довольно простая. Далеко не каждая задача в AI требует большой LLM, которая генерирует текст токен за токеном. Иногда нужно просто определить, в какой отдел отправить обращение, является ли письмо фишингом, какая сумма указана в документе или на основании какого фрагмента текста можно принять решение.
Именно для таких задач мы и создали THX-01.
Это компактная модель на 322 миллиона параметров, которая работает без авторегрессии. Она получает текст или документ вместе с вопросами и возвращает структурированные ответы за один forward pass, примерно за 10 мс на GPU.
По архитектуре и назначению THX-01 близка к Jev, но на некоторых наших бенчмарках показывает результаты лучше. Кроме того, мы добавили несколько нативных возможностей, которых нет в стандартных типах вопросов Jev:
- Number extraction: извлекает точные числовые значения из документов.
- Excerpt extraction: возвращает дословные фрагменты текста, не придумывая содержимое.
- Citations: указывает, на основании каких частей документа был получен ответ.
- Calibrated probabilities: возвращает вероятности для принятия решений, что особенно полезно при автоматизации.
На нашем бенчмарке классификации обращений на четырёх языках THX-01 получила 98,4% accuracy против 98,5% у Claude Sonnet 5.5, при этом оказалась примерно в 150 раз быстрее в условиях нашего тестирования.
Мы полностью открыли модель под Apache 2.0: веса, API и Python SDK. Можно свободно использовать, экспериментировать и интегрировать в собственные проекты.
Установка максимально простая:
pip install thx01
Hugging Face: https://huggingface.co/doofz/THX-01