Они так то дохуя open сделали. Из того, что можно потрогать руками:
- CLIP — де факто стандартный мультимодальный энкодер для связи картинок и текста - HumanEval — де факто стандартный бенч для замера нейронок на коде - GPT-2 и GPT-3 — 'nuff said - OpenAI Gym - вроде как стандартный тулкит для RL (не RLщик, в рот ебал всё что с ним связано с тех пор как я учил ебучий DDQN играть в ебучего пакмана) - Jukebox - генерация музычки, ещё в 2020 году!
Но главное, что они делают — это публикуют очень важные и полезные статьи, на основе которых остальные тоже могут делать свои продукты:
- Важнейшие исследования по обучению декодеров - InstructGPT - статья важнее самой модели, идея применить PPO для обучения LLM вроде как принадлежит именно им - Вроде как первыми использовать диффузионные модели для генерации картинок начали именно они
Повторюсь, статьи гораздо, гораздо важнее, потому что они воспроизводимы и стабильно генерить качественный ресёрч это очень важно и полезно, гораздо полезнее, чем опенсорсить модельки, которые устареют через месяц.
Там всё не так просто. Есть НКО и которая вроде как делилась наработками какими то, и есть openai global, которая да, нихуя не опен, и вполне коммерческая.
Они так то дохуя open сделали. Из того, что можно потрогать руками:
- CLIP — де факто стандартный мультимодальный энкодер для связи картинок и текста
- HumanEval — де факто стандартный бенч для замера нейронок на коде
- GPT-2 и GPT-3 — 'nuff said
- OpenAI Gym - вроде как стандартный тулкит для RL (не RLщик, в рот ебал всё что с ним связано с тех пор как я учил ебучий DDQN играть в ебучего пакмана)
- Jukebox - генерация музычки, ещё в 2020 году!
Но главное, что они делают — это публикуют очень важные и полезные статьи, на основе которых остальные тоже могут делать свои продукты:
- Важнейшие исследования по обучению декодеров
- InstructGPT - статья важнее самой модели, идея применить PPO для обучения LLM вроде как принадлежит именно им
- Вроде как первыми использовать диффузионные модели для генерации картинок начали именно они
Повторюсь, статьи гораздо, гораздо важнее, потому что они воспроизводимы и стабильно генерить качественный ресёрч это очень важно и полезно, гораздо полезнее, чем опенсорсить модельки, которые устареют через месяц.
слава богу, что не AI
Там всё не так просто. Есть НКО и которая вроде как делилась наработками какими то, и есть openai global, которая да, нихуя не опен, и вполне коммерческая.