Как получить доступ к PaLM 2 через API

Большая языковая модель PaLM 2, лежащая в основе чат-бота Bard, доступна через API.

PaLM 2, собсна.
PaLM 2, собсна.

В чем она хороша:

  • Генерировать текст: PaLM API и PaLM 2 могут генерировать текст в различных стилях, включая новостные статьи, художественную литературу, поэзию и фрагменты кода.
  • Языковой перевод: PaLM 2 отличается высокой точностью языкового перевода.
  • Создание креативного контента: PaLM 2 может создавать различные формы креативного контента, такие как стихи, фрагменты кода, сценарии, музыкальные композиции, электронные письма и многое другое.
  • Информативные ответы на вопросы: PaLM2 может предоставить информативные ответы на открытые, сложные или необычные вопросы.

Ниже — основные моменты использования этой модели:

  • на момент написания статьи использование совершенно бесплатно!
  • увы, для доступа нужен VPN, причем американский.
  • сама модель существует в четырех размерах: Gecko, Otter, Bison и Unicorn (от самой маленькой до самой мощной). Доступ по API предоставляется аж к целому Bison!
  • контекст — 8192 токена, что сопоставимо с 8192 токенами у gpt-4-8k, и в 2 раза превосходит gpt-3.5-turbo, но меньше, чем у Claude от Anthropic (100k).
  • возможность регулировать цензуру, и даже практически выключать её. Нет, рецепт метамфетамина и способ взлома машины он вам тоже не раскроет, но в целом гораздо более склонен обсуждать чувствительные темы, в отличие от толерантного ChatGPT.
  • возможность устроить fine-tuning, используя вычислительные мощности гугла (!)
  • есть сообщество в Discord

Теперь непосредственно том, как же получить доступ к API.

Напоминаю — нужен VPN

(американский)

1. Первым делом, нужно перейти на сайт для разработчиков, и войти в свой гугл аккаунт.

Как получить доступ к PaLM 2 через API

2. Затем, по нажатию магической кнопки «Go to Makersuite», нас перекидывает в веб интерфейс для взаимодействия с PaLM 2. Можно поиграться там, но нас же интересует ключ?

MakerSuite
MakerSuite

P. S. Если на данном этапе у вас ошибка «App unavailable», перепроверьте VPN, и вошли ли вы в аккаунт.

3. Заходим пункт меню «Get API key» и затем — «Create API key in new project», копируем ключ.

Все сгенерированные ключи остаются в списке
Все сгенерированные ключи остаются в списке

profit!

В статье ниже я расскажу про его использование для ролеплея и создания чат-ботов в RisuAI.

88
2 комментария

Спасибо!🌹

1
Ответить

у меня wireguard от pq.hosting, он подойдет, работает стабильно

Ответить