Дисклеймер: Вся эта херня максимально не претендует на истину и может содержать неточности в исследовании и результатах, но в целом, более менее это отражает реальное положение дел.В конца после будет ссылка на дашборд, где вы сможете подробно всё рассмотреть.
Не пробовал модели в fp16 запустить?