TPU/NPU

Вкратце тензорный процессор , как он работает и для чего это надо .
Аналогия с майнингом , кто то майнил на видеокарте , но потом появились asic которые считали только hash блоки и все , конец майнингу на видеокартах . В нашем случае TPU только перемножает матрицы и тензора , вычисляя наиболее вероятный токен или обучая модели . TPU сейчас повсюду , но его чаще называют NPU и он есть почти везде , ваши фотографии на телефоне обрабатываются NPU , на NPU можно запустить настоящую ллм оффлайн и это будет сильно энергоэффективнее инференса на CPU/GPU.
Так а почему тогда ты все не используют tpu для нейросетей ?
Возьмем 3 аргумента
1) цена вопроса , видеокарту взял и купил , а с tpu есть ограничения для покупки и ограничение по аренде , всего одна компания активно проталкивает свои решения в массы - GOOGLE , что делает их монополистами , не дает рынку правильно развиваться и не дает ценам понизится.
2) драйвера , пока сырые , неоптимизированная архитектура под многие библиотеки.
3)карточек нет в открытом доступе , купить почти никак , только арендовать.