" Это попытка догнать и перегнать AWS и Google в самой дорогой сейчас части ИИ — в inference больших моделей. Вот тут мы писали о новом TPU от Google.
Ключевые характеристики Maia 200:
- 3-нм техпроцесс TSMC
- >140 миллиардов транзисторов
- Память: 216 ГБ HBM3e с пропускной способностью 7 ТБ/с + 272 МБ сверхбыстрой on-chip SRAM
- Нативные тензорные ядра под FP8 и FP4
- Производительность: >10 петафлопс в FP4 и >5 петафлопс в FP8 при TDP 750 Вт
- Очень мощная система перемещения данных, чтобы большие модели не упирались в память
- Сеть масштабирования: до 6144 чипов в кластере, 2,8 ТБ/с bidirectional на Ethernet
