Microsoft анонсирует Maia 200: новая высокопроизводительная платформа для ИИ

Это попытка догнать и перегнать AWS и Google в самой дорогой сейчас части ИИ — в inference больших моделей. Вот тут мы писали о новом TPU от Google. Ключевые характеристики Maia 200: – 3-нм техпроцесс TSMC – >140 миллиардов транзисторов – Память: 216 ГБ HBM3e с пропускной способностью 7 ТБ/с + 272 МБ сверхбыстрой on-chip SRAM – Нативные тензорные ядра под FP8 и FP4 – Производительность: >10 петафлопс в FP4 и >5 петафлопс в FP8 при TDP 750 Вт – Очень мощная система перемещения данных, чтобы большие модели не упирались в память – Сеть масштабирования: до 6144 чипов в кластере, 2,8 ТБ/с bidirectional на Ethernet