🔥NVIDIA GH200 Grace Hopper 282 GB VRAM!
На SIGGRAPH 2023 NVIDIA
анонсировала нового монстра для задач Generative AI - GH200 Grace Hopper с памятью HBM3e:
🔹 На борту чипа не только GPU, но и встроенный ARM процессор.
🔹 Базовая версия оснащена
141 GB VRAM и 72 ядрами ARM Neoverse c 480 GB LPDDR5X RAM.
🔹 С помощью NVIDIA NVLink можно объединять в сдвоенные "суперчипы", достигая 480x2 GB быстрой памяти (RAM)
🔹 Сдвоенный чип предлагает 282 GB VRAM, 144 ядра ARM Neoverse и 7.9 PFLOPS int8 производителтьности (
так же как и у сдвоенной H100 NVL).
🔹 Новая память HBM3e на 50% быстрее предыдущего поколения HBM3, обеспечивая 10 ТБ/с комбинированной пропускной способности.
🔹 Ожидается коммерческий выпуск во втором квартале 2024 года.
🔹 Цена GH200 пока не раскрыта, но предыдущая модель H100 продается по цене
от $40,000.
GH200 - это по сути ответочка нед
авно вышедшей AMD MI300X. Правда, у AMD аж 192 Gb VRAM на одном неспаренном чипе.
@ai_newz