NVIDIA NVLink Fusion расширяется за счет специальной высокоскоростной памяти NVHBM

Поскольку агенты ИИ и рабочие нагрузки с триллионом параметров становятся все более распространенными, производительность инфраструктуры ИИ зависит не только от вычислений, но и от того, как вычисления, память, хранилище, сеть и программное обеспечение спроектированы вместе в единой системе.

Чтобы помочь гиперскейлерам и новаторам в области искусственного интеллекта создать следующее поколение полузаказной инфраструктуры искусственного интеллекта, NVIDIA сегодня расширила NVIDIA NVLink Fusion с помощью NVIDIA NVHBM, технологии памяти нового поколения с высокой пропускной способностью, которая обеспечивает более высокую производительность и эффективность памяти для XPU. Она будет проверена и предложена ведущими партнерами по памяти, что расширит возможности этой расширенной памяти для клиентов NVLink Fusion.

Традиционные архитектуры HBM размещают контроллер памяти на кристалле XPU, занимая ценную область кремния, которая в противном случае могла бы быть выделена для вычислений. NVHBM, построенный на той же технологии, которую NVIDIA будет использовать для будущих графических процессоров, интегрирует собственный контроллер памяти NVIDIA в базовый кристалл HBM.

Источник: NVIDIA (перевод)