AI Infra Summit: NVIDIA Вера Рубин и усовершенствования платформы DSX демонстрируют энергоэффективность оптимизации количества токенов на ватт для фабрик искусственного интеллекта

Ян Бак, вице-президент по гипермасштабным и высокопроизводительным вычислениям компании NVIDIA, во вторник рассказал об эффективности ИИ-фабрик на AI Infra Summit, мероприятии в конференц-центре Санта-Клары, которое превратилось в Коачеллу инфраструктурных технологий.

Перед переполненной аудиторией — в этом году число участников превысило 8000 человек по сравнению с 3500 в прошлом году — Бак обсудил новые возможности сотрудничества на платформах NVIDIA и многое другое.

Эта новость появилась в связи с тем, что агентный ИИ запускает новый класс рабочих нагрузок, которые требуют большей производительности, эффективности и масштабируемости от инфраструктуры ИИ.

Источник: NVIDIA (перевод)