Как XPU встречаются с фабрикой искусственного интеллекта мирового класса

Чтобы генерировать интеллект в масштабе, фабрики искусственного интеллекта работают непрерывно, и их экономика определяется доставленной производительностью: токенов в секунду, токенов на ватт, стоимости токена, использования и времени безотказной работы.

Для этого необходима инфраструктура искусственного интеллекта, спроектированная и построенная как полноценная фабрика, а не набор отдельных ускорителей.

Гиперскейлеры и компании, занимающиеся искусственным интеллектом, создающие специальные XPU, должны учитывать не только проект XPU, но и проектирование и разработку всей платформы искусственного интеллекта, включая масштабируемое и горизонтальное масштабирование сети, стоечную архитектуру, производственное программное обеспечение и надежную экосистему поставщиков.

Источник: NVIDIA (перевод)