NVIDIA представляет Minerva, обеспечивающую сквозную наблюдаемость на фабриках искусственного интеллекта

NVIDIA Minerva, выпущенная сегодня, представляет собой платформу AIOps, созданную, чтобы помочь командам находить проблемы раньше и поддерживать производительность фабрик искусственного интеллекта. Он объединяет данные телеметрии из инфраструктуры и рабочих нагрузок ИИ, а затем применяет специально созданные модели ИИ, чтобы превратить эти данные в своевременную и полезную информацию.

Фабрики искусственного интеллекта являются одними из самых сложных операций в мире: огромное количество графических процессоров работают в высокоскоростных сетях для обучения моделей и обслуживания приложений искусственного интеллекта. В таком масштабе один-единственный поврежденный компонент может замедлить выполнение всей работы. Предупреждающие знаки легко пропустить, например, когда графический процессор нагревается сильнее, чем его коллеги, или диск NVMe теряет производительность под нагрузкой.

Платформа ориентирована на производительность фабрики искусственного интеллекта, меру полезной работы, которую инфраструктура производит за счет часов графического процессора, производительности, времени безотказной работы кластера и производства токенов.

Источник: NVIDIA (перевод)