От мегаватт к токенам: как NVIDIA максимизирует производство на фабриках искусственного интеллекта

Жарким августовским вечером в Кремниевой долине, когда солнце зашло, а нагрузка на кондиционирование резко возросла, компания Silicon Valley Power отправила сигнал фабрике искусственного интеллекта скорректировать энергопотребление.

Варун Сиварам смотрел трансляцию в Zoom вместе с примерно сорока другими людьми — его командой из Emerald AI в конференц-зале в Сан-Франциско, инженерами центра обработки данных и людьми из самой коммунальной компании. Никто ничего не трогал.

Платформа Conductor от Emerald AI — платформа оркестровки сети от партнера NVIDIA Emerald AI и ранний пример той гибкости, которую обеспечивает NVIDIA DSX Flex — получает сигналы о состоянии сети и регулирует гибкие вычислительные нагрузки центра обработки данных. Работа, которая может подождать, замедляется или переносится, в то время как услуги с более высоким приоритетом продолжают работать.

Источник: NVIDIA (перевод)