Анонсирован новый сетевой протокол MRC для ИИ-кластеров

OpenAI совместно с AMD, Broadcom, Intel, Microsoft и NVIDIA представила сетевой протокол Multipath Reliable Connection (MRC), нацеленный на повышение производительности и отказоустойчивости крупных GPU-кластеров для задач ИИ. Он уже работает в кластерах с NVIDIA GB200, включая первый ЦОД Stargate и инфраструктуру Microsoft Fairwater. При обучении больших моделей единственная задержка способна вызвать простой тысяч ускорителей, а основными источниками нестабильности становятся перегрузка сети, отказы каналов и коммутаторов.

MRC распределяет пакеты одного потока одновременно по сотням путей и нескольким физическим каналам, а данные о конечном положении позволяют собрать их в нужной последовательности. Протокол отслеживает состояние маршрутов и при перегрузке мгновенно переключает трафик на альтернативный путь. Многоуровневая архитектура даёт возможность разбить 800GbE-интерфейс на восемь 100GbE-каналов и построить восемь параллельных сетей. Коммутатор с 64 портами 800GbE превращается в конфигурацию 512×100GbE, что позволяет объединить около 131 тыс. GPU с помощью всего двух уровней коммутации вместо традиционных трёх-четырёх.

Для борьбы с потерями вместо приостановки отдельных классов трафика (PFC) применяется обрезка пакетов: перегруженный коммутатор отбрасывает полезную нагрузку и передаёт только заголовок, чтобы получатель мог быстро запросить повторную передачу. Восстановление после сбоев занимает микросекунды. Динамическая маршрутизация заменена сегментной маршрутизацией IPv6 (SRv6) со статическими таблицами: отправитель задаёт путь через идентификаторы коммутаторов, и недоступные маршруты просто игнорируются без пересчёта.

Выпущенный в рамках OCP, MRC даёт три ключевых преимущества: двухуровневые сети для более чем 131 тыс. конечных точек, практически полное отсутствие перегрузок в ядре и быстрый обход сбоев благодаря SRv6. Broadcom встроила поддержку в адаптеры Thor Ultra и коммутаторы Tomahawk 5 и 6; NVIDIA подтвердила совместимость с решениями Spectrum-X. OpenAI уже применяла протокол при обучении нескольких ИИ-моделей. Схожей альтернативой выступает Ultra Ethernet.