Блог около Всплеск искусственного интеллекта приводит к доминированию Ethernet на рынке коммутаторов для центров обработки данных

Взрывный рост искусственного интеллекта (ИИ) меняет глобальный технологический ландшафт с беспрецедентной силой.проходят глубокие изменения в архитектуре сетиРынок коммутаторов для центров обработки данных, который когда-то был тихим сектором, стал стратегическим полем битвы для технологических гигантов.Расходы на переключатели центров обработки данных, специально разработанные для сетей с искусственным интеллектом, превысят $100 млрд..

Эта ошеломляющая цифра не только отражает растущий спрос на вычислительную мощность ИИ, но и сигнализирует о срочной необходимости высокопроизводительной сетевой инфраструктуры с высокой пропускной способностью и низкой задержкой.В статье рассматривается трансформация рынка, обусловленная ИИ, исследует основные факторы и возникающие технологические тенденции и анализирует ключевую роль Ethernet в этой технологической революции.

Быстрое развитие ИИ в различных областях применения, от обработки естественного языка до компьютерного зрения, автономного вождения,и научных исследований напрямую стимулировали спрос на мощные вычислительные возможностиОбучение крупных моделей ИИ, особенно моделей глубокого обучения, требует огромных наборов данных и огромных вычислительных ресурсов.представляет беспрецедентные проблемы для сетей центров обработки данных по мере их улучшения производительности и увеличения их количестваТрадиционные сетевые архитектуры изо всех сил пытаются удовлетворить строгие требования нагрузки ИИ на скорость передачи данных, пропускную способность и задержку.

В отчете Dell'Oro Group четко определяется эта тенденция, прогнозируя, что к 2030 году рынок сетевых коммутаторов с поддержкой ИИ достигнет порога в 100 миллиардов долларов.Этот прогноз основан на устойчивом росте потребностей в ИИПо мере того как модели ИИ становятся больше, с параметрами в десятки или сотни миллиардов,Даже триллионы процессов обучения требуют параллельной обработки обширных наборов данных и частого синхронизации параметров модели.Высокоскоростные интерконнекты GPU и эффективный обмен данными между GPU и хранилищем требуют исключительной пропускной способности сети и задержки.Даже самые мощные вычислительные ресурсы остаются недостаточно использованы.

Рабочая нагрузка ИИ значительно отличается от традиционных приложений для центров обработки данных:

• Высокая плотность параллельных вычислений:Обучение ИИ обычно включает в себя масштабные параллельные вычисления с тысячами графических процессоров, работающих вместе.Для этого требуется чрезвычайно высокая пропускная способность связи GPU-GPU и минимальная задержка для обеспечения вычислительной эффективности.
• Много данных:Обучение моделей ИИ включает в себя обработку огромных наборов данных, что делает загрузку, передачу и хранение данных критическими.
• Сложные коммуникационные модели:Рабочая нагрузка ИИ включает в себя мультикаст, трансляцию и другие операции коллективной связи, требующие от сетей поддержки эффективной групповой связи.
• Динамичный и эластичный:Потребность в ресурсах для обучения ИИ может колебаться, что требует от сетей динамической адаптации.

Эти характеристики представляют серьезные проблемы для сетей центров обработки данных:

• Узкие уголки пропускной способности:Традиционная пропускная способность сети может быть недостаточной для быстрой передачи массивных данных между графическими процессорами, что приводит к бездействию вычислительных ресурсов.
• Проблемы с задержкой:Высокая задержка может значительно снизить эффективность обучения модели ИИ и даже повлиять на конвергенцию модели.
• Ограничения масштабируемости:По мере роста моделей ИИ требуется больше вычислительных узлов, что делает масштабируемость сети решающей.
• Потребление энергии:Высокопроизводительное сетевое оборудование часто потребляет значительное количество энергии, что делает энергоэффективность ключевым фактором наряду с производительностью.

Прогноз Dell'Oro Group не единственный; многие исследовательские фирмы поделились оптимизмом относительно роста сетей центров обработки данных на основе ИИ. Рынок в 100 миллиардов долларов представляет собой огромный коммерческий потенциал,привлечение внимания поставщиков сетевого оборудованияЭтот рост выходит за рамки продаж оборудования, стимулируя инновации во всей экосистеме.

Чтобы удовлетворить растущие потребности в вычислениях ИИ, сетевые архитектуры центров обработки данных продолжают развиваться.В отчете Dell'Oro Group определено несколько ключевых моделей развертывания, которые стимулируют расходы на сети бэк-энда и позволяют использовать новые архитектуры..

Увеличение масштаба (вертикальное увеличение масштаба):Для ИИ масштабирование обычно включает интеграцию большего количества графических процессоров и памяти в отдельные серверы или вычислительные узлы.использование высокоскоростных интерконнектов, таких как NVLink, для минимизации задержки связи с графическим процессоромЭто позволяет более тесно соединяться, улучшая плотность и производительность вычислений на одном узле.

Расширение масштаба (горизонтальное расширение):Эта стратегия добавляет больше серверов и вычислительных узлов, соединяя их через сети для формирования кластеров.возможность параллельной обработки сложных задач и больших наборов данныхОднако, по мере роста кластеров, межузловая связь увеличивается экспоненциально, требуя большей пропускной способности сети и меньшей задержки.

Dell'Oro Group подчеркивает, что как стратегии масштабирования, так и масштабирования значительно увеличивают расходы на бэкэнд-сеть.более продвинутые сетевые интерфейсы и коммутаторы для поддержки внутриузловых GPU-соединенийРасширение масштаба требует более мощных сетевых магистралей и более эффективных коммутаторов для обработки межузловой связи в масштабе.

Более того, набирает популярность новая архитектура под названием "scale-across".В отличие от традиционных централизованных гипермасштабных центров обработки данных, масштабно распределяет вычислительные ресурсы по регионам, ближе к источникам данных или пользователям, интегрируя их в эффективное целое с помощью передовых сетей.

Scale-cross решает проблемы в области развертывания, энергоэффективности и затрат, с которыми сталкиваются традиционные гипермасштабные центры обработки данных.

• Оптимизация использования энергии:Распределение вычислительных ресурсов вблизи источников энергии или источников охлаждения повышает энергоэффективность и снижает эффективность использования энергии (PUE).
• Максимальная производительность на ватт:Распределенное развертывание лучше соответствует потребностям вычислений с доступностью энергии, улучшая производительность на единицу потребляемой энергии.
• Сниженная задержка:Расположение вычислительных ресурсов вблизи источников данных или пользователей минимизирует задержки передачи данных и обработки, что имеет решающее значение для приложений ИИ в режиме реального времени.
• Улучшенная устойчивость:Распределенные системы естественным образом улучшают отказоустойчивость, поскольку отдельные сбои узлов не нарушают общую работу, обеспечивая лучшее региональное восстановление после катастрофы.
• Преодоление ограничений расположения:Поиск земли, электроэнергии и охлаждения для больших центров обработки данных может быть трудным; масштабное использование избегает этих ограничений.

Такие проекты, как Project Rainer от AWS и Fairwater от Microsoft, являются примером принципов масштабирования.Подключение глобальных центров обработки данных через передовые сети для создания единого, масштабируемые платформы ИИ.

Внедрение масштабной сети требует более высоких требований к сети, требуя не только высокой пропускной способности и низкой задержки внутренних соединений, но и эффективных и надежных межрегиональных связей.Это может включать передовые технологии маршрутизации, более надежные сетевые протоколы и более умные системы управления сетью.

В этой трансформации сети, основанной на ИИ, поставщики коммутаторов получат существенную выгоду.На технологическом уровне Ethernet с его надежной экосистемой выступает вероятным долгосрочным победителем.

Будучи открытой, зрелой и широко используемой технологией, Ethernet предлагает беспрецедентные преимущества в сетях центров обработки данных:

• Открытые стандарты:Открытые стандарты Ethernet способствуют созданию обширной экосистемы с широкой поддержкой поставщиков, снижая затраты и улучшая оперативную совместимость.
• Экономическая эффективность:По сравнению с проприетарными технологиями, Ethernet обеспечивает лучшую экономичность, особенно в масштабе.
• Срок годности и надежность:Десятилетия разработки доказали надежность и производительность Ethernet.
• Постоянные инновации:Стандарты Ethernet неуклонно развиваются, причем скорости повышаются с 100 Гб до 400 Гб, 800 Гб и 1,6 Тб для удовлетворения растущих потребностей.

Dell'Oro Group отмечает, что, хотя множество технологий будут сосуществовать, рост Ethernet в высокопроизводительных бэкэнд-сетях не остановится.Ethernet уже стал доминирующим стандартом взаимосвязи в суперкомпьютерахИнновации, такие как решения HPE Slingshot Ethernet, широко применяются в высокопроизводительных системах верхнего уровня, демонстрируя потенциал Ethernet в этой области.

Предыдущие прогнозы Dell'Oro Group показывают еще более яркую картину: в течение следующих пяти лет Ethernet внесет почти $80 млрд в продажи коммутаторов для центров обработки данных.Это предполагает, что Ethernet захватит большую часть рынка, особенно в высокопроизводительных бэк-энд сетях, управляемых ИИ.

Ethernet сталкивается с конкуренцией, однако. В масштабируемых архитектурах GPU и тесное соединение памяти часто полагаются на собственные материалы, такие как NVLink."Для удовлетворения взрывоопасных требований к вычислительной технике, мы больше не можем полагаться исключительно на масштабируемые сети для соединений GPU-GPU через стойки.Этот сдвиг приводит к масштабированию архитектур, которые плотно соединяют графические процессоры и память в общих средах с высокой пропускной способностью для распределенного вывода.. "

В масштабировании NVLink и аналогичные фирменные материалы давно доминируют, предлагая исключительную пропускную способность и минимальную задержку для внутриузловой связи с графическим процессором."Так же, как Ethernet превзошел InfiniBand в масштабных средах, теперь мы видим, что альтернативы, такие как UALink и Ethernet, набирают обороты в масштабируемых архитектурах".

UALink, новая технология взаимосвязи, стремится превзойти NVLink с более высокой скоростью и меньшей задержкой, потенциально добиваясь сильного принятия в масштабировании."В то время как мы прогнозируем сильное принятие UALink, мы ожидаем, что Ethernet станет долгосрочным победителем как в масштабировании, так и в масштабировании.и непрерывные инновации в конечном итоге одержат верх.

Для дальнейшего повышения производительности сети для нагрузок ИИ, технология совместной упаковки оптики (CPO) привлекает внимание.сокращение траекторий оптического сигнала для снижения потребления энергии и потери сигнала при одновременном увеличении пропускной способности, снижение задержки и повышение энергоэффективности.

Даже Nvidia, долгое время связанная с InfiniBand, принимает Ethernet и CPO.Линия Spectrum-X, основанная на Ethernet, развилась от первоначальной конфигурации до "приблизительно сопоставимой с предложениями конкурентов"Dell'Oro Group подчеркивает лидерство Nvidia в принятии CPO для кремниевых фотонических коммутаторов.

В этом году ожидаются версии Nvidia CPO Spectrum-X и Quantum-X (на основе InfiniBand). Инженеры Nvidia сообщают, что эти решения CPO повышают энергоэффективность в 3,5 раза, целостность сигнала в 63 раза,и обеспечить в 10 раз большую устойчивость сети в масштабеЭти показатели указывают на трансформационный потенциал CPO для сетей ИИ.

Broadcom также продвигает технологию CPO. С 2021 года он разработал коммутаторы CPO, поддерживающие скорости 800 Гбит/с и 1,6 Тбит/с. В конце прошлого года Broadcom обнародовал испытания Meta своих фотонических продуктов, в том числе:который достиг нулевых сбоев соединения в течение миллионов часов работы порта 400G-эквивалента, демонстрируя выдающуюся надежность.

Тем не менее, генеральный директор Broadcom Хок Тан остается осторожным, говоря инвесторам: "Я могу предвидеть будущее, где кремниевая фотоника станет единственным решением,но мы еще не совсем там, хотя у нас есть технология и продолжаем развивать ее." Этот умеренный прогноз отражает остающиеся проблемы CPO в отношении стоимости, урожайности и массового производства, несмотря на его широко признанный потенциал.

Трансформация сетей центров обработки данных, обусловленная искусственным интеллектом, предвещает не только огромные возможности на рынке, но и новую главу в технологической эволюции.Будет ли Ethernet доминировать, как это было предсказано, используя свою открытость и преимущества по стоимости для удовлетворения растущей сложности, будет ключевым вопросом в ближайшие годы..

Открытость и стандартизация Ethernet остаются ее основными сильными сторонами, позволяющими широкому участию экосистемы, которая стимулирует инновации и снижение затрат.спрос на высокопроизводительные, сети с высокой пропускной способностью будут расти, и эволюция стандартов и экономики Ethernet будет позиционировать его благоприятно.

Однако сложность рабочих нагрузок ИИ создает новые проблемы. Например, в масштабируемых архитектурах для соответствия производительности собственных тканей через Ethernet потребуется сосредоточенная НИОКР.Интеграция CPO также требует лучшей совместимости оптических компонентов для эффективной передачи сигнала.

Будущие сети центров обработки данных, вероятно, будут иметь разнообразные решения.Новые технологии, такие как UALink, могут найти ниши.Между тем, InfiniBand сохранит свою актуальность в некоторых высокопроизводительных сценариях вычислений.

• Высокоскоростной Ethernet:800GbE, 1.6TbE и далее будут ускоряться для удовлетворения потребностей в обучении ИИ и выводах.
• Принятие CPO:По мере того, как CPO созревает и стоимость снижается, он постепенно будет входить в основной поток коммутаторов центров обработки данных, повышая производительность и эффективность.
• Сетевая разведка:ИИ улучшит управление и оптимизацию сетей, повысит эффективность и надежность работы.
• Программно-определенная сеть (SDN):SDN обеспечит более гибкий контроль и управление, чтобы адаптироваться к динамическому характеру нагрузок ИИ.

Взрывный рост ИИ глубоко меняет рынок коммутаторов центров обработки данных, с возможностью в 100 миллиардов долларов, сигнализирующей о беспрецедентном потенциале.В настоящее время идет революция сетей, основанная на ИИ.Революционные технологии, такие как CPO, привносят новый импульс в производительность сетей ИИ..В этой трансформации под руководством ИИ принятие изменений, стратегическое планирование и устойчивые инновации будут иметь важное значение для конкурентного успеха.Свидетельство и участие в замечательной эволюции сетей центров обработки данных.