블로그 약 AI 붐으로 데이터센터 스위치 시장에서 이더넷 지배력 강화

인공지능 (AI) 의 폭발적인 성장은 전례 없는 힘으로 글로벌 기술 지형을 재구성하고 있습니다.네트워크 아키텍처에 큰 변화를 겪고 있습니다.한때 조용한 부문이었지만, 데이터 센터 스위치 시장은 기술 거대 기업들의 전략적 전장이 되었습니다.인공지능 백엔드 네트워크에 특별히 설계된 데이터센터 스위치에 대한 지출은 100억 달러를 초과할 것입니다..

이 놀라운 수치는 인공지능 컴퓨팅 전력에 대한 급증하는 수요를 반영할 뿐만 아니라 고성능, 대역폭, 낮은 지연시간의 네트워크 인프라에 대한 긴급한 필요성을 나타냅니다.이 기사에서는 인공지능이 주도하는 시장 전환을 검토합니다., 근본적인 요인과 신흥 기술 추세를 탐구하고 이 기술의 혁명에서 이더넷의 중추적인 역할을 분석합니다.

인공지능의 급속한 발전은 자연어 처리, 컴퓨터 비전, 자율주행,그리고 과학 연구도 강력한 컴퓨팅 능력에 대한 수요를 직접적으로 촉진했습니다.대규모 인공지능 모델, 특히 딥러닝 모델을 훈련하려면 거대한 데이터 세트와 엄청난 컴퓨팅 자원이 필요합니다.데이터센터 네트워크의 성능이 향상되고 숫자가 증가함에 따라 전례 없는 도전을 제시합니다.전통적인 네트워크 아키텍처는 데이터 전송 속도, 대역폭 및 지연에 대한 AI 워크로드의 엄격한 요구 사항을 충족시키기 위해 어려움을 겪고 있습니다.

델'오로 그룹의 보고서는 이 추세를 명확히 밝히고 있으며, 인공지능 백엔드 네트워크 스위치 시장이 2030년까지 100억 달러에 이를 것으로 예측하고 있습니다.이 예측은 인공지능 컴퓨팅 요구의 지속적인 성장에 근거합니다.인공지능 모델이 커지면서 수십억 개나 되는 매개 변수들이심지어 수조개의 훈련 과정에도 방대한 데이터 세트의 병렬 처리와 모델 매개 변수들의 빈번한 동기화를 필요로 합니다.고속 GPU 상호 연결과 GPU와 저장 장치 사이의 효율적인 데이터 교환은 예외적인 네트워크 대역폭과 지연 시간을 요구합니다. 적절한 네트워크 성능 없이는,가장 강력한 컴퓨팅 리소스조차도 여전히 사용되지 않습니다..

인공지능 작업 부하는 전통적인 데이터 센터 응용 프로그램과 크게 다릅니다.

• 고밀도 병렬 컴퓨팅:인공지능 훈련은 일반적으로 대규모 병렬 컴퓨팅을 포함하고 수천 개의 GPU가 협동으로 작동합니다.이것은 매우 높은 GPU-GPU 통신 대역폭과 최소한의 대기 시간을 필요로 합니다..
• 데이터 밀도가 높습니다.인공지능 모델을 훈련하는 것은 엄청난 데이터 세트를 처리하는 것을 포함하며 데이터 로딩, 전송 및 저장이 중요합니다. 네트워크는 빠르고 효율적으로 데이터를 컴퓨팅 노드에 전달해야합니다.
• 복잡한 의사소통 패턴:인공지능 작업 부하에는 멀티캐스트, 방송 및 기타 집단 커뮤니케이션 작업이 포함되며 효율적인 그룹 커뮤니케이션을 지원하는 네트워크가 필요합니다.
• 역동적이고 탄력적입니다.인공지능 훈련 작업의 자원 요구는 변동할 수 있으며, 네트워크가 역동적으로 적응해야 합니다.

이러한 특징은 데이터 센터 네트워크에 심각한 과제를 제기합니다.

• 대역폭 병목:전통적인 네트워크 대역폭은 GPU 간의 대규모 데이터의 빠른 전송에 충분하지 않을 수 있으며, 빈 컴퓨팅 리소스를 초래할 수 있습니다.
• 지연시간 문제:높은 지연시간은 인공지능 모델 훈련 효율을 크게 줄일 수 있으며 모델 컨버전스에도 영향을 줄 수 있습니다.
• 확장성 제한:인공지능 모델이 성장함에 따라 더 많은 컴퓨팅 노드가 필요해 네트워크 확장성이 중요합니다.
• 전력 소비:고성능 네트워크 장비는 종종 상당한 에너지를 소비하므로 원료 성능과 함께 전력 효율이 핵심 고려 사항입니다.

델'오로 그룹의 예측은 혼자가 아닙니다. 여러 시장 조사 회사들이 인공지능 기반 데이터 센터 네트워크 성장에 대해 낙관적이라고 생각합니다. 100억 달러의 시장은 엄청난 상업적 잠재력을 나타냅니다.네트워크 장비 공급업체들의 관심을 끌기이 성장은 하드웨어 판매를 넘어 전체 생태계 전반에 걸쳐 혁신을 촉진합니다.

증가하는 AI 컴퓨팅 수요를 충족시키기 위해, 데이터 센터 네트워크 아키텍처는 계속 진화하고 있습니다.델'오로 그룹의 보고서는 몇 가지 주요 배포 모델을 식별합니다. 백엔드 네트워크 지출을 주도하고 새로운 아키텍처를 가능하게합니다..

확장 (직선 확장):이 접근법은 성능을 높이기 위해 기존 시스템의 자원을 증가시킵니다. 인공지능의 확장에는 일반적으로 더 많은 GPU와 메모리를 개별 서버 또는 컴퓨팅 노드에 통합하는 것이 포함됩니다.GPU 통신 지연을 최소화하기 위해 NVLink과 같은 고속 인터 커넥트를 사용이것은 더 긴밀한 결합을 가능하게 하며, 단일 노드 컴퓨팅 밀도와 성능을 향상시킵니다.

스케일 아웃 (평면 스케일):이 전략은 더 많은 서버와 컴퓨팅 노드를 추가하여 네트워크를 통해 클러스터를 형성하도록 연결합니다. 확장은 대규모 AI 교육 클러스터를 뒷받침합니다.복잡한 작업과 대규모 데이터 세트의 병렬 처리그러나 클러스터가 커질수록 노드 간 통신은 기하급수적으로 증가하여 더 큰 네트워크 대역폭과 낮은 지연 시간을 요구합니다.

델'오로 그룹은 확장 및 확장 전략 모두 백엔드 네트워크 지출을 크게 증가시키는 것을 강조합니다. 확장에는 더 높은 밀도가 필요합니다.더 고급 네트워크 인터페이스 및 스위치로 인트라 노드 GPU 연결을 지원합니다확장에는 더 강력한 네트워크 척추와 더 효율적인 스위치가 필요합니다.

특히 "스케일 크로스"라고 불리는 새로운 아키텍처가 인기를 얻고 있습니다. 이 모델은 지리적으로 흩어져 있지만 논리적으로 통합 된 데이터 센터를 연결하여 단일 컴퓨팅 클러스터를 형성합니다.전통적인 중앙집중화된 하이퍼스케일 데이터센터와 달리, 확장 전용으로 컴퓨팅 리소스를 지역에 걸쳐 분배하고 데이터 소스 또는 사용자에 더 가깝게 통합하면서 고급 네트워크를 통해 효율적인 전체로 통합합니다.

스케일 크로스는 전통적인 하이퍼스케일 데이터 센터가 직면하는 배포, 에너지 효율성 및 비용의 과제를 해결합니다. 주요 장점은 다음과 같습니다.

• 최적화된 에너지 사용:에너지 공급이나 냉각원 근처에 컴퓨팅 리소스를 배포하면 에너지 효율이 향상되고 전력 사용 효율 (PUE) 이 낮아집니다.
• 와트당 최대 성능:분산 배포는 에너지 사용 가능성과 컴퓨팅 요구를 더 잘 일치시켜 소비된 에너지 단위당 성능을 향상시킵니다.
• 감축된 지연시간:데이터 소스 또는 사용자 근처에 컴퓨팅 리소스를 위치시키는 것은 실시간 AI 애플리케이션에 매우 중요한 데이터 전송 및 처리 지연을 최소화합니다.
• 탄력성 강화:분산 시스템은 실수 견딜 수 있는 능력을 자연스럽게 향상시킵니다. 개별 노드 장애는 지역 재난 복구 기능을 향상시키는 동시에 전체 운영을 방해하지 않기 때문입니다.
• 위치 제한을 극복:대규모 데이터 센터를 위한 토지, 전력, 냉각 시설을 찾는 것은 어려울 수 있습니다.

AWS의 프로젝트 레이너와 마이크로소프트의 페어워터와 같은 프로젝트들은 확장적 원칙을 예로 들 수 있습니다. 이러한 프로젝트는 유연하고 효율적인 분산 AI 컴퓨팅 인프라를 구축하는 것을 목표로 합니다.글로벌 데이터 센터를 연결하여, 확장 가능한 AI 플랫폼.

확장적 인 구현은 더 높은 네트워크 요구를 요구합니다. 그것은 높은 대역폭, 낮은 지연 시간 내 연결뿐만 아니라 효율적이고 신뢰할 수있는 지역 간 연결을 요구합니다.이것은 첨단 라우팅 기술을 포함 할 수 있습니다., 더 강력한 네트워크 프로토콜, 그리고 더 똑똑한 네트워크 관리 시스템.

이 인공지능에 의한 네트워크 변혁에서 스위치 공급 업체는 실질적으로 이익을 얻을 수 있습니다. 기술 차원에서, 견고한 생태계와 함께 이더넷은 장기적으로 승리할 가능성이 있습니다.

개방적이고 성숙하고 널리 채택된 기술로서 이더넷은 데이터 센터 네트워킹에서 비교할 수 없는 장점을 제공합니다.

• 오픈 표준:이더넷의 개방형 표준은 광범위한 공급자 지원을 통해 광범위한 생태계를 조성하고 비용을 절감하고 상호 운용성을 향상시킵니다.
• 비용 효율성:독점 기술과 비교하면 이더넷은 특히 규모에서 더 나은 경제성을 제공합니다.
• 성숙성과 신뢰성:수십 년의 개발은 이더넷의 신뢰성과 성능을 증명했습니다.
• 지속적인 혁신:이더넷 표준은 꾸준히 발전하고 있으며, 증가하는 요구를 충족시키기 위해 100GbE에서 400GbE, 800GbE 및 1.6TbE로 속도를 향상시킵니다.

델'오로 그룹은 여러 기술이 공존하는 동안, 고성능 백엔드 네트워크에서 이더넷의 상승은 멈출 수 없다고 지적합니다.이더넷은 이미 슈퍼컴퓨팅에서 지배적인 인터커넥트 표준이 되었습니다.HPE의 Slingshot 이더넷 솔루션과 같은 혁신은 최고 수준의 고성능 시스템에서 널리 채택되었으며 이 영역에서 이더넷의 잠재력을 보여줍니다.

델'오로 그룹의 이전 예측은 더욱 밝은 그림을 그립니다. 앞으로 5년 동안 이더넷은 데이터센터 스위치 매출에 약 800억 달러를 기여할 것입니다.이것은 이더넷이 시장의 대부분을 차지할 것이라고 제안합니다.특히 인공지능 기반의 고성능 백엔드 네트워크에서

이더넷은 경쟁에 직면하고 있다. 확장형 아키텍처에서는 GPU와 메모리 튼튼한 결합이 NV링크와 같은 독점적 직물에 의존한다. 델 오로 그룹 부사장인 사메 부젤베네는 설명한다:"폭발적인 컴퓨팅 요구에 부응하기 위해, 우리는 더 이상 랙을 통해 GPU-GPU 연결을 위해 확장 네트워크에만 의존할 수 없습니다.이 변화는 분산 추론을 위해 공유된 높은 대역폭 환경에서 GPU와 메모리를 긴밀하게 결합하는 확장 아키텍처를 주도하고 있습니다.."

확장에서 NVLink 및 유사한 독점적 인 직물은 예외적인 대역폭과 인트라 노드 GPU 통신에 최소한의 지연 시간을 제공하여 오랫동안 지배했습니다. 그러나 Boujelbene는 다음과 같이 관찰합니다."이더넷이 대규모 환경에서 인피니밴드를 뛰어넘는 것처럼, 우리는 이제 UALink과 이더넷과 같은 대안이 확장 아키텍처에서 추진력을 얻고 있습니다. "

새로운 인터커넥트 기술인 UALink은 NVLink보다 더 빠른 속도와 낮은 지연 시간으로 더 나은 성능을 발휘하여 확장에서 강력한 채택을 얻을 수 있습니다. 그러나 Boujelbene는 다음과 같이 결론 지었습니다."우리는 강한 UALink 채택을 예측하지만, 우리는 이더넷이 확장과 확장 모두에서 장기적인 승자로 떠오를 것으로 예상합니다. " 이것은 UALink의 단기적 잠재력에도 불구하고, 이더넷의 개방성, 비용 장점,그리고 지속적인 혁신은 결국 승리할 것입니다..

인공지능 워크로드를 위한 네트워크 성능을 더욱 향상시키기 위해, 코패키지드 옵틱스 (CPO) 기술은 주목을 받고 있습니다.광 신호 경로를 단축하여 전력 소비와 신호 손실을 줄이는 동시에 더 큰 대역폭을 가능하게합니다., 낮은 지연시간, 향상된 에너지 효율.

오래전부터 인피니밴드와 연관되어 있던 엔비디아도 이더넷과 CPO를 채택하고 있습니다.이더넷 기반의 스펙트럼-X 라인은 초기 구성에서 경쟁사의 제안과 "약 비교적"화되었습니다.델'오로 그룹은 실리콘 광학 스위치의 CPO 채택에 대한 엔비디아의 리더십을 강조합니다.

엔비디아의 CPO 버전의 스펙트럼-X 및 퀀텀-X (인피니밴드 기반) 은 올해 출시될 것으로 예상됩니다. 엔비디아 엔지니어들은 이러한 CPO 솔루션이 전력 효율을 3.5배, 신호 무결성을 63배,그리고 규모에서 10배 더 큰 네트워크 탄력성을 제공합니다.이 지표들은 인공지능 네트워크에 대한 CPO의 변화 잠재력을 나타냅니다.

브로드컴은 또한 CPO 기술을 발전시키고 있다. 2021년부터는 800Gb/s 및 1.6Tb/s 속도를 지원하는 CPO 스위치를 개발했다. 지난해 말 브로드컴은 메타의 광학 제품 테스트를 공개했다.400G 역량 항구 운용 시간 수 백만 시간 동안 연결 고리를 누리지 못하며 놀라운 신뢰성을 입증했습니다..

그럼에도 불구하고 브로드컴의 CEO인 호크 탄은 투자자들에게 "나는 실리콘 광학이 유일한 해결책이 될 미래를 예측할 수 있다.하지만 우리는 아직 그 단계에 이르지 않았습니다. 비록 우리가 기술을 가지고 있고 계속 개발하고 있긴 하지만요.이 온화한 전망은 CPO의 널리 인정된 잠재력에도 불구하고 비용, 생산량 및 대량 생산에 대한 남아있는 과제를 반영합니다.

인공지능이 주도하는 데이터센터 네트워크의 변화는 거대한 시장 기회뿐만 아니라 기술 진화의 새로운 장을 예고합니다.이더넷이 예상대로 지배할 수 있는지 여부.

이더넷의 개방성과 표준화는 핵심 강점으로 남아 있으며, 혁신과 비용 절감을 촉진하는 광범위한 생태계 참여를 가능하게 합니다.높은 성능의 수요, 높은 대역폭 네트워크가 성장할 것입니다. 이더넷의 진화하는 표준과 경제는 그것을 유리한 위치에 놓습니다.

그러나 인공지능 워크로드의 복잡성은 새로운 과제를 제시합니다. 예를 들어, 확장 아키텍처에서 이더넷을 통해 독점적인 직물의 성능을 일치시키는 것은 집중적인 R&D를 필요로합니다.CPO 통합은 또한 효율적인 신호 전송을 위해 더 나은 광 구성 요소 호환성을 요구합니다..

미래 데이터센터 네트워크는 다양한 솔루션을 제공 할 것입니다. 이더넷이 지배할 것입니다.UALink 같은 신흥 기술은 틈새를 찾을 수 있습니다.한편, InfiniBand는 특정 고성능 컴퓨팅 시나리오에서 관련성을 유지할 것입니다.

• 더 빠른 이더넷:800GbE, 1.6TbE, 그리고 그 이상은 인공지능 훈련과 추론 요구를 충족시키기 위해 가속화 될 것입니다.
• CPO 입양:CPO가 성숙하고 비용이 감소함에 따라 점차 데이터 센터 스위치로 진입하여 성능과 효율성을 높일 것입니다.
• 네트워크 정보:인공지능은 네트워크 관리와 최적화를 향상시키고 운영 효율성과 신뢰성을 향상시킬 것입니다.
• 소프트웨어 정의 네트워크 (SDN):SDN은 인공지능 작업량의 역동적 성격을 수용하기 위해 보다 유연한 제어 및 관리를 제공할 것입니다.

인공지능의 폭발적인 성장은 데이터센터 스위치 시장을 근본적으로 재구성하고 있으며, 100억 달러의 기회가 전례 없는 잠재력을 나타냅니다.인공지능이 주도하는 네트워크 혁명이 진행 중입니다., 이더넷은 개방성, 비용 효율성 및 지속적인 혁신으로 인해 장기적으로 승리합니다. CPO와 같은 혁명적 기술은 AI 네트워크 성능에 새로운 동력을 주입합니다..인공지능이 주도하는 이 변화 속에서 변화를 수용하고 전략적 계획과 지속적인 혁신은 경쟁 성공에 필수적입니다.데이터센터 네트워크의 놀라운 진화에 목격하고 참여하는.