L'émergence des grands modèles d'IA entraîne une explosion de la demande en équipements réseau, devenant un point chaud d'investissement.

L'importance du réseau à l'ère des grands modèles d'IA

À l'ère des grands modèles, la demande pour des équipements réseau tels que les modules optiques, les commutateurs, etc. explose et l'itération s'accélère. Cet article explorera pourquoi le réseau est devenu un maillon clé à l'ère de l'IA et discutera des innovations et des opportunités d'investissement du côté réseau.

Source de la demande réseau

Avec l'entrée dans l'ère des grands modèles, l'écart entre la taille des modèles et la limite d'une seule carte graphique s'est rapidement creusé, poussant l'industrie à se tourner vers des clusters de serveurs multiples pour résoudre les problèmes d'entraînement. Cela constitue la base de l'importance accrue des réseaux à l'ère de l'IA. Contrairement au passé où il s'agissait simplement de transmettre des données, aujourd'hui, les réseaux sont davantage utilisés pour synchroniser les paramètres des modèles entre les cartes graphiques, ce qui nécessite une densité et une capacité de réseau plus élevées.

L'augmentation de la taille des modèles entraîne un temps d'entraînement accru. Pour réduire le temps d'entraînement, il est nécessaire d'améliorer l'efficacité de calcul, et l'augmentation du "nombre d'appareils" et de "l'efficacité de parallélisme" détermine directement la puissance de calcul.

Dans l'entraînement de grands modèles, il est nécessaire d'aligner entre les cartes après chaque calcul, ce qui pose de plus grandes exigences en matière de transmission et d'échange de réseau.

L'entraînement des grands modèles dure souvent plusieurs mois, et une interruption peut entraîner des pertes énormes. Une défaillance ou un retard excessif à un certain stade du réseau peut provoquer une interruption. Les réseaux AI modernes sont devenus des systèmes d'ingénierie complexes comparables à ceux des avions et des porte-avions.

Direction de l'innovation numérique

Avec l'expansion de l'investissement en puissance de calcul à plusieurs dizaines de milliards de dollars, la réduction des coûts, l'ouverture et l'équilibre de l'échelle de puissance de calcul sont devenus les principaux sujets d'innovation du réseau.

Médias de communication : les modules optiques visent des vitesses plus élevées tout en réduisant les coûts grâce à des méthodes telles que LPO, LRO et la photonique sur silicium. Les câbles en cuivre dominent la connexion à l'intérieur des armoires en raison de leur rapport qualité-prix. De nouvelles technologies telles que Chiplet et Wafer-scaling accélèrent l'exploration des limites de l'interconnexion basée sur le silicium.

Compétition des protocoles réseau : protocoles de communication inter-puces fortement liés aux cartes graphiques, tels que NV-LINK de NVIDIA, Infinity Fabric d'AMD, etc. La compétition entre IB et Ethernet est la principale thématique de la communication entre nœuds.

Changements d'architecture réseau : L'architecture en leaf-spine est actuellement largement adoptée, mais avec l'augmentation du nombre de nœuds, ses caractéristiques de redondance entraînent des coûts réseau importants pour les très grands clusters. L'architecture Dragonfly, l'architecture rail-only, etc. sont prometteuses en tant qu'orientations d'évolution pour la prochaine génération de très grands clusters.

Conseils d'investissement

Éléments clés du système de communication : Zhongji Xuchuang, NewEase, Tianfu Communication, Industrial Fulian, Invec, Hu Dian Co., Ltd.

Innovation dans le système de communication : Yangtze Optical Fiber, Taichin Technology, Source Technology, Shengke Communication-U, Cambrien, Dekoli.

Avertissement de risque

La demande en IA ne répond pas aux attentes, la loi d'échelle échoue, la concurrence dans le secteur s'intensifie.