El auge de los grandes modelos de IA provoca una explosión en la demanda de dispositivos de red, convirtiéndose en un punto caliente de inversión.

La importancia de la red en la era de los grandes modelos de IA

En la era de los grandes modelos, la demanda de dispositivos de red como módulos ópticos, conmutadores, etc., ha estallado y la iteración se ha acelerado. Este artículo explorará por qué la red se ha convertido en un eslabón clave en la era de la IA y discutirá las oportunidades de innovación e inversión en el lado de la red.

Origen de la demanda en la red

Con la llegada de la era de los grandes modelos, la diferencia entre el tamaño del modelo y el límite de una sola tarjeta se ha ampliado rápidamente, lo que ha llevado a la industria a recurrir a soluciones de clúster de múltiples servidores para resolver problemas de entrenamiento. Esto ha constituido la base para el aumento de la importancia de la red en la era de la IA. A diferencia del pasado, cuando simplemente se transmitía datos, hoy en día la red se utiliza más para sincronizar los parámetros del modelo entre las tarjetas gráficas, lo que requiere una mayor densidad y capacidad de la red.

El creciente tamaño del modelo está causando un aumento en el tiempo de entrenamiento. Para reducir el tiempo de entrenamiento, es necesario mejorar la eficiencia computacional, y aumentar el "número de dispositivos" y la "eficiencia de paralelismo" determina directamente la potencia de cálculo.

En el entrenamiento de grandes modelos, después de cada cálculo, es necesario realizar una alineación entre las tarjetas individuales, lo que plantea mayores requisitos para la transmisión y el intercambio de redes.

El entrenamiento de grandes modelos a menudo dura varios meses, y una interrupción puede causar pérdidas enormes. Una falla en un enlace de la red o una latencia demasiado alta pueden provocar una interrupción. Las redes de IA modernas se han convertido en sistemas de ingeniería complejos comparables a aviones y portaaviones.

Dirección de innovación en la red

A medida que la inversión en poder de cómputo se expande a niveles de cientos de miles de millones de dólares, la reducción de costos, la apertura y el equilibrio en la escala del poder de cómputo se convierten en los principales temas de innovación en la red.

Cambio de medio de comunicación: Los módulos ópticos, al buscar mayores velocidades, también reducen costos a través de LPO, LRO y silicio fotónico. Los cables de cobre dominan la conexión dentro de los armarios debido a ventajas de costo-beneficio. Nuevas tecnologías como Chiplet y Wafer-scaling aceleran la exploración del límite de interconexión basado en silicio.

Competencia de protocolos de red: protocolos de comunicación entre chips y fuerte vinculación con tarjetas gráficas, como NV-LINK de NVIDIA, Infinity Fabric de AMD, etc. La competencia entre IB y Ethernet es la melodía principal de la comunicación entre nodos.

Cambios en la arquitectura de red: actualmente se utiliza comúnmente la arquitectura de hoja y espina, pero a medida que aumenta el número de nodos, sus características de redundancia generan un alto costo de red para clústeres extremadamente grandes. La arquitectura Dragonfly, la arquitectura solo de riel, entre otras, se espera que se conviertan en direcciones evolutivas para la próxima generación de clústeres extremadamente grandes.

Consejos de inversión

Elementos clave del sistema de comunicación: Zhongji Xuchuang, New Yeason, Tianfu Communication, Industrial Fulian, Invec, Hu Dain Co.

Innovación en el sistema de comunicación: Yangtze Optical Fibre and Cable Joint Stock Limited Company, Taison Communication, Yuanjie Technology, Shengke Communication-U, Cambrian, Dekoli.

Aviso de riesgo

La demanda de IA no cumple con las expectativas, la ley de escalado ha fallado y la competencia en la industria se intensifica.