Восхождение больших моделей ИИ: взрывной рост спроса на сетевое оборудование стал инвестиционной горячей темой

Важность сети в эпоху больших моделей ИИ

В эпоху больших моделей спрос на сетевое оборудование, такое как оптические модули, коммутаторы и т.д., резко возрос и ускорилась его итерация. В данной статье будет рассмотрено, почему сеть стала ключевым элементом эпохи ИИ, а также обсуждены инновации и инвестиционные возможности в сетевой сфере.

Источник сетевого спроса

Входя в эпоху больших моделей, разница между объемом моделей и пределом одной видеокарты быстро увеличивается, и отрасль переходит к многосерверным кластерным решениям для решения проблем обучения, что составляет основу для повышения важности сети в эпоху ИИ. В отличие от прошлого, когда передавались только данные, сегодня сеть используется в большей степени для синхронизации параметров моделей между видеокартами, что требует более высокой плотности и емкости сети.

Растущий объем моделей приводит к увеличению времени обучения. Для сокращения времени обучения необходимо повысить вычислительную эффективность, а увеличение "числа устройств" и "параллельной эффективности" напрямую определяет вычислительную мощность.

В процессе обучения больших моделей необходимо выравнивание между одиночными картами после каждой вычислительной операции, что предъявляет более высокие требования к сетевой передаче и обмену.

Обучение больших моделей часто продолжается несколько месяцев, и перерывы могут привести к огромным потерям. Сбой или слишком высокая задержка на каком-либо этапе сети могут привести к прерыванию. Современные ИИ-сети стали сложными системными проектами, сравнимыми с самолетами и авианосцами.

Направление сетевых инноваций

С увеличением объема инвестиций в вычислительную мощность до уровня нескольких сот миллиардов долларов, снижение затрат, открытость и баланс вычислительной мощности стали основными темами сетевых инноваций.

Изменение коммуникационных сред: оптические модули стремятся к более высокой скорости, одновременно снижая затраты с помощью LPO, LRO, кремниевой оптики и других методов. Медь занимает доминирующее положение в соединениях внутри шкафов благодаря своим соотношениям цены и качества. Новые технологии, такие как Chiplet и Wafer-scaling, ускоряют исследование пределов кремниевых соединений.

Соревнование сетевых протоколов: протоколы межчиповой связи и тесная связь с графическими процессорами, такие как NV-LINK от NVIDIA и Infinity Fabric от AMD. Конкуренция между IB и Ethernet является главной темой связи между узлами.

Изменение сетевой архитектуры: в настоящее время широко используется архитектура Leaf-Spine, но с увеличением количества узлов ее избыточные характеристики приводят к значительным сетевым затратам для сверхбольших кластеров. Архитектура Dragonfly, архитектура только для рельсов и другие могут стать направлением эволюции для следующего поколения сверхбольших кластеров.

Инвестиционные рекомендации

Основное звено системы связи: Zhongji Innolight, Xin Yisheng, Tianfu Communication, Industrial Fortune Union, Invic, Shanghai Electric Co., Ltd.

Инновации в системах связи: YOFC, Tetherlight, Yuanjie Technology, Centec Communications-U, Cambrian, Taclink.

Предупреждение о рисках

Спрос на ИИ оказался ниже ожиданий, закон масштабирования перестал действовать, конкуренция в отрасли усиливается.