Виникнення великих моделей штучного інтелекту призвело до вибуху попиту на мережеве обладнання, що стало гарячою інвестиційною темою.

Важливість мережі в еру великих моделей ШІ

В епоху великих моделей попит на мережеве обладнання, таке як оптичні модулі, комутатори тощо, вибухає, прискорюючи ітерацію. У цій статті буде розглянуто, чому мережа стала ключовим елементом епохи ШІ, а також обговорено інновації та інвестиційні можливості в мережевій сфері.

Джерела мережевих вимог

Увійшовши в епоху великих моделей, різниця між обсягом моделей та максимальною потужністю одного графічного процесора швидко розширюється, і галузь переходить на рішення з використанням багатосерверних кластерів для вирішення проблеми навчання, що стало основою для підвищення важливості мережі в еру штучного інтелекту. У порівнянні з минулим, коли дані просто передавалися, зараз мережа в основному використовується для синхронізації параметрів моделей між графічними процесорами, що висуває вищі вимоги до щільності і місткості мережі.

Зростаючий обсяг моделі призводить до збільшення часу навчання. Щоб скоротити час навчання, необхідно підвищити обчислювальну ефективність, а збільшення "кількості пристроїв" та "паралельної ефективності" безпосередньо визначає обчислювальну потужність.

У навчанні великих моделей після кожного обчислення потрібно вирівнювати між одною картою, що ставить вищі вимоги до мережевої передачі та обміну.

Навчання великих моделей зазвичай триває кілька місяців, перерва може призвести до величезних втрат. Збої або надмірна затримка в якійсь частині мережі можуть призвести до перерви. Сучасні AI-мережі стали складними системними інженеріями, які можна порівняти з літаками та авіаносцями.

Напрямки мережевих інновацій

З розширенням масштабів інвестицій у обчислювальну потужність до кількох сотень мільярдів доларів, зниження витрат, відкритість і баланс масштабів обчислювальної потужності стали основними темами інновацій в мережі.

Зміна комунікаційних середовищ: оптичні модулі прагнуть до більш високих швидкостей, одночасно знижуючи витрати через LPO, LRO, кремнієву оптику та інші способи. Мідні кабелі займають місце в з'єднаннях шафи завдяки своїм перевагам у співвідношенні ціни та якості. Нові технології, такі як Chiplet та Wafer-scaling, прискорюють дослідження меж кремнієвих інтерконнектів.

Конкуренція мережевих протоколів: протоколи між чіпами та тісна прив'язка до графічних процесорів, такі як NV-LINK від NVIDIA, Infinity Fabric від AMD тощо. Конкуренція між IB та Ethernet є основною мелодією комунікації між вузлами.

Зміни в мережевій архітектурі: наразі широко застосовується архітектура Leaf-Spine, але з ростом кількості вузлів її надмірні характеристики створюють значні мережеві витрати для надвеликих кластерів. Архітектура Dragonfly, архітектура лише для рейок та інші мають потенціал стати напрямками еволюції для наступного покоління надвеликих кластерів.

Інвестиційні поради

Основна ланка системи зв'язку: Zhongji Innolight, Xin Yisheng, Tianfu Communication, Industrial Fortune Union, Invic, Shanghai Electric Co., Ltd.

Інноваційні етапи комунікаційної системи: Changfei оптоволокно, Taicheng Guang, Yuanjie Technology, Shengke Communication-U, Hanwujing, Dekoli.

Попередження про ризики

Попит на ШІ не відповідає очікуванням, закон масштабування втратив свою дію, конкуренція в галузі посилилася.