Kebangkitan model AI besar menyebabkan lonjakan permintaan perangkat jaringan menjadi fokus investasi

Pentingnya Jaringan di Era Model Besar AI

Di era model besar, permintaan perangkat jaringan seperti modul optik, switch, dll. meledak, dan iterasi semakin cepat. Artikel ini akan membahas mengapa jaringan menjadi komponen kunci di era AI, serta mendiskusikan inovasi dan peluang investasi di sisi jaringan.

Sumber Permintaan Jaringan

Memasuki era model besar, perbedaan ukuran model dan batasan kartu tunggal dengan cepat melebar, industri beralih ke solusi kluster multi-server untuk mengatasi masalah pelatihan, yang membentuk dasar peningkatan pentingnya jaringan di era AI. Dibandingkan dengan masa lalu yang hanya mentransfer data, saat ini jaringan lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, dengan tuntutan yang lebih tinggi terhadap kepadatan dan kapasitas jaringan.

Besar model yang semakin meningkat menyebabkan waktu pelatihan menjadi lebih lama. Untuk memperpendek waktu pelatihan, perlu meningkatkan efisiensi komputasi, sementara memperbesar "jumlah perangkat" dan "efisiensi paralel" secara langsung menentukan daya komputasi.

Dalam pelatihan model besar, perlu dilakukan penyelarasan antar kartu tunggal setelah setiap perhitungan, yang mengajukan tuntutan lebih tinggi terhadap transmisi dan pertukaran jaringan.

Pelatihan model besar sering berlangsung selama berbulan-bulan, dan gangguan bisa menyebabkan kerugian besar. Kerusakan atau keterlambatan yang tinggi pada salah satu bagian jaringan dapat menyebabkan gangguan. Jaringan AI modern telah menjadi rekayasa sistem yang kompleks setara dengan pesawat terbang dan kapal induk.

Arah Inovasi Jaringan

Dengan skala investasi daya komputasi yang membengkak hingga ratusan miliar dolar, pengurangan biaya, keterbukaan, dan keseimbangan skala daya komputasi menjadi isu utama inovasi jaringan.

Perubahan media komunikasi: Modul optik mengejar kecepatan yang lebih tinggi sambil juga mengurangi biaya melalui LPO, LRO, silikon optik, dan cara lainnya. Kabel tembaga menduduki koneksi dalam rak karena keunggulan biaya-efektivitasnya. Teknologi baru seperti Chiplet, Wafer-scaling mempercepat eksplorasi batas konektivitas berbasis silikon.

Persaingan protokol jaringan: protokol komunikasi antar chip yang terikat erat dengan kartu grafis, seperti NV-LINK dari NVIDIA, Infinity Fabric dari AMD, dan lainnya. Persaingan antara IB dan Ethernet adalah melodi utama komunikasi antar node.

Perubahan arsitektur jaringan: Saat ini, arsitektur leaf-spine umum digunakan, tetapi seiring dengan meningkatnya jumlah node, sifat redundansinya menyebabkan biaya jaringan yang cukup besar bagi kluster super besar. Arsitektur Dragonfly, arsitektur rail-only, dan lainnya diharapkan menjadi arah evolusi untuk kluster super besar generasi berikutnya.

Saran Investasi

Inti sistem komunikasi: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Industri Fulin, Yingwei Ke, Hudian Co.

Inovasi sistem komunikasi: Chengfei Fiber Optics, Taicheng Guang, Yuanjie Technology, Shengke Communication-U, Hanwujing, Dekeli.

Peringatan Risiko

Permintaan AI tidak memenuhi harapan, hukum skala gagal, persaingan industri semakin ketat.