Sự trỗi dậy của mô hình AI lớn, nhu cầu thiết bị mạng bùng nổ trở thành điểm nóng đầu tư

Tầm quan trọng của mạng trong thời đại mô hình AI lớn

Thời đại mô hình lớn, nhu cầu về thiết bị mạng như mô-đun quang, switch, v.v. bùng nổ, tăng tốc độ lặp lại. Bài viết này sẽ khám phá lý do tại sao mạng trở thành khâu then chốt trong thời đại AI, và thảo luận về sự đổi mới và cơ hội đầu tư ở phía mạng.

Nguồn gốc của nhu cầu mạng

Vào thời đại mô hình lớn, khoảng cách giữa kích thước mô hình và giới hạn của một thẻ nhanh chóng gia tăng, ngành công nghiệp chuyển sang giải quyết vấn đề đào tạo bằng cụm máy chủ đa năng, điều này tạo thành nền tảng cho sự gia tăng tầm quan trọng của mạng trong thời đại AI. So với việc chỉ đơn giản truyền tải dữ liệu trong quá khứ, hiện nay mạng chủ yếu được sử dụng để đồng bộ hóa các tham số mô hình giữa các thẻ đồ họa, yêu cầu cao hơn về mật độ và dung lượng mạng.

Kích thước mô hình ngày càng lớn dẫn đến thời gian huấn luyện tăng. Để rút ngắn thời gian huấn luyện, cần nâng cao hiệu suất tính toán, trong đó việc mở rộng "số thiết bị" và "hiệu suất song song" trực tiếp quyết định đến sức mạnh tính toán.

Trong quá trình huấn luyện mô hình lớn, sau mỗi lần tính toán, cần phải thực hiện căn chỉnh giữa các thẻ đơn, điều này đặt ra yêu cầu cao hơn về truyền tải và trao đổi mạng.

Việc đào tạo mô hình lớn thường kéo dài hàng tháng, việc gián đoạn có thể gây ra tổn thất lớn. Sự cố hoặc độ trễ quá cao ở một phần nào đó của mạng có thể dẫn đến gián đoạn. Mạng AI hiện đại đã trở thành một hệ thống kỹ thuật phức tạp tương đương với máy bay và tàu sân bay.

Hướng đổi mới mạng

Khi quy mô đầu tư vào sức mạnh tính toán tăng lên đến hàng trăm tỷ đô la, giảm chi phí, mở cửa và cân bằng quy mô sức mạnh tính toán trở thành những vấn đề chính trong đổi mới mạng.

Thay đổi phương tiện truyền thông: Mô-đun quang không chỉ tìm kiếm tốc độ cao hơn mà còn giảm chi phí thông qua các phương pháp như LPO, LRO, quang silic. Cáp đồng chiếm ưu thế trong kết nối tủ do lợi thế về giá cả và hiệu suất. Các công nghệ mới như Chiplet, Wafer-scaling đang thúc đẩy việc khám phá giới hạn kết nối silicon.

Cạnh tranh giao thức mạng: giao thức truyền thông giữa các chip và sự ràng buộc mạnh với card đồ họa, như NV-LINK của NVIDIA, Infinity Fabric của AMD, v.v. Cạnh tranh giữa IB và Ethernet là chủ đề chính trong giao tiếp giữa các nút.

Thay đổi kiến trúc mạng: Hiện tại, kiến trúc lá và gốc được áp dụng phổ biến, nhưng khi số lượng nút tăng lên, tính năng dư thừa của nó đem lại chi phí mạng lớn cho các cụm siêu lớn. Kiến trúc Dragonfly, kiến trúc chỉ ray, v.v. có khả năng trở thành hướng tiến hóa cho các cụm siêu lớn thế hệ tiếp theo.

Gợi ý đầu tư

Các khâu cốt lõi của hệ thống truyền thông: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Industrial Fulian, Yingweike, Hudean Co., Ltd.

Các liên kết đổi mới của hệ thống truyền thông: Long飞光纤, Tai辰光, Nguyên杰科技, Thịnh科通信-U, Hàn武纪, Đức科立.

Cảnh báo rủi ro

Nhu cầu AI không đạt kỳ vọng, quy luật mở rộng không còn hiệu lực, cạnh tranh trong ngành gia tăng.