Công ty con của Huyền Phương lớn sử dụng công nghệ bộ nhớ cache ổ cứng của nhà sản xuất mô hình lớn DeepSeek

Ngày 2 tháng 8, AGI của tập đoàn bán riêng tư Fantom Quant đã thông báo trên tài khoản Weibo chính thức của mình rằng tổ chức mới tìm kiếm Độ sâu (DeepSeek) đã triển khai công nghệ bộ nhớ đệm đĩa cứng trong ngữ cảnh, lưu trữ nội dung dự kiến ​​sẽ được sử dụng lại trong tương lai trên một mảng đĩa cứng phân tán. Trong các tình huống sử dụng API mô hình lớn, nếu đầu vào trùng lặp, phần trùng lặp chỉ cần đọc từ bộ nhớ đệm, không cần tính toán. Phần trúng kích hoạt bộ nhớ đệm, DeepSeek tính phí là 0,1 đồng mỗi triệu mã thông báo.