Le fournisseur de grands modèles DeepSeek de la filiale de quantification de carrés magiques utilise la technologie de mise en cache de disque dur

Le 2 août, le géant du private sale, DeepSeek, a annoncé sur son compte officiel l'utilisation de la technologie de cache de disque contextuel pour explorer l'AGI (intelligence artificielle générale). Il stocke en cache le contenu prévu à utiliser à plusieurs reprises dans un tableau de disques distribués. Dans les scénarios d'utilisation de l'API de modèles volumineux, si une entrée se répète, seule la partie répétée doit être lue dans le cache, sans calcul. La partie mise en cache est facturée 0,1 yuan pour chaque million de tokens par DeepSeek.