Поставщик крупных моделей DeepSeek, подразделение квантового фонда, использует технологию кэширования на жестком диске

Компания-лидер частной продажи Huanyuan Quantitative объявила в своем официальном аккаунте в сети о запуске нового проекта по исследованию общего искусственного интеллекта AGI - DeepSeek, который использует технологию кэширования контекстного жесткого диска для хранения контента, который предположительно будет повторно использоваться в будущем, на распределенном массиве жестких дисков. В сценарии использования API больших моделей, если ввод повторяется, повторяющуюся часть можно просто прочитать из кэша, без необходимости вычислений. За использование кэша DeepSeek берет плату в размере 0,1 юаня за миллион токенов.