Фонд ZhenGe объявил о пожертвовании проекту открытого исходного кода vLLM

Одейли Стар планеты Дайджест Новости. Фонд Чжэнгэ собирается сделать вклад в проект AI с открытым исходным кодом vLLM. Фонд Чжэнгэ заявил, что такой вклад направлен на содействие распространению технологии AI и приносит пользу большему количеству людей. vLLM разработан 3-х человеком командой из Университета Калифорнии в Беркли и представляет собой открытую платформу для ускорения вывода больших моделей, поддерживает более 30 последних открытых LLM, включая Mistral, Llama, и совместим с различными аппаратными архитектурами.