VRAM Калькулятор

Расчёт требований GPU для запуска LLM моделей

Модель

GPU

Параметры

Квантизация модели

Квантизация KV Cache

Длина контекста

Batch size1

Одновременные пользователи1

Фреймворк

Количество GPU1

Выберите модель для расчёта