Как понять, какую модель потянет компьютер
Не начинайте с названия самой большой модели. Сначала посмотрите, сколько свободной памяти есть у компьютера и какое оборудование будет выполнять вычисления.
ОЗУ и видеопамять — не одно и то же
Оперативную память используют Windows, программы и модель при вычислениях на CPU. Видеопамять — ресурс дискретной видеокарты. «16 ГБ памяти в ноутбуке» обычно означает ОЗУ, а не 16 ГБ VRAM.
Узнать конфигурацию можно в диспетчере задач Windows: раздел «Производительность» показывает процессор, память и GPU. Запишите точные названия устройств, а не только объём памяти.
Что занимает память при запуске
Помимо весов модели нужен запас под контекст диалога, промежуточные вычисления и среду. Размер скачанного файла не равен полному расходу памяти. У длинной беседы требования могут оказаться выше, чем у короткого первого вопроса.
Если памяти недостаточно, программа может использовать более медленный путь вычислений или не запустить модель. Поэтому обещание «помещается файл — значит всё будет быстро» неверно.
Разумная отправная точка
Без дискретной видеокарты начните с небольшой модели примерно 0.6–4B в Q4 и короткого запроса. При 8 ГБ ОЗУ лучше рассматривать самый компактный край диапазона. Модели крупнее могут работать на CPU, но комфортная скорость не гарантирована.
С 8 ГБ VRAM можно рассмотреть средний класс 4–9B; с большим запасом памяти — более крупные модели. Это предварительный ориентир, не сертификат совместимости. Для тяжёлых моделей проверяйте конкретный формат весов, длину контекста и поддержку GPU.
Как сравнивать честно
Возьмите одинаковый запрос, одинаковый контекст и одинаковую модель. Смотрите отдельно на время загрузки, задержку до первого ответа и скорость продолжения. Для покупки попросите проверить конфигурацию, похожую на вашу.
В нашем подборщике нет придуманного числа токенов в секунду: без реального замера конкретной связки такое число создаёт ложную уверенность.