Undominated.ai

Собственный хостинг

Достаточно ОЗУ и того, есть ли у вас GPU. Всё остальное необязательно. Ранжирование — это арифметика по числам параметров с источником: победителя выбирает не NVIDIA.

25 строк каталога помечены как открытые веса. Ничто иное не рассматривается.
25 из них имеют число параметров с источником. Остальные указаны как неизвестные, а не угаданные.
1 ГиБ запаса на среду выполнения — заявленного, а не измеренного на вашей машине.
GPU
ОС (необязательно — только для подбора ПО)
Планируемый контекст
Кэш KV растёт вместе с ним. Мы не берём максимум из карточки модели.

7 из 25 профилированных моделей с открытыми весами помещаются в 24 ГиБ (vram) при контексте 8192. Лучшая по оценке из помещающихся: Gemma 4 31B (Q5_K_M).

Веса 21,106 GiB KV не оценён Среда выполнения 1 GiB Запас 1,9 GiB / 24 GiB

VRAM as entered. Driver reservation is inside the 1 GiB overhead, not extra.

48 ГиБ поднимает квантование Gemma 4 31B до Q8_0. Та же модель, а не более высокая оценка интеллекта.

Среди моделей, которые помещаются

Наивысший Эло LMArena среди помещающихся: Gemma 4 31B 1443,4. Эло — шкала предпочтений людей, а не индекс интеллекта.

The arena boards are separate scales and are never blended. A missing cell is unmeasured, not zero. A model’s highest axis is relative to its own scores, not a claim it leads the catalogue.

Оценённые модели, которые помещаются

МодельПредпочтения людейПодходящее квантованиеОценка, ГиБЗапас
Gemma 4 31B
зрениевидеорассуждениеинструменты
1443,4Q5_K_M22,1061,894
Qwen3.8 27B
зрениевидеорассуждениеинструменты
1440,7Q5_K_M20,0633,938
Phi 4 1216,7Q8_017,4386,563
  • KV heads and head dim are not in the public size table we used. Cache is not estimated.
  • KV cache not estimated — layer/head geometry is not in the sourced profile. Longer context may not fit.

Помещаются, без оценки

  • Muse Glimmer 30B — Q5_K_M, 21,756 GiB без оценки зрениерассуждениеинструменты
  • Ministral 3 14B 2512 — Q8_0, 17,019 GiB без оценки зрениеинструменты
  • Ministral 3 8B 2512 — F16, 19,663 GiB без оценки зрениеинструменты
  • Ministral 3 3B 2512 — F16, 9,413 GiB без оценки зрениеинструменты

Что на самом деле даёт апгрейд

Узкое место — память GPU. Больше системного ОЗУ не загрузит дополнительные веса на эту карту.

Оценка, ГиБОткрываетПримерПрайсовая цена
48 GiBGemma 4 31B — Q8_0та же модель, более высокое квантованиеrtx a6000, rtx 6000 ada, rtx pro 6000 blackwellПотребительской цены в этом файле нет

Следующая по оценке модель каталога — Kimi K3, и даже в Q4_K_M ей нужно 1691,5 ГиБ. Это не настольная карта.

NVIDIA 'Starting at' list prices as published 2026-08-25, not a store quote and not a used-market index. Street prices in August 2026 are often much higher (Tom's Hardware Newegg median RTX 5090 $4,699 vs $1,999 list). Last-gen 24 GB cards (4090, 3090) have no current NVIDIA starting-at in this file. Datacenter cards have no consumer list here. RAM DIMMs are not priced — they move weekly.

Апгрейды используют ту же формулу вместимости, что и ранжирование. Прайсовые цены — это цены NVIDIA «от», по состоянию на 2026-08-25. Рыночные цены часто выше. У б/у карт на 24 ГБ и GPU для ЦОД прайса здесь нет. Модули ОЗУ не оцениваются.

Не помещаются или не профилированы

  • cohere/command-a-plus — even Q4_K_M wants 132.618 GiB; pool is 24 GiB
  • deepseek/deepseek-v4-flash-vision-exp — even Q4_K_M wants 184.902 GiB; pool is 24 GiB
  • z-ai/glm-5.3 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB
  • qwen/qwen3.8-2.4t-a95b — even Q4_K_M wants 1450.719 GiB; pool is 24 GiB
  • moonshotai/kimi-k3 — even Q4_K_M wants 1691.5 GiB; pool is 24 GiB
  • z-ai/glm-5.2 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB
  • moonshotai/kimi-k2.7-code — even Q4_K_M wants 604.75 GiB; pool is 24 GiB
  • nvidia/nemotron-3-ultra-550b-a55b — even Q4_K_M wants 333.063 GiB; pool is 24 GiB
  • minimax/minimax-m3 — even Q4_K_M wants 259.405 GiB; pool is 24 GiB
  • deepseek/deepseek-v4-pro — even Q4_K_M wants 967 GiB; pool is 24 GiB
  • deepseek/deepseek-v4-flash — even Q4_K_M wants 172.465 GiB; pool is 24 GiB
  • mistralai/mistral-small-2603 — even Q4_K_M wants 73.2 GiB; pool is 24 GiB
  • mistralai/mistral-large-2512 — even Q4_K_M wants 408.531 GiB; pool is 24 GiB
  • deepseek/deepseek-v3.2 — even Q4_K_M wants 406.116 GiB; pool is 24 GiB
  • openai/gpt-oss-120b — even Q4_K_M wants 72.201 GiB; pool is 24 GiB
  • meta-llama/llama-4-maverick — even Q4_K_M wants 242.5 GiB; pool is 24 GiB
  • meta-llama/llama-4-scout — even Q4_K_M wants 66.809 GiB; pool is 24 GiB
  • cohere/command-a — even Q4_K_M wants 68.016 GiB; pool is 24 GiB

Дополнительные сведения (необязательно)

Не меняет ранжирование. Необязательный разбор ваших заметок с помощью ИИ на фоне приведённых выше чисел, на сильнейших моделях NVIDIA NIM.

Как получается это число

Веса: измеренный размер GGUF, если он у нас есть, иначе общее число параметров × бит на вес ÷ 8. Q4_K_M считается как 4,83 бита на параметр. Память MoE считается по общему числу параметров, а не по активным.

Кэш KV, когда геометрия слоёв и голов имеет источник: 2 × kvLayers × kvHeads × headDim × контекст × 2 байта (FP16, батч 1). Гибридные модели используют число слоёв внимания, а не все слои. Если геометрии нет, кэш не учитывается, и об этом сказано.

Добавляется 1 ГиБ на CUDA и среду выполнения. Единая память Apple использует ОЗУ как пул. Режим только на CPU — это вместимость по памяти, а не утверждение о скорости. Поколение DDR при подборе игнорируется: оно меняет пропускную способность, а не то, помещаются ли веса в память.

Кандидатами являются только строки каталога с openWeights=true. Таких строк 25; у 25 есть размеры с источником. Помещающиеся модели без оценки перечислены отдельно. Более высокая оценка не означает прямую замену.

Тип ОЗУ (DDR4/DDR5/LPDDR) не является полем. Он не влияет на то, помещается ли модель.

Доказательства и вопросы
Markdown для LLM