--- title: "Власний хостинг — яка модель з відкритими вагами вміститься на цій машині · Undominated.ai" canonical: https://undominated.ai/uk/self-host/ description: "Виходячи з ОЗП і пам’яті GPU, впорядковує моделі з відкритими вагами з каталогу, які справді вміщуються. Веде якість. Без оцінки — не нуль. Відсутнє число параметрів — не здогад." --- # Власний хостинг — яка модель з відкритими вагами вміститься на цій машині · Undominated.ai > Виходячи з ОЗП і пам’яті GPU, впорядковує моделі з відкритими вагами з каталогу, які справді вміщуються. Веде якість. Без оцінки — не нуль. Відсутнє число параметрів — не здогад. # Власний хостинг Достатньо ОЗП і того, чи є у вас GPU. Решта — необов’язкова. Ранжування — це арифметика за числами параметрів із джерелом: переможця обирає не NVIDIA. 25 рядків каталогу позначено як відкриті ваги. Ніщо інше не розглядається. 25 з них мають число параметрів із джерелом. Решта зазначена як невідома, а не вгадана. 1 ГіБ запасу на середовище виконання — заявленого, а не виміряного на вашій машині. [CPU 16 GiB](/self-host/cpu-16gb/)[8 GiB GPU](/self-host/8gb/)[10 GiB GPU](/self-host/10gb/)[12 GiB GPU](/self-host/12gb/)[16 GiB GPU](/self-host/16gb/)[20 GiB GPU](/self-host/20gb/)[24 GiB GPU](/self-host/24gb/)[32 GiB GPU](/self-host/32gb/)[40 GiB GPU](/self-host/40gb/)[48 GiB GPU](/self-host/48gb/)[80 GiB GPU](/self-host/80gb/)[94 GiB GPU](/self-host/94gb/)[96 GiB GPU](/self-host/96gb/)[192 GiB GPU](/self-host/192gb/) [RTX 5090](/self-host/rtx-5090/)[RTX 5080](/self-host/rtx-5080/)[RTX 5070 Ti](/self-host/rtx-5070-ti/)[RTX 5070](/self-host/rtx-5070/)[RTX 5060 Ti 16](/self-host/rtx-5060-ti-16/)[RTX 5060 Ti 8](/self-host/rtx-5060-ti-8/)[RTX 5060](/self-host/rtx-5060/)[RTX 5050](/self-host/rtx-5050/)[RTX 4090](/self-host/rtx-4090/)[RTX 4080](/self-host/rtx-4080/)[RTX 4070 Ti](/self-host/rtx-4070-ti/)[RTX 4070](/self-host/rtx-4070/)[RTX 4060 Ti 16](/self-host/rtx-4060-ti-16/)[RTX 4060 Ti 8](/self-host/rtx-4060-ti-8/)[RTX 4060](/self-host/rtx-4060/)[RTX 3090](/self-host/rtx-3090/)[RTX 3080 Ti](/self-host/rtx-3080-ti/)[RTX 3080 12](/self-host/rtx-3080-12/)[RTX 3080](/self-host/rtx-3080/)[RTX 3070 Ti](/self-host/rtx-3070-ti/)[RTX 3070](/self-host/rtx-3070/)[RTX 3060 Ti](/self-host/rtx-3060-ti/)[RTX 3060 8](/self-host/rtx-3060-8/)[RTX 3060](/self-host/rtx-3060/)[RTX A6000](/self-host/rtx-a6000/)[RTX A5000](/self-host/rtx-a5000/)[RTX A4000](/self-host/rtx-a4000/)[RTX 6000 ADA](/self-host/rtx-6000-ada/)[RTX 5000 ADA](/self-host/rtx-5000-ada/)[RTX PRO 6000 Blackwell](/self-host/rtx-pro-6000-blackwell/)[RTX PRO 5000 Blackwell](/self-host/rtx-pro-5000-blackwell/)[A100 80](/self-host/a100-80/)[A100 40](/self-host/a100-40/)[H100 NVL](/self-host/h100-nvl/)[H100](/self-host/h100/)[L40S](/self-host/l40s/)[T4](/self-host/t4/)[RX 7900 XTX](/self-host/rx-7900-xtx/)[RX 7900 XT](/self-host/rx-7900-xt/)[RX 6900 XT](/self-host/rx-6900-xt/)[RX 6800 XT](/self-host/rx-6800-xt/)[MI300X](/self-host/mi300x/) Системна ОЗП ГіБ GPU Немає (CPU) NVIDIA AMD Apple Intel Пам’ять GPU GiB Обов’язково, якщо ви не вказали карту з нашого списку. Apple: залиште порожнім, пулом є ОЗП. Назва GPU (необов’язково) Кількість GPU ОС (необов’язково — лише для добору ПЗ) Пропустити Linux Windows macOS Запланований контекст 4K 8K 16K 32K Кеш KV зростає разом із ним. Ми не беремо максимум із картки моделі. 7 із 25 профільованих моделей з відкритими вагами вміщуються в 24 ГіБ (vram) за контексту 8192. Найкраща за оцінкою з тих, що вміщуються: Gemma 4 31B (Q5_K_M). ** ** ** Ваги 21,106 GiB KV не оцінено Середовище виконання 1 GiB Запас 1,9 GiB / 24 GiB VRAM as entered. Driver reservation is inside the 1 GiB overhead, not extra. 48 ГіБ піднімає квантування Gemma 4 31B до Q8_0. Та сама модель, а не вища оцінка інтелекту. ## Серед моделей, що вміщуються Найвище Ело LMArena серед тих, що вміщуються: Gemma 4 31B 1443,4. Ело — шкала людських уподобань, а не індекс інтелекту. The arena boards are separate scales and are never blended. A missing cell is unmeasured, not zero. A model’s highest axis is relative to its own scores, not a claim it leads the catalogue. ## Оцінені моделі, що вміщуються | Модель | Людські вподобання | Придатне квантування | Оцінка, ГіБ | Запас | | --- | --- | --- | --- | --- | | [Gemma 4 31B](/models/google__gemma-4-31b-it/) зір відео міркування інструменти | 1443,4 | Q5_K_M | 22,106 | 1,894 | | [Qwen3.8 27B](/models/qwen__qwen3.8-27b/) зір відео міркування інструменти | 1440,7 | Q5_K_M | 20,063 | 3,938 | | [Phi 4](/models/microsoft__phi-4/) | 1216,7 | Q8_0 | 17,438 | 6,563 | - KV heads and head dim are not in the public size table we used. Cache is not estimated. - KV cache not estimated — layer/head geometry is not in the sourced profile. Longer context may not fit. ## Вміщуються, без оцінки - [Muse Glimmer 30B](/models/meta__muse-glimmer-30b/) — Q5_K_M, 21,756 GiB без оцінки зір міркування інструменти - [Ministral 3 14B 2512](/models/mistralai__ministral-14b-2512/) — Q8_0, 17,019 GiB без оцінки зір інструменти - [Ministral 3 8B 2512](/models/mistralai__ministral-8b-2512/) — F16, 19,663 GiB без оцінки зір інструменти - [Ministral 3 3B 2512](/models/mistralai__ministral-3b-2512/) — F16, 9,413 GiB без оцінки зір інструменти ## Що насправді дає апгрейд Вузьке місце — пам’ять GPU. Більше системної ОЗП не завантажить додаткові ваги на цю карту. | Оцінка, ГіБ | Відкриває | Приклад | Прайсова ціна | | --- | --- | --- | --- | | 48 GiB | [Gemma 4 31B](/models/google__gemma-4-31b-it/) — Q8_0 та сама модель, вище квантування | rtx a6000, rtx 6000 ada, rtx pro 6000 blackwell | Споживчої ціни в цьому файлі немає | Наступна за оцінкою модель каталогу — Kimi K3, і навіть у Q4_K_M їй потрібно 1691,5 ГіБ. Це не настільна карта. NVIDIA 'Starting at' list prices as published 2026-08-25, not a store quote and not a used-market index. Street prices in August 2026 are often much higher (Tom's Hardware Newegg median RTX 5090 $4,699 vs $1,999 list). Last-gen 24 GB cards (4090, 3090) have no current NVIDIA starting-at in this file. Datacenter cards have no consumer list here. RAM DIMMs are not priced — they move weekly. Апгрейди використовують ту саму формулу вміщення, що й ранжування. Прайсові ціни — це ціни NVIDIA «від», станом на 2026-08-25. Ринкові ціни часто вищі. У вживаних карт на 24 ГБ і GPU для ЦОД прайсу тут немає. Модулі ОЗП не оцінюються. ## Не вміщуються або не профільовані - cohere/command-a-plus — even Q4_K_M wants 132.618 GiB; pool is 24 GiB - deepseek/deepseek-v4-flash-vision-exp — even Q4_K_M wants 184.902 GiB; pool is 24 GiB - z-ai/glm-5.3 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB - qwen/qwen3.8-2.4t-a95b — even Q4_K_M wants 1450.719 GiB; pool is 24 GiB - moonshotai/kimi-k3 — even Q4_K_M wants 1691.5 GiB; pool is 24 GiB - z-ai/glm-5.2 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB - moonshotai/kimi-k2.7-code — even Q4_K_M wants 604.75 GiB; pool is 24 GiB - nvidia/nemotron-3-ultra-550b-a55b — even Q4_K_M wants 333.063 GiB; pool is 24 GiB - minimax/minimax-m3 — even Q4_K_M wants 259.405 GiB; pool is 24 GiB - deepseek/deepseek-v4-pro — even Q4_K_M wants 967 GiB; pool is 24 GiB - deepseek/deepseek-v4-flash — even Q4_K_M wants 172.465 GiB; pool is 24 GiB - mistralai/mistral-small-2603 — even Q4_K_M wants 73.2 GiB; pool is 24 GiB - mistralai/mistral-large-2512 — even Q4_K_M wants 408.531 GiB; pool is 24 GiB - deepseek/deepseek-v3.2 — even Q4_K_M wants 406.116 GiB; pool is 24 GiB - openai/gpt-oss-120b — even Q4_K_M wants 72.201 GiB; pool is 24 GiB - meta-llama/llama-4-maverick — even Q4_K_M wants 242.5 GiB; pool is 24 GiB - meta-llama/llama-4-scout — even Q4_K_M wants 66.809 GiB; pool is 24 GiB - cohere/command-a — even Q4_K_M wants 68.016 GiB; pool is 24 GiB ## Додаткові відомості (необов’язково) Не змінює ранжування. Необов’язковий розбір ваших нотаток за допомогою ШІ на тлі наведених вище чисел, на найсильніших моделях NVIDIA NIM. Розібрати за допомогою ШІ ## Як отримано це число Ваги: виміряний розмір GGUF, якщо він у нас є, інакше загальна кількість параметрів × біти на вагу ÷ 8. Q4_K_M рахується як 4,83 біта на параметр. Пам’ять MoE рахується за загальною кількістю параметрів, а не за активними. Кеш KV, коли геометрія шарів і голів має джерело: 2 × kvLayers × kvHeads × headDim × контекст × 2 байти (FP16, пакет 1). Гібридні моделі використовують кількість шарів уваги, а не всі шари. Якщо геометрії немає, кеш не враховується, і про це сказано. Додається 1 ГіБ на CUDA і середовище виконання. Єдина пам’ять Apple використовує ОЗП як пул. Режим лише на CPU — це вміщення за пам’яттю, а не твердження про швидкість. Покоління DDR при доборі ігнорується: воно змінює пропускну здатність, а не те, чи вміщуються ваги в пам’ять. Кандидатами є лише рядки каталогу з openWeights=true. Таких рядків 25; у 25 є розміри з джерелом. Моделі без оцінки, що вміщуються, перелічено окремо. Вища оцінка не означає прямої заміни. Тип ОЗП (DDR4/DDR5/LPDDR) не є полем. Він не впливає на те, чи вміщується модель. ## Continue your investigation - [Inspect open-weight models · English](/open-weights/) - [Compare model variants · English](/families/) - [Review requirements · English](/compare/) - [Find serving tools · English](/tools/)