--- title: "Własny hosting — który model o otwartych wagach zmieści się na tej maszynie · Undominated.ai" canonical: https://undominated.ai/pl/self-host/ description: "Na podstawie RAM-u i pamięci GPU porządkuje modele o otwartych wagach z katalogu, które faktycznie się mieszczą. Prowadzi jakość. Brak oceny to nie zero. Brakująca liczba parametrów to nie domysł." --- # Własny hosting — który model o otwartych wagach zmieści się na tej maszynie · Undominated.ai > Na podstawie RAM-u i pamięci GPU porządkuje modele o otwartych wagach z katalogu, które faktycznie się mieszczą. Prowadzi jakość. Brak oceny to nie zero. Brakująca liczba parametrów to nie domysł. # Własny hosting Wystarczy RAM i informacja, czy masz GPU. Reszta jest opcjonalna. Ranking to arytmetyka na udokumentowanych liczbach parametrów — to nie NVIDIA wybiera zwycięzcę. 20 wierszy katalogu oznaczonych jako otwarte wagi. Nic innego nie jest kandydatem. 20 z nich ma udokumentowaną liczbę parametrów. Reszta figuruje jako nieznana, a nie zgadnięta. 1 GiB zapasu na środowisko uruchomieniowe — podane, nie zmierzone na twojej maszynie. RAM systemowy GiB GPU Brak (CPU) NVIDIA AMD Apple Intel Pamięć GPU GiB Wymagane, chyba że podasz kartę z naszej listy. Apple: zostaw puste; pulą jest RAM. Nazwa GPU (opcjonalnie) Liczba GPU System operacyjny (opcjonalnie — tylko oprogramowanie) Pomiń Linux Windows macOS Kontekst do zaplanowania 4K 8K 16K 32K Pamięć podręczna KV rośnie wraz z nim. Nie zakładamy maksimum z karty modelu. 6 z 20 sprofilowanych modeli o otwartych wagach mieści się w 24 GiB (vram) przy kontekście 8192. Najlepiej oceniony, który się mieści: Qwen3.8 27B (Q5_K_M). ** ** ** ** Wagi 18.563 GiB Pamięć podręczna KV 0.5 GiB Środowisko 1 GiB Zapas 3.9 GiB / 24 GiB VRAM as entered. Driver reservation is inside the 1 GiB overhead, not extra. 32 GiB podnosi kwantyzację modelu Qwen3.8 27B do Q8_0. Ten sam model, a nie wyższy wynik inteligencji. ## Wśród modeli, które się mieszczą Qwen3.8 27B ma najwyższe wyniki Artificial Analysis w inteligencji (52), programowaniu (68.1) i w trybie agentowym (50.9) wśród modeli, które się mieszczą. Najwyższe Elo LMArena wśród mieszczących się: Gemma 4 31B 1441.7. Elo to skala preferencji ludzi, a nie indeks inteligencji. Indeksy Artificial Analysis i Elo LMArena to różne skale. Pusta komórka oznacza brak pomiaru, nie zero. Najmocniejsza oś modelu odnosi się do jego własnych wyników, a nie do twierdzenia, że prowadzi w katalogu. ## Oceniane modele, które się mieszczą | Model | Ogólne | Kodowanie | Agentowe | Preferencje ludzi | Kwantyzacja, która się mieści | Szacowane GiB | Zapas | | --- | --- | --- | --- | --- | --- | --- | --- | | Qwen3.8 27B Szczyt AA: Kodowanie wizja wideo rozumowanie narzędzia | 52 | 68.1 | 50.9 | 1440.8 | Q5_K_M | 20.063 | 3.938 | | Gemma 4 31B Szczyt AA: Kodowanie wizja wideo rozumowanie narzędzia | 29.7 | 43.4 | 14.4 | 1441.7 | Q5_K_M | 22.106 | 1.894 | | Olmo 3 32B Think rozumowanie | — | — | — | 1298.5 | Q4_K_M | 22.32 | 1.68 | | Granite 4.1 8B narzędzia | — | 9.5 | — | 1291.6 | F16 | 18.25 | 5.75 | | Phi 4 | — | — | — | 1216.8 | Q8_0 | 17.438 | 6.563 | - Hybrid: only 16 of 64 layers are Gated Attention. KV uses kvLayers=16, not nLayers=64. Measured Q4 is Unsloth UD-Q4_K_M, not a vanilla Q4_K_M. ## Mieszczą się, bez oceny - [Muse Glimmer 30B](/models/meta__muse-glimmer-30b/) — Q5_K_M, 21.756 GiB bez oceny wizja rozumowanie narzędzia ## Co naprawdę daje rozbudowa Wąskim gardłem jest pamięć GPU. Więcej RAM-u systemowego nie załaduje dodatkowych wag na tę kartę. | Szacowane GiB | Odblokowuje | Przykład | Cena katalogowa | | --- | --- | --- | --- | | 32 GiB | Qwen3.8 27B — Q8_0 ten sam model, wyższa kwantyzacja | GeForce RTX 5090 (32 GiB) | USD 1999 od | Kolejny lepiej oceniony model z katalogu to Kimi K3, a nawet Q4_K_M wymaga 1691.5 GiB. To nie jest karta desktopowa. NVIDIA 'Starting at' list prices as published 2026-08-25, not a store quote and not a used-market index. Street prices in August 2026 are often much higher (Tom's Hardware Newegg median RTX 5090 $4,699 vs $1,999 list). Last-gen 24 GB cards (4090, 3090) have no current NVIDIA starting-at in this file. Datacenter cards have no consumer list here. RAM DIMMs are not priced — they move weekly. Rozbudowy korzystają z tego samego wzoru dopasowania co ranking. Ceny katalogowe to ceny „od” NVIDII, z dnia 2026-08-25. Ceny rynkowe bywają wyższe. Używane karty 24 GB i GPU serwerowe nie mają tu ceny katalogowej. Moduły RAM nie są wyceniane. ## Nie mieszczą się lub nie są sprofilowane - qwen/qwen3.8-2.4t-a95b — even Q4_K_M wants 1450.719 GiB; pool is 24 GiB - moonshotai/kimi-k3 — even Q4_K_M wants 1691.5 GiB; pool is 24 GiB - z-ai/glm-5.2 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB - moonshotai/kimi-k2.7-code — even Q4_K_M wants 604.75 GiB; pool is 24 GiB - nvidia/nemotron-3-ultra-550b-a55b — even Q4_K_M wants 333.063 GiB; pool is 24 GiB - minimax/minimax-m3 — even Q4_K_M wants 259.405 GiB; pool is 24 GiB - deepseek/deepseek-v4-pro — even Q4_K_M wants 967 GiB; pool is 24 GiB - deepseek/deepseek-v4-flash — even Q4_K_M wants 172.465 GiB; pool is 24 GiB - mistralai/mistral-small-2603 — even Q4_K_M wants 73.2 GiB; pool is 24 GiB - deepseek/deepseek-v3.2 — even Q4_K_M wants 406.116 GiB; pool is 24 GiB - openai/gpt-oss-120b — even Q4_K_M wants 72.201 GiB; pool is 24 GiB - meta-llama/llama-4-maverick — even Q4_K_M wants 242.5 GiB; pool is 24 GiB - meta-llama/llama-4-scout — even Q4_K_M wants 66.809 GiB; pool is 24 GiB - cohere/command-a — even Q4_K_M wants 68.016 GiB; pool is 24 GiB ## Dodatkowe szczegóły (opcjonalnie) Nie zmienia rankingu. Opcjonalna analiza AI twoich notatek w zestawieniu z powyższymi liczbami, przy użyciu najmocniejszych modeli NVIDIA NIM. Przeanalizuj z AI ## Jak powstaje ta liczba Wagi: zmierzony rozmiar GGUF, gdy go mamy, w przeciwnym razie łączna liczba parametrów × bity na wagę ÷ 8. Q4_K_M traktujemy jako 4,83 bita na parametr. Pamięć modeli MoE liczy się z parametrów łącznych, nie aktywnych. Pamięć podręczna KV, gdy geometria warstw i głowic jest udokumentowana: 2 × kvLayers × kvHeads × headDim × kontekst × 2 bajty (FP16, wsad 1). Modele hybrydowe używają liczby warstw uwagi, a nie wszystkich warstw. Przy braku geometrii pamięć podręczna jest pomijana i jest to zaznaczone. Dodaje się 1 GiB na CUDA i środowisko uruchomieniowe. Pamięć zunifikowana Apple używa RAM-u jako puli. Sam CPU to dopasowanie pamięci, a nie obietnica prędkości. Generacja DDR jest pomijana przy dopasowaniu — zmienia przepustowość, a nie to, czy wagi mieszczą się w pamięci. Kandydatami są wyłącznie wiersze katalogu z openWeights=true. Takich wierszy jest 20; 20 ma udokumentowane rozmiary. Mieszczące się modele bez oceny są wypisane osobno. Wyższy wynik nie oznacza zamiennika wprost. Typ RAM-u (DDR4/DDR5/LPDDR) nie jest polem. Nie zmienia tego, czy model się mieści.