--- title: "Zelf hosten — welk model met open gewichten past op deze machine · Undominated.ai" canonical: https://undominated.ai/nl/self-host/ description: "Rangschikt op basis van RAM en GPU-geheugen de modellen met open gewichten uit de catalogus die er werkelijk in passen. Kwaliteit gaat voor. Niet beoordeeld is geen nul. Een ontbrekend parameteraantal is geen gok." --- # Zelf hosten — welk model met open gewichten past op deze machine · Undominated.ai > Rangschikt op basis van RAM en GPU-geheugen de modellen met open gewichten uit de catalogus die er werkelijk in passen. Kwaliteit gaat voor. Niet beoordeeld is geen nul. Een ontbrekend parameteraantal is geen gok. # Zelf hosten RAM en of je een GPU hebt is genoeg. Al het andere is optioneel. De rangschikking is rekenwerk op parameteraantallen met bron — NVIDIA kiest de winnaar niet. 25 catalogusregels gemarkeerd als open gewichten. Niets anders komt in aanmerking. 25 daarvan hebben een parameteraantal met bron. De rest staat als onbekend, niet als gok. 1 GiB speelruimte voor de runtime, opgegeven, niet gemeten op jouw machine. [CPU 16 GiB](/self-host/cpu-16gb/)[8 GiB GPU](/self-host/8gb/)[10 GiB GPU](/self-host/10gb/)[12 GiB GPU](/self-host/12gb/)[16 GiB GPU](/self-host/16gb/)[20 GiB GPU](/self-host/20gb/)[24 GiB GPU](/self-host/24gb/)[32 GiB GPU](/self-host/32gb/)[40 GiB GPU](/self-host/40gb/)[48 GiB GPU](/self-host/48gb/)[80 GiB GPU](/self-host/80gb/)[94 GiB GPU](/self-host/94gb/)[96 GiB GPU](/self-host/96gb/)[192 GiB GPU](/self-host/192gb/) [RTX 5090](/self-host/rtx-5090/)[RTX 5080](/self-host/rtx-5080/)[RTX 5070 Ti](/self-host/rtx-5070-ti/)[RTX 5070](/self-host/rtx-5070/)[RTX 5060 Ti 16](/self-host/rtx-5060-ti-16/)[RTX 5060 Ti 8](/self-host/rtx-5060-ti-8/)[RTX 5060](/self-host/rtx-5060/)[RTX 5050](/self-host/rtx-5050/)[RTX 4090](/self-host/rtx-4090/)[RTX 4080](/self-host/rtx-4080/)[RTX 4070 Ti](/self-host/rtx-4070-ti/)[RTX 4070](/self-host/rtx-4070/)[RTX 4060 Ti 16](/self-host/rtx-4060-ti-16/)[RTX 4060 Ti 8](/self-host/rtx-4060-ti-8/)[RTX 4060](/self-host/rtx-4060/)[RTX 3090](/self-host/rtx-3090/)[RTX 3080 Ti](/self-host/rtx-3080-ti/)[RTX 3080 12](/self-host/rtx-3080-12/)[RTX 3080](/self-host/rtx-3080/)[RTX 3070 Ti](/self-host/rtx-3070-ti/)[RTX 3070](/self-host/rtx-3070/)[RTX 3060 Ti](/self-host/rtx-3060-ti/)[RTX 3060 8](/self-host/rtx-3060-8/)[RTX 3060](/self-host/rtx-3060/)[RTX A6000](/self-host/rtx-a6000/)[RTX A5000](/self-host/rtx-a5000/)[RTX A4000](/self-host/rtx-a4000/)[RTX 6000 ADA](/self-host/rtx-6000-ada/)[RTX 5000 ADA](/self-host/rtx-5000-ada/)[RTX PRO 6000 Blackwell](/self-host/rtx-pro-6000-blackwell/)[RTX PRO 5000 Blackwell](/self-host/rtx-pro-5000-blackwell/)[A100 80](/self-host/a100-80/)[A100 40](/self-host/a100-40/)[H100 NVL](/self-host/h100-nvl/)[H100](/self-host/h100/)[L40S](/self-host/l40s/)[T4](/self-host/t4/)[RX 7900 XTX](/self-host/rx-7900-xtx/)[RX 7900 XT](/self-host/rx-7900-xt/)[RX 6900 XT](/self-host/rx-6900-xt/)[RX 6800 XT](/self-host/rx-6800-xt/)[MI300X](/self-host/mi300x/) Systeem-RAM GiB GPU Geen (CPU) NVIDIA AMD Apple Intel GPU-geheugen GiB Vereist, tenzij je een kaart noemt die wij vermelden. Apple: laat dit leeg; het RAM is de pool. Naam van de GPU (optioneel) Aantal GPU’s Besturingssysteem (optioneel — alleen software) Overslaan Linux Windows macOS Te begroten context 4K 8K 16K 32K De KV-cache groeit hiermee mee. Wij gaan niet uit van het maximum op de modelkaart. 7 van 25 geprofileerde modellen met open gewichten passen in 24 GiB (vram) bij context 8192. Best beoordeeld dat past: Gemma 4 31B (Q5_K_M). ** ** ** Gewichten 21,106 GiB KV niet geschat Runtime 1 GiB Speelruimte 1,9 GiB / 24 GiB VRAM as entered. Driver reservation is inside the 1 GiB overhead, not extra. 48 GiB tilt de kwantisatie van Gemma 4 31B naar Q8_0. Hetzelfde model, geen hogere intelligentiescore. ## Onder de modellen die passen Hoogste LMArena-Elo onder de modellen die passen: Gemma 4 31B 1443,4. Elo is een schaal van menselijke voorkeur, niet de intelligentie-index. The arena boards are separate scales and are never blended. A missing cell is unmeasured, not zero. A model’s highest axis is relative to its own scores, not a claim it leads the catalogue. ## Beoordeelde modellen die passen | Model | Menselijke voorkeur | Kwantisatie die past | Geschatte GiB | Speelruimte | | --- | --- | --- | --- | --- | | [Gemma 4 31B](/models/google__gemma-4-31b-it/) beeld video redeneren gereedschappen | 1443,4 | Q5_K_M | 22,106 | 1,894 | | [Qwen3.8 27B](/models/qwen__qwen3.8-27b/) beeld video redeneren gereedschappen | 1440,7 | Q5_K_M | 20,063 | 3,938 | | [Phi 4](/models/microsoft__phi-4/) | 1216,7 | Q8_0 | 17,438 | 6,563 | - KV heads and head dim are not in the public size table we used. Cache is not estimated. - KV cache not estimated — layer/head geometry is not in the sourced profile. Longer context may not fit. ## Passen, niet beoordeeld - [Muse Glimmer 30B](/models/meta__muse-glimmer-30b/) — Q5_K_M, 21,756 GiB niet beoordeeld beeld redeneren gereedschappen - [Ministral 3 14B 2512](/models/mistralai__ministral-14b-2512/) — Q8_0, 17,019 GiB niet beoordeeld beeld gereedschappen - [Ministral 3 8B 2512](/models/mistralai__ministral-8b-2512/) — F16, 19,663 GiB niet beoordeeld beeld gereedschappen - [Ministral 3 3B 2512](/models/mistralai__ministral-3b-2512/) — F16, 9,413 GiB niet beoordeeld beeld gereedschappen ## Wat een upgrade werkelijk oplevert Het knelpunt is het GPU-geheugen. Meer systeem-RAM laadt geen extra gewichten op deze kaart. | Geschatte GiB | Ontsluit | Voorbeeld | Adviesprijs | | --- | --- | --- | --- | | 48 GiB | [Gemma 4 31B](/models/google__gemma-4-31b-it/) — Q8_0 zelfde model, hogere kwantisatie | rtx a6000, rtx 6000 ada, rtx pro 6000 blackwell | Geen consumentenprijs in dit bestand | Het eerstvolgende hoger beoordeelde catalogusmodel is Kimi K3, en zelfs Q4_K_M vraagt 1691,5 GiB. Dat is geen desktopkaart. NVIDIA 'Starting at' list prices as published 2026-08-25, not a store quote and not a used-market index. Street prices in August 2026 are often much higher (Tom's Hardware Newegg median RTX 5090 $4,699 vs $1,999 list). Last-gen 24 GB cards (4090, 3090) have no current NVIDIA starting-at in this file. Datacenter cards have no consumer list here. RAM DIMMs are not priced — they move weekly. Upgrades gebruiken dezelfde pasformule als de rangschikking. Adviesprijzen zijn de vanaf-prijzen van NVIDIA, gedateerd 2026-08-25. Straatprijzen liggen vaak hoger. Tweedehands kaarten van 24 GB en datacenter-GPU’s hebben hier geen adviesprijs. RAM-modules worden niet geprijsd. ## Passen niet, of niet geprofileerd - cohere/command-a-plus — even Q4_K_M wants 132.618 GiB; pool is 24 GiB - deepseek/deepseek-v4-flash-vision-exp — even Q4_K_M wants 184.902 GiB; pool is 24 GiB - z-ai/glm-5.3 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB - qwen/qwen3.8-2.4t-a95b — even Q4_K_M wants 1450.719 GiB; pool is 24 GiB - moonshotai/kimi-k3 — even Q4_K_M wants 1691.5 GiB; pool is 24 GiB - z-ai/glm-5.2 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB - moonshotai/kimi-k2.7-code — even Q4_K_M wants 604.75 GiB; pool is 24 GiB - nvidia/nemotron-3-ultra-550b-a55b — even Q4_K_M wants 333.063 GiB; pool is 24 GiB - minimax/minimax-m3 — even Q4_K_M wants 259.405 GiB; pool is 24 GiB - deepseek/deepseek-v4-pro — even Q4_K_M wants 967 GiB; pool is 24 GiB - deepseek/deepseek-v4-flash — even Q4_K_M wants 172.465 GiB; pool is 24 GiB - mistralai/mistral-small-2603 — even Q4_K_M wants 73.2 GiB; pool is 24 GiB - mistralai/mistral-large-2512 — even Q4_K_M wants 408.531 GiB; pool is 24 GiB - deepseek/deepseek-v3.2 — even Q4_K_M wants 406.116 GiB; pool is 24 GiB - openai/gpt-oss-120b — even Q4_K_M wants 72.201 GiB; pool is 24 GiB - meta-llama/llama-4-maverick — even Q4_K_M wants 242.5 GiB; pool is 24 GiB - meta-llama/llama-4-scout — even Q4_K_M wants 66.809 GiB; pool is 24 GiB - cohere/command-a — even Q4_K_M wants 68.016 GiB; pool is 24 GiB ## Extra details (optioneel) Verandert de rangschikking niet. Optionele AI-analyse van je aantekeningen tegenover de cijfers hierboven, met de sterkste modellen van NVIDIA NIM. Analyseren met AI ## Hoe het getal tot stand komt Gewichten: een gemeten GGUF-grootte als wij die hebben, anders totale parameters × bits per gewicht ÷ 8. Q4_K_M wordt behandeld als 4,83 bits per parameter. MoE-geheugen gebruikt de totale parameters, niet de actieve. KV-cache, wanneer de geometrie van lagen en koppen een bron heeft: 2 × kvLayers × kvHeads × headDim × context × 2 bytes (FP16, batch 1). Hybride modellen gebruiken het aantal attentielagen, niet elke laag. Ontbreekt de geometrie, dan wordt de cache weggelaten en wordt dat vermeld. Er wordt 1 GiB opgeteld voor CUDA en de runtime. Apple’s uniforme geheugen gebruikt het RAM als pool. Alleen CPU is een geheugenpassing, geen snelheidsbelofte. De DDR-generatie wordt genegeerd voor de passing — die verandert de bandbreedte, niet of de gewichten in het geheugen staan. Alleen catalogusregels met openWeights=true komen in aanmerking. Er bestaan 25 zulke regels; 25 hebben groottes met bron. Niet-beoordeelde modellen die passen staan apart vermeld. Een hogere score betekent geen directe vervanging. Het RAM-type (DDR4/DDR5/LPDDR) is geen veld. Het verandert niets aan of een model past. ## Continue your investigation - [Inspect open-weight models · English](/open-weights/) - [Compare model variants · English](/families/) - [Review requirements · English](/compare/) - [Find serving tools · English](/tools/)