Self-hosting
Bastano la RAM e sapere se hai una GPU. Tutto il resto è facoltativo. La classifica è aritmetica su conteggi di parametri con fonte: NVIDIA non sceglie il vincitore.
6 su 20 modelli a pesi aperti profilati stanno in 24 GiB (vram) con contesto 8192. Il migliore valutato che ci sta: Qwen3.8 27B (Q5_K_M).
VRAM as entered. Driver reservation is inside the 1 GiB overhead, not extra.
32 GiB porta la quantizzazione di Qwen3.8 27B a Q8_0. Stesso modello, non un punteggio di intelligenza più alto.
Tra i modelli che ci stanno
Qwen3.8 27B ha i punteggi Artificial Analysis più alti in intelligenza (52), programmazione (68.1) e agentico (50.9) tra i modelli che ci stanno.
Elo LMArena più alto tra quelli che ci stanno: Gemma 4 31B 1441.7. L’Elo è una scala di preferenza umana, non l’indice di intelligenza.
Gli indici Artificial Analysis e l’Elo LMArena sono scale diverse. Una cella vuota non è misurata, non vale zero. L’asse più alto di un modello è relativo ai suoi stessi punteggi, non un’affermazione che guidi il catalogo.
Modelli valutati che ci stanno
| Modello | Generale | Programmazione | Agentico | Preferenza umana | Quantizzazione che ci sta | GiB stimati | Margine |
|---|---|---|---|---|---|---|---|
| Qwen3.8 27B | 52 | 68.1 | 50.9 | 1440.8 | Q5_K_M | 20.063 | 3.938 |
| Gemma 4 31B | 29.7 | 43.4 | 14.4 | 1441.7 | Q5_K_M | 22.106 | 1.894 |
| Olmo 3 32B Think | — | — | — | 1298.5 | Q4_K_M | 22.32 | 1.68 |
| Granite 4.1 8B | — | 9.5 | — | 1291.6 | F16 | 18.25 | 5.75 |
| Phi 4 | — | — | — | 1216.8 | Q8_0 | 17.438 | 6.563 |
- Hybrid: only 16 of 64 layers are Gated Attention. KV uses kvLayers=16, not nLayers=64. Measured Q4 is Unsloth UD-Q4_K_M, not a vanilla Q4_K_M.
Ci stanno, non valutati
- Muse Glimmer 30B — Q5_K_M, 21.756 GiB non valutato visioneragionamentostrumenti
Cosa compra davvero un aggiornamento
Il collo di bottiglia è la memoria GPU. Più RAM di sistema non caricherà altri pesi su questa scheda.
| GiB stimati | Sblocca | Esempio | Prezzo di listino |
|---|---|---|---|
| 32 GiB | Qwen3.8 27B — Q8_0stesso modello, quantizzazione superiore | GeForce RTX 5090 (32 GiB) | USD 1999 a partire da |
Il modello di catalogo subito meglio valutato è Kimi K3, e persino Q4_K_M richiede 1691.5 GiB. Non è una scheda da desktop.
NVIDIA 'Starting at' list prices as published 2026-08-25, not a store quote and not a used-market index. Street prices in August 2026 are often much higher (Tom's Hardware Newegg median RTX 5090 $4,699 vs $1,999 list). Last-gen 24 GB cards (4090, 3090) have no current NVIDIA starting-at in this file. Datacenter cards have no consumer list here. RAM DIMMs are not priced — they move weekly.
Gli aggiornamenti usano la stessa formula di adattamento della classifica. I prezzi di listino sono gli «a partire da» di NVIDIA, datati 2026-08-25. I prezzi reali sono spesso più alti. Le schede da 24 GB usate e le GPU da datacenter non hanno listino qui. I moduli di RAM non sono quotati.
Non ci stanno, o non profilati
- qwen/qwen3.8-2.4t-a95b — even Q4_K_M wants 1450.719 GiB; pool is 24 GiB
- moonshotai/kimi-k3 — even Q4_K_M wants 1691.5 GiB; pool is 24 GiB
- z-ai/glm-5.2 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB
- moonshotai/kimi-k2.7-code — even Q4_K_M wants 604.75 GiB; pool is 24 GiB
- nvidia/nemotron-3-ultra-550b-a55b — even Q4_K_M wants 333.063 GiB; pool is 24 GiB
- minimax/minimax-m3 — even Q4_K_M wants 259.405 GiB; pool is 24 GiB
- deepseek/deepseek-v4-pro — even Q4_K_M wants 967 GiB; pool is 24 GiB
- deepseek/deepseek-v4-flash — even Q4_K_M wants 172.465 GiB; pool is 24 GiB
- mistralai/mistral-small-2603 — even Q4_K_M wants 73.2 GiB; pool is 24 GiB
- deepseek/deepseek-v3.2 — even Q4_K_M wants 406.116 GiB; pool is 24 GiB
- openai/gpt-oss-120b — even Q4_K_M wants 72.201 GiB; pool is 24 GiB
- meta-llama/llama-4-maverick — even Q4_K_M wants 242.5 GiB; pool is 24 GiB
- meta-llama/llama-4-scout — even Q4_K_M wants 66.809 GiB; pool is 24 GiB
- cohere/command-a — even Q4_K_M wants 68.016 GiB; pool is 24 GiB
Dettagli aggiuntivi (facoltativo)
Non cambia la classifica. Analisi facoltativa con IA delle tue note rispetto ai numeri qui sopra, usando i modelli più potenti di NVIDIA NIM.
Come si ottiene il numero
Pesi: la dimensione GGUF misurata quando la abbiamo, altrimenti parametri totali × bit per peso ÷ 8. Q4_K_M è trattato come 4,83 bit per parametro. La memoria dei MoE usa i parametri totali, non quelli attivi.
Cache KV, quando la geometria di livelli e teste ha una fonte: 2 × kvLayers × kvHeads × headDim × contesto × 2 byte (FP16, batch 1). I modelli ibridi usano il numero di livelli di attenzione, non tutti i livelli. Se manca la geometria, la cache viene omessa e lo si dichiara.
Si aggiungono 1 GiB per CUDA e il runtime. La memoria unificata di Apple usa la RAM come pool. Solo CPU è un adattamento di memoria, non una promessa di velocità. La generazione di DDR è ignorata ai fini dell’adattamento: cambia la banda, non se i pesi stanno in memoria.
Solo le righe di catalogo con openWeights=true sono candidate. Esistono 20 righe di questo tipo; 20 hanno dimensioni con fonte. I modelli non valutati che ci stanno sono elencati a parte. Un punteggio più alto non significa una sostituzione diretta.
Il tipo di RAM (DDR4/DDR5/LPDDR) non è un campo. Non cambia se un modello ci sta.