---
title: "Self-hosting — quale modello a pesi aperti sta su questa macchina · Undominated.ai"
canonical: https://undominated.ai/it/self-host/
description: "A partire da RAM e memoria GPU, ordina i modelli a pesi aperti del catalogo che ci stanno davvero. Comanda la qualità. Non valutato non è zero. Un conteggio di parametri assente non è una supposizione."
---

# Self-hosting — quale modello a pesi aperti sta su questa macchina · Undominated.ai

> A partire da RAM e memoria GPU, ordina i modelli a pesi aperti del catalogo che ci stanno davvero. Comanda la qualità. Non valutato non è zero. Un conteggio di parametri assente non è una supposizione.

# Self-hosting

Bastano la RAM e sapere se hai una GPU. Tutto il resto è facoltativo. La classifica è aritmetica su conteggi di parametri con fonte: NVIDIA non sceglie il vincitore.

 25 righe del catalogo contrassegnate come pesi aperti. Nient’altro è candidato.
 25 di queste hanno un conteggio di parametri con fonte. Le altre risultano sconosciute, non indovinate.
 1 GiB di margine di esecuzione, dichiarato, non misurato sulla tua macchina.

 [CPU 16 GiB](/self-host/cpu-16gb/)[8 GiB GPU](/self-host/8gb/)[10 GiB GPU](/self-host/10gb/)[12 GiB GPU](/self-host/12gb/)[16 GiB GPU](/self-host/16gb/)[20 GiB GPU](/self-host/20gb/)[24 GiB GPU](/self-host/24gb/)[32 GiB GPU](/self-host/32gb/)[40 GiB GPU](/self-host/40gb/)[48 GiB GPU](/self-host/48gb/)[80 GiB GPU](/self-host/80gb/)[94 GiB GPU](/self-host/94gb/)[96 GiB GPU](/self-host/96gb/)[192 GiB GPU](/self-host/192gb/)
 [RTX 5090](/self-host/rtx-5090/)[RTX 5080](/self-host/rtx-5080/)[RTX 5070 Ti](/self-host/rtx-5070-ti/)[RTX 5070](/self-host/rtx-5070/)[RTX 5060 Ti 16](/self-host/rtx-5060-ti-16/)[RTX 5060 Ti 8](/self-host/rtx-5060-ti-8/)[RTX 5060](/self-host/rtx-5060/)[RTX 5050](/self-host/rtx-5050/)[RTX 4090](/self-host/rtx-4090/)[RTX 4080](/self-host/rtx-4080/)[RTX 4070 Ti](/self-host/rtx-4070-ti/)[RTX 4070](/self-host/rtx-4070/)[RTX 4060 Ti 16](/self-host/rtx-4060-ti-16/)[RTX 4060 Ti 8](/self-host/rtx-4060-ti-8/)[RTX 4060](/self-host/rtx-4060/)[RTX 3090](/self-host/rtx-3090/)[RTX 3080 Ti](/self-host/rtx-3080-ti/)[RTX 3080 12](/self-host/rtx-3080-12/)[RTX 3080](/self-host/rtx-3080/)[RTX 3070 Ti](/self-host/rtx-3070-ti/)[RTX 3070](/self-host/rtx-3070/)[RTX 3060 Ti](/self-host/rtx-3060-ti/)[RTX 3060 8](/self-host/rtx-3060-8/)[RTX 3060](/self-host/rtx-3060/)[RTX A6000](/self-host/rtx-a6000/)[RTX A5000](/self-host/rtx-a5000/)[RTX A4000](/self-host/rtx-a4000/)[RTX 6000 ADA](/self-host/rtx-6000-ada/)[RTX 5000 ADA](/self-host/rtx-5000-ada/)[RTX PRO 6000 Blackwell](/self-host/rtx-pro-6000-blackwell/)[RTX PRO 5000 Blackwell](/self-host/rtx-pro-5000-blackwell/)[A100 80](/self-host/a100-80/)[A100 40](/self-host/a100-40/)[H100 NVL](/self-host/h100-nvl/)[H100](/self-host/h100/)[L40S](/self-host/l40s/)[T4](/self-host/t4/)[RX 7900 XTX](/self-host/rx-7900-xtx/)[RX 7900 XT](/self-host/rx-7900-xt/)[RX 6900 XT](/self-host/rx-6900-xt/)[RX 6800 XT](/self-host/rx-6800-xt/)[MI300X](/self-host/mi300x/)
 RAM di sistema GiB GPU Nessuna (CPU) NVIDIA AMD Apple Intel
 Memoria GPU GiB Obbligatorio, salvo che indichi una scheda presente nel nostro elenco. Apple: lascia vuoto; la RAM è il pool. Nome della GPU (facoltativo) Numero di GPU Sistema operativo (facoltativo — solo software) Salta Linux Windows macOS
 Contesto da prevedere 4K 8K 16K 32K
 La cache KV cresce con questo valore. Non diamo per scontato il massimo della scheda del modello.

7 su 25 modelli a pesi aperti profilati stanno in 24 GiB (vram) con contesto 8192. Il migliore valutato che ci sta: Gemma 4 31B (Q5_K_M).

 ** ** **
 Pesi 21,106 GiB KV non stimata Runtime 1 GiB Margine 1,9 GiB / 24 GiB

VRAM as entered. Driver reservation is inside the 1 GiB overhead, not extra.

48 GiB porta la quantizzazione di Gemma 4 31B a Q8_0. Stesso modello, non un punteggio di intelligenza più alto.

## Tra i modelli che ci stanno

Elo LMArena più alto tra quelli che ci stanno: Gemma 4 31B 1443,4. L’Elo è una scala di preferenza umana, non l’indice di intelligenza.

The arena boards are separate scales and are never blended. A missing cell is unmeasured, not zero. A model’s highest axis is relative to its own scores, not a claim it leads the catalogue.

## Modelli valutati che ci stanno

| Modello | Preferenza umana | Quantizzazione che ci sta | GiB stimati | Margine |
| --- | --- | --- | --- | --- |
| [Gemma 4 31B](/models/google__gemma-4-31b-it/) visione video ragionamento strumenti | 1443,4 | Q5_K_M | 22,106 | 1,894 |
| [Qwen3.8 27B](/models/qwen__qwen3.8-27b/) visione video ragionamento strumenti | 1440,7 | Q5_K_M | 20,063 | 3,938 |
| [Phi 4](/models/microsoft__phi-4/) | 1216,7 | Q8_0 | 17,438 | 6,563 |

 - KV heads and head dim are not in the public size table we used. Cache is not estimated.
- KV cache not estimated — layer/head geometry is not in the sourced profile. Longer context may not fit.

## Ci stanno, non valutati

 - [Muse Glimmer 30B](/models/meta__muse-glimmer-30b/) — Q5_K_M, 21,756 GiB non valutato visione ragionamento strumenti
- [Ministral 3 14B 2512](/models/mistralai__ministral-14b-2512/) — Q8_0, 17,019 GiB non valutato visione strumenti
- [Ministral 3 8B 2512](/models/mistralai__ministral-8b-2512/) — F16, 19,663 GiB non valutato visione strumenti
- [Ministral 3 3B 2512](/models/mistralai__ministral-3b-2512/) — F16, 9,413 GiB non valutato visione strumenti

## Cosa compra davvero un aggiornamento

Il collo di bottiglia è la memoria GPU. Più RAM di sistema non caricherà altri pesi su questa scheda.

| GiB stimati | Sblocca | Esempio | Prezzo di listino |
| --- | --- | --- | --- |
| 48 GiB | [Gemma 4 31B](/models/google__gemma-4-31b-it/) — Q8_0 stesso modello, quantizzazione superiore | rtx a6000, rtx 6000 ada, rtx pro 6000 blackwell | Nessun listino consumer in questo file |

Il modello di catalogo subito meglio valutato è Kimi K3, e persino Q4_K_M richiede 1691,5 GiB. Non è una scheda da desktop.

NVIDIA 'Starting at' list prices as published 2026-08-25, not a store quote and not a used-market index. Street prices in August 2026 are often much higher (Tom's Hardware Newegg median RTX 5090 $4,699 vs $1,999 list). Last-gen 24 GB cards (4090, 3090) have no current NVIDIA starting-at in this file. Datacenter cards have no consumer list here. RAM DIMMs are not priced — they move weekly.

Gli aggiornamenti usano la stessa formula di adattamento della classifica. I prezzi di listino sono gli «a partire da» di NVIDIA, datati 2026-08-25. I prezzi reali sono spesso più alti. Le schede da 24 GB usate e le GPU da datacenter non hanno listino qui. I moduli di RAM non sono quotati.

## Non ci stanno, o non profilati

 - cohere/command-a-plus — even Q4_K_M wants 132.618 GiB; pool is 24 GiB
- deepseek/deepseek-v4-flash-vision-exp — even Q4_K_M wants 184.902 GiB; pool is 24 GiB
- z-ai/glm-5.3 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB
- qwen/qwen3.8-2.4t-a95b — even Q4_K_M wants 1450.719 GiB; pool is 24 GiB
- moonshotai/kimi-k3 — even Q4_K_M wants 1691.5 GiB; pool is 24 GiB
- z-ai/glm-5.2 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB
- moonshotai/kimi-k2.7-code — even Q4_K_M wants 604.75 GiB; pool is 24 GiB
- nvidia/nemotron-3-ultra-550b-a55b — even Q4_K_M wants 333.063 GiB; pool is 24 GiB
- minimax/minimax-m3 — even Q4_K_M wants 259.405 GiB; pool is 24 GiB
- deepseek/deepseek-v4-pro — even Q4_K_M wants 967 GiB; pool is 24 GiB
- deepseek/deepseek-v4-flash — even Q4_K_M wants 172.465 GiB; pool is 24 GiB
- mistralai/mistral-small-2603 — even Q4_K_M wants 73.2 GiB; pool is 24 GiB
- mistralai/mistral-large-2512 — even Q4_K_M wants 408.531 GiB; pool is 24 GiB
- deepseek/deepseek-v3.2 — even Q4_K_M wants 406.116 GiB; pool is 24 GiB
- openai/gpt-oss-120b — even Q4_K_M wants 72.201 GiB; pool is 24 GiB
- meta-llama/llama-4-maverick — even Q4_K_M wants 242.5 GiB; pool is 24 GiB
- meta-llama/llama-4-scout — even Q4_K_M wants 66.809 GiB; pool is 24 GiB
- cohere/command-a — even Q4_K_M wants 68.016 GiB; pool is 24 GiB

## Dettagli aggiuntivi (facoltativo)

Non cambia la classifica. Analisi facoltativa con IA delle tue note rispetto ai numeri qui sopra, usando i modelli più potenti di NVIDIA NIM.

 Analizza con l’IA

## Come si ottiene il numero

Pesi: la dimensione GGUF misurata quando la abbiamo, altrimenti parametri totali × bit per peso ÷ 8. Q4_K_M è trattato come 4,83 bit per parametro. La memoria dei MoE usa i parametri totali, non quelli attivi.

Cache KV, quando la geometria di livelli e teste ha una fonte: 2 × kvLayers × kvHeads × headDim × contesto × 2 byte (FP16, batch 1). I modelli ibridi usano il numero di livelli di attenzione, non tutti i livelli. Se manca la geometria, la cache viene omessa e lo si dichiara.

Si aggiungono 1 GiB per CUDA e il runtime. La memoria unificata di Apple usa la RAM come pool. Solo CPU è un adattamento di memoria, non una promessa di velocità. La generazione di DDR è ignorata ai fini dell’adattamento: cambia la banda, non se i pesi stanno in memoria.

Solo le righe di catalogo con openWeights=true sono candidate. Esistono 25 righe di questo tipo; 25 hanno dimensioni con fonte. I modelli non valutati che ci stanno sono elencati a parte. Un punteggio più alto non significa una sostituzione diretta.

Il tipo di RAM (DDR4/DDR5/LPDDR) non è un campo. Non cambia se un modello ci sta.

## Continue your investigation

 - [Inspect open-weight models · English](/open-weights/)
- [Compare model variants · English](/families/)
- [Review requirements · English](/compare/)
- [Find serving tools · English](/tools/)
