RTX 5090
NVIDIARTX 50Blackwell
VRAM
32 GB
Bandwidth
1,792 GB/s
Muestras
1
Benchmarks en esta GPU
| Modelo | Cuantización | Runtime | Mediana (tok/s) | Muestras | Tipo |
|---|---|---|---|---|---|
| Llama 3.1 8B Instruct | Q4_K_M | Ollama | 245 | 1 | Real |
| Modelo | Cuantización | Runtime | Mediana (tok/s) | Muestras | Tipo |
|---|---|---|---|---|---|
| Llama 3.1 8B Instruct | Q4_K_M | Ollama | 245 | 1 | Real |