Tarea: back · Google
Gemma 2 9B
chatGemmaGemma Terms of Use
parámetros
9,240,000,000
Context
8,192
Muestras
0
Todavía no hay datos de benchmarks para este modelo.
Explorador de benchmarks
| Cuantización | Runtime | GPU | Mediana (tok/s) | Muestras |
|---|---|---|---|---|
| Q4_K_M | Ollama | RTX 3060 | 28 | 1 |
| Q4_K_M | Ollama | RTX 4070 | 52 | 1 |