Tarea: back · Microsoft
Phi-3.5 Mini Instruct
chatPhiMIT
parámetros
3,820,000,000
Context
131,072
Muestras
0
Todavía no hay datos de benchmarks para este modelo.
Explorador de benchmarks
| Cuantización | Runtime | GPU | Mediana (tok/s) | Muestras |
|---|---|---|---|---|
| Q4_K_M | Ollama | RTX 4060 | 43 | 1 |