Apple M3 Max
AppleM3
núcleos
16
hilos
16
Bandwidth
— GB/s
Benchmarks núcleos
| Modelo | Cuantización | GPU | Mediana (tok/s) | Muestras | Tipo |
|---|---|---|---|---|---|
| Qwen2.5 7B Instruct | Q4_K_M | M3 Max (40 GPU cores) | 55 | 1 | Real |
| Modelo | Cuantización | GPU | Mediana (tok/s) | Muestras | Tipo |
|---|---|---|---|---|---|
| Qwen2.5 7B Instruct | Q4_K_M | M3 Max (40 GPU cores) | 55 | 1 | Real |