Apple M1
AppleM1
núcleos
8
hilos
8
Bandwidth
— GB/s
Benchmarks núcleos
| Modelo | Cuantización | GPU | Mediana (tok/s) | Muestras | Tipo |
|---|---|---|---|---|---|
| Llama 3.1 8B Instruct | Q4_K_M | M1 Max (32 GPU cores) | 63 | 1 | Real |
| Modelo | Cuantización | GPU | Mediana (tok/s) | Muestras | Tipo |
|---|---|---|---|---|---|
| Llama 3.1 8B Instruct | Q4_K_M | M1 Max (32 GPU cores) | 63 | 1 | Real |