NVIDIA
RTX 4070 Ti
927 € relevé le 04/08/26
12 Go
VRAM
187 tok/s
Meilleure génération
0,56 tok/s/W
Efficacité (réf.)
0,12 €/M tok
Coût élec. / M tokens (réf.)
Ce que cette carte fait tourner
Llama 3.2 3B Instruct Q4_K_M
2.02 Go · 186 tok/s mesurés
Qwen2.5 7B Instruct Q4_K_M
4.68 Go · 94,9 tok/s mesurés
Meta Llama 3.1 8B Instruct Q4_K_M★
4.92 Go · 89,6 tok/s mesurés
Qwen2.5 14B Instruct Q4_K_M
8.99 Go · 49,2 tok/s mesurés
DeepSeek R1 Distill Qwen 14B Q4_K_M
8.99 Go · 49,3 tok/s mesurés
Phi-4 Q4_K_M
9.05 Go · 48,8 tok/s mesurés
Fluide ≥ 60 tok/s (plus vite qu'on ne lit) · Confortable 30-60 · Lent < 30 · « Ne tient pas » = taille du modèle + 2 Go de marge > VRAM (le déchargement CPU est exclu du protocole : les chiffres n'auraient plus de sens).
Mesures par modèle
186 tok/s
Génération (moy.)
1,56 tok/s/W
Efficacité
0,04 €/M tok
Coût électrique
2
Runs
Coût = électricité seule (0,25 €/kWh), pour générer 1 million de tokens à la vitesse mesurée — l'unité de facturation des API cloud, la comparaison est volontaire.
Évolution dans le temps
Chaque point = un run (version de llama.cpp au survol). L'historique se construit en re-benchant la même carte au fil des versions — les drivers et llama.cpp font bouger les chiffres.
| Date | Version | Génération | Prompt | VRAM pic | Temp. max | Conso | Contexte | Source |
|---|---|---|---|---|---|---|---|---|
| 08/08 | llama.cpp 96278e39f | 184 | 12 421 | 3,0 Go | 44 °C | 119 W | — | mesuré |
| 04/08 | llama.cpp 96278e39f | 187 | 13 074 | 3,2 Go | 48 °C | 115 W | — | mesuré |
VRAM utilisée = pic de mémoire GPU système pendant le run (inclut l'OS, compte ~0,5 à 1 Go de plus que le modèle seul).