Quel modèle IA sur quel hardware ? Le tableau complet (mis à jour août 2026)

Petits modèles (1-3B) : pour qui ?

Les modèles de 1 à 3 milliards de paramètres sont les plus accessibles, mais ils ne tournent pas littéralement sur toute machine. Vérifiez la RAM disponible, le format, le runtime et les capacités CPU/GPU ; leur intérêt principal reste une empreinte plus faible.

Cas d'usage ideaux : autocompletion de code en temps réel, chatbot embarque, resume de texte rapide, classification. Si vous avez besoin de reponses instantanees et que la tache ne demande pas un raisonnement complexe, un modèle 3B est parfait.

Modèles moyens (7-9B) : le sweet spot

Les modèles 7-8B constituent souvent un premier palier utile. Ils couvrent conversation, code léger, traduction et analyse de texte, avec une qualité qui varie fortement selon le modèle. Une carte 12 Go donne de la marge, mais le débit doit être mesuré.

La quantification Q4_K_M reduit leur empreinte mémoire a environ 4-5 Go, ce qui les rend compatibles avec pratiquement n'importe quel GPU de 8 Go ou plus. Meme un Mac Mini M4 16 Go les fait tourner rapidement grâce à la mémoire unifiee.

Grands modèles (13-14B) : quand il en faut plus

Les modèles 13-14B marquent un saut de qualite notable par rapport aux 7B. Ils comprennent mieux les instructions complexes, produisent du texte plus coherent sur de longs passages, et gerent mieux les taches techniques. En quantification Q4, ils demandent environ 8-9 Go de VRAM.

C'est ici que la RTX 3060 12 Go montre sa superiorite face a la RTX 4060 8 Go : ses 12 Go de VRAM permettent de faire tourner un modèle 14B en Q4 confortablement, tandis que la RTX 4060 ne peut tout simplement pas les charger.

Modèles XL (30-34B) : territoire serieux

Les modèles 30-34B quantifiés peuvent demander autour de 20 Go rien que pour les poids, selon le format. Une carte 24 Go peut donc convenir avec une marge de contexte limitée ; 48 Go de mémoire disponible donnent davantage de latitude.

Le runtime, la quantification, la longueur de contexte et l'offload changent fortement le résultat. Vérifiez la taille réelle du fichier avant téléchargement, puis mesurez le modèle sur la machine.

Modèles XXL (70B+) : les poids lourds

Les modèles d'environ 70B constituent un palier local exigeant. Leur intérêt qualitatif doit être évalué tâche par tâche, sans les déclarer équivalents à un service cloud donné.

En Q4, les poids d'un 70B occupent souvent autour de 40 Go avant la marge de contexte et de runtime. Une carte 24 Go seule impose donc de l'offload. Les options à examiner :

• Deux GPU 24 Go — 48 Go cumulés, à condition que le runtime gère correctement le split et que la plateforme soit adaptée.
• Mémoire unifiée de 48 Go — Le chargement peut devenir possible, mais avec peu de marge selon le contexte.
• Mémoire unifiée de 128 Go ou plus — Davantage de marge pour le contexte ou une quantification moins agressive.
• Station dédiée — À comparer sur le débit mesuré, le coût total, l'énergie et les logiciels réellement utilisés.

Au-delà de 100B, la taille exacte du fichier, l'architecture du modèle et le contexte rendent toute règle simpliste dangereuse. Vérifiez le format distribué et la mémoire disponible avant de conclure.

Generation d'images : VRAM et vitesse

La generation d'images a ses propres regles. Contrairement aux LLM qui streament du texte, les modèles d'image ont besoin de la VRAM pendant toute la generation, et la vitesse depend fortement de la puissance brute du GPU (TFLOPS), pas seulement de la VRAM.

Quelle config pour votre budget ?