Accueil › Blog › Mistral en local

Mistral en local : quels modèles, et quelle vitesse sur une RTX 4080 SUPER

Par

Publié le 17 mai 2026 · Réécrit le 10 octobre 2026 · Mesures du 9 octobre 2026 sur RTX 4080 SUPER 16 Go

Preuve logicielle OutilsIA

Le conseil matériel vient après le diagnostic.

OutilsIA édite Local Cockpit, une application desktop Rust/Tauri gratuite pour Windows et Linux. Son code est consultable sur GitHub (état du 29/07/2026, sans licence open source). Elle détecte le matériel et le runtime Ollama, recommande un modèle, puis distingue clairement une compatibilité estimée d'un benchmark réellement exécuté.

Windows + LinuxCode consultable · GitHub au 29/07/2026118,5 tok/s mesurés sur Hermes 3 8B · OIA-LC-BENCH-20260727-HERMES3-8B-RTX4080SRTX 4080 SUPER 16 Go · 27/07/2026

Cette mesure prouve le parcours sur une machine précise. Elle ne prévoit pas la vitesse du matériel présenté sur cette page.

L'essentiel

Sur une carte graphique de 16 Go, les modèles Mistral qui tournent entièrement en VRAM sont rapides : nous avons mesuré 124,4 tok/s pour Mistral 7B et 83,6 tok/s pour Mistral NeMo 12B (médianes, Ollama 0.18.2, RTX 4080 SUPER). Dès que le modèle déborde de la VRAM, la vitesse s'effondre : un Mixtral 8x7B de 26 Go tombe à 4,6 tok/s. Pour une nouvelle installation en octobre 2026, partez de Ministral 3 (3B, 8B ou 14B, Apache 2.0) : c'est la génération actuelle, et la version 14B tient en 4 bits dans 16 Go.

Article réécrit le 10 octobre 2026. Toutes les vitesses de cette page ont été mesurées le 9 octobre 2026 sur une seule machine, décrite plus bas. Les autres chiffres (tailles, licences, dates) renvoient à leur source officielle.

Pourquoi faire tourner Mistral en local

Trois raisons concrètes, sans grand discours :

La limite est tout aussi concrète : ce qui tourne sur un PC de bureau, ce sont les petits et moyens modèles. Les grands modèles de Mistral visent des serveurs.

Quels modèles Mistral en octobre 2026

La gamme a changé vite. Voici l'état vérifié au 9 octobre 2026 sur la page officielle des modèles Mistral et dans la bibliothèque Ollama.

ModèleTailleStatut chez MistralSur un PC 16 Go VRAM
Ministral 3 (déc. 2025)3B, 8B, 14BActuel, Apache 2.014B en Q4_K_M : 9,1 Go, tient en VRAM ; 14B en Q8_0 : 15 Go, trop juste
Mistral Small 3.224BDéprécié dans l'API, remplacé par Small 415 Go en Q4_K_M : à la limite, un peu de déchargement en RAM selon l'occupation de la carte
Mistral Small 4 (mars 2026)119B au total, 6B actifs (MoE)Actuel, Apache 2.0Hors de portée d'une carte seule : Mistral annonce un minimum de 4 H100 pour le servir
Mistral Large 3 (déc. 2025)675B au total, 41B actifs (MoE)Actuel, Apache 2.0Serveur uniquement
Mistral 7B v0.37BRetiré de l'API (2025), poids toujours téléchargeablesMesuré ci-dessous
Mistral NeMo12BDéprécié dans l'API (retrait programmé au 31/07/2026)Mesuré ci-dessous
Mixtral 8x7B47B au total (MoE)Retiré de l'API (2025)26 Go en Q4_0 : déborde, mesuré ci-dessous

Tailles de fichiers relevées sur les pages Ollama ministral-3 et mistral-small3.2. Un modèle « retiré de l'API » n'est plus servi par Mistral, mais ses poids restent disponibles sur Ollama et Hugging Face : il fonctionne toujours en local, il n'évoluera simplement plus.

Nos mesures sur une RTX 4080 SUPER

La machine et le protocole

Modèle (tag Ollama)QuantificationMémoire occupée (modèle + contexte)PlacementGénération (médiane, min–max)
Mistral 7B (mistral:latest)Q4_K_M5,1 Go100 % GPU124,4 tok/s (124,2–124,4)
Mistral NeMo 12B (mistral-nemo:12b)Q4_07,7 Go100 % GPU83,6 tok/s (83,6–83,7)
Mixtral 8x7B (nous-hermes2-mixtral:8x7b)Q4_027,8 Go45 % GPU / 55 % CPU4,6 tok/s (4,6–4,7)

Le Mixtral mesuré est la version affinée par Nous Research (Nous Hermes 2), installée sur cette machine : même architecture et même taille que le Mixtral 8x7B d'origine, donc le même comportement en mémoire. Ministral 3 et Mistral Small n'étaient pas installés sur ce PC : nous ne publions pas de vitesse pour eux.

Ce que disent ces chiffres

Le détail de la méthode, le script utilisé et l'effet des réglages (num_gpu, num_ctx, num_batch) sont publiés dans notre campagne de réglage d'Ollama sur la même machine.

Installer un modèle Mistral avec Ollama

1. Installer Ollama

# Linux (et WSL)
curl -fsSL https://ollama.com/install.sh | sh
# Windows et macOS : installeur sur https://ollama.com/download

Le guide pas à pas, avec les pièges Windows/WSL, est ici : installer Ollama.

2. Télécharger le modèle

# génération actuelle (6 Go en Q4_K_M)
ollama pull ministral-3:8b
# version 14B si la carte a 12 à 16 Go de VRAM (9,1 Go)
ollama pull ministral-3:14b

3. Tester et vérifier le placement

ollama run ministral-3:8b "Rédige un courriel de relance poli, trois phrases."
# dans un autre terminal : la colonne PROCESSOR doit afficher 100% GPU
ollama ps

Si ollama ps affiche un partage CPU/GPU (par exemple « 64%/36% CPU/GPU »), le modèle déborde : choisissez une taille plus petite ou une quantification plus légère.

4. Brancher vos outils sur l'API locale

Ollama expose une API compatible OpenAI sur http://localhost:11434/v1. La plupart des clients (Open WebUI, extensions d'éditeur, scripts) s'y connectent en changeant simplement l'adresse et le nom du modèle. Voir aussi Open WebUI : une interface type ChatGPT sur Ollama.

Quel modèle pour quel usage

UsageNotre choix sur 16 GoPourquoi
Courriels, reformulation, résumé courtMinistral 3 8B6 Go, tient largement en VRAM, réponse immédiate
Documents plus longs, consignes complexesMinistral 3 14BLe plus gros modèle Mistral actuel qui reste entièrement sur une carte 16 Go
Carte de 8 Go ou PC portableMinistral 3 3B3 Go en Q4_K_M
Tâche de fond, sans interactionMistral Small 3.2 24BPlus capable, mais à la limite des 16 Go : acceptez un peu de déchargement
Besoin du niveau Mistral Small 4 ou Large 3API Mistral ou serveur dédiéCes modèles visent plusieurs GPU de datacenter

Ce tableau donne un point de départ, pas un classement de qualité : nous n'avons pas mesuré la qualité des réponses de ces modèles. Pour vérifier sur vos propres cas, le plus rapide est le test d'hallucination en 15 minutes.

Questions fréquentes

Quel modèle Mistral installer en local en octobre 2026 ?

Ministral 3, la génération publiée par Mistral en décembre 2025 sous licence Apache 2.0. La version 8B (6 Go en Q4_K_M) convient au quotidien ; la version 14B (9,1 Go) est la plus grosse qui tient entièrement sur une carte de 16 Go. Mistral 7B et Mistral NeMo fonctionnent toujours en local, mais Mistral ne les fait plus évoluer.

Quelle vitesse attendre sur une RTX 4080 SUPER ?

Sur notre machine (Ollama 0.18.2 sous WSL2, mesures du 9 octobre 2026), Mistral 7B en Q4_K_M génère 124,4 tokens par seconde et Mistral NeMo 12B en Q4_0 83,6 tokens par seconde, tous deux entièrement en VRAM. Un Mixtral 8x7B de 26 Go, qui ne tient qu'à 45 % sur la carte, tombe à 4,6 tokens par seconde.

Mixtral ou Mistral Small 4 tiennent-ils sur une carte de 16 Go ?

Non. Mixtral 8x7B pèse 26 Go en Q4_0 et déborde largement en mémoire vive, ce qui divise la vitesse par plus de dix. Mistral Small 4 compte 119 milliards de paramètres au total et Mistral indique un minimum de 4 GPU H100 pour le servir.

Quelle quantification choisir ?

Le 4 bits des tags par défaut d'Ollama (Q4_K_M ou Q4_0) est le bon point de départ : fichier compact, perte de qualité faible. Passez en Q8_0 seulement si le fichier tient encore entièrement en VRAM : pour Ministral 3 14B, la version Q8_0 fait 15 Go, trop juste pour une carte de 16 Go qui affiche aussi le bureau.

Mistral en local suffit-il pour être conforme au RGPD ?

Il règle la question du transfert : le texte ne quitte pas la machine. Le reste des obligations demeure : chiffrement du poste, contrôle des accès, information des personnes concernées et registre des traitements.

Comment vérifier que le modèle tourne bien sur la carte graphique ?

Lancez ollama ps pendant que le modèle est chargé. La colonne PROCESSOR doit afficher 100% GPU. Un affichage du type 64%/36% CPU/GPU signifie que le modèle déborde en mémoire vive : prenez une taille plus petite.

Le verdict

Sur un PC équipé d'une carte de 16 Go, Mistral en local est rapide et simple à installer, à une condition : choisir un modèle qui tient dans la VRAM. Ministral 3 8B pour le quotidien, Ministral 3 14B pour les textes exigeants. Mixtral et Mistral Small 4 sur une seule carte grand public, c'est non : trop gros, trop lent.

Sources : liste officielle des modèles Mistral · annonce Mistral 3 (2 décembre 2025) · annonce Mistral Small 4 (16 mars 2026) · Ollama : ministral-3 · poids sur Hugging Face. Mesures : OutilsIA, 9 octobre 2026, une seule machine.

IA locale

→ Guides IA locale & Local Cockpit — hub OutilsIA