Preuve logicielle OutilsIA
Le conseil matériel vient après le diagnostic.
OutilsIA édite Local Cockpit, une application desktop Rust/Tauri gratuite pour Windows et Linux. Son code est consultable sur GitHub (état du 29/07/2026, sans licence open source). Elle détecte le matériel et le runtime Ollama, recommande un modèle, puis distingue clairement une compatibilité estimée d'un benchmark réellement exécuté.
Cette mesure prouve le parcours sur une machine précise. Elle ne prévoit pas la vitesse du matériel présenté sur cette page.
L'essentiel
Sur une carte graphique de 16 Go, les modèles Mistral qui tournent entièrement en VRAM sont rapides : nous avons mesuré 124,4 tok/s pour Mistral 7B et 83,6 tok/s pour Mistral NeMo 12B (médianes, Ollama 0.18.2, RTX 4080 SUPER). Dès que le modèle déborde de la VRAM, la vitesse s'effondre : un Mixtral 8x7B de 26 Go tombe à 4,6 tok/s. Pour une nouvelle installation en octobre 2026, partez de Ministral 3 (3B, 8B ou 14B, Apache 2.0) : c'est la génération actuelle, et la version 14B tient en 4 bits dans 16 Go.
Article réécrit le 10 octobre 2026. Toutes les vitesses de cette page ont été mesurées le 9 octobre 2026 sur une seule machine, décrite plus bas. Les autres chiffres (tailles, licences, dates) renvoient à leur source officielle.
Pourquoi faire tourner Mistral en local
Trois raisons concrètes, sans grand discours :
- Les données restent sur la machine. Le texte envoyé au modèle ne quitte pas le poste. Cela ne dispense pas des obligations habituelles (chiffrement du disque, contrôle des accès, registre des traitements), mais cela supprime la question du transfert vers un prestataire.
- Des licences claires. Les modèles ouverts récents de Mistral (Ministral 3, Mistral Small 4, Mistral Large 3) sont publiés sous licence Apache 2.0, utilisable en entreprise sans redevance (annonce Mistral 3, annonce Mistral Small 4).
- Pas de quota ni d'abonnement. Une fois le modèle téléchargé, le coût marginal est l'électricité.
La limite est tout aussi concrète : ce qui tourne sur un PC de bureau, ce sont les petits et moyens modèles. Les grands modèles de Mistral visent des serveurs.
Quels modèles Mistral en octobre 2026
La gamme a changé vite. Voici l'état vérifié au 9 octobre 2026 sur la page officielle des modèles Mistral et dans la bibliothèque Ollama.
| Modèle | Taille | Statut chez Mistral | Sur un PC 16 Go VRAM |
|---|---|---|---|
| Ministral 3 (déc. 2025) | 3B, 8B, 14B | Actuel, Apache 2.0 | 14B en Q4_K_M : 9,1 Go, tient en VRAM ; 14B en Q8_0 : 15 Go, trop juste |
| Mistral Small 3.2 | 24B | Déprécié dans l'API, remplacé par Small 4 | 15 Go en Q4_K_M : à la limite, un peu de déchargement en RAM selon l'occupation de la carte |
| Mistral Small 4 (mars 2026) | 119B au total, 6B actifs (MoE) | Actuel, Apache 2.0 | Hors de portée d'une carte seule : Mistral annonce un minimum de 4 H100 pour le servir |
| Mistral Large 3 (déc. 2025) | 675B au total, 41B actifs (MoE) | Actuel, Apache 2.0 | Serveur uniquement |
| Mistral 7B v0.3 | 7B | Retiré de l'API (2025), poids toujours téléchargeables | Mesuré ci-dessous |
| Mistral NeMo | 12B | Déprécié dans l'API (retrait programmé au 31/07/2026) | Mesuré ci-dessous |
| Mixtral 8x7B | 47B au total (MoE) | Retiré de l'API (2025) | 26 Go en Q4_0 : déborde, mesuré ci-dessous |
Tailles de fichiers relevées sur les pages Ollama ministral-3 et mistral-small3.2. Un modèle « retiré de l'API » n'est plus servi par Mistral, mais ses poids restent disponibles sur Ollama et Hugging Face : il fonctionne toujours en local, il n'évoluera simplement plus.
Nos mesures sur une RTX 4080 SUPER
La machine et le protocole
- PC Windows 11, Ryzen 7 7800X3D, 64 Go de DDR5, RTX 4080 SUPER 16 Go (pilote 591.86).
- Ollama 0.18.2 sous WSL2 (Ubuntu 24.04), 39 Go de RAM alloués à WSL. Le bureau Windows occupe de 2 à 5 Go de VRAM selon les applications ouvertes : autant de moins pour les modèles.
- Même consigne en français (« Explique en 6 paragraphes comment fonctionne la quantification… »), 256 tokens générés, température 0. Un passage de chauffe non compté, puis 3 passages mesurés. Vitesse = compteurs renvoyés par Ollama (
eval_count/eval_duration). - Réglages par défaut d'Ollama (contexte 4 096 tokens), modèles tels qu'installés : aucun réglage de faveur.
- Une passe n'est comptée que si aucun autre modèle n'était chargé et que la carte était au repos juste avant : le PC servait aussi à d'autres travaux ce jour-là.
| Modèle (tag Ollama) | Quantification | Mémoire occupée (modèle + contexte) | Placement | Génération (médiane, min–max) |
|---|---|---|---|---|
Mistral 7B (mistral:latest) | Q4_K_M | 5,1 Go | 100 % GPU | 124,4 tok/s (124,2–124,4) |
Mistral NeMo 12B (mistral-nemo:12b) | Q4_0 | 7,7 Go | 100 % GPU | 83,6 tok/s (83,6–83,7) |
Mixtral 8x7B (nous-hermes2-mixtral:8x7b) | Q4_0 | 27,8 Go | 45 % GPU / 55 % CPU | 4,6 tok/s (4,6–4,7) |
Le Mixtral mesuré est la version affinée par Nous Research (Nous Hermes 2), installée sur cette machine : même architecture et même taille que le Mixtral 8x7B d'origine, donc le même comportement en mémoire. Ministral 3 et Mistral Small n'étaient pas installés sur ce PC : nous ne publions pas de vitesse pour eux.
Ce que disent ces chiffres
- Tant que le modèle tient en VRAM, tout va bien. 7B et 12B dépassent largement la vitesse de lecture (quelques tokens par seconde suffisent pour suivre un texte à l'écran).
- Le débordement en RAM coûte un ordre de grandeur. Mixtral 8x7B ne tient qu'à 45 % sur la carte ; le reste tourne sur le processeur, et la vitesse est divisée par 18 par rapport à NeMo. C'est utilisable pour une tâche lancée en fond, pénible pour discuter.
- La règle pratique pour 16 Go : visez un fichier de 10 Go environ, pour laisser de la place au contexte et à ce que Windows garde en VRAM. Ministral 3 14B en Q4_K_M (9,1 Go) est dans cette zone.
Le détail de la méthode, le script utilisé et l'effet des réglages (num_gpu, num_ctx, num_batch) sont publiés dans notre campagne de réglage d'Ollama sur la même machine.
Installer un modèle Mistral avec Ollama
1. Installer Ollama
# Linux (et WSL)
curl -fsSL https://ollama.com/install.sh | sh
# Windows et macOS : installeur sur https://ollama.com/download
Le guide pas à pas, avec les pièges Windows/WSL, est ici : installer Ollama.
2. Télécharger le modèle
# génération actuelle (6 Go en Q4_K_M)
ollama pull ministral-3:8b
# version 14B si la carte a 12 à 16 Go de VRAM (9,1 Go)
ollama pull ministral-3:14b
3. Tester et vérifier le placement
ollama run ministral-3:8b "Rédige un courriel de relance poli, trois phrases."
# dans un autre terminal : la colonne PROCESSOR doit afficher 100% GPU
ollama ps
Si ollama ps affiche un partage CPU/GPU (par exemple « 64%/36% CPU/GPU »), le modèle déborde : choisissez une taille plus petite ou une quantification plus légère.
4. Brancher vos outils sur l'API locale
Ollama expose une API compatible OpenAI sur http://localhost:11434/v1. La plupart des clients (Open WebUI, extensions d'éditeur, scripts) s'y connectent en changeant simplement l'adresse et le nom du modèle. Voir aussi Open WebUI : une interface type ChatGPT sur Ollama.
Quel modèle pour quel usage
| Usage | Notre choix sur 16 Go | Pourquoi |
|---|---|---|
| Courriels, reformulation, résumé court | Ministral 3 8B | 6 Go, tient largement en VRAM, réponse immédiate |
| Documents plus longs, consignes complexes | Ministral 3 14B | Le plus gros modèle Mistral actuel qui reste entièrement sur une carte 16 Go |
| Carte de 8 Go ou PC portable | Ministral 3 3B | 3 Go en Q4_K_M |
| Tâche de fond, sans interaction | Mistral Small 3.2 24B | Plus capable, mais à la limite des 16 Go : acceptez un peu de déchargement |
| Besoin du niveau Mistral Small 4 ou Large 3 | API Mistral ou serveur dédié | Ces modèles visent plusieurs GPU de datacenter |
Ce tableau donne un point de départ, pas un classement de qualité : nous n'avons pas mesuré la qualité des réponses de ces modèles. Pour vérifier sur vos propres cas, le plus rapide est le test d'hallucination en 15 minutes.
Questions fréquentes
Quel modèle Mistral installer en local en octobre 2026 ?
Ministral 3, la génération publiée par Mistral en décembre 2025 sous licence Apache 2.0. La version 8B (6 Go en Q4_K_M) convient au quotidien ; la version 14B (9,1 Go) est la plus grosse qui tient entièrement sur une carte de 16 Go. Mistral 7B et Mistral NeMo fonctionnent toujours en local, mais Mistral ne les fait plus évoluer.
Quelle vitesse attendre sur une RTX 4080 SUPER ?
Sur notre machine (Ollama 0.18.2 sous WSL2, mesures du 9 octobre 2026), Mistral 7B en Q4_K_M génère 124,4 tokens par seconde et Mistral NeMo 12B en Q4_0 83,6 tokens par seconde, tous deux entièrement en VRAM. Un Mixtral 8x7B de 26 Go, qui ne tient qu'à 45 % sur la carte, tombe à 4,6 tokens par seconde.
Mixtral ou Mistral Small 4 tiennent-ils sur une carte de 16 Go ?
Non. Mixtral 8x7B pèse 26 Go en Q4_0 et déborde largement en mémoire vive, ce qui divise la vitesse par plus de dix. Mistral Small 4 compte 119 milliards de paramètres au total et Mistral indique un minimum de 4 GPU H100 pour le servir.
Quelle quantification choisir ?
Le 4 bits des tags par défaut d'Ollama (Q4_K_M ou Q4_0) est le bon point de départ : fichier compact, perte de qualité faible. Passez en Q8_0 seulement si le fichier tient encore entièrement en VRAM : pour Ministral 3 14B, la version Q8_0 fait 15 Go, trop juste pour une carte de 16 Go qui affiche aussi le bureau.
Mistral en local suffit-il pour être conforme au RGPD ?
Il règle la question du transfert : le texte ne quitte pas la machine. Le reste des obligations demeure : chiffrement du poste, contrôle des accès, information des personnes concernées et registre des traitements.
Comment vérifier que le modèle tourne bien sur la carte graphique ?
Lancez ollama ps pendant que le modèle est chargé. La colonne PROCESSOR doit afficher 100% GPU. Un affichage du type 64%/36% CPU/GPU signifie que le modèle déborde en mémoire vive : prenez une taille plus petite.
Le verdict
Sur un PC équipé d'une carte de 16 Go, Mistral en local est rapide et simple à installer, à une condition : choisir un modèle qui tient dans la VRAM. Ministral 3 8B pour le quotidien, Ministral 3 14B pour les textes exigeants. Mixtral et Mistral Small 4 sur une seule carte grand public, c'est non : trop gros, trop lent.
Sources : liste officielle des modèles Mistral · annonce Mistral 3 (2 décembre 2025) · annonce Mistral Small 4 (16 mars 2026) · Ollama : ministral-3 · poids sur Hugging Face. Mesures : OutilsIA, 9 octobre 2026, une seule machine.