Preuve logicielle OutilsIA
Le conseil matériel vient après le diagnostic.
OutilsIA édite Local Cockpit, une application desktop Rust/Tauri open source pour Windows et Linux. Elle détecte le matériel et le runtime Ollama, recommande un modèle, puis distingue clairement une compatibilité estimée d'un benchmark réellement exécuté.
Cette mesure prouve le parcours sur une machine précise. Elle ne prévoit pas la vitesse du matériel présenté sur cette page.
Deux RTX 3090, c'est 48 Go de VRAM pour moins de 1500 euros en occasion. C'est la configuration enthusiaste par excellence pour l'IA locale en 2026 : elle ouvre la porte aux modèles de 70 milliards de parametres et au-dela, et fait tourner a l'aise la génération open source 2026 (Qwen 3.6, Gemma 4, GLM-4.7). Ce guide détaillé tout ce que vous pouvez faire tourner sur cette config, comment configurer le multi-GPU, et comment monter votre machine.
Comment fonctionne le multi-GPU pour l'IA
Le multi-GPU pour l'inference fonctionne via le tensor parallelism : le modèle est decoupe en couches, et chaque GPU charge une partie. Vous combinez ainsi la VRAM des deux cartes. Bonne nouvelle : le NVLink n'est PAS nécessaire. Le tensor parallelism fonctionne tres bien via PCIe 3.0 x16 (~16 Go/s), avec seulement 5-10% de perte de performance par rapport au NVLink.
Outils compatibles multi-GPU
✅ Compatible multi-GPU
- llama.cpp - Split automatique entre GPU
- Ollama - Repartition par layers entre GPU
- vLLM - Tensor parallelism natif
- text-generation-inference - Support multi-GPU complet
- ExLlamaV2 - Split VRAM personnalisable
⚠ Cas particulier
- LM Studio - Multi-GPU désormais supporté (répartition par priorité, tensor parallelism CUDA depuis la version 0.4.15, juin 2026)
- Sur une vieille version, un seul GPU est utilisé (24 Go max) : mettez LM Studio à jour avant de conclure
Modèles que vous pouvez faire tourner sur 48 Go VRAM
| Modèle | Taille | Quantisation | VRAM | Tokens/s | Qualite |
|---|---|---|---|---|---|
| Qwen 3.6 35B | 35B | Q4 (~24 Go) | ~26 Go (est.) | estimation, non mesuré | ⭐⭐⭐⭐⭐ |
| Gemma 4 26B | 26B (MoE) | Q4 (~18 Go) | ~20 Go (est.) | estimation, non mesuré | ⭐⭐⭐⭐⭐ |
| GLM-4.7 | ~30B (MoE, 3B actifs) | Q4 | ~15-18 Go (est.) | estimation, non mesuré | ⭐⭐⭐⭐ |
| Llama 3 70B | 70B | Q4_K_M | ~40 Go | 15-25 t/s | ⭐⭐⭐⭐⭐ |
| Mixtral 8x7B | 47B (MoE) | FP16 | ~45 Go | 20-30 t/s | ⭐⭐⭐⭐⭐ |
| Qwen 2.5 72B | 72B | Q4_K_M | ~42 Go | 12-20 t/s | ⭐⭐⭐⭐⭐ |
| DeepSeek Coder V2 236B | 236B (MoE) | Q2_K | ~48 Go | 5-10 t/s | ⭐⭐⭐⭐ |
| Command R+ 104B | 104B | Q3_K_M | ~45 Go | 8-15 t/s | ⭐⭐⭐⭐ |
| Mistral Large 123B | 123B | Q3_K_S | ~46 Go | 6-12 t/s | ⭐⭐⭐⭐ |
| Yi 34B | 34B | FP16 | ~34 Go | 25-35 t/s | ⭐⭐⭐⭐ |
Lignes Qwen 3.6, Gemma 4 et GLM-4.7 (génération 2026) : tailles de téléchargement vérifiées sur ollama.com, VRAM et débits estimés — non mesurés sur notre banc. Les autres débits sont des ordres de grandeur communautaires.
🏆 Le champion : Llama 3 70B Q4
Le Llama 3 70B Q4 reste une valeur sûre pour dual RTX 3090 : 40 Go de VRAM, 15-25 tokens/s, un niveau comparable aux modèles cloud de 2024. Installez-le via Ollama en une commande. Pour la génération 2026, voyez Qwen 3.6 35B et Gemma 4 26B dans le tableau ci-dessus.
Comparaison avec d'autres configs
| Configuration | VRAM | Modèles max | Prix GPU | Verdict |
|---|---|---|---|---|
| 1x RTX 4090 | 24 Go | 34B Q4, 13B FP16 | ~1600 euros | Rapide mais limite en taille |
| 1x RTX 3090 | 24 Go | 34B Q4, 13B FP16 | ~700 euros | Bon début, meme limites |
| 2x RTX 3090 | 48 Go | 70B Q4, 34B FP16 | ~1400 euros | Le sweet spot ! |
| Mac Studio M4 192 Go | 192 Go (unifiee) | 70B FP16, 405B Q4 | ~5000+ euros | Plus de VRAM mais plus lent/token |
Conseils pratiques pour une config dual RTX 3090
⚡ Alimentation : 1000W minimum
2x 350W GPU + système = 1000W minimum requis. Choisissez du 80+ Gold. Budget : ~120 euros.
🖥 Carte mere : 2 slots PCIe x16
Verifiez l'espacement entre les slots pour deux cartes triple slot. MSI B550-A Pro ou Gigabyte B660 suffisent.
🌀 Refroidissement CRITIQUE
Boitier airflow (Meshify C, Lancool II Mesh). Ventilateurs extraction haut + arriere. Cible : moins de 83 degres C.
💾 SSD NVMe obligatoire
Un NVMe charge un modèle 70B en 10-15s. Un HDD prendrait des minutes. Minimum 1 To.
Configuration recommandee complete
Config Dual RTX 3090 - La Bete
~2000 eurosAvec Ollama, le multi-GPU est automatique : lancez ollama run llama3:70b-instruct-q4_K_M et Ollama repartit les couches entre vos deux GPU. Pour llama.cpp, utilisez --tensor-split 24,24.
Questions frequentes
Articles associes
À retenir
- 2x RTX 3090 (48 Go VRAM) : quels modèles IA faire tourner en local ? : la bonne config est celle que votre machine tient, pas le tweet du jour.
- Mesurez (scan + tokens/s) avant d’acheter ou de tirer un modèle trop gros.
- Parcours : hub IA locale → Local Cockpit → preuve sur votre PC.
Sources et liens
Pour étayer 2x RTX 3090 (48 Go VRAM) : quels modèles IA faire tourner en local ? et rester sur des faits mesurables :
Articles liés
PC IA Builder Premium
Configurateur complet : 3 builds alternatifs (silencieux / puissance / value), projection IA workloads détaillée, analyse bottleneck, PDF dossier de configuration. Sois prévenu·e du lancement.