Mon PC peut-il faire tourner une IA ?

Mon PC peut-il faire tourner une IA en local ?

C'est LA question que tout le monde se pose avant d'installer Ollama, LM Studio ou Stable Diffusion. La reponse depend principalement de votre carte graphique (GPU) et de sa memoire video (VRAM).

Les modèles d'IA (LLM) ont besoin de VRAM pour stocker leurs parametres. Un modèle de 7 milliards de parametres (7B) quantifie en Q4 nécessité environ 4-5 Go de VRAM. Un modèle de 70B nécessité environ 40 Go. Plus votre GPU a de VRAM, plus vous pouvez faire tourner de gros modèles — et les gros modèles donnent de meilleures reponses.

Combien de VRAM pour quel modele ?

En regle générale avec une quantification Q4 (bon compromis qualité/taille) :

• 4 Go VRAM : modeles 3B (Phi, Gemma) — basique mais rapide
• 8 Go VRAM : modeles 7-8B (Llama 3, Mistral 7B) — bon pour la plupart des usages
• 12 Go VRAM : modeles 13-14B (Qwen 14B) — qualite superieure
• 16 Go VRAM : modeles 14-20B — excellent
• 24 Go VRAM : modeles 30-34B (Qwen 32B) — proche de GPT-4
• 48 Go VRAM : modeles 70B (Llama 70B) — qualite premium
• 128 Go+ : modeles 120B+ — le top absolu

Et si mon GPU n'a pas assez de VRAM ?

Le modèle peut utiliser la RAM système (CPU offloading) mais c'est beaucoup plus lent (5-10x). C'est utilisable pour tester mais pas pour un usage quotidien confortable. La meilleure solution : upgrader votre GPU ou passer sur un Mac avec mémoire unifiee.

Guide : quel GPU acheter pour l'IA locale → | Mac vs PC pour l'IA → | DGX Spark comparatif →