# GPU et VRAM : le nerf de l'IA locale | OSFRIA GPU et VRAM : combien de mémoire pour faire tourner un LLM chez soi ? Repères simples (7B, 13B), rôle de la quantification et du contexte. Une note d'OSFRIA. URL canonique : https://www.osfria.fr/concept-gpu-vram.html --- Cartographie · Concept ## GPU et VRAM : le nerf de l'IA locale La question la plus concrète quand on se lance : « est-ce que ça tournera sur ma machine ? » La réponse tient surtout dans un mot — la VRAM, la mémoire de la carte graphique. > Note informative, sans valeur de conseil. Une idée par note, reliée à ses voisines et aux outils concernés. ### L'idée en deux mots Pour générer du texte vite, un modèle aime résider dans la **VRAM**, la mémoire dédiée du **GPU** (la carte graphique). Plus le modèle est gros, plus il en réclame. Un repère utile, une fois le modèle [quantifié](https://www.osfria.fr/concept-quantification.html) en 4 bits : comptez environ **8 Go de VRAM pour un modèle 7B**, 10 à 12 Go pour un 13B, et bien davantage au-delà. Sans GPU, ça fonctionne quand même sur le processeur, mais plus lentement. La [fenêtre de contexte](https://www.osfria.fr/concept-fenetre-contexte.html) consomme elle aussi de la mémoire : un long contexte gonfle le besoin. D'où l'intérêt de bien doser quantification et taille de contexte selon sa carte. Côté RAM système, viser 32 Go confortable l'ensemble. ### Une bonne nouvelle On n'a pas besoin du dernier matériel hors de prix pour commencer. Beaucoup d'usages — discuter, résumer, coder, faire du [RAG](https://www.osfria.fr/concept-rag.html) — tournent très bien sur une carte de gamme moyenne, voire sur un bon processeur. Des outils comme [Ollama](https://www.osfria.fr/ollama.html) et [LM Studio](https://www.osfria.fr/lm-studio.html) détectent votre matériel et vous orientent. C'est tout l'esprit du [coût maîtrisé](https://www.osfria.fr/enjeu-cout-et-gratuite.html) : commencer modeste, progresser à son rythme. ### À relier - [La quantification](https://www.osfria.fr/concept-quantification.html) — le levier n°1 pour économiser la VRAM. - [La fenêtre de contexte](https://www.osfria.fr/concept-fenetre-contexte.html) — l'autre poste de consommation mémoire. - [L'obsolescence du matériel](https://www.osfria.fr/risque-obsolescence-materiel.html) — choisir sans surinvestir. - [Coût et gratuité](https://www.osfria.fr/enjeu-cout-et-gratuite.html) — commencer avec ce qu'on a.