Quels modèles d'IA faire tourner en local en 2026 ? Le guide par mémoire GPU
Par PowerLab · Publié le · Mis à jour le
« J'ai 32 Go, qu'est-ce que je peux faire tourner ? » C'est la question qu'on nous pose le plus souvent, et c'est la bonne façon de la poser. Ce n'est pas le nom du modèle qui décide de votre machine : c'est la mémoire de la carte graphique (VRAM), puis le nombre de personnes qui s'en serviront en même temps. Ce guide part donc de la mémoire, palier par palier, et indique pour chacun les meilleurs modèles ouverts qui y tiennent réellement.
· 32 Go → Qwen3.8 27B, le meilleur modèle ouvert de moins de 40 milliards de paramètres, pour 5 personnes en même temps.
· 64 Go → le même modèle pour 17 personnes, ou en qualité quasi maximale (8 bits).
· 96 Go → Qwen3.8 27B en pleine précision, ou Qwen3.8-Flash-Next, 5e modèle ouvert mondial, en version 3 bits.
· 192 Go → Qwen3.8-Flash-Next pour toute une équipe, GLM-5.3-Flash (4e mondial) pour une équipe réduite.
· 384 Go → GLM-5.3-Flash confortable, et DeepSeek V4.1 Flash (6e mondial).
Comment lire ce guide
La règle de calcul. Un modèle occupe environ 0,5 Go par milliard de paramètres en 4 bits (le format le plus courant en local), 1 Go en 8 bits et 2 Go en pleine précision. On ajoute 15 à 20 % pour le contexte des conversations en cours. Un modèle de 27 milliards de paramètres demande donc environ 18 Go en 4 bits.
Les « MoE ». Les modèles ouverts les plus puissants de 2026 sont des Mixture of Experts : plusieurs centaines de milliards de paramètres, dont seule une petite partie travaille à chaque mot (on parle de paramètres « actifs »). Ils répondent vite pour leur taille, mais tous leurs paramètres doivent tenir en mémoire. C'est la taille totale qui dimensionne la machine.
Notre référence. Nous classons les modèles selon l'indice d'intelligence d'Artificial Analysis, un organisme indépendant qui évalue les modèles sur le même jeu d'épreuves (raisonnement, connaissances, code, mathématiques). Les valeurs citées ici ont été relevées le 12/10/2026. Elles ne sont pas comparables d'une version de l'indice à l'autre, et le classement bouge vite : ce guide est révisé chaque trimestre.
Les meilleurs modèles ouverts au monde… et ceux qui tiennent chez vous
↔ Faites défiler le tableau horizontalement
| Rang | Modèle | Indice | Taille totale · actifs | Où il tourne |
|---|---|---|---|---|
| 1 | MiMo-V2.6-Pro (Xiaomi) | 46 | ~1 000 Md · 42 Md | Hors gabarit entreprise |
| 2 | GLM-5.3 (Z.ai) | 45 | 753 Md · 40 Md | Hors gabarit (~420 Go en 4 bits) |
| 3 | Kimi K3 (Moonshot) | 44 | 2 800 Md · 104 Md | Hors gabarit (~1,4 To) |
| 4 | GLM-5.3-Flash (Z.ai) | 42 | 320 Md · 18 Md | Cluster (3 bits) et Datacenter |
| 5 | Qwen3.8-Flash-Next (Alibaba) | 40 | 180 Md · 6 Md | Dès la Studio Max (3 bits) |
| 6 | DeepSeek V4.1 Flash | 39 | 552 Md · 16 Md | Datacenter |
| — | Qwen3.8 27B (Alibaba) | 34 | 27 Md (dense) | Dès la Neura Studio (32 Go) |
Le constat est net. Les trois premiers demandent de 420 Go à 1,4 To de mémoire : leurs poids sont publics, mais ils relèvent du centre de données, pas d'une entreprise. En revanche, le 4e, le 5e et le 6e tournent sur une machine que l'on peut installer dans un bureau ou un local technique. Et Qwen3.8 27B, n°1 des modèles de moins de 40 milliards de paramètres, tourne sur une seule carte grand public.
32 Go — la Neura Studio (1× RTX 5090)
Ce qui tient. Qwen3.8 27B en 4 bits (~18 Go, indice 34) : c'est le meilleur modèle ouvert de sa catégorie, et de loin. Il couvre l'essentiel des usages d'une PME : assistant sur vos documents (RAG), rédaction, synthèse, analyse, code. Alternatives : Gemma 4 31B (~21 Go) ou Gemma 4 26B A4B, nettement moins bien classés (indices 15 à 17) mais utiles si vous êtes déjà dans l'écosystème Google.
Pour combien de personnes. Environ 5 personnes en même temps sur Qwen3.8 27B, 3 sur Gemma 4 31B. Au-delà, les réponses ralentissent.
Quand passer au palier suivant. Dès que plus de cinq collègues l'utilisent au quotidien, ou si vous voulez la qualité 8 bits (~34 Go), qui ne tient pas sur 32 Go.
→ Neura Studio, à partir de 9 999 € HT.
64 Go — la Neura Studio Duo (2× RTX 5090)
Ce qui tient. Le même Qwen3.8 27B, avec beaucoup plus de place pour les conversations, ou en 8 bits (~34 Go), qualité quasi maximale. Le modèle est réparti sur les deux cartes.
Pour combien de personnes. Environ 17 personnes en 4 bits, 6 en 8 bits. En génération d'image, deux rendus tournent en parallèle.
Quand passer au palier suivant. Si vous voulez la pleine précision (~65 Go) ou un modèle MoE comme Qwen3.8-Flash-Next : il leur faut une seule grande carte, ou un serveur.
→ Neura Studio Duo, à partir de 14 999 € HT.
96 Go — la Neura Studio Max (1× RTX PRO 6000)
Ce qui tient. Deux options très différentes :
- Qwen3.8 27B en pleine précision (~65 Go), sans aucune compression, ou en 4 bits pour plus de 25 personnes.
- Qwen3.8-Flash-Next en 3 bits (~82 Go) : le 5e modèle ouvert mondial (indice 40) sur une seule carte. La compression en 3 bits coûte un peu plus de qualité que le 4 bits, à valider sur votre usage.
À éviter. Les modèles de 100 à 120 milliards de paramètres qui tiennent sur 96 Go (gpt-oss-120b, Nemotron 3 Super, Mistral Small 4, Qwen3.5 122B) sont aujourd'hui dépassés : indices de 11 à 18, loin derrière Qwen3.8 27B. Un modèle plus gros n'est pas forcément meilleur.
Pour combien de personnes. Plus de 25 sur Qwen3.8 27B en 4 bits, 12 en 8 bits, 3 en pleine précision. Sur Qwen3.8-Flash-Next en 3 bits, la mémoire restante limite l'usage à une équipe réduite.
Quand passer au palier suivant. Pour servir Qwen3.8-Flash-Next à toute une équipe, ou pour GLM-5.3-Flash.
→ Neura Studio Max, à partir de 19 999 € HT.
192 Go — le Neura Cluster (2× RTX PRO 6000)
Ce qui tient.
- Qwen3.8-Flash-Next confortablement, avec de la place pour une équipe.
- GLM-5.3-Flash en 3 bits (~150 Go) : le 4e modèle ouvert mondial (indice 42), pour une équipe réduite. Il ne tient pas en 4 bits standard sur 192 Go.
- Qwen3.8 27B pour plus de 50 personnes en 4 bits, 32 en 8 bits.
Le cas d'usage type. Un assistant partagé par toute l'entreprise, des agents qui tournent en continu, ou un modèle de pointe pour une cellule data.
Quand passer au palier suivant. Pour GLM-5.3-Flash à toute une équipe, ou pour DeepSeek V4.1 Flash.
→ Neura Cluster, à partir de 49 999 € HT.
384 Go — le Neura Datacenter (4× RTX PRO 6000)
Ce qui tient.
- GLM-5.3-Flash confortablement, pour une équipe.
- DeepSeek V4.1 Flash (indice 39, licence MIT) dans sa version officielle : le modèle (~307 Go) en mémoire GPU, sa table de recherche « Engram » (~203 Go, consultée par petites requêtes) sur disque NVMe. Cette configuration a été démontrée sur 4× RTX PRO 6000, mais les outils sont encore récents : nous la mettons en service après validation sur votre cas.
- Qwen3.8 27B pour plus de 100 personnes en 4 bits, 71 en 8 bits.
Le cas d'usage type. Une équipe qui construit des produits IA, des agents en production 24h/24, de l'entraînement et de l'affinage de modèles.
→ Neura Datacenter, à partir de 99 999 € HT.
Le récapitulatif
↔ Faites défiler le tableau horizontalement
| Modèle | Mémoire | 32 Go | 64 Go | 96 Go | 192 Go | 384 Go |
|---|---|---|---|---|---|---|
| Qwen3.8 27B · 4 bits | ~18 Go | 5 pers. | 17 pers. | 25+ pers. | 50+ pers. | 100+ pers. |
| Gemma 4 31B · 4 bits | ~21 Go | 3 pers. | 14 pers. | 24 pers. | 50+ pers. | 100+ pers. |
| Qwen3.8 27B · 8 bits | ~34 Go | — | 6 pers. | 12 pers. | 32 pers. | 71 pers. |
| Qwen3.8 27B · pleine précision | ~65 Go | — | — | 3 pers. | 13 pers. | 34 pers. |
| Qwen3.8-Flash-Next · 3 bits | ~82 Go | — | — | équipe réduite | équipe | équipe |
| GLM-5.3-Flash · 3 bits | ~150 Go | — | — | — | équipe réduite | équipe |
| DeepSeek V4.1 Flash · officiel | ~310 Go | — | — | — | — | équipe réduite |
Nombre de personnes en même temps : estimation calculée à contexte de travail confortable, plafonnée par le débit réel des cartes. Pour les MoE géants, la capacité dépend fortement de la longueur des échanges et se mesure au cas par cas : nous indiquons « équipe » ou « équipe réduite » plutôt qu'un chiffre.
Au-delà du texte : image, vidéo, recherche documentaire
- Image. Qwen-Image-2512 (20 milliards de paramètres, licence Apache 2.0, usage commercial autorisé) tient sur une carte de 32 Go en version compressée 8 bits. Attention aux licences : la version plus récente Qwen-Image-2.1 est réservée à la recherche, et Qwen-Image 3.0 n'est disponible qu'en ligne, sans poids téléchargeables.
- Vidéo. LTX-2.5 (Lightricks, 22 milliards de paramètres) génère vidéo et son, avec des versions compressées prévues pour les cartes Blackwell et une prise en charge dans ComfyUI.
- Recherche dans vos documents. Un assistant RAG s'appuie sur un petit modèle d'« embeddings » qui indexe vos fichiers. EmbeddingGemma 2 (740 millions de paramètres, texte et image) tient sur n'importe laquelle de nos machines, à côté du modèle principal.
Ce qui ne tient pas, et ce qu'on en fait
MiMo-V2.6-Pro, GLM-5.3 et Kimi K3 sont les trois modèles ouverts les plus intelligents du moment, mais il leur faut de 420 Go à 1,4 To de mémoire : un centre de données, pas une salle serveur d'entreprise. Deux approches réalistes :
- Le modèle « Flash » de la même famille. GLM-5.3-Flash garde l'essentiel de la qualité de GLM-5.3 (42 contre 45) pour moins de la moitié de la mémoire.
- Le local pour l'essentiel, le cloud pour le reste. Les requêtes courantes et sensibles restent chez vous ; les rares cas qui exigent un modèle de pointe partent vers une API. C'est ce que nous appelons l'approche hybride, détaillée dans notre comparatif local vs cloud.
Comment choisir en trois questions
- 1. Quel niveau de modèle vous faut-il ? Pour un assistant sur vos documents, Qwen3.8 27B suffit dans l'immense majorité des cas : un bon modèle qui a accès à vos données bat un excellent modèle qui ne les a jamais vues.
- 2. Combien de personnes en même temps ? C'est ce qui fait passer d'un palier à l'autre, bien plus que la taille du modèle.
- 3. Quel niveau de confidentialité ? Si vos données ne doivent jamais sortir de votre réseau, le local n'est pas une option parmi d'autres, c'est la seule.
Pour aller plus loin : notre sélecteur « Quel GPU pour mon modèle » estime la mémoire nécessaire, et notre calculateur compare le coût avec le cloud.
Questions fréquentes
Quel est le meilleur modèle d'IA pour une RTX 5090 ?
Au 12 octobre 2026, Qwen3.8 27B en 4 bits : c'est le modèle ouvert de moins de 40 milliards de paramètres le mieux classé par Artificial Analysis (indice 34), et il occupe environ 18 Go sur les 32 Go de la carte, ce qui laisse de la place pour servir environ 5 personnes en même temps.
Peut-on faire tourner DeepSeek en local ?
Oui. DeepSeek V4.1 Flash, 6e modèle ouvert mondial, tourne sur un serveur 4 GPU de 384 Go dans sa version officielle, avec sa table Engram sur disque NVMe. Les outils sont encore récents : nous validons la configuration sur votre usage avant la mise en service.
96 Go suffisent-ils pour un modèle de pointe ?
Pour un des meilleurs, oui : Qwen3.8-Flash-Next, 5e modèle ouvert mondial, tient sur une carte de 96 Go en version 3 bits, pour une équipe réduite. Pour le servir à toute une équipe, ou pour GLM-5.3-Flash, il faut un serveur 2 GPU.
La compression en 4 bits dégrade-t-elle la qualité ?
Très peu : de l'ordre de 1 à 3 % sur les principaux benchmarks, imperceptible sur les usages courants. En 3 bits, la perte est plus marquée et dépend du modèle ; nous la mesurons sur vos cas réels avant de la recommander.
À quelle fréquence ce classement change-t-il ?
Vite : plusieurs modèles ouverts majeurs sortent chaque trimestre, et Qwen 4 est déjà annoncé. Votre matériel, lui, dure quatre à cinq ans. C'est pourquoi nous dimensionnons sur la mémoire et le nombre d'utilisateurs, pas sur un modèle précis : une machine bien choisie fera tourner les modèles de l'année prochaine.
Vous visez un modèle précis ?
Dites-nous lequel et combien de personnes s'en serviront : nous vous répondons avec un dimensionnement et un devis sous 48 h ouvrées. Prix « à partir de » HT au 12/10/2026, confirmés sur devis.