Meilleur LLM local : les modèles IA à faire tourner chez vous
Dernière mise à jour : 14 octobre 2026. Nous mettons cette page à jour chaque mois.
De nouveaux modèles ouverts sortent presque chaque semaine. Cette page répond à une question simple : avec la mémoire dont vous disposez, quel modèle faire tourner ce mois-ci ? Toutes les tailles indiquées sont celles des téléchargements sur Ollama, en version compressée standard.
Faire tourner un LLM local demande surtout assez de mémoire vidéo. Si votre machine ne suit pas, notre guide PC IA vous aide à choisir, et toute notre gamme est sur notre page stations et serveurs IA.
Notre sélection par quantité de mémoire
| Mémoire GPU | Notre choix | Alternatives | Commande Ollama |
|---|---|---|---|
| 8 Go | Gemma 4 E4B (6,6 Go) : lit aussi les images | Qwen 3.5 4B (3,3 Go), Ministral 3 3B (3,0 Go) | ollama run gemma4:e4b |
| 16 Go | Gemma 4 12B (8 Go) : polyvalent, multimodal | gpt-oss-20b (14 Go), Ministral 3 14B (9,1 Go), Qwen 3.5 9B (6,6 Go) | ollama run gemma4:12b |
| 32 Go | Qwen 3.8 27B (18 Go) : le plus récent des modèles denses de cette taille | Qwen 3.6 27B (18 Go), Gemma 4 31B (20 Go), Gemma 4 26B (18 Go) | ollama run qwen3.8:27b |
| 96 à 128 Go | gpt-oss-120b (65 Go) : rapide et sous Apache 2.0 | Qwen 3.5 122B (81 Go), Llama 4 Scout (67 Go), Mistral Small 4 | ollama run gpt-oss:120b |
| Serveur multi-GPU | DeepSeek V4-Flash (environ 160 Go) | Mistral Large 3, DeepSeek-R1 complet (404 Go) | via vLLM ou SGLang |
Gemma 4 (Google)
Sorti le 2 avril 2026, complété par une version 12B le 3 juin, Gemma 4 est la grande nouveauté de l'année côté Google. Changement majeur : il passe sous licence Apache 2.0, plus permissive que les anciennes conditions Gemma.
- Tailles : E2B, E4B, 12B, 26B (mixture of experts, 3,8 milliards de paramètres actifs) et 31B.
- Contexte : 128 000 tokens pour les petits modèles, 256 000 pour les autres.
- Toutes les tailles lisent les images ; E2B, E4B et 12B comprennent aussi l'audio.
- Selon Google, le 12B tourne avec 16 Go de mémoire.
- Sur Ollama :
gemma4:e2b(4,6 Go),gemma4:e4b(6,6 Go),gemma4:12b(8 Go),gemma4:26b(18 Go),gemma4:31b(20 Go).
Qwen 3.5, 3.6 et 3.8 (Alibaba)
La famille Qwen avance vite, et les numéros de version prêtent à confusion :
- Qwen 3.5 (17 février 2026) : de 0,8 à 397 milliards de paramètres, tous capables de lire les images, sous Apache 2.0.
- Qwen 3.6 (avril 2026) : un 35B-A3B très rapide et un 27B dense, orientés code et agents.
- Qwen 3.7 (juin 2026) : pas de version téléchargeable. Qwen3.7-Plus n'est disponible que par API.
- Qwen 3.8 (17 août 2026) : un 27B dense sous Apache 2.0, qu'Alibaba présente comme capable de tourner sur du matériel grand public, plus un modèle géant de 2 400 milliards de paramètres sous licence spécifique.
Les Qwen récents acceptent 262 144 tokens de contexte en natif, extensibles jusqu'à environ un million. Sur Ollama, qwen3.8:27b pèse 18 Go : il tient dans une carte de 24 Go ou une station de 32 Go.
gpt-oss (OpenAI)
Les deux modèles ouverts d'OpenAI restent des références : gpt-oss-20b (14 Go) pour une carte de 16 Go, gpt-oss-120b (65 Go) pour 96 Go et plus. Ils sont sous Apache 2.0, avec un effort de raisonnement réglable. Notre guide complet : gpt-oss en local.
Mistral (France)
Ministral 3 (3B, 8B et 14B) pour les PC, Mistral Small 4 (119 milliards de paramètres, dont 6 milliards actifs) pour les stations professionnelles, et Mistral Large 3 (675 milliards) pour les serveurs, tous sous Apache 2.0. Notre guide : Mistral AI en local : quel GPU ?
DeepSeek
Les modèles complets (V4-Flash, V4.1-Flash, R1) demandent un serveur. Sur PC, ce sont les versions « distill » de R1, de 1,5 à 70 milliards de paramètres. Le plus récent, DeepSeek-V4.1-Flash (10 septembre 2026), n'est proposé sur Ollama qu'en version cloud. Notre guide : DeepSeek en local.
Llama (Meta)
Aucun nouveau Llama ouvert depuis Llama 4 en avril 2025. Llama 4 Scout (109 milliards de paramètres, dont 17 actifs, 67 Go sur Ollama) reste utilisable sur une grosse station. Attention : la politique d'utilisation de Llama 4 retire aux personnes et entreprises établies dans l'UE les droits sur les modèles multimodaux, les utilisateurs finaux d'un produit qui l'intègre étant exemptés. Le dernier modèle de Meta, Muse Spark, n'est disponible qu'en ligne.
llama.cpp ou Ollama ?
llama.cpp est le moteur d'inférence en C/C++ sur lequel repose l'essentiel de l'IA locale. Il a créé le format de fichier GGUF, compresse les modèles de 1,5 à 8 bits et répartit un modèle entre processeur et carte graphique quand il ne tient pas en mémoire vidéo. Il fonctionne avec CUDA, Metal, Vulkan et d'autres. Sa version 0.6.0 (5 octobre 2026) a ajouté une nouvelle interface web et une API de traitement par lots.
Ollama rend tout cela simple : une commande pour télécharger et lancer un modèle. Depuis mai 2025, il utilise aussi son propre moteur. Sa version 0.40 (septembre 2026) fait tourner Gemma 4 et Qwen 3.5/3.6 avec MLX par défaut sur les Mac Apple Silicon.
| Votre besoin | Notre conseil |
|---|---|
| Démarrer en cinq minutes | Ollama |
| Un poste de travail ou un petit assistant d'équipe | Ollama |
| Un réglage fin (répartition entre plusieurs GPU, quantification sur mesure, serveur compatible OpenAI) | llama.cpp (llama-server) |
| Un serveur pour de nombreux utilisateurs simultanés | vLLM ou SGLang |
Tous les deux sont des logiciels libres sous licence MIT.
Quel matériel pour ces modèles ?
- 16 Go : station RTX 5060 Ti (2 490 € TTC) ou RTX 5070 Ti (2 990 € TTC)
- 32 Go : station 2× RTX 5060 Ti (4 490 € TTC) ou 2× RTX 5070 Ti (5 990 € TTC)
- 96 à 288 Go : station Threadripper avec 1 à 3 RTX PRO 6000, ou 128 Go unifiés avec la station GB10
- Serveur : 8 GPU H200, B200 ou B300, hébergeables chez nous en France
Pour savoir quel modèle et quelle machine conviennent à votre usage, contactez-nous ou appelez le +33 6 32 49 26 41.
Les nouveautés du mois (octobre 2026)
- llama.cpp 0.6.0 (5 octobre) : nouvelle interface web et API de traitement par lots.
- Ollama 0.40.3 (11 octobre) : dernière version stable.
- Rappel de septembre : DeepSeek-V4.1-Flash, disponible sur Ollama en version cloud seulement.
Nos guides par modèle
- Mistral AI en local : quel modèle pour quel GPU ?
- gpt-oss en local : installer gpt-oss-20b et 120b
- DeepSeek avec Ollama : installer DeepSeek en local
- Stable Diffusion, FLUX et ComfyUI en local
- IA gratuite illimitée : la seule vraiment sans limite tourne chez vous
- Pour une entreprise : IA locale, RGPD et AI Act
Questions fréquentes
Quel est le meilleur modèle IA local en octobre 2026 ? Cela dépend de votre mémoire. Notre sélection : Gemma 4 12B ou gpt-oss-20b avec 16 Go, Qwen 3.8 27B avec 32 Go, gpt-oss-120b avec 96 Go et plus.
Gemma 4 est-il utilisable commercialement ? Oui. Gemma 4 est publié sous licence Apache 2.0, qui autorise l'usage commercial.
Peut-on télécharger Qwen 3.7 ? Non. Qwen3.7-Plus n'est disponible que par API. Pour un usage local, prenez Qwen 3.6 ou Qwen 3.8.
llama.cpp ou Ollama ? Ollama pour la simplicité, llama.cpp pour le contrôle fin. Les deux sont gratuits et libres.
Sources
- Google, Gemma 4 (2 avril 2026), Gemma 4 12B (3 juin 2026) et documentation Gemma
- Alibaba Cloud, Qwen3.5 (17 février 2026), Qwen3.6-35B-A3B, Qwen3.6-27B, Qwen3.7-Plus ; Alizila, Qwen3.8-27B (17 août 2026) ; Hugging Face, Qwen3.8-27B
- OpenAI, Introducing gpt-oss (5 août 2025)
- Mistral AI, Introducing Mistral 3 (2 décembre 2025)
- DeepSeek, annonce de V4.1-Flash (10 septembre 2026)
- Meta, Llama 4 (5 avril 2025), politique d'utilisation de Llama 4 et Muse Spark (8 avril 2026)
- Ollama, tailles des modèles gemma4, qwen3.5, qwen3.6, qwen3.8, gpt-oss, llama4 (consultés le 14 octobre 2026)
- llama.cpp et version 0.6.0 ; Hugging Face, format GGUF
- Ollama, nouveau moteur multimodal (15 mai 2025) et versions sur GitHub