IA locale
Aussi appelé : IA privée, IA sur site
L'IA locale fait tourner un modèle d'intelligence artificielle sur votre propre matériel, au bureau ou chez vous, sans envoyer vos données dans le cloud.
Avec un assistant en ligne, chaque question et chaque document part sur les serveurs d'un fournisseur. L'IA locale, aussi appelée IA privée ou IA sur site, inverse la logique : le modèle est installé sur un ordinateur ou un serveur qui vous appartient, et tous les calculs se font sur place. Grâce aux modèles ouverts comme Llama, Mistral, Qwen ou Gemma, on obtient aujourd'hui des résultats très utiles sans dépendre d'un service extérieur.
Le premier intérêt est la confidentialité : contrats, dossiers clients, données médicales ou plans techniques restent dans vos murs, ce qui simplifie aussi la conformité au RGPD. S'y ajoutent l'absence d'abonnement par utilisateur ou de facturation au token, le fonctionnement sans connexion Internet et la liberté de choisir et de personnaliser vos modèles. En contrepartie, les plus gros modèles du marché restent hors de portée d'une machine de bureau, et la maintenance vous revient, sauf si vous la confiez à un prestataire.
Pour s'équiper, tout part de la mémoire du GPU. Une carte de 16 Go fait tourner confortablement des modèles quantifiés de 7 à 14 milliards de paramètres. Avec 32 Go répartis sur deux cartes, on accède à des modèles plus capables ou à des contextes plus longs. Côté logiciel, Ollama sert le modèle et Open WebUI offre une interface de discussion proche de celle des assistants grand public.
Nos stations IA sont livrées avec Linux, les pilotes NVIDIA, Ollama et Open WebUI déjà installés. Nous proposons aussi, sur devis, un assistant IA privé connecté à vos documents.