Ce qu’on appelle un LLM local, ou une IA auto-hébergée
Quand vous utilisez ChatGPT, Claude ou Gemini, votre texte part sur les serveurs de l’éditeur, qui fait tourner le modèle et vous renvoie la réponse. Avec un LLM local, c’est l’inverse : le modèle tourne sur une machine que vous contrôlez.
C’est possible parce que plusieurs éditeurs publient les poids de certains de leurs modèles, c’est-à-dire le modèle lui-même, téléchargeable et installable. C’est le cas de certaines versions de Mistral (éditeur français), de Llama (Meta), de Qwen (Alibaba) ou de DeepSeek. Chaque modèle a sa propre licence : certaines sont très ouvertes, d’autres posent des conditions d’usage qu’il faut lire avant de choisir.
Nous installons ces modèles de deux façons, selon le cas : sur un serveur dans vos locaux, ou sur un serveur dédié chez un hébergeur en France ou en Europe. Dans les deux cas, les données traitées ne transitent pas par un grand éditeur américain ou chinois.
Quand c’est pertinent
- Les données de santé : cabinets, centres, professions paramédicales.
- Le secret professionnel : avocats, experts-comptables, notaires, conseils.
- Les bureaux d’études et l’industrie : plans, notes de calcul, savoir-faire qui fait votre valeur.
- Les clauses de confidentialité de vos clients : certains contrats interdisent d’envoyer leurs documents à un service tiers.
- Le volume : quand un agent traite des milliers de documents, un modèle local à capacité fixe peut devenir plus prévisible qu’une facturation à l’usage.
- La dépendance : vous ne voulez pas qu’un changement de conditions chez un éditeur arrête votre activité.
Scénario type : un bureau d’études sous clause de confidentialité
Un client industriel interdit d’envoyer ses plans à un service tiers. L’agent qui extrait les exigences de ses cahiers des charges tourne donc sur un modèle hébergé sur un serveur dédié en Europe. Le mail d’accompagnement, qui ne contient aucune donnée du client, peut passer par un grand modèle en ligne. Les règles de routage sont écrites, pas laissées au hasard.
Quand ce n’est pas utile
Sur les tâches complexes (raisonnement long, rédaction fine, analyse de documents touffus), les modèles des grands éditeurs restent meilleurs que ce qu’on fait tourner raisonnablement sur un serveur de PME. Si vos données ne sont pas sensibles, un grand modèle accédé sous contrat professionnel, avec engagement de non-réutilisation des données, suffit souvent.
Dans beaucoup d’entreprises, la bonne réponse est un mélange : le modèle local traite ce qui est sensible (les pièces clients, les données de santé, les plans), le grand modèle traite le reste (reformuler un mail générique, résumer une documentation publique). L’agent sait vers quel modèle envoyer quoi, selon des règles que vous fixez.
| Critère | Grand modèle en ligne | LLM local ou hébergé en Europe |
|---|---|---|
| Où vont les données | Chez l’éditeur, selon son contrat | Sur votre serveur ou un serveur dédié en Europe |
| Qualité sur les tâches complexes | La meilleure aujourd’hui | Bonne sur des tâches cadrées, en dessous sur les plus difficiles |
| Mise en route | Immédiate | Installation, réglages, tests |
| Maintenance | Assurée par l’éditeur | À prévoir : serveur, mises à jour, surveillance |
| Coût | À l’usage | Surtout fixe : matériel ou location du serveur |
Ce qu’il faut prévoir côté matériel
Un modèle de langage tourne correctement sur une carte graphique (GPU), pas sur un simple processeur. La règle à retenir : plus le modèle est gros, plus il demande de mémoire sur la carte graphique.
En ordres de grandeur prudents : un petit modèle (quelques milliards de paramètres), suffisant pour classer des mails ou extraire des informations d’une facture, tient sur une seule carte graphique récente de bonne gamme. Un modèle plus gros, plus proche des grands modèles en qualité, demande une ou plusieurs cartes professionnelles avec beaucoup de mémoire. Entre les deux, des techniques de compression (la quantification) permettent de faire tenir un modèle sur moins de matériel, avec une petite perte de qualité.
Le bon choix dépend de vos tâches réelles, pas du modèle le plus impressionnant. On teste d’abord plusieurs modèles sur vos propres documents, puis on dimensionne le serveur.
La maintenance, la partie qu’on oublie
Un modèle local ne s’entretient pas tout seul. Il faut surveiller que le serveur tourne, appliquer les mises à jour de sécurité, gérer les sauvegardes, et suivre les nouvelles versions de modèles : il en sort régulièrement, souvent meilleures à taille égale. Changer de modèle demande de retester l’agent sur vos cas réels avant de basculer.
Si personne chez vous n’a le temps de s’en occuper, cette maintenance doit être prévue dès le départ avec votre prestataire, pas découverte après la première panne.
Les agents et la mémoire fonctionnent pareil, quel que soit le modèle
Le modèle n’est qu’une pièce. Ce qui fait qu’un agent prépare un bon devis ou trie correctement vos demandes, c’est ce qu’il sait de votre entreprise : vos règles et vos exceptions écrites, vos documents, dans lesquels il cherche ce qui concerne la tâche (c’est ce qu’on appelle le RAG), et vos bases de données (clients, prix, historique), qu’il interroge en SQL par des requêtes contrôlées, avec des accès limités ou en lecture seule. Tout cela reste identique, que le modèle branché derrière soit local ou en ligne.
Conséquence pratique : si un meilleur modèle sort, on le teste sur vos cas réels puis on le branche à la place de l’ancien, sans réécrire vos règles. Si vous vous demandez si un modèle local a du sens pour vos données, réservez 30 minutes avec Théo, on regarde ce que vous manipulez avant de parler matériel.