Aller au contenu
StrucTime

Petit modèle de langage : quand un modèle compact suffit à une entreprise

Classer une facture, extraire un montant ou résumer un compte rendu ne demande pas un modèle de mille milliards de paramètres. Un modèle compact le fait, sur une machine que l'entreprise maîtrise.

Un petit modèle de langage, ou SLM (small language model), est un modèle de quelques centaines de millions à quelques milliards de paramètres. Les grands modèles des assistants grand public en comptent des centaines de milliards ou davantage. Sur une tâche précise et bien définie, l’écart de qualité se réduit beaucoup, et le petit modèle tourne sur une machine ordinaire.

Qu’est-ce qu’un petit modèle de langage ?

C’est un modèle de même nature qu’un grand : il prédit la suite d’un texte. Il a moins de paramètres, donc moins de connaissances générales en mémoire. Les familles ouvertes les plus connues en ont publié plusieurs : Mistral 7B en 2023, Phi-3 de Microsoft en 2024, les versions à 1 et 3 milliards de paramètres de Llama 3.2 la même année, ou les Gemma de Google.

Un modèle de 3 milliards de paramètres, compressé à 4 bits par paramètre, occupe environ 2 Go. Il tient dans la mémoire d’un ordinateur portable récent, et parfois d’un téléphone.

Que fait un petit modèle aussi bien qu’un grand ?

Les tâches étroites, répétées, dont le résultat se vérifie :

  • classer : une facture d’achat dans le bon compte, un courriel dans la bonne file, une demande client par urgence ;
  • extraire : le montant, la date et le fournisseur d’un texte déjà lu, les réserves d’un procès-verbal ;
  • reformuler : une description de travaux pour un particulier, une relance polie ;
  • résumer : un compte rendu de chantier, un fil de messages.

Sur ce terrain, un modèle entraîné ou affiné pour la tâche bat souvent un grand modèle généraliste qu’on se contente d’interroger.

Que ne fait-il pas ?

Il connaît peu le monde. Une question de culture générale, de droit ou d’actualité le met en difficulté, et il invente plus facilement qu’un grand modèle.

Il raisonne moins loin. Un enchaînement de dix étapes logiques, un calcul long ou un plan complexe restent l’affaire de modèles plus gros, ou mieux encore d’un programme classique.

Il ne remplace pas un calcul. Un total de facture, une TVA ou un taux horaire se calculent. Aucun modèle de langage, petit ou grand, ne devrait les produire de tête.

Pourquoi faire tourner un modèle chez soi ?

Les données ne sortent pas. Une facture, un prix, un salaire traités sur une machine que l’entreprise maîtrise ne passent par aucun service tiers. La question est posée en détail dans vos données et l’IA, et ses critères dans l’IA souveraine.

Le coût est fixe. Rien ne se facture au nombre de mots traités. Un traitement de nuit sur dix mille pièces coûte l’électricité de la machine.

La réponse est rapide et ne dépend pas du réseau. Un modèle local répond sur le chantier même sans connexion.

Le comportement ne change pas sans prévenir. Un service en ligne peut remplacer son modèle du jour au lendemain. Un modèle installé reste celui qu’on a testé.

Comment savoir si un petit modèle suffit ?

En le comparant à une méthode simple, sur vos propres cas :

  1. Prenez cent exemples réels, avec la bonne réponse vérifiée à la main.
  2. Mesurez une méthode classique : une règle, une recherche par mots clés, un modèle statistique simple.
  3. Mesurez le petit modèle sur les mêmes exemples.
  4. Gardez-le seulement s’il fait mieux, d’assez loin pour justifier la machine qui le fait tourner.

Beaucoup de projets d’IA s’arrêtent à l’étape 2 : la règle bien écrite suffisait.

Que fait AEON Systems sur les modèles de langage ?

Nous entraînons de zéro des modèles compacts, organisés en experts par domaine, et chacun se compare à une méthode classique qu’il doit battre. Aucune donnée client ne sert à les entraîner ni à les évaluer, et aucun score n’est publié tant qu’une évaluation reproductible ne l’est pas. Le programme est décrit sur la page des modèles de langage, et l’autre axe sur les modèles de monde.

Questions fréquentes

Quelle machine faut-il pour un petit modèle ? Un modèle de 1 à 3 milliards de paramètres compressé tourne sur un ordinateur récent avec 8 à 16 Go de mémoire. Au-delà de 7 milliards, une carte graphique devient utile.

Un petit modèle peut-il lire une facture scannée ? La lecture de l’image relève de l’OCR. Le modèle de langage intervient après, pour classer et vérifier le texte lu : voir l’OCR de facture.

Faut-il entraîner son propre modèle ? Rarement pour une PME. Un modèle ouvert affiné sur la tâche suffit le plus souvent. Entraîner de zéro se justifie quand on veut maîtriser entièrement ce que le modèle a appris.

Dans le même sujet