À l’ère des interfaces intelligentes, les utilisateurs s’attendent à des interactions instantanées : un clic pour se connecter , un tap pour publier .
Derrière cette fluidité apparente se cachent pourtant des technologies perfectionnées depuis des décennies .

Mais avec l’essor de l’intelligence artificielle générative, et en particulier des LLM (Large Language Models), la rapidité n’est plus acquise : chaque réponse peut impliquer des milliards d’opérations en quelques secondes .
La véritable complexité se joue en amont, lors des phases d’entraînement, extrêmement gourmandes en calculs et en ressources .

Face à ces défis, une nouvelle génération de modèles voit le jour : les SLM (Small Language Models).
Moins connus du grand public, ils s’imposent comme une réponse prometteuse ,plus efficace, rapide et spécialisée, pour une AI mieux adaptée à des usages ciblés et des besoins concrets .

Les limites des LLM : de la puissance, mais à quel prix ?

Les Large Language Models comme GPT ou PaLM ont bouleversé le paysage de l’AI, mais ils comportent aussi des limites importantes, surtout dans des contextes professionnels ou industriels :

• Lenteur: les modèles les plus connus génèrent seulement 40 à 60 tokens par seconde. Une seule réponse peut prendre jusqu’à 20 secondes ;

• Coût computationnel élevé: les LLM consomment énormément d’énergie. Chaque interaction demande une puissance de calcul considérable, ce qui se traduit par des coûts et une empreinte énergétique importants ;

• Difficulté de contrôle: les LLM sont souvent perçus comme des « boîtes noires », avec des comportements imprévisibles et difficiles à gérer, ce qui pose des problèmes de responsabilité. Dans des secteurs comme la santé, la finance ou l’administration publique, ce risque est inacceptable ;

• Problèmes de confidentialité et d’hébergement: héberger un LLM en interne est extrêmement coûteux : il faut du personnel spécialisé pour le déploiement, ainsi que des coûts élevés de maintenance logicielle et d’infrastructure.

La réponse des SLM : précision ciblée, coûts réduits

Les Small Language Models apparaissent comme une réponse à ces défis : ils ne sont pas conçus pour tout faire, mais pour exécuter des tâches ciblées dans des contextes spécifiques.

C’est pourquoi ils deviennent le choix privilégié pour ceux qui recherchent une AI verticale, avec la possibilité de l’héberger localement.

Comment fonctionnent les SLM

Les SLM reposent sur deux processus clés :

• Spécialisation supervisée : on part d’un ensemble limité de réponses, validées par des experts humains, pour apprendre au modèle à se comporter dans un contexte précis ;

• Distillation : le modèle « apprend » à partir d’un LLM plus grand, en acquérant ses compétences sur un domaine spécifique. On lui fournit de vraies questions et des réponses générées par le grand modèle, dont il crée des variantes. Ainsi, l’SLM assimile logiques, probabilités et incertitudes.

La gestion des données est essentielle dans ce processus : plus un modèle est petit, plus il est sensible à la qualité de l’entraînement. Il faut donc une forte expertise en data augmentation, une grande variété d’exemples et un travail rigoureux de post-traitement pour éviter hallucinations ou comportements erronés.

Pourquoi choisir les SLM ? Des avantages concrets

Pourquoi une entreprise, en particulier une PME ou une organisation très spécialisée, devrait-elle opter pour des SLM plutôt que pour des LLM généralistes ?

Nous avons identifié 5 domaines de valeur stratégique :

• Efficacité et réduction des coûts: les SLM sont jusqu’à 7 fois moins coûteux que l’utilisation de LLM via API. Ils demandent moins de ressources et consomment moins d’énergie ;

• Vitesse: Ils répondent jusqu’à 10 fois plus rapidement que les LLM commerciaux. Un atout crucial pour les applications en temps réel ou les services clients automatisés ;

• Précision: dans des contextes verticaux, un SLM bien entraîné est souvent 3 fois plus précis qu’un LLM généraliste. Moins de réponses vagues, plus de solutions fiables ;

• Contrôlabilité et scalabilité: plus petits, les SLM sont plus faciles à surveiller, mettre à jour et gérer. Ils peuvent être déployés à l’échelle pour des cas d’usage spécifiques, sans recourir à un modèle généraliste énorme ;

• Confidentialité et hébergement local: les SLM peuvent être installés on-premise, garantissant un contrôle total des données. Pour des entreprises soumises à des normes strictes, banques, organismes publics, établissements de santé, c’est un avantage stratégique décisif. De plus, des considérations réglementaires locales, comme en Suisse, exigent que les données restent sur le territoire : un hébergement local devient alors incontournable, et bien plus simple avec un SLM.

Comment Artificialy utilise les SLM

Chez Artificialy, nous croyons en une AI durable, ciblée et performante. Nous avons utilisé les Small Language Models, par exemple, pour développer la solution vocale Abaclik, afin de :

• Automatiser des réponses dans des domaines verticaux, avec des modèles conçus sur mesure pour des clients spécifiques ;

• Créer des expériences utilisateurs rapides et fluides, même sur des dispositifs à ressources limitées ;

• Garantir la confidentialité dès la conception, avec des solutions entièrement sous le contrôle du client, sans envoi de données vers des services externes ;

• Améliorer la précision des chatbots d’entreprise, en réduisant les faux positifs et en augmentant le taux de réponses correctes.

Notre approche combine l’efficacité des petits modèles avec l’intelligence des grands, mais uniquement là où c’est nécessaire. Notre expérience nous permet de distinguer les cas où un LLM est le plus efficace et ceux où un SLM est la meilleure solution. Nous maîtrisons également l’inférence : nous savons la rendre rapide, efficiente et évolutive.

Les Large Language Models ont permis une adoption massive et « démocratique » de l’intelligence artificielle. Mais aujourd’hui, la véritable innovation réside dans des solutions sur mesure. De ce point de vue, les Small Language Models représentent un changement de paradigme : passer de modèles omniscients à des modèles spécialisés, efficaces et contrôlables.