Im Zeitalter der intelligenten Schnittstellen haben sich die Nutzer an sofortige Interaktionen gewöhnt: ein Klick, um sich anzumelden, ein Tippen, um zu posten. Hinter diesen nahtlosen Erfahrungen stehen Technologien, die schon seit Jahrzehnten existieren. Aber wenn generative künstliche Intelligenz ins Spiel kommt, insbesondere LLMs (Large Language Models), ist Geschwindigkeit nicht mehr garantiert: jede Antwort kann Milliarden von Rechenoperationen in Sekunden erfordern. Die grösste Belastung tritt sogar noch früher auf, während der komplexen Trainingsphasen.

Parallel zu dieser Komplexität entwickelt sich eine neue Generation von Sprachmodellen: SLMs (Small Language Models). Sie sind in der Öffentlichkeit weniger bekannt, werden aber immer wichtiger für eine schnellere, effizientere und auf spezifische Bedürfnisse und Nischenaufgaben zugeschnittene KI.

Die Grenzen des LLM: leistungsstark, aber was kostet es?

Große Sprachmodelle wie GPT oder PaLM haben die KI-Landschaft umgestaltet - aber sie bringen erhebliche Herausforderungen mit sich, insbesondere im geschäftlichen und industriellen Kontext:

• Eingeschränkte Geschwindigkeit: Die gängigsten Modelle erzeugen nur 40-60 Token pro Sekunde, was bedeutet, dass eine einzige Antwort bis zu 20 Sekunden dauern kann.

• Hohe Rechenkosten: LLMs sind extrem energieintensiv. Jede Interaktion erfordert eine enorme Rechenleistung, was sich in erheblichen Kosten und Energieverbrauch niederschlägt.

• Beschränkte Kontrolle: LLMs sind oft "Black Boxes", deren Verhalten sich nur schwer vorhersagen oder steuern lässt, was zu Haftungsproblemen führt. Für viele Branchen, insbesondere Gesundheitswesen, Finanzwesen und Behörden, ist dieses Mass an Unvorhersehbarkeit inakzeptabel.

• Datenschutz & Hosting-Probleme: Das interne Hosting eines LLM ist extrem kostspielig und erfordert spezialisiertes Personal für den Einsatz sowie erhebliche Software- und Infrastrukturkosten.

Die SLM-Lösung: gezielte Präzision, geringere Kosten

Kleine Sprachmodelle wurden als Antwort auf diese Herausforderungen entwickelt. Sie sind nicht darauf ausgelegt, "alles zu wissen", sondern hochspezifische Aufgaben in bestimmten Bereichen zu erfüllen.

Aus diesem Grund werden sie zur bevorzugten Wahl für Unternehmen, die nach vertikalen KI-Lösungen suchen, die auch lokal gehostet werden können.

Wie SLMs funktionieren

SLMs basieren auf zwei Schlüsselprozessen:

• Überwachte Spezialisierung: Das Modell wird anhand einer ausgewählten Menge Antworten trainiert, die durch Experten validierten wurden. Dadurch lernt es in einem bestimmten Kontext zu arbeiten.

• Distillation: Das Modell "lernt" von einem größeren LLM und übernimmt dessen Fähigkeiten innerhalb eines abgesteckten Bereichs. Es wird mit echten Fragen und Antworten gefüttert, die von dem größeren Modell generiert wurden und die es in Variationen anpasst. Auf diese Weise absorbiert das SLM die Logik, die Wahrscheinlichkeiten und die Nuancen des übergeordneten Modells.

Die Qualität der Daten ist entscheidend: Je kleiner das Modell, desto empfindlicher reagiert es auf die Qualität des Trainings. Dies erfordert eine tiefgreifende Expertise in der Datenerweiterung, eine grosse Vielfalt an Beispielen und eine rigorose Nachbearbeitung, um Halluzinationen oder fehlerhafte Ergebnisse zu vermeiden.

Warum SLMs wählen? Fünf klare Vorteile

Warum sollte ein Unternehmen, insbesondere ein KMU oder eine Organisation mit starker vertikaler Ausrichtung, SLMs anstelle der üblichen LLMs wählen?

Wir haben fünf wichtige Wettbewerbsvorteile herausgearbeitet:

• Effizienz & niedrigere Kosten: SLMs sind im Vergleich zu LLMs über API bis zu 7× billiger zu betreiben. Sie benötigen weniger Ressourcen und verbrauchen weniger Energie.

• Geschwindigkeit: Sie reagieren bis zu 10× schneller als kommerzielle LLMs, was für Echtzeitanwendungen oder automatisierten Kundenservice entscheidend ist.

• Genauigkeit: In Nischenbereichen ist ein gut trainiertes SLM oft 3× genauer als ein Allzweck-LLM: weniger vage Antworten, zuverlässigere Lösungen.

• Kontrolle & Skalierbarkeit: Da sie kleiner sind, lassen sich SLMs leichter überwachen, aktualisieren und verwalten. Sie können für spezifische Anwendungsfälle skaliert werden, ohne auf massive, generalistische Modelle angewiesen zu sein.

• Datenschutz & lokales Hosting: SLMs können lokal gehostet werden, was den Unternehmen vollständige Kontrolle über die Daten gibt. Für Branchen, die an strenge Vorschriften gebunden sind, wie das Bankwesen, die öffentliche Verwaltung oder das Gesundheitswesen, ist dies ein wichtiger strategischer Vorteil. Vor allem für Schweizer Unternehmen ist die Datenhaltung innerhalb der Landesgrenzen unerlässlich, und das lokale Hosting von SLMs macht dies möglich.

Wie Artificialy SLMs verwendet

Wir bei Artificialy glauben an nachhaltige, zielgerichtete und effektive KI.

Wir haben zum Beispiel Small Language Models genutzt, um die sprachbasierte AbaClik Lösung zu entwickeln, um:

• Antworten in spezialisierten Bereichen zu automatisieren, mit Modellen, die ad hoc für bestimmte Kunden entwickelt werden

• schnelle, nahtlose Benutzererfahrungen zu liefern, selbst auf Geräten mit begrenzten Ressourcen

• Privacy by Design zu garantieren, indem die Lösungen vollständig unter der Kontrolle des Kunden bleiben, ohne Daten an Drittanbieter zu senden

• die Chatbot-Genauigkeit zu verbessern, indem die Anzahl an falschen Aussagen reduziert und die der richtigen Antworten erhöht werden

Unser Ansatz kombiniert die Effizienz kleiner Modelle mit der Intelligenz grosser Modelle - aber nur dort, wo es nötig ist.

Wir wissen, wann ein LLM die richtige Wahl ist und wann ein SLM die bessere Wahl ist. Und wir haben das Know-how, um Inferenz schnell, effizient und skalierbar zu machen.

LLMs haben die massive, "demokratische" Nutzung von KI ermöglicht. Aber echte Innovation bedeutet heute, massgeschneiderte Lösungen zu finden - und in diesem Sinne stellen kleine Sprachmodelle einen Paradigmenwechsel dar: von "allwissenden" Systemen zu spezialisierter, effizienter und kontrollierbarer KI.