Mit dem LFM2.5-350M betritt Liquid AI Neuland: Ein winziges Sprachmodell mit lediglich 350 Millionen Parametern, das auf einem Trainingskorpus von 28 Billionen Token aufbaut und erstmals skaliertes Reinforcement Learning im Kleinstformat einsetzt – und damit eine neue Ära effizienter On-Premises-KI einläuten könnte.
Liquid AI veröffentlicht kompaktes Sprachmodell mit 350 Millionen Parametern
Liquid AI hat mit dem LFM2.5-350M ein kleines Sprachmodell vorgestellt, das trotz seiner geringen Größe auf einem Trainingskorpus von 28 Billionen Token basiert. Das Modell kombiniert ein ressourcenschonendes Architekturdesign mit skaliertem Reinforcement Learning – ein Ansatz, der bislang vor allem bei deutlich größeren Systemen zum Einsatz kam.
Kompakte Architektur, umfangreiches Training
Mit 350 Millionen Parametern gehört das LFM2.5-350M zur Kategorie der sogenannten Small Language Models (SLMs), die in ressourcenbeschränkten Umgebungen eingesetzt werden können – etwa auf Edge-Geräten, in On-Premises-Infrastrukturen oder in latenzempfindlichen Anwendungen.
Ungewöhnlich ist der Trainingsumfang: 28 Billionen Token übersteigen das, was viele deutlich größere Modelle während des Vortrainings verarbeiten. Liquid AI verfolgt damit die Strategie, durch intensiveres Training kleinerer Architekturen eine höhere Effizienz pro Parameter zu erzielen.
Intensiveres Training statt mehr Parameter – Liquid AI zeigt, dass Modellgröße nicht der einzige Hebel für Leistungssteigerungen ist.
Reinforcement Learning als Differenzierungsmerkmal
Ein zentrales technisches Merkmal des LFM2.5-350M ist der Einsatz von skaliertem Reinforcement Learning im Nachtraining. Dieses Verfahren, das unter anderem bei OpenAIs o-Modellen und DeepSeeks R1 Bekanntheit erlangt hat, zielt darauf ab, die Reasoning-Fähigkeiten eines Modells gezielt zu verbessern.
Dass Liquid AI diesen Ansatz nun auch auf ein Modell mit lediglich 350 Millionen Parametern anwendet, deutet auf eine breitere Industrietendenz hin:
Leistungssteigernde Nachtrainingstechniken werden zunehmend auch für kompakte Modelle wirtschaftlich und technisch umsetzbar.
Positionierung im Wettbewerbsumfeld
Liquid AI, ein Spin-off des Massachusetts Institute of Technology (MIT), hat sich auf alternative Architekturen jenseits des klassischen Transformer-Designs spezialisiert. Die LFM-Modellreihe (Liquid Foundation Models) nutzt strukturell andere Ansätze zur Verarbeitung von Sequenzdaten, was nach Unternehmensangaben Vorteile bei Inferenzgeschwindigkeit und Speicherbedarf bieten soll.
Mit der Veröffentlichung des 350M-Modells erweitert das Unternehmen sein Portfolio nach unten und konkurriert direkt mit etablierten Modellen:
| Modell | Hersteller | Parameter |
|---|---|---|
| LFM2.5-350M | Liquid AI | 350 Mio. |
| Gemma 3 1B | 1 Mrd. | |
| Llama 3.2 1B | Meta | 1 Mrd. |
| Phi-3-Mini | Microsoft | ~3,8 Mrd. |
Für allgemeine Sprachverständnisaufgaben dürften größere Modelle weiterhin überlegen sein. Bei spezifischen, klar definierten Aufgaben mit engen Latenzvorgaben kann ein intensiv trainiertes Kleinstmodell jedoch einen praktischen Vorteil bieten.
Verfügbarkeit und Lizenzierung
Das Modell ist über die Plattform Hugging Face verfügbar. Liquid AI stellt es unter einer offenen Lizenz bereit, was die Integration in bestehende Entwicklungsworkflows vereinfacht. Detaillierte Angaben zu kommerziellen Nutzungsbedingungen sollten Unternehmen jedoch vor dem produktiven Einsatz direkt beim Hersteller prüfen.
Einordnung für deutsche Unternehmen
Für Unternehmen in Deutschland, die KI-Anwendungen unter strengen Datenschutz- oder Compliance-Anforderungen betreiben, ist das LFM2.5-350M aus mehreren Gründen relevant:
- Keine Cloud-Abhängigkeit: Die geringe Modellgröße ermöglicht den Betrieb auf eigener Hardware – relevant für die DSGVO-konforme Verarbeitung personenbezogener Daten.
- Mittelstandstauglich: Die allgemeine Entwicklung hin zu leistungsfähigeren kleinen Modellen dürfte den On-Premises-Einsatz von KI in mittelständischen Betrieben mittelfristig deutlich vereinfachen.
- Evaluierung empfohlen: IT-Verantwortliche sollten die tatsächliche Leistungsfähigkeit anhand unternehmenseigener Testdaten prüfen, bevor kompakte Modelle für kritische Prozesse eingesetzt werden.
Quelle: MarkTechPost
