Wer KI produktiv einsetzen will, stößt früher oder später auf ein handfestes Problem: die Betriebskosten. Das spanische Unternehmen Multiverse Computing macht seine Technologie zur Modellkomprimierung jetzt per API zugänglich – und könnte damit die Infrastrukturrechnung für viele Unternehmen deutlich entlasten.
Multiverse Computing bringt komprimierte KI-Modelle per API in den Unternehmensalltag
Das spanische KI-Unternehmen Multiverse Computing macht seine Technologie zur Modellkomprimierung nun über eine API zugänglich – und zielt damit direkt auf Unternehmen, die ihre Inferenzkosten senken wollen. Das Angebot basiert auf dem firmeneigenen Tool CompactifAI und richtet sich an alle, die Large Language Models produktiv einsetzen, aber nicht das Budget großer Tech-Konzerne haben.
Was steckt hinter CompactifAI?
Der Ansatz ist technisch betrachtet weniger glamourös als der Bau neuer Modelle – dafür aber mit handfesten wirtschaftlichen Vorteilen verbunden. CompactifAI nutzt Methoden aus der Quantenphysik, genauer gesagt Tensor-Netzwerk-Mathematik, um bestehende LLMs erheblich zu verkleinern, ohne dass die Leistung dabei dramatisch einbricht. Das Ergebnis: Modelle, die einen Bruchteil des ursprünglichen Speicherplatzes benötigen und deutlich schneller auf günstigerer Hardware laufen.
Konkret bedeutet das – je nach Modell und Komprimierungsgrad – eine Reduzierung der Modellgröße um bis zu 80 Prozent.
Natürlich gibt es dabei Abstriche bei der Genauigkeit, das lässt sich kaum vermeiden. Doch Multiverse Computing argumentiert, dass die meisten Unternehmensanwendungen keine maximale Modellleistung benötigen, sondern vor allem Zuverlässigkeit, Geschwindigkeit und überschaubare Betriebskosten.
API-Zugang statt Inhouse-Expertise
Bislang war der Einsatz von CompactifAI eher etwas für technisch versierte Teams, die bereit waren, sich intensiv mit dem Tool auseinanderzusetzen. Das ändert sich jetzt. Über die neue API können Unternehmen ihre eigenen Modelle – oder auf Open-Source-Basis aufgebaute Varianten – einreichen und komprimierte Versionen zurückerhalten, ohne selbst tiefes Know-how in Quantenmathematik oder Modelloptimierung mitbringen zu müssen.
Das ist ein kluger Schachzug. Denn der eigentliche Engpass beim KI-Einsatz in mittelständischen Unternehmen ist selten das Fehlen guter Modelle – es ist die Infrastruktur. Wer ein Fine-Tuned Modell betreiben will, braucht entweder teure GPU-Kapazitäten oder zahlt entsprechend hohe API-Gebühren an die großen Anbieter. Komprimierte Modelle könnten diesen Kostendruck deutlich mildern.
Inferenzkosten – das unterschätzte Problem
Über Trainingskosten für KI-Modelle wird viel geschrieben. Was dagegen oft unter dem Radar bleibt: die Inferenzkosten – also das, was beim tatsächlichen Betrieb eines Modells im Produktivsystem anfällt. Gerade bei hohem Abfragevolumen summieren sich diese Kosten schnell zu einem ernsthaften Budgetposten.
Ein Modell, das statt 70 Milliarden nur noch 15 Milliarden Parameter hat, braucht weniger VRAM, lässt sich auf kleineren Instanzen betreiben und liefert Antworten schneller.
Genau hier greift das Versprechen von Multiverse Computing. Für viele interne Unternehmensanwendungen – Dokumentenanalyse, automatisierte Reports, Kundenservice-Assistenz – dürfte das mehr als ausreichen, oft ohne nennenswerten Qualitätsverlust.
Positionierung im Markt
Multiverse Computing ist nicht das einzige Unternehmen, das sich auf Modellkomprimierung spezialisiert hat. Auch Anbieter wie Neural Magic oder diverse Open-Source-Projekte rund um Quantisierung und Pruning verfolgen ähnliche Ziele. Was Multiverse Computing von vielen Mitbewerbern unterscheidet, ist der mathematische Unterbau aus der Quantenphysik – ein Ansatz, der nach eigenen Angaben bei bestimmten Modellarchitekturen effizienter skaliert als klassische Quantisierungsverfahren.
Ob sich das in der Praxis durchsetzt, wird der Markt zeigen. Das Unternehmen hat bislang vor allem im Finanz- und Energiesektor Referenzkunden gesammelt – Branchen, in denen Recheneffizienz seit jeher ernst genommen wird.
Für deutsche Unternehmen, die KI-Anwendungen skalieren wollen, ohne sich dabei an die großen US-Hyperscaler zu binden, ist das Angebot durchaus einen genaueren Blick wert. Wer eigene oder Open-Source-Modelle betreibt und nach Wegen sucht, die Betriebskosten zu drücken, findet in komprimierten Modellen ein legitimes Werkzeug – vorausgesetzt, die Qualitätsanforderungen der jeweiligen Anwendung wurden vorher klar definiert.
Quelle: TechCrunch
