Soofi: Ein Modell für industrielle KI in Europa

Ziel des vom Bundesministerium für Wirtschaft und Energie im Kontext der IPCEI-CIS / 8ra-Initiative geförderten Projekts ist es, leistungsfähige KI-Basismodelle auf europäischer Infrastruktur zu entwickeln und Unternehmen, Verwaltung, Forschung und Start-ups eine transparente Alternative zu außereuropäischen Modellen zu bieten.
örg Bienert, Geschäftsführer Center for Sovereign AI, KI Bundesverband, erläutert: »Mit Soofi schaffen wir eine offene Grundlage, auf der Unternehmen, Mittelstand und öffentlicher Sektor transparente KI-Anwendungen auf Basis ihrer eigenen Daten entwickeln können, ohne sich dauerhaft von einzelnen außereuropäischen Modellen abhängig zu machen.«

Nicolas Flores-Herr, technischer Projektleiter Soofi und Teamlead.

Nicolas Flores-Herr, technischer Projektleiter Soofi und Teamlead am Fraunhofer IAIS, ergänzt: »Soofi S ist nicht als weiteres allgemeines Chatmodell gedacht, sondern als technische Grundlage für industrielle KI.«

Mit Soofi S beginnt die erste Release-Phase des Projekts. Das Modell soll insbesondere dort eingesetzt werden, wo Organisationen KI-Anwendungen nachvollziehbar, anpassbar und auf eigener oder souveräner Infrastruktur betreiben wollen – etwa bei industriellen Prozessen, der Analyse umfangreicher technischer und regulatorischer Dokumente, Code-Generierung oder agentischen KI-Systemen. Trainiert von Grund auf mit 27 Billionen (27T) Token, verbindet Soofi S als 30 Milliarden Parameter (30B A3B) Mixture-of-Experts-Modell durch seine hybride Mamba-Transformer-Architektur hohen Durchsatz mit geringem Energieaufwand.

Soofi S ist hauptsächlich auf englischen und deutschen Texten trainiert worden und erreicht im Englischen in seiner Größenklasse Spitzenwerte unter den offenen Modellen; im Deutschen führt es die Vergleichsgruppe an. Soofi S erscheint zunächst als Basismodell, das sich bereits jetzt für eigene Domänen feinabstimmen lässt; nachtrainierte Varianten für Dialog- und Agentenanwendungen folgen.

Jörg Bienert, Geschäftsführer Center for Sovereign AI.

»Wer die Basismodelle kontrolliert, kontrolliert einen zentralen Teil der künftigen digitalen Wertschöpfung und erhöht seine Souveränität und Resilienz.«, sagt Jörg Bienert, Geschäftsführer Center for Sovereign AI, KI Bundesverband.

Ein besonderer Fokus liegt auf Transparenz: Das Konsortium wird nicht nur Modellgewichte bereitstellen, sondern auch technische Dokumentation zu Trainingsmethodik, Datenaufbereitung und eingesetzten Datenpipelines veröffentlichen. Damit wird Soofi S für Unternehmen, Behörden und Forschung besser prüfbar sowie für spezifische Anwendungsfelder anpassbar. Trainiert werden Soofi S und die darauffolgenden Modelle auf der Industrial AI Cloud der Telekom in München unter Nutzung des Open-Source AI Frameworks von Nvidia. Erste Ergebnisse zeigen, dass das Soofi S-Basismodell in deutschen und englischen Benchmarks mit internationalen Modellen vergleichbarer Größe mithalten kann bzw. diese übertrifft.

»Soofi S ist nicht als weiteres allgemeines Chatmodell gedacht, sondern als technische Grundlage für industrielle KI. Entscheidend ist, dass Soofi S nicht nur im Benchmark überzeugt, sondern im produktiven Betrieb zuverlässig, effizient und nachvollziehbar eingesetzt werden kann«, sagt Nicolas Flores-Herr, technischer Projektleiter Soofi und Teamlead am Fraunhofer IAIS.

Das Modell wird gemeinsam mit Unternehmen aus der Industrie in praxisnahen Anwendungsszenarien getestet. Ziel ist es, frühzeitig Erfahrungen aus realen Einsatzkontexten zu sammeln und die Weiterentwicklung des Modells eng an konkreten Anforderungen aus der Wirtschaft auszurichten, damit Unternehmen das Modell in ihre Prozesse und Produkte integrieren können. Bei Interesse an einer Erprobung oder Zusammenarbeit, kann unter contact@soofi.info Kontakt aufgenommen werden.