Soofi S
Soofi S: Die erste Modellgeneration des Soofi-Projekts
Soofi S ist die erste Modellgeneration des Soofi-Projekts und ein wichtiger Schritt auf dem Weg zu mehr technologischer Souveränität in Deutschland und Europa. Das Modell wurde auf Basis eines eigens kuratierten Datenkorpus in Deutschland entwickelt und trainiert.
Dabei geht es nicht nur um ein einzelnes Modell. Soofi S dient zugleich als technologische Grundlage für weitere Modellgenerationen und den langfristigen Aufbau eigener Kompetenzen in Training, Daten, Evaluierung und Modellarchitekturen.
Leistungsfähig und effizient
Soofi S ist ein 30B Mixture-of-Experts-Hybrid-Mamba-Modell. Pro Verarbeitungsschritt sind nur rund drei Milliarden Parameter aktiv. Dadurch verbindet das Modell hohe Leistungsfähigkeit mit einer vergleichsweise effizienten Nutzung von Rechenressourcen.
Im Mittelpunkt steht dabei nicht maximale Modellgröße, sondern ein ausgewogenes Verhältnis von Qualität, Geschwindigkeit, Rechenaufwand und Betriebskosten. Das Modell wurde mit 27 Billionen Token trainiert und ist auf deutsche und englische Inhalte ausgerichtet, mit besonderem Fokus auf die deutsche Sprache.
Für industrielle Anwendungen
Als Foundation Model bildet Soofi S eine Grundlage für unterschiedliche Anwendungen und kann für spezifische Einsatzbereiche weiter angepasst werden.
Zu den relevanten Einsatzfeldern gehören:
• industrielle Anwendungen
• technische und regulatorische Dokumente
• Wissensmanagement
• Softwareentwicklung und Coding
• agentische KI-Systeme
• unternehmensspezifische Assistenten
• deutsch- und europäischsprachige Anwendungen
Soofi S ist dabei keine fertig konfigurierte Branchenanwendung, sondern ein Basismodell für weitere Anpassungen, Finetuning und spezialisierte Lösungen
Offen und nachvollziehbar
Neben den Modellgewichten werden auch Informationen zur Trainingsmethodik, Datenaufbereitung und den eingesetzten Datenpipelines veröffentlicht. Dadurch kann Soofi S geprüft, weiterentwickelt und an konkrete Einsatzbereiche angepasst werden.
Trainiert wurde das Modell auf der souveränen Industrial AI Cloud der Deutschen Telekom in München.
Entwicklung und Beta-Phase
Das Training des Basismodells ist abgeschlossen. Aktuell befindet sich Soofi S in der nächsten Entwicklungsphase. Im Mittelpunkt stehen Posttraining, Evaluierung, Finetuning, technische Optimierung sowie Tests mit ausgewählten Partnern und Anwendern.
Die Beta-Phase hilft dabei, reale Anwendungsszenarien zu untersuchen, Schwächen zu identifizieren und Erkenntnisse für die weitere Entwicklung zu gewinnen. Aufgrund des hohen Interesses können derzeit keine weiteren Bewerbungen für die Beta-Testphase angenommen werden.
Ein öffentlicher Open-Source-Release ist im weiteren Projektverlauf vorgesehen. Weitere Informationen zum Veröffentlichungszeitpunkt werden zu einem späteren Zeitpunkt bekannt gegeben.
„Wer die Basismodelle kontrolliert, kontrolliert einen zentralen Teil der künftigen digitalen Wertschöpfung und erhöht seine Souveränität und Resilienz. Mit Soofi schaffen wir eine offene Grundlage, auf der Unternehmen, Mittelstand und öffentlicher Sektor transparente KI-Anwendungen auf Basis ihrer eigenen Daten entwickeln können, ohne sich dauerhaft von einzelnen außereuropäischen Modellen abhängig zu machen."
Jörg Bienert
Manager des Soofi-Projekts
