Quelle: Eigene Darstellung
Der Bedarf an leistungsfähigen KI-Modellen an Hochschulen wächst weiterhin stark. Anwendungen wie Chatbots oder KI-gestützte Services im Umfeld von KI:connect führen dazu, dass immer mehr Einrichtungen generative KI in Forschung, Lehre und Verwaltung einsetzen. Gleichzeitig steigen die Nachfragen nach lokal betriebenen Open-Source Modellen.
Die RWTH testet über das Servicezentrum WestAI aktuell schon einige Open Source Modelle über KI:connect. Um Hochschulen in Nordrhein-Westfalen zukünftig einen flächendeckenden Zugang zu Open Source KI-Modellen zu ermöglichen, wurde im Januar 2026 die Initiative KI:Inferenz.nrw gestartet. Sie soll NRW-Hochschulen künftig eine hochschulsouveräne Infrastruktur für den Einsatz von Sprachmodellen bereitstellen.
Ziele & Beteiligte
Das Ziel von KI:Inferenz.nrw ist der Aufbau einer hochschulsouveränen KI-Infrastruktur für NRW. Hochschulen sollen dadurch KI-Modelle nutzen können, ohne auf kommerzielle Anbieter*innen angewiesen zu sein. Der Fokus liegt dabei auf europäischen Modellen.
Beteiligt sind Partner*innen aus dem Projekt Open Source-KI.nrw der Ruhr-Universität Bochum und der Universität zu Köln sowie die RWTH Aachen gemeinsam mit dem KI Servicezentrum WestAI.
Voraussetzung für die Nutzung des Angebots ist die Nutzung von KI:connect (über API oder Weboberfläche).
Erste KI-Modelle ab April 2026
Ab April 2026 sollen im Rahmen von KI:Inferenz.nrw erste Sprachmodelle für Hochschulen in NRW bereitgestellt werden. Das Angebot richtet sich an alle Hochschulen in NRW und ist für alle Einrichtungen nutzbar, die KI:connect bereits einsetzen oder die Einführung von KI:connect vorbereiten.
In der ersten Phase werden unter anderem die Modelle Mistral Small und GPT OSS verfügbar sein.
Die RWTH ist eine der Hochschulen, die schon seit Anfang März testweise das gemeinsame Angebot von WestAI und OSKI.nrw nutzen können. Dadurch konnte zum einen für das GPT OSS und Mistral Small Modell eine Standortredundanz hergestellt werden, zum anderen weitere Embedding Modelle zur Verfügung gestellt werden.
Schrittweiser Aufbau der KI-Infrastruktur
Zum Start wird KI:Inferenz.nrw zunächst prototypisch auf bestehender Hardware standortredundant in Aachen und Köln bereitgestellt. Der Dienst wird schrittweise erweitert und folgt in der Anfangsphase einem Best Effort Ansatz. Aufgrund begrenzter Ressourcen wird es zunächst Nutzungslimits und Einschränkungen bei den verfügbaren Modellen geben. Diese sind jedoch so ausgelegt, dass typische Anwendungen wie Chatbots bereits unterstützt werden können.
Die Kommunikation zur Nutzung der Modelle erfolgt über die etablierten Kanäle des Projekts KI:connect.
Perspektivisch soll das Angebot als Teil des geplanten Projekts KI:Expertisezentrum.nrw weiter ausgebaut werden, um damit die Nutzung von KI in den Hochschulen in NRW weiter zu unterstützen.
Anpassung des Standardmodells in KI:connect
Im Zuge dieser Entwicklung wird auch KI:connect angepasst. Das bisherige Standardmodell 4o mini wird durch GPT OSS ersetzt. Damit unterstützt die RWTH aktiv den Einsatz selbst gehosteter Modelle innerhalb der Hochschulinfrastruktur.
Zentrale Finanzierung für Hochschulen in NRW
Für Hochschulen in NRW entstehen zunächst keine Bereitstellungskosten. Die KI-Infrastruktur wird vorerst zentral durch das Ministerium für Kultur und Wissenschaft (MKW) finanziert, um eine schnelle Einführung und Nutzung zu ermöglichen.
Verantwortlich für die Inhalte dieses Beitrags sind Denise Dittrich und Arlinda Ujkani.
Schreibe einen Kommentar