{"id":23842,"date":"2026-03-11T10:00:16","date_gmt":"2026-03-11T09:00:16","guid":{"rendered":"https:\/\/blog.rwth-aachen.de\/itc\/?p=23842"},"modified":"2026-03-11T21:30:41","modified_gmt":"2026-03-11T20:30:41","slug":"kiinferenz-nrw","status":"publish","type":"post","link":"https:\/\/blog.rwth-aachen.de\/itc\/2026\/03\/11\/kiinferenz-nrw\/","title":{"rendered":"KI:Inferenz.nrw startet Angebot f\u00fcr Hochschulen in NRW"},"content":{"rendered":"<div class=\"twoclick_social_bookmarks_post_23842 social_share_privacy clearfix 1.6.4 locale-de_DE sprite-de_DE\"><\/div><div class=\"twoclick-js\"><script type=\"text\/javascript\">\/* <![CDATA[ *\/\njQuery(document).ready(function($){if($('.twoclick_social_bookmarks_post_23842')){$('.twoclick_social_bookmarks_post_23842').socialSharePrivacy({\"txt_help\":\"Wenn Sie diese Felder durch einen Klick aktivieren, werden Informationen an Facebook, Twitter, Flattr, Xing, t3n, LinkedIn, Pinterest oder Google eventuell ins Ausland \\u00fcbertragen und unter Umst\\u00e4nden auch dort gespeichert. N\\u00e4heres erfahren Sie durch einen Klick auf das <em>i<\\\/em>.\",\"settings_perma\":\"Dauerhaft aktivieren und Daten\\u00fcber-tragung zustimmen:\",\"info_link\":\"http:\\\/\\\/www.heise.de\\\/ct\\\/artikel\\\/2-Klicks-fuer-mehr-Datenschutz-1333879.html\",\"uri\":\"https:\\\/\\\/blog.rwth-aachen.de\\\/itc\\\/2026\\\/03\\\/11\\\/kiinferenz-nrw\\\/\",\"post_id\":23842,\"post_title_referrer_track\":\"KI%3AInferenz.nrw+startet+Angebot+f%C3%BCr+Hochschulen+in+NRW\",\"display_infobox\":\"on\"});}});\n\/* ]]> *\/<\/script><\/div><p><div id=\"attachment_23843\" style=\"width: 310px\" class=\"wp-caption alignright\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-23843\" class=\"size-medium wp-image-23843\" src=\"https:\/\/blog.rwth-aachen.de\/itc\/files\/2026\/03\/KI_Inferenz_nrw_20260309_OM_Blog-300x200.jpg\" alt=\"Hellblaues Banner mit der wei\u00dfen Aufschrift \u201eKI:Inferenz.nrw\u201c vor Hintergrund mit Technik- und KI-Symbolen.\" width=\"300\" height=\"200\" srcset=\"https:\/\/blog.rwth-aachen.de\/itc\/files\/2026\/03\/KI_Inferenz_nrw_20260309_OM_Blog-300x200.jpg 300w, https:\/\/blog.rwth-aachen.de\/itc\/files\/2026\/03\/KI_Inferenz_nrw_20260309_OM_Blog-1024x683.jpg 1024w, https:\/\/blog.rwth-aachen.de\/itc\/files\/2026\/03\/KI_Inferenz_nrw_20260309_OM_Blog-768x512.jpg 768w, https:\/\/blog.rwth-aachen.de\/itc\/files\/2026\/03\/KI_Inferenz_nrw_20260309_OM_Blog-1536x1024.jpg 1536w, https:\/\/blog.rwth-aachen.de\/itc\/files\/2026\/03\/KI_Inferenz_nrw_20260309_OM_Blog-2048x1365.jpg 2048w\" sizes=\"auto, (max-width: 300px) 100vw, 300px\" \/><p id=\"caption-attachment-23843\" class=\"wp-caption-text\">Quelle: Eigene Darstellung<\/p><\/div><\/p>\n<p>Der Bedarf an leistungsf\u00e4higen KI-Modellen an Hochschulen w\u00e4chst weiterhin stark. Anwendungen wie Chatbots oder KI-gest\u00fctzte Services im Umfeld von KI:connect f\u00fchren dazu, dass immer mehr Einrichtungen generative KI in Forschung, Lehre und Verwaltung einsetzen. Gleichzeitig steigen die Nachfragen nach lokal betriebenen Open-Source Modellen.<\/p>\n<p>Die RWTH testet \u00fcber das Servicezentrum WestAI aktuell schon einige Open Source Modelle \u00fcber KI:connect. Um Hochschulen in Nordrhein-Westfalen zuk\u00fcnftig einen fl\u00e4chendeckenden Zugang zu Open Source KI-Modellen zu erm\u00f6glichen, wurde im Januar 2026 die Initiative KI:Inferenz.nrw gestartet. Sie soll NRW-Hochschulen k\u00fcnftig eine hochschulsouver\u00e4ne Infrastruktur f\u00fcr den Einsatz von Sprachmodellen bereitstellen.<\/p>\n<p><!--more--><\/p>\n<p>&nbsp;<\/p>\n<h3><span style=\"color: #00549f;\">Ziele &amp; Beteiligte<\/span><\/h3>\n<p>Das Ziel von KI:Inferenz.nrw ist der Aufbau einer hochschulsouver\u00e4nen KI-Infrastruktur f\u00fcr NRW. Hochschulen sollen dadurch KI-Modelle nutzen k\u00f6nnen, ohne auf kommerzielle Anbieter*innen angewiesen zu sein. Der Fokus liegt dabei auf europ\u00e4ischen Modellen.<\/p>\n<p>Beteiligt sind Partner*innen aus dem Projekt <a href=\"https:\/\/oski.nrw\/\">Open Source-KI.nrw<\/a> der Ruhr-Universit\u00e4t Bochum und der Universit\u00e4t zu K\u00f6ln sowie die RWTH Aachen gemeinsam mit dem KI Servicezentrum <a href=\"https:\/\/westai.de\/\">WestAI.<\/a><\/p>\n<p>Voraussetzung f\u00fcr die Nutzung des Angebots ist die Nutzung von KI:connect (\u00fcber API oder Weboberfl\u00e4che).<\/p>\n<p>&nbsp;<\/p>\n<h3><span style=\"color: #00549f;\">Erste KI-Modelle ab April 2026<\/span><\/h3>\n<p>Ab April 2026 sollen im Rahmen von KI:Inferenz.nrw erste Sprachmodelle f\u00fcr Hochschulen in NRW bereitgestellt werden. Das Angebot richtet sich an alle Hochschulen in NRW und ist f\u00fcr alle Einrichtungen nutzbar, die KI:connect bereits einsetzen oder die Einf\u00fchrung von KI:connect vorbereiten.<\/p>\n<p>In der ersten Phase werden unter anderem die Modelle Mistral Small und GPT OSS verf\u00fcgbar sein.<\/p>\n<p>Die RWTH ist eine der Hochschulen, die schon seit Anfang M\u00e4rz testweise das gemeinsame Angebot von WestAI und OSKI.nrw nutzen k\u00f6nnen. Dadurch konnte zum einen f\u00fcr das GPT OSS und Mistral Small Modell eine Standortredundanz hergestellt werden, zum anderen weitere Embedding Modelle zur Verf\u00fcgung gestellt werden.<\/p>\n<p>&nbsp;<\/p>\n<h3><span style=\"color: #00549f;\">Schrittweiser Aufbau der KI-Infrastruktur<\/span><\/h3>\n<p>Zum Start wird KI:Inferenz.nrw zun\u00e4chst prototypisch auf bestehender Hardware standortredundant in Aachen und K\u00f6ln bereitgestellt. Der Dienst wird schrittweise erweitert und folgt in der Anfangsphase einem Best Effort Ansatz. Aufgrund begrenzter Ressourcen wird es zun\u00e4chst Nutzungslimits und Einschr\u00e4nkungen bei den verf\u00fcgbaren Modellen geben. Diese sind jedoch so ausgelegt, dass typische Anwendungen wie Chatbots bereits unterst\u00fctzt werden k\u00f6nnen.<\/p>\n<p>Die Kommunikation zur Nutzung der Modelle erfolgt \u00fcber die etablierten Kan\u00e4le des Projekts KI:connect.<\/p>\n<p>Perspektivisch soll das Angebot als Teil des geplanten Projekts KI:Expertisezentrum.nrw weiter ausgebaut werden, um damit die Nutzung von KI in den Hochschulen in NRW weiter zu unterst\u00fctzen.<\/p>\n<p>&nbsp;<\/p>\n<h3><span style=\"color: #00549f;\">Anpassung des Standardmodells in KI:connect<\/span><\/h3>\n<p>Im Zuge dieser Entwicklung wird auch KI:connect angepasst. Das bisherige Standardmodell 4o mini wird durch GPT OSS ersetzt. Damit unterst\u00fctzt die RWTH aktiv den Einsatz selbst gehosteter Modelle innerhalb der Hochschulinfrastruktur.<\/p>\n<p>&nbsp;<\/p>\n<h3><span style=\"color: #00549f;\">Zentrale Finanzierung f\u00fcr Hochschulen in NRW<\/span><\/h3>\n<p>F\u00fcr Hochschulen in NRW entstehen zun\u00e4chst keine Bereitstellungskosten. Die KI-Infrastruktur wird vorerst zentral durch das <a href=\"https:\/\/www.mkw.nrw\/\">Ministerium f\u00fcr Kultur und Wissenschaft (MKW)<\/a> finanziert, um eine schnelle Einf\u00fchrung und Nutzung zu erm\u00f6glichen.<\/p>\n<hr \/>\n<p>Verantwortlich f\u00fcr die Inhalte dieses Beitrags sind <a href=\"https:\/\/www.itc.rwth-aachen.de\/cms\/it-center\/it-center\/profil\/team\/~epvp\/mitarbeiter-pvz-\/?gguid=PER-5TL9GTD&amp;allou=1\">Denise Dittrich<\/a> und <a href=\"https:\/\/www.itc.rwth-aachen.de\/go\/id\/epvp\/gguid\/PER-N6AW3XB\/allou\/1\/\">Arlinda Ujkani<\/a>.<\/p>","protected":false},"excerpt":{"rendered":"<p>Der Bedarf an leistungsf\u00e4higen KI-Modellen an Hochschulen w\u00e4chst weiterhin stark. Anwendungen wie Chatbots oder KI-gest\u00fctzte Services im Umfeld von KI:connect f\u00fchren dazu, dass immer mehr Einrichtungen generative KI in Forschung, [&hellip;]<\/p>\n","protected":false},"author":3308,"featured_media":23843,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"c2c_always_allow_admin_comments":false,"footnotes":""},"categories":[1514,316,315],"tags":[960,1584,620,585,1528,1582,1585,1583,1044],"class_list":["post-23842","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ki","category-projekte-kooperationen","category-services-support","tag-ai","tag-gpt-oss","tag-ki","tag-ki-infrastruktur","tag-kiconnect","tag-kiinferenz-nrw","tag-mistral-small","tag-oski-nrw","tag-westai"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/posts\/23842","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/users\/3308"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/comments?post=23842"}],"version-history":[{"count":7,"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/posts\/23842\/revisions"}],"predecessor-version":[{"id":23853,"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/posts\/23842\/revisions\/23853"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/media\/23843"}],"wp:attachment":[{"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/media?parent=23842"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/categories?post=23842"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.rwth-aachen.de\/itc\/wp-json\/wp\/v2\/tags?post=23842"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}