Quelle: Eigene Darstellung
In unserem letzten Beitrag haben wir euch Ritchy, den KI-gestützten Support-Chatbot des IT-ServiceDesks, erstmals vorgestellt. Falls ihr Ritchy noch nicht kennt, empfehlen wir euch, zunächst den ersten Beitrag zu lesen. Dort erfahrt ihr mehr über die Hintergründe und die Entstehung des Chatbots.
Inzwischen könnt ihr bei der Auswahl der Support-Chat-Funktion auf unserer IT Center Webseite, in IT Center Help oder direkt in RWTHmoodle entscheiden, ob ihr mit Ritchy oder mit den Mitarbeitenden des IT-ServiceDesks chatten möchtet. Falls ihr euch aber gefragt habt, wie Ritchy im Detail funktioniert, haben wir in diesem Beitrag die Antwort für euch.
Wie Ritchy auf Wissen zugreift
Der Chatbot Ritchy basiert auf den neusten Sprachmodellen von OpenAI aktuell (GPT5-CHAT), die über Microsoft Azure eingebunden sind. Zusätzlich nutzt Ritchy das Verfahren der Retrieval Augmented Generation (RAG), um präzise Antworten zu liefern. Dieses wird ebenfalls durch Microsoft Azure bereitgestellt. Dabei greift Ritchy auf die hinterlegte Wissensdatenbank IT Center Help zurück, um Anfragen möglichst genau und kontextbezogen zu beantworten.
RAG ist ein Ansatz, bei dem generative KI-Modelle nicht nur auf ihr antrainiertes Wissen zurückgreifen, sondern zusätzlich gezielt externe Informationen aus angebundenen Wissensquellen abrufen. Statt sich also rein auf die Daten im Sprachmodell zu verlassen, sucht die KI bei RAG zunächst nach passenden Inhalten, zum Beispiel in einer Dokumentendatenbank, und verwendet diese Informationen anschließend, um eine fundierte Antwort zu generieren.
Der große Vorteil dabei: Mit RAG lassen sich Aktualität und inhaltliche Genauigkeit deutlich steigern, insbesondere bei kontextspezifischen oder komplexen Fachthemen, die nicht im Trainingsdatensatz enthalten sind. Ein Beispiel sind Anfragen zur Multifaktor-Authentifizierung und den dazugehörigen Token, deren Bedeutung an der RWTH von der üblichen Standarddefinition abweicht. RAG bringt damit das Beste aus zwei Welten zusammen: präzise Informationen aus den hinterlegten Inhalten der öffentlichen Dokumentation sowie natürlich klingende Sprache und logische Struktur aus dem implementierten Sprachmodell. So kann die Qualität der Antworten verbessert werden, indem Supportanfragen auf geprüftes und aktuelles Wissen gestützt werden.
Den Zugriff auf vorher gelerntes Wissen aus den Sprachmodellen wurde bei Ritchy bewusst eingeschränkt. Das führt dazu, dass Ritchy nur auf sein hinterlegtes Wissen zurückgreift und nicht aktiv Inhalte aus dem Internet betrachtet. Einige Anfragen, insbesondere zu Inhalten, die nicht in der öffentlichen Dokumentation vorhanden sind, können dadurch möglicherweise nicht beantwortet werden.
Zusätzlich wurde ein sogenannter System-Prompt hinterlegt, der festlegt, wie sich Ritchy bei der Beantwortung von Anfragen verhalten soll. Ritchy ist so konfiguriert, dass er die Rolle eines Support-Mitarbeitenden übernimmt, wenn er auf Anfragen reagiert. Bei jeder übermittelten Anfrage wird dieser System-Prompt als Kontext an das Sprachmodell weitergegeben. Der Fokus liegt klar bei der Unterstützung bei IT-Problemen.
Sollten Anwendungsfälle über den IT-Support-Kontext hinausgehen, aber trotzdem die Funktionalitäten eines KI Chatbots benötigt werden, kann man dies einfach über RWTHgpt lösen. Wie ihr in RWTHgpt am besten Fragen formulieren könnt, könnt ihr im Blogbeitrag „Besser fragen, besser antworten“ nachlesen. Dort erfahrt ihr auch weitere Informationen und Hintergrundwissen zu RWTHgpt.
Umgang mit Ritchy
KI-Systeme erkennen Muster zuverlässig, kennen jedoch die Ausgangssituation des Nutzenden nicht und können diese ohne passende Informationen nur schwer erfassen.
Damit Ritchy die bestmöglichen Antworten liefern kann, ist es wichtig, dem Chatbot bei Anfragen genügend Informationen zu geben. Ähnlich wie bei menschlichen Support-Mitarbeitenden wird der Kontext benötigt, um ein Problem nachvollziehen zu können.
Eine kurze Aussage wie „Ich habe mein Passwort vergessen“ ist in diesem Fall zu allgemein. Hilfreich sind zusätzliche Angaben, wie etwa bei welchem IT Center Service das Passwort vergessen wurde. Folgende Aspekte sollten beachtet werden:
- Konkretisierung: Je präziser die Anfrage oder Aufgabenstellung in der Anfrage, desto genauer kann Ritchy antworten.
- Kontextualisierung: Je mehr Kontext Ritchy zu einer Anfrage erhält, desto einfacher kann diese den bestehenden Themen zugeordnet werden. Gebt daher beispielsweise bei Anfragen zur Passwortänderung immer den dazugehörigen Dienst an.
- Eindeutigkeit: Versucht Wörter zu vermeiden, die in mehreren Kontexten mit unterschiedlichen Definitionen verwendet werden. Bei Begriffen, die im RWTH-Kontext in mehreren Themengebieten verwendet werden, solltet ihr das dazugehörige Thema angeben. Geht es beispielsweise um Token, ist es notwendig anzugeben, ob es die MFA oder RWTHgpt Und wenn es um MFA geht, um welchen Dienst es sich genau handelt.
- Verfeinerung: Prompting ist keine Einbahnstraße. Gerade in der momentanen Testphase ist es möglich, dass Ritchy auf Anhieb keine vollumfängliche Antwort gibt oder noch zusätzliche Daten benötigt. Es lohnt sich, Rückfragen zu stellen oder Ritchy die Frage nochmal mit zusätzlichen Informationen zu stellen.
Solltet ihr am Ende eines Chats noch weitere Informationen benötigen oder zusätzlich noch mit Mitarbeitenden des IT-ServiceDesks kommunizieren wollen, ist dies natürlich ebenfalls möglich. Über die Auswahl „IT-ServiceDesk kontaktieren“ am oberen rechten Rand der Weboberfläche könnt ihr entscheiden, ob ihr innerhalb der Servicezeiten direkt mit den Support-Mitarbeitenden chatten möchtet oder ob stattdessen ein Ticket im System des IT-ServiceDesks erstellt werden soll. Dabei lässt sich zudem festlegen, ob der bisherige Chatverlauf mitübertragen werden soll oder nicht.
Habt ihr Ritchy schon genutzt und Erfahrungen damit gesammelt? Lasst es uns in den Kommentaren wissen.
Verantwortlich für die Inhalte dieses Beitrags ist Robin Jakobitz.
Schreibe einen Kommentar