Wissen schnell verfügbar: ein Chatbot mit KI
Berlin Partner unterstützt das ökonomische Wachstum der Stadt mit vielen verschiedenen Projekten. Alle Informationen des Unternehmens sind in einem umfangreichen Intranet gespeichert, in dem ein KI-basierter Chatbot jetzt schnell und einfach Informationen für die Mitarbeitenden findet.
Warum überhaupt?
Ob rechtliche Vorschriften, Dokumentenvorlagen, generelles Know-how oder Softwareanleitungen, alle Information von Berlin Partner sind über ein Intranet erreichbar. Als zentrale Wissensdatenbank steht es allen Mitarbeitenden zur Verfügung. Jedoch war es vor allem für neue Mitarbeitenden oft schwierig, in dem umfangreichen Inhalt Informationen und Unterlagen zu finden.
Der Weg dahin
Wir haben gemeinsam mit unserem langjährigen Partner - der ideenmanufaktur GmbH - für Berlin Partner einen Chatbot entwickelt, der die Inhalte des unternehmenseigenen Intranets erfasst und Antworten auf gestellte Fragen geben kann. Der Chatbot unterstützt Mitarbeitende, die passenden Antworten zu erhalten und verlinkt direkt entsprechende Quellen und zugrunde liegende Dokumente. Was vorher langes Suchen benötigt hat, ist jetzt in kürzester Zeit erledigt.
Die Technik dahinter
Als zugrunde liegendes Sprachmodell wurde Ollama in der Version 3 eingesetzt. Dies ermöglicht grundlegende Sprachmöglichkeiten der AI. Um den Kontext der Antworten auf den Inhalt des Kunden zu beschränken und die Qualität der Antworten zu erhöhen, wurde Retrieval Augmented Generation (RAG) eingesetzt. Gemeinsam mit dem Kunden wurde ein automatisierter Evaluationsprozess etabliert, wodurch die Antworten des Chatbots kontinuierlich verbessert werden. Als AI-Framework wurde Haystack genutzt und für Tracing und Evaluation Phoenix.
Gemeinsam was entwickeln
Möchten Sie ein Projekt mit uns umsetzen?
Alex Hänel freut sich auf Ihre Anfrage per Mail an alexander.haenel(at)plusb.de oder telefonisch unter 030/609 818 960.
