KI-Assistent für Ihr Unternehmenswissen: So bauen Sie ihn auf

Ein Wissensassistent ist nützlich, wenn er aus vertrauenswürdigen internen Quellen antwortet, zu jeder Antwort die Quelle zeigt und es sagt, wenn die Wissensbasis keine Antwort enthält. Dieser Beitrag erklärt Inhabern und Betriebsleitern von KMU, wie ein solcher Assistent funktioniert, was seine Quelldokumente brauchen und wie die Antworten nach der Einführung verlässlich bleiben.

Block Consult4 Min. Lesezeit
Abbildung · Wissenssysteme

In vielen Unternehmen ist wichtiges Wissen auf Dokumente, Postfächer, Tabellen und die Köpfe einzelner Mitarbeitender verteilt. Die aktuelle Preisliste liegt in einem Ordner, und die Antwort, die ein Kunde letztes Jahr erhalten hat, steckt im Postfach einer Kollegin. KI kann dieses Wissen leichter zugänglich machen, sofern der Assistent an vertrauenswürdige Quellen angebunden ist und sich daran orientiert, wie Mitarbeitende um Hilfe fragen.

So funktioniert ein KI-Assistent für die Wissensbasis

Ein Sprachmodell hat ein breites Allgemeinwissen, aber Ihre Preisliste und Ihr Servicehandbuch hat es nie gelesen. Fragt man es direkt danach, liefert es trotzdem eine flüssige Antwort, und nichts auf dem Bildschirm zeigt, ob sie stimmt.

Der übliche Ausweg ist der Abruf von Quellen, englisch Retrieval. Der Assistent sucht bei jeder Frage die passenden Textstellen in Ihren Dokumenten und schreibt seine Antwort aus diesen Stellen, ohne sich auf das gespeicherte Wissen des Modells zu verlassen. Der Fachbegriff lautet Retrieval-Augmented Generation, kurz RAG.

Das funktioniert ähnlich wie bei einer sorgfältigen neuen Kollegin, die vor der Antwort im Handbuch nachschlägt und Ihnen sagt, auf welcher Seite die Antwort steht. Jede Frage durchläuft vier Schritte.

  1. Jemand aus dem Team stellt eine Frage in eigenen Worten.
  2. Das System durchsucht die angebundenen Quellen und wählt die Textstellen aus, die am besten zur Frage passen.
  3. Das Modell schreibt aus diesen Textstellen eine Antwort.
  4. Die Antwort erscheint mit Links zu den Dokumenten, aus denen sie stammt.

Weil die Antwort den Dokumenten folgt, führt ein korrigiertes Dokument zu einer korrigierten Antwort, ohne dass am Modell etwas geändert wird. Jede Antwort lässt sich zudem an ihrer Quelle prüfen. Fehler sind so leichter zu finden und zu beheben.

Mit den Fragen Ihres Teams beginnen

Beginnen Sie mit einem Team und den Fragen, die es immer wieder stellt. Sammeln Sie sie aus dem gemeinsamen Postfach und bei den Kolleginnen und Kollegen, an die sich alle wenden. Suchen Sie zu jeder Frage das Dokument oder den Datensatz mit der Antwort und notieren Sie, wer die Quelle pflegt. So beginnt auch die Arbeit von Block Consult bei Unternehmenswissen & KI-Integration: mit den Aufgaben, den zugehörigen Quellen und den Verantwortlichen für diese Quellen.

Nehmen wir ein Serviceteam, das immer wieder fragt, welche Garantiebedingungen für eine ältere Produktlinie gelten. Steht die Antwort in einem PDF, das zwei Personen kennen, gehören diese Frage und dieses PDF in die erste Version. Enthält kein Dokument die Antwort, haben Sie die erste Lücke gefunden, die zu schliessen ist, bevor Software ins Spiel kommt.

Die Quelldokumente vorbereiten

Ein nützlicher Assistent braucht Quellen, die aktuell und klar benannt sind, festgelegte Zugriffsrechte haben und so strukturiert sind, dass sie sich abrufen lassen. Alte Richtlinien und doppelte Vorlagen führen zu unklaren Antworten, weil der Assistent nicht erkennt, hinter welcher Version das Unternehmen steht.

Gehen Sie die Quellen zu den gewählten Fragen durch. Archivieren Sie abgelöste Versionen, entfernen Sie Duplikate, geben Sie Dateien Namen, die den Inhalt nennen, und halten Sie für jede Quelle eine verantwortliche Person fest. Gescannte Seiten und Tabellen müssen unter Umständen umgewandelt werden, bevor ihr Text durchsuchbar ist. Unser Leitfaden zur Vorbereitung von Dokumenten und Daten für einen KI-Workflow führt die Prüfpunkte vollständig auf.

Zu jeder Antwort die Quelle zeigen

Der Assistent sollte zu seinen Antworten Quellenlinks oder Dokumentnamen zeigen, vor allem dort, wo eine Entscheidung davon abhängt. Kolleginnen und Kollegen können die Textstelle dann öffnen und prüfen, und das Team lernt, wann es sich auf den Assistenten verlassen kann und wann es genauer hinsehen sollte.

Legen Sie fest, was geschieht, wenn der Abruf nichts Passendes findet. Der Assistent sollte dann sagen, dass er zu der Frage keine Quelle hat, und auf eine Person verweisen, die weiterhelfen kann.

Berechtigungen auf den Assistenten übertragen

Trennen Sie öffentliches, internes und eingeschränktes Material, bevor Sie es anbinden. Der Assistent sollte nur aus Dokumenten antworten, die die fragende Person öffnen darf. Eine Frage zu Löhnen liefert dann jemandem ausserhalb der Personalabteilung nichts. Dafür braucht es Berechtigungen an drei Stellen: in den Dokumentquellen, beim Abruf und in den Zugriffsregeln der Anwendung selbst.

Legen Sie fest, welche Themen der Assistent ablehnt oder an eine Person weitergibt, und testen Sie den Zugriff vor der Einführung mit Konten verschiedener Rollen. Die Regeln für vertrauliche Daten und heikle Themen gehören in die KI-Governance des Unternehmens, damit sie für jedes Tool gelten, das das Team nutzt.

Vor der Einführung mit häufigen Fragen testen

Gehen Sie die gesammelten Fragen mit den Personen durch, die den Assistenten nutzen werden. Bitten Sie sie, jede Antwort als richtig, falsch oder ohne Quelle zu markieren. Verbessern Sie zuerst die Dokumente und passen Sie danach die Einstellungen des Abrufs an. Behalten Sie die Fragen als Testfälle, die Sie wiederholen, sobald sich Quellen oder Einstellungen ändern.

Ein Assistent in einem separaten Tab gerät leicht in Vergessenheit. Ihn in die Tools zu bringen, die das Team den ganzen Tag geöffnet hat, ist eine Integrationsaufgabe. Wir beschreiben sie im Beitrag zur Anbindung von KI an die Software Ihres Teams.

Lücken ebenso messen wie Antworten

Unbeantwortete Fragen zeigen fehlende Dokumentation, unklare Prozesse und Schulungsbedarf. Geben Sie den Nutzern einen einfachen Weg, eine falsche oder fehlende Antwort zu melden, und halten Sie jede Frage fest, die der Assistent nicht beantworten konnte.

Jemand muss mit dieser Liste arbeiten. Benennen Sie eine verantwortliche Person, die sie in einem festen Rhythmus durchgeht und jede Lücke an die Person weitergibt, die für die Quelle zuständig ist. Die Liste dient dann zugleich als Aufgabenliste für die Dokumentation des Unternehmens, geordnet nach dem, was Mitarbeitende gefragt haben.

Häufige Fragen

Was ist RAG bei einem internen KI-Assistenten?
RAG steht für Retrieval-Augmented Generation. Vor der Antwort durchsucht der Assistent Ihre internen Quellen nach passenden Textstellen und schreibt seine Antwort daraus.
Kann ein Wissensassistent Berechtigungen beachten?
Ja, wenn die Berechtigungen in den Dokumentquellen, beim Abruf und in den Zugriffsregeln der Anwendung vorgesehen sind. Der Assistent sollte nur aus Dokumenten antworten, die die fragende Person öffnen darf.
Wie verbessern wir die Antwortqualität?
Verbessern Sie zuerst die Quelldokumente: Entfernen Sie Duplikate und archivieren Sie alte Versionen. Richten Sie danach einen Weg für Rückmeldungen ein, justieren Sie den Abruf und testen Sie häufige Fragen mit den Teams, die den Assistenten nutzen werden.
Muss der Assistent mit unseren Dokumenten trainiert werden?
Meist nicht. Beim Abruf bleiben die Dokumente, wo sie sind, und der Assistent schlägt bei jeder Frage darin nach. Die Antworten folgen deshalb den aktuellen Versionen.
Kontakt

Lassen Sie uns etwas Beständiges bauen.

Erzählen Sie uns von Ihrem Projekt. Wir antworten innerhalb von zwei Werktagen.