KI-Governance für KMU: Zuständigkeiten, Daten und Prüfregeln

KI-Governance setzt Grenzen für die Nutzung von Tools, weist Verantwortung zu und legt Prüfungen nach dem Risiko des jeweiligen Workflows fest. Dieser Leitfaden zeigt Inhabern und Betriebsleitern von KMU, wie sie das aufsetzen: mit einem Inventar, drei Risikostufen, einer kurzen Richtlinie und einer namentlich benannten verantwortlichen Person für jeden Workflow.

Block Consult5 Min. Lesezeit
Abbildung · KI-Governance

Sind die Regeln für die Tool-Nutzung unklar, geben Mitarbeitende womöglich vertrauliche Daten in nicht verwaltete Apps ein oder arbeiten mit uneinheitlichen Ergebnissen. Vorgesetzte wiederum müssen wissen, welche KI-Workflows Kunden betreffen.

Governance beantwortet für ein KMU vier Fragen: was Mitarbeitende nutzen dürfen, welche Daten tabu sind, wann Ergebnisse geprüft werden müssen und wer für jeden Workflow verantwortlich ist. Die Antworten sollten ausdrücklich festgehalten sein, und sie dürfen kurz sein.

Mit einem Inventar der KI-Nutzung beginnen

Listen Sie auf, wo KI bereits im Einsatz ist, bevor Sie eine Regel schreiben. Fragen Sie jedes Team, welche Tools es nutzt, für welche Aufgaben, mit welchen Daten und ob die Ergebnisse Kunden erreichen. Nehmen Sie auch die KI-Funktionen in Software auf, für die das Unternehmen bereits Lizenzen hat.

Fragen Sie ohne Vorwurf, denn Menschen lassen von einer Liste weg, wofür sie Kritik erwarten. Nicht verwaltete Tools tauchen meist dort auf, wo der offizielle Prozess langsamer ist als die Behelfslösung. Unser Beitrag dazu, wie Sie KI in die Software Ihres Teams einbinden, beschreibt, wie ein freigegebener, bequemer Workflow das verringert.

Workflows nach Risiko einstufen

Nicht jede KI-Nutzung braucht dieselbe Kontrolle. Die Zusammenfassung einer internen Sitzung zu entwerfen ist etwas anderes, als eine Rechtsklausel für Kunden zu erzeugen oder eine Rückerstattung freizugeben. Ein einfaches Modell mit geringem, mittlerem und hohem Risiko hilft Teams, zügig voranzukommen, ohne jede Aufgabe als gefährlich zu behandeln.

  • Geringes Risiko: interne Entwürfe, Zusammenfassungen, Brainstorming und nicht sensible Recherche.
  • Mittleres Risiko: Entwürfe für Kunden, operative Empfehlungen und Datentransformation.
  • Hohes Risiko: regulierte Inhalte, Personalentscheidungen, finanzielle Freigaben und sensible Personendaten.

Verbinden Sie jede Stufe mit einer Prüfregel. Ergebnisse mit geringem Risiko können mit Stichproben hinausgehen. Entwürfe für Kunden gibt eine namentlich benannte Person frei, bis die Qualität feststeht, danach genügen Stichproben. Alles, was Geld, Verträge oder Compliance berührt, behält eine Pflichtprüfung. Wie Sie diese Kontrollen einrichten, erklärt unser Leitfaden zur Gestaltung der menschlichen Prüfung in KI-Workflows.

Ordnen Sie jeden Workflow aus dem Inventar einer Stufe zu und halten Sie den Grund in einer Zeile fest. Passt ein Workflow in zwei Stufen, gilt die höhere.

Nehmen wir einen Workflow, der Antworten auf Kundenreklamationen entwirft. Die Entwürfe erreichen Kunden, er beginnt also bei mittlerem Risiko. Kann eine Antwort auch eine Rückerstattung gewähren, hebt diese finanzielle Freigabe den Workflow auf hohes Risiko, es sei denn, die Entscheidung über die Rückerstattung wird abgetrennt und bleibt bei einer Person.

Regeln schreiben, die Mitarbeitende behalten

Eine nützliche KI-Richtlinie ist kurz genug, um gelesen zu werden, und konkret genug, um das Verhalten zu leiten. Sie sollte freigegebene Tools, vertrauliche Daten, Ergebnisse für Kunden, Faktenprüfung und Eskalationswege abdecken.

  • Freigegebene Tools: welche Tools Mitarbeitende für die Arbeit nutzen dürfen und wie sie ein neues beantragen.
  • Vertrauliche Daten: die Arten von Daten, die nicht eingegeben werden dürfen, benannt in den Begriffen des Unternehmens, etwa Kundendossiers oder Lohndaten.
  • Ergebnisse für Kunden: wer einen KI-Entwurf freigibt, bevor er verschickt wird.
  • Faktenprüfung: Wer das Ergebnis verwendet, prüft Namen, Zahlen und Verweise an der Quelle.
  • Eskalation: wen man fragt, wenn ein Fall unklar ist, und wie man einen Fehler meldet.

Schreiben Sie die Richtlinie in den Worten der Mitarbeitenden, mit Beispielen aus ihrer eigenen Arbeit. Testen Sie sie an einer neuen Kollegin oder einem neuen Kollegen: Nach einmaligem Lesen sollte die Person sagen können, was in welches Tool eingegeben werden darf. Schweizer Unternehmen müssen zudem das nDSG berücksichtigen, das unser Beitrag zur KI-Readiness für Schweizer KMU behandelt.

Beantworten Sie Anträge für neue Tools rasch. Bleibt ein Antrag liegen, kehren die Mitarbeitenden zum nicht verwalteten Tool zurück, und das Inventar ist wieder veraltet.

Verantwortliche benennen

Jeder KI-Workflow braucht eine verantwortliche Person, die beantworten kann, ob er noch korrekt, nützlich und sicher ist. Ohne klare Zuständigkeit veralten Prompts, ändern sich Daten, und niemand bemerkt es, bis die Qualität der Ergebnisse zum Problem wird.

Zwei Rollen sind beteiligt. Eine Person, meist aus Betriebsleitung, Geschäftsführung oder IT, verantwortet die Richtlinie und die Liste der freigegebenen Tools. Jeder Workflow hat zudem eine fachlich verantwortliche Person, die den Prozess versteht und deren Name im Inventar neben dem Workflow steht.

Die fachlich verantwortliche Person sieht sich eine Stichprobe der Ergebnisse an, in einem Rhythmus, der zur Risikostufe passt: bei Workflows mit geringem Risiko in regelmässigen Abständen, bei solchen mit Kundenkontakt oder regulatorischen Anforderungen häufiger. Sie prüft auch erneut, wenn sich das Modell, die Quelldokumente oder die angebundene Software ändern, denn jede dieser Änderungen kann das Verhalten des Workflows verändern.

Sie entscheidet auch, wer Prompts, Quellen und Einstellungen ändern darf, und führt ein kurzes Änderungsprotokoll. Sinkt die Qualität der Ergebnisse, sehen Sie zuerst in diesem Protokoll nach.

Die KI-Governance aktuell halten

An einigen Zeichen erkennen Sie, dass die Governance nachgelassen hat: ein Workflow, dessen verantwortliche Person die Rolle gewechselt hat, ein täglich genutztes Tool, das auf der Liste der freigegebenen Tools fehlt, oder eine Prüfung, die jedes Mal innert Sekunden mit einer Freigabe endet. Gehen Sie das Inventar an einem festen Datum durch und suchen Sie danach.

Erreicht ein Fehler einen Kunden, gilt der Eskalationsweg aus der Richtlinie. Wer den Fehler bemerkt, meldet ihn der Person, die für den Workflow verantwortlich ist. Diese entscheidet, ob der Workflow pausiert, die Quelle korrigiert oder die Prüfung verschärft wird.

Das KI-Readiness- und Workflow-Audit von Block Consult prüft die Governance für jeden möglichen Workflow, neben Daten, Schnittstellen, Prozesskonsistenz, Mitarbeitenden und Wirtschaftlichkeit, und listet die Zuständigkeitsfragen auf, die vor einer Entwicklung zu klären sind. Für Systeme, die bereits im Einsatz sind, umfasst die laufende KI-Betreuung die Prüfung von Nutzung, Kosten, Quellen und Zugriffen.

Häufige Fragen

Brauchen KMU eine KI-Richtlinie?
Ja, sie darf aber kurz sein. Eine praktische Richtlinie legt freigegebene Tools, Grenzen für die Datennutzung, Prüfregeln und Eskalationspunkte fest.
Wer sollte die KI-Governance in einem KMU verantworten?
Meist liegt die Verantwortung bei Betriebsleitung, Geschäftsführung oder IT. Jeder Workflow sollte zusätzlich eine fachlich verantwortliche Person haben, die den Prozess versteht.
Wie oft sollten KI-Workflows geprüft werden?
Die Häufigkeit sollte zum Risiko passen. Workflows mit geringem Risiko können in regelmässigen Abständen geprüft werden. Workflows mit Kundenkontakt oder regulatorischen Anforderungen brauchen häufigere Prüfungen.
Wie verhindern wir, dass Mitarbeitende nicht freigegebene KI-Tools nutzen?
Geben Sie den Teams einen freigegebenen Workflow, der bequem zu nutzen ist. Nicht verwaltete Tools tauchen meist dort auf, wo der offizielle Prozess langsamer ist als die Behelfslösung.
Kontakt

Lassen Sie uns etwas Beständiges bauen.

Erzählen Sie uns von Ihrem Projekt. Wir antworten innerhalb von zwei Werktagen.