Welche KI Richtlinien brauchen Unternehmen?

Ein Fachbereich setzt einen generativen KI-Assistenten ein, um Kundenanfragen schneller zu klassifizieren. Kurz darauf fließen Inhalte aus dem CRM in Eingabemasken eines externen Dienstes, die Ergebnisse werden nicht geprüft und niemand kann beantworten, wer die Freigabe erteilt hat. Solche Situationen zeigen, welche KI Richtlinien Unternehmen brauchen: keine allgemein gehaltene Verbotsliste, sondern einen verbindlichen Handlungsrahmen für Daten, Verantwortung, Betrieb und Kontrolle.

Gerade in SAP-nahen Prozessen, im Einkauf, in der Kundenbetreuung oder in der Produktionsplanung berührt KI häufig geschäftskritische Daten und Entscheidungen. Eine Richtlinie muss deshalb so konkret sein, dass Projektteams sie im Alltag anwenden können. Zugleich darf sie Innovation nicht durch unnötige Freigabeschleifen blockieren. Der richtige Umfang hängt vom jeweiligen Anwendungsfall, den verwendeten Daten und den möglichen Auswirkungen auf Mitarbeitende, Kunden und Betriebsabläufe ab.

KI-Richtlinien für Unternehmen beginnen mit dem Einsatzkontext

Eine unternehmensweite KI-Richtlinie sollte zunächst eindeutig definieren, was im Unternehmen als KI-System gilt und für welche Lösungen sie gilt. Dazu gehören nicht nur selbst konfigurierte Modelle oder Plattformen, sondern auch KI-Funktionen in Standardsoftware, etwa in ERP-, CRM- oder Dokumentenmanagement-Systemen. Werden diese Funktionen über Updates aktiviert, entstehen neue Risiken häufig nicht erst mit einem separaten KI-Projekt.

Entscheidend ist die Einordnung nach Einsatzklassen. Ein Textassistent für interne Entwürfe benötigt andere Vorgaben als eine Lösung, die Bonitätsdaten bewertet, Liefermengen prognostiziert oder Qualitätsabweichungen in der Fertigung priorisiert. Die Richtlinie sollte daher eine einfache, dokumentierte Risikobewertung vorsehen. Sie betrachtet mindestens Zweck, Datenarten, betroffene Personen oder Geschäftsprozesse, Grad der Automatisierung, Folgen fehlerhafter Ergebnisse und Abhängigkeit von externen Anbietern.

Das Ergebnis muss praktisch nutzbar sein: Für risikoarme Anwendungen können klare Standardregeln und eine schlanke Registrierung genügen. Anwendungen mit personenbezogenen, vertraulichen oder produktionskritischen Daten brauchen vor dem Start eine vertiefte fachliche, technische und gegebenenfalls rechtliche Prüfung. So werden knappe Governance-Kapazitäten dort eingesetzt, wo sie den Betrieb tatsächlich absichern.

Klare Verantwortung statt einer Richtlinie ohne Eigentümer

Eine Richtlinie wirkt nur, wenn Rollen und Entscheidungen eindeutig zugeordnet sind. Die Geschäftsleitung oder ein benanntes Steuerungsgremium legt den Rahmen und die Risikotoleranz fest. Der Fachbereich verantwortet den geschäftlichen Zweck, die fachliche Qualität der Ergebnisse und die Entscheidung, ob ein KI-Einsatz weiterhin sinnvoll ist. IT und Informationssicherheit bewerten Architektur, Zugriffe, Integration, Protokollierung und Betrieb.

Datenverantwortliche klären, welche Daten verwendet werden dürfen, ob ihre Qualität für den Zweck ausreicht und wer Änderungen an Datenquellen freigibt. Datenschutz, Compliance und Einkauf werden nicht pauschal in jeden Vorgang gezogen, sondern nach klaren Auslösern eingebunden - etwa bei personenbezogenen Daten, neuen Auftragsverarbeitungen, kritischen Lieferanten oder besonders relevanten Entscheidungen. Für regulatorische und IT-rechtliche Bewertungen kann die rechtlich eigenständige Quteco Rechtsanwaltsgesellschaft mbH ergänzend eingebunden werden.

Besonders wichtig ist die Rolle des System Owners. Diese Person oder Funktion hält die Dokumentation aktuell, veranlasst Tests, überwacht Änderungen und koordiniert bei Störungen. Ohne diese Zuordnung bleiben KI-Lösungen nach einem erfolgreichen Pilotprojekt oft im produktiven Betrieb zurück, während sich Daten, Modelle, Schnittstellen und Anforderungen weiter verändern.

Datenregeln müssen entlang des Datenflusses funktionieren

Die häufigste Schwachstelle liegt nicht im Modell, sondern im Datenfluss. Eine KI-Richtlinie sollte verbindlich unterscheiden, welche Informationen frei verwendet werden dürfen, welche nur in freigegebenen Umgebungen verarbeitet werden dürfen und welche Daten ausgeschlossen sind. Dabei reicht die Kategorie „personenbezogen“ allein nicht aus. Auch Geschäftsgeheimnisse, Preiskalkulationen, technische Spezifikationen, Vertragsinhalte oder sicherheitsrelevante Betriebsdaten benötigen Schutz.

Für jeden relevanten Anwendungsfall sollte nachvollziehbar sein, aus welchem Quellsystem Daten stammen, welche Transformationen stattfinden, an wen Daten übermittelt werden und wie lange sie gespeichert bleiben. In einer S/4HANA-Landschaft betrifft das beispielsweise Stammdaten, Belegdaten, Berechtigungen und Schnittstellen zu Analyse- oder KI-Plattformen. Werden Daten aus mehreren Quellen zusammengeführt, muss der fachliche Kontext erhalten bleiben. Andernfalls kann ein formal korrekter Datenexport zu fachlich falschen Ergebnissen führen.

Die Richtlinie sollte außerdem festlegen, dass Trainingsdaten, Prompts, Ausgaben und Protokolle nicht unkontrolliert vermischt werden. Testdaten benötigen eine eigene Freigabe, insbesondere wenn sie produktionsnahe Merkmale enthalten. Berechtigungen folgen dem Need-to-know-Prinzip, und Zugriffe müssen revisionssicher nachvollziehbar sein. Für sensible Szenarien gehören Verschlüsselung, Mandantentrennung und definierte Löschkonzepte in die technische Umsetzung, nicht nur in ein Richtliniendokument.

Menschliche Kontrolle braucht definierte Entscheidungspunkte

„Human in the loop“ ist kein ausreichendes Kontrollkonzept, wenn nicht feststeht, wer wann und nach welchen Kriterien eingreift. Die Richtlinie sollte daher festlegen, ob die KI lediglich informiert, Vorschläge erstellt oder Entscheidungen automatisiert ausführt. Je stärker eine Ausgabe finanzielle, rechtliche oder operative Folgen hat, desto klarer müssen Freigabegrenzen und Eskalationswege sein.

Bei einer KI-gestützten Rechnungsprüfung kann ein definierter Schwellenwert mit fachlicher Nachkontrolle angemessen sein. Bei einer Priorisierung sicherheitsrelevanter Instandhaltungsmaßnahmen wäre eine vollständig automatische Freigabe dagegen regelmäßig nicht vertretbar. Es geht nicht darum, jede KI-Ausgabe manuell zu prüfen. Es geht darum, Kontrollpunkte an den Stellen einzubauen, an denen Fehler erhebliche Folgen hätten.

Dazu gehören messbare Qualitätskriterien. Teams sollten vor dem Produktivstart festlegen, welche Fehlerraten akzeptabel sind, welche Datenlücken einen Stopp auslösen und wann Ergebnisse verworfen werden müssen. Auch der Umgang mit Halluzinationen, Verzerrungen und nicht reproduzierbaren Antworten sollte beschrieben sein. Für generative KI sind Quellenbezug, Kennzeichnung von Entwürfen und die fachliche Prüfung besonders relevant, wenn Inhalte nach außen gehen oder Entscheidungen vorbereiten.

Betrieb, Änderungen und Vorfälle verbindlich steuern

KI-Governance endet nicht mit der Freigabe. Modelle, Prompt-Vorlagen, Datenquellen und Schnittstellen verändern sich. Bereits eine neue Version eines Standardprodukts kann Einfluss auf Ergebnisqualität, Datenverarbeitung oder Berechtigungen haben. Die Richtlinie braucht deshalb ein schlankes Änderungsmanagement: Welche Änderungen dürfen im Regelbetrieb erfolgen, welche erfordern Tests und wer gibt die produktive Übernahme frei?

Für kritische Anwendungen gehören Testfälle, Abnahmekriterien und ein Rückfallverfahren in die Betriebsdokumentation. Wenn ein KI-Service ausfällt oder unplausible Ergebnisse liefert, muss der Prozess weiterlaufen können - gegebenenfalls mit manueller Bearbeitung oder einer etablierten Regel-Logik. Gerade bei Cutover-Phasen und Go-Lives verhindert eine solche Vorbereitung, dass neue KI-Komponenten zum zusätzlichen Betriebsrisiko werden.

Ebenso notwendig ist ein Verfahren für Vorfälle. Mitarbeitende müssen wissen, wie sie fehlerhafte, diskriminierende, sicherheitskritische oder unerwartete Ausgaben melden. Der Prozess sollte technische Analyse, fachliche Bewertung, Kommunikation und dokumentierte Korrektur verbinden. Ein zentrales KI-Register schafft dafür die Grundlage: Es dokumentiert Zweck, Owner, Risikoklasse, Datenflüsse, Freigaben, verwendete Komponenten, Teststatus und offene Maßnahmen.

EU AI Act und weitere Anforderungen in die Umsetzung übersetzen

Die regulatorische Einordnung darf nicht auf Schlagworte reduziert werden. Der EU AI Act stellt abhängig von Rolle und Risikokategorie unterschiedliche Anforderungen. Datenschutzrecht, Informationssicherheit, Vertragsanforderungen und gegebenenfalls NIS2-relevante Pflichten können parallel hinzukommen. Für Unternehmen ist entscheidend, diese Anforderungen in prüfbare Projektartefakte zu übersetzen - etwa Risikoanalysen, technische Dokumentation, Testnachweise, Rollenmodelle, Protokollierung und Schulungsnachweise.

Eine KI-Richtlinie ersetzt keine Einzelfallprüfung. Sie schafft jedoch den Prozess, der erforderliche Prüfungen rechtzeitig auslöst und Ergebnisse nachvollziehbar ablegt. Damit wird Governance vom nachträglichen Kontrollthema zu einem Bestandteil von Architektur, Beschaffung, Testmanagement und Betriebsübergabe.

Vom Richtlinienentwurf zum belastbaren KI-Betrieb

Der sinnvollste Einstieg ist selten ein hundertseitiges Regelwerk. Unternehmen sollten zunächst laufende und geplante KI-Anwendungen erfassen, mit den verantwortlichen Fachbereichen bewerten und die größten Lücken in Datenfluss, Rollen, Freigabe und Betrieb schließen. Daraus kann eine Richtlinie entstehen, die mit konkreten Vorlagen für Use-Case-Registrierung, Risikobewertung, Abnahme und Monitoring verbunden ist.

Quteco kann diesen Aufbau mit einem KI-Governance-Quick-Check oder einem Workshop strukturieren - von der Bestandsaufnahme über belastbare Datenflüsse und Rollenmodelle bis zur Einbettung in laufende SAP- und Transformationsprojekte. Ziel ist kein Regelwerk für die Ablage, sondern ein nachvollziehbarer Rahmen, der sichere Entscheidungen im produktiven Betrieb ermöglicht.