Solange KI lediglich Berichte zusammenfasst oder Informationen bereitstellt, sind Fehler meist korrigierbar. Anders sieht es aus, wenn ein Agent Produktionsaufträge priorisiert, Lagerbestände disponiert, Maschinenparameter verändert oder künftig sogar direkt mit Robotik und Automatisierungssystemen interagiert. Dann beeinflusst KI reale Prozesse, Anlagen und Menschen. Die eigentliche Herausforderung besteht dabei nicht darin, einzelne KI-Anwendungen zu kontrollieren. Künftig wird es vielmehr darum gehen, hunderte oder sogar tausende KI-gestützte Assistenten, Agenten und Automatisierungen kontrolliert in eine bestehende Produktionslandschaft einzubetten.
Gleichzeitig verändert sich das Risikoprofil. Eine falsche Entscheidung bei der Maschinensteuerung kann unmittelbare Auswirkungen auf die Qualität, Anlagenverfügbarkeit oder Sicherheit haben. In hochautomatisierten Produktionsumgebungen entstehen dadurch völlig neue Anforderungen an Transparenz, Nachvollziehbarkeit und Kontrolle.
Ein Frage des Risikos
Das Thema Governance sollten Unternehmen entlang der Frage ausrichten, welchen Einfluss ein KI-System auf die Produktion ausübt und welche Risiken damit verbunden sind. Denn nicht jede KI-Anwendung erfordert dieselben Kontrollmechanismen. Am unteren Ende der Kritikalität stehen Systeme, die lediglich Informationen bereitstellen oder Vorschläge unterbreiten. Ein Beispiel dafür ist die automatisierte Erstellung von Schichtübergaben: Die KI sammelt Meldungen, Störungen und relevante Ereignisse und bereitet diese für die nächste Schicht auf. Die Entscheidung verbleibt vollständig beim Menschen. Eine Stufe höher befinden sich Anwendungen, die operative Prozesse unterstützen. Dazu gehören etwa Systeme zur Fertigungsplanung, die Produktionsaufträge priorisieren oder optimale Reihenfolgen für die Bearbeitung berechnen. Auch hier erfolgt die finale Freigabe weiterhin durch einen Mitarbeitenden. Kritischer wird es, wenn die KI Einfluss auf Materialflüsse, Lagerhaltung oder Werkslogistik nimmt. Zwar entstehen fehlerhafte Entscheidungen zunächst außerhalb der eigentlichen Produktion, ihre Auswirkungen zeigen sich jedoch zeitverzögert in Form von Materialengpässen oder Produktionsunterbrechungen. Die höchste Risikoklasse umfasst schließlich Anwendungen, die direkt in Produktionsprozesse eingreifen oder sicherheitsrelevante Entscheidungen treffen. Dazu zählen beispielsweise die autonome Anpassung von Maschinenparametern, Eingriffe in laufende Fertigungsprozesse oder Anwendungen im Umfeld von Robotik und industrieller Automatisierung. Jede Fehlentscheidung kann sich hier direkt auf den Fertigungsprozess auswirken , die von Qualitätseinbußen über Anlagenstillstände bis hin zu Sicherheitsrisiken reichen. Gerade wenn Menschen und Maschinen in derselben Umgebung arbeiten, dürfen autonome Entscheidungen niemals unkontrolliert erfolgen.
Drei Gateways helfen bei der Freigabe
Um diese unterschiedlichen Risikostufen beherrschbar zu machen, ist ein Ansatz sinnvoll, der auf drei aufeinander aufbauenden Gateways basiert. Im Governance-Kontext bezeichnet ein Gateway einen zentralen Kontrollpunkt, eine Schnittstelle oder ein Zugangsportal, das den Daten- oder Informationsfluss zwischen verschiedenen Systemen, Organisationen oder Netzwerken steuert und überwacht. Es fungiert als Regulierungsinstanz, um Sicherheits-, Compliance- und Zugriffsrichtlinien durchzusetzen.
Die erste Ebene betrifft die Plattform selbst. Läuft die Anwendung auf einer freigegebenen Infrastruktur? Ist das zugrunde liegende Modell bereits in die bestehende IT-Landschaft integriert? Existieren definierte Sicherheits- und Betriebsprozesse? Erst wenn diese Voraussetzungen erfüllt sind, sollte eine weitere Bewertung erfolgen. Die zweite Ebene betrachtet die Daten. Handelt es sich um öffentlich verfügbare Informationen, interne Unternehmensdaten oder sogar um sensible Kunden- und Personendaten? Mit zunehmender Kritikalität steigen auch die Anforderungen an Datenschutz, Zugriffsrechte und Nachvollziehbarkeit. Erst auf der dritten Ebene wird der eigentliche Use Case bewertet. Welche Entscheidungen trifft die Anwendung? Welche Auswirkungen können daraus entstehen? Erfolgt die finale Freigabe durch einen Menschen oder arbeitet das System weitgehend autonom? Die Antworten auf diese Fragen bestimmen aus Governance-Sicht den Umgang mit der KI.
Flaschenhals vermeiden
Mit der Verbreitung von Low-Code-Plattformen und agentenbasierten KI-Systemen ergibt sich jedoch eine neue Herausforderung. Immer häufiger entwickeln Fachbereiche eigene Automatisierungstools, ohne dass klassische IT-Projekte dahinterstehen. Gerade in der Produktion verfügen Mitarbeitende oft über ein tiefes Verständnis ihrer Prozesse und erkennen Optimierungspotenziale schneller als zentrale Entwicklungsteams. Eine Governance, die für jeden Anwendungsfall lange Freigabeprozesse erfordert, würde diesem Vorteil entgegenwirken. Hier kommt das Konzept eines zentralen ‚AI Control Towers‘, also einer ‚Kommandozentrale‘, für den gesamten Lebenszyklus der KI ins Spiel.
