Im Hype um von künstlicher Intelligenz bleibt die Diskussion um deren verantwortungsbewusste Nutzung oft auf der Strecke. Gleichzeitig wird immer deutlicher, dass KI zwar nach rationalen Gesichtspunkten handelt, die Berücksichtigung ethischer Aspekte aber (noch) nicht zu ihren Schlüsselkompetenzen gehört. Vorurteile werden dadurch nicht abgebaut, sondern verstärkt. Wie also umgehen mit KI? Ein einfacher Ansatz ist, KI lediglich als ein besonders mächtiges, effizientes Werkzeug zu betrachten. Die Kontrolle der Ergebnisse bleibt in menschlicher Hand. Damit behielten auch die üblichen Rechts- und Compliance-Normen ihre Gültigkeit. Verstöße müssten dann von Menschen aufgedeckt und beseitigt werden.
Zwei Probleme
Jedoch gibt es zwei Probleme: Effizienz und Kontrollierbarkeit. KI-getriebene Automatisierung macht nur Sinn, wenn sie Abläufe schneller, einfacher und kostengünstiger macht. Kritische menschliche Kontrolle unterläuft diese Vorteile. Wenn Mitarbeitende die In- und Outputs KI-getriebener Prozesse überprüfen müssen, verpuffen viele der gewünschten Effekte. KI entfaltet ihr volles Potenzial erst dann, wenn sie unabhängig agieren kann, etwa bei autonomem Fahren. Aber was passiert, wenn Kontrolle von vorneherein gar nicht möglich ist? Woher kommen die Daten und Modelle? Die dafür notwendige Transparenz und Nachvollziehbarkeit ist mit vertretbarem Aufwand nur bei gängigen Use-Cases möglich.
Hat der Mensch wenig Kontrollmöglichkeiten und insbesondere in kritischeren Anwendungsfälle, muss KI zwangsläufig selbst Entscheidungen treffen, die ethisch begründet sind – z.B. Geschäftsentscheidungen auf gesetzliche Rahmenbedingungen prüfen. Retrieval Augmented Generation (RAG) eignet sich für die gängigsten Herausforderungen, wie etwa Halluzinationen. Es mangelt aber an der funktionalen Einbindung ethischer Rahmenwerke. Ansätze wie die Agent-Deed-Consequence- oder Human-AI-Teaming-Modelle sind noch nicht praxisreif. Die Lücken müssen schnellstens geschlossen werden und es besteht Bedarf, sich mit den ethischen Auswirkungen der Zusammenarbeit zwischen Mensch und KI zu befassen.
www.pega.com
