Wenn KI im Unternehmen immer mehr Aufgaben übernimmt, bleibt die Verantwortung trotzdem beim Menschen. Deshalb sollten Unternehmen jetzt in die Urteilsfähigkeit ihrer Mitarbeitenden investieren.
Ein Interview mit Dr. Maria Davydchik, Institutsleiterin des Karlshochschule Management Instituts (KHMI)
Inhaltsverzeichnis
Die Ausgangsthese zu KI, Verantwortung und Unternehmen
Frau Dr. Davydchik, Ihre These lautet: KI übernimmt Aufgaben, nicht Verantwortung. Was meinen Sie damit genau?
Ein KI-System kann eine Aufgabe übernehmen, weil es einen Prozess automatisiert. Es kann aber nicht übernehmen: die Verantwortung für das Ergebnis. Wenn ein System eine Empfehlung ausgibt, eine Bewerbung vorsortiert oder einen Vertrag entwirft, bleibt die Frage offen, wer das verantwortet, wenn es falsch liegt.
Je leistungsfähiger die Systeme werden, desto häufiger stellt sich diese Frage, weil immer mehr Entscheidungen auf ihren Ausgaben beruhen. Mit KI-Agenten, die inzwischen ganze Arbeitsabläufe selbstständig ausführen, wird sie jetzt besonders dringlich. Verantwortung ist keine Funktion, die ein System mitliefert. Sie muss in der Organisation verankert bleiben, unabhängig davon, wie viel Arbeit die Technologie abnimmt.
Was das für Unternehmen bedeutet
Was bedeutet das konkret für Unternehmen, die KI einführen?
Es bedeutet, dass Governance keine Formalie ist, die man am Ende eines Projekts nachträgt, sondern eine Struktur, die von Anfang an feststehen muss: Wer prüft eine KI-Ausgabe, bevor sie wirkt? Wer trägt die Verantwortung, wenn sie falsch war? Diese Fragen müssen beantwortet sein, bevor ein System produktiv geht, denn kein System wird je vollständig präzise: es bleibt immer eine Lücke zwischen Modell und Wirklichkeit.
Diese Lücke ist kein vorübergehendes technisches Problem, das die nächste Modellgeneration löst, sondern ein struktureller Zustand. Folgerichtig verlangt der AI Act für Hochrisiko-Anwendungen eine menschliche Aufsicht durch Personen, die dafür qualifiziert und befugt sind. Das ist eine Aufgabe der Organisation, keine rein technische.
Was das für Mitarbeitende und Führungskräfte bedeutet
Und was heißt das für die einzelnen Menschen in einer Organisation?
Hier wird es unbequem, denn die naheliegendste Nutzung ist oft die falsche. Wenn ein System eine Aufgabe vollständig übernimmt, arbeiten Menschen kurzfristig schneller, aber Studien, unter anderem der OECD, deuten darauf hin, dass sie dabei weniger lernen.
Wer eine KI-Ausgabe nie selbst prüfen muss, verlernt, sie zu prüfen. Und wer neu in einer Aufgabe ist, lernt es gar nicht erst. Die entscheidende Kompetenz ist deshalb nicht, ein Werkzeug bedienen zu können, sondern beurteilen zu können, was es liefert.
Das ist auch der Unterschied zwischen einer Tätigkeit und einer Kompetenz: Wer zehn Jahre eine Aufgabe ausgeführt hat, hat meist mehr gelernt, als sich in der Aufgabe selbst zeigt, nämlich Kontext, Urteilsvermögen und ein Gespür dafür, wann etwas nicht stimmt. Übernimmt die KI diese Aufgabe von Anfang an, fehlt diese Übung, und sie lässt sich später nicht in wenigen Wochen nachholen.
Typische Fehler im Umgang mit autonomen Systemen
Was beobachten Sie an Fehlern, die Unternehmen im Umgang mit KI-Agenten und autonomen Systemen machen?
Wir sehen zwei Reaktionen besonders häufig, die beide nicht zielführend sind. Die eine ist Euphorie: Man lässt Systeme möglichst viele Aufgaben komplett übernehmen, weil es schnell geht, und merkt erst später, wie viel Urteilsvermögen dabei im Team verloren geht.
Die andere ist Alarmismus, derzeit sehr präsent in der öffentlichen Debatte um autonome Agenten: Man reagiert mit pauschaler Verunsicherung statt mit konkreten Strukturen. Beide Reaktionen verhindern dieselbe Sache, nämlich eine nüchterne Antwort auf die Frage, wo Automatisierung entlastet und wo sie verhindert, dass Menschen ihr eigenes Urteilsvermögen weiter ausbilden.
Der erste konkrete Schritt
Was würden Sie Unternehmen raten, die noch keine klare Strategie haben?
Unternehmen sollten nicht zuerst fragen, welche KI-Tools sie kaufen wollen, sondern welche Fähigkeiten im Team bereits vorhanden sind und welche fehlen.
Diese Reihenfolge entscheidet darüber, ob eine Weiterbildung tatsächlich etwas verändert oder nur ein Tool-Training von der Stange bleibt. Ebenso wichtig ist die Frage, welche Aufgaben bewusst beim Menschen bleiben sollen, weil an ihnen Urteilsvermögen entsteht. So arbeitet auch das KHMI mit Unternehmen: mit einer Bedarfsanalyse vor der Qualifizierung.
Für Fach- und Führungskräfte, die diesen Weg für sich selbst gehen wollen, bieten wir mit den Modulen KI-Strategie und Change Management sowie KI-Projektmanagement und Business Innovation den direkten Einstieg. Am Ende läuft jede dieser Fragen auf dasselbe hinaus: Unternehmen müssen jetzt gezielt in ihre Menschen investieren, nicht nur in Werkzeuge.
In einem Satz
Wir haben uns heute über Verantwortung im Umgang mit KI unterhalten und darüber, was das sowohl für Einzelpersonen als auch für Unternehmen konkret bedeutet. Wie würden Sie das in einem Satz zusammenfassen?
KI übernimmt immer mehr Aufgaben, doch die Verantwortung für das Ergebnis bleibt beim Menschen – und wer dafür geradesteht, muss beurteilen können, was die KI liefert.
Vielen Dank für das Gespräch, Frau Dr. Davydchik.
.
Kompetenzaufbau mit System
Was KI in einer Organisation bewirkt, entscheidet sich nicht am Modell, sondern daran, wie Menschen es einbetten, lernen und weiterentwickeln. Darauf ist ProSyT – Projekt System Training ausgelegt: das integrierte Qualifizierungssystem des KHMI, das Kompetenzaufbau und Lernkultur systematisch verbindet, statt Einzeltrainings wirkungslos verpuffen zu lassen. Mehr zu ProSyT – Projekt System Training
Für Fach- und Führungskräfte, die KI-Strategien entwickeln und Governance im eigenen Unternehmen verankern wollen, bietet das Modul KI-Strategie & Change Management den passenden Einstieg. Zum Modul KI-Strategie & Change Management
Buchen Sie hier Ihren persönlichen und unverbindlichen Beratungstermin – oder rufen Sie uns einfach an: (+49) 089-38164873