Der Agent und sein Auftraggeber: Was Watermarking über KI Governance verrät

Was Anthropics Watermarking nach dem AI Act über Agentic AI, Governance und Führung in Unternehmen verrät. Ein Kommentar von Dirk Hoenerbach, KI-Strategie-Experte, Berater und Dozent.

Watermarking: Was genau wird hier eigentlich markiert?

Die Antwort „ein von KI geschriebener Text“ ist zu einfach. Schon Anthropic selbst weist darauf hin, dass aus einer Markierung nicht ohne Weiteres auf die Autorschaft geschlossen werden kann. Ein Mensch kann einen Text geschrieben und Claude später daran gearbeitet haben. Auch Übersetzungen, Überarbeitungen oder andere Formen der Bearbeitung machen die schöne Trennung zwischen menschlichem und maschinellem Produkt schnell unbrauchbar. Für Standardbearbeitungen und Fälle, in denen Eingabedaten beziehungsweise ihre Semantik nicht wesentlich verändert werden, sieht Artikel 50 des AI Act deshalb auch Ausnahmen von der technischen Markierungspflicht vor.

Als Medienmensch finde ich das fast interessanter als die Kennzeichnung selbst. Wir versuchen gerade, eine klare Herkunft an einem Endprodukt festzumachen, während dessen Produktion längst hybrid wird. Das kennen wir aus der Mediengeschichte. Neue Technologien ersetzen selten ordentlich das Vorherige. Sie schieben sich in Produktionsprozesse, verändern Rollen und Routinen, und eine Weile versucht man noch, mit den alten Kategorien hinterherzukommen.

Beim Watermarking geht es deshalb weniger um einen digitalen Aufkleber „Made by AI“. Es geht um Provenienz. Um eine Spur im Entstehungsprozess.

Das wird spätestens dann relevant, wenn KI nicht mehr nur Texte, Bilder oder Videos produziert.

Agentic AI: Wenn aus Output eine Handlung wird

Unter dem derzeit beliebten Begriff Agentic AI entstehen Systeme, die einen Auftrag erhalten und auf dem Weg zum Ergebnis in unterschiedlichem Umfang selbst tätig werden können. Sie planen Arbeitsschritte, benutzen Werkzeuge, greifen auf Anwendungen zu oder führen Aktionen aus. Vieles davon befindet sich noch in einer Phase, in der Produktversprechen und belastbare Alltagstauglichkeit auseinandergehalten werden sollten. Die Richtung ist trotzdem interessant.

Vor allem, weil sie uns zu einer Theorie zurückführt, die bald fünfzig Jahre alt ist.

Die Pricipal-Agent-Theorie: bald fünfzig Jahre alt

Michael Jensen und William Meckling beschrieben 1976 die Beziehung zwischen Principal und Agent. Die Grundkonstellation begegnet einem in Organisationen dauernd. Jemand beauftragt einen anderen, in seinem Interesse etwas zu tun, und überträgt ihm dafür Entscheidungsspielraum.

Der Eigentümer beschäftigt ein Management, eine Führungskraft delegiert an Mitarbeiter, ein Unternehmen engagiert eine Beratung. Mit der Aufgabe wandert immer auch ein Stück Verfügungsmacht.

Und genau da fängt der Ärger an.

Der Agent weiß gewöhnlich mehr über sein eigenes Handeln als sein Auftraggeber. Er kann andere Interessen verfolgen, andere Prioritäten haben und besitzt einen Informationsvorsprung darüber, was er tatsächlich tut. Jensen und Meckling untersuchten die Kosten, die entstehen, um mit diesem Problem umzugehen.

Wer einige Jahre in größeren Organisationen verbracht hat, kennt deren praktische Erscheinungsformen. Zielvereinbarungen, Berichtslinien, Freigaben, Budgets, Controlling, Vier-Augen-Prinzipien, Compliance. Über jedes einzelne Instrument kann man sich hervorragend ärgern. Dass es sie gibt, hat trotzdem einen Grund.

Nun taucht ausgerechnet der Agent wieder auf.

Vom menschlichen zum künstlichen Agenten

Die Versuchung liegt nahe, die alte Theorie einfach auf AI Agents zu übertragen. Das funktioniert nur begrenzt. Ein künstlicher Agent möchte weder Karriere machen noch einen größeren Bonus und er schielt nicht auf den Job seines Vorgesetzten. Das Eigeninteresse, das in der klassischen Agency Theory eine wichtige Rolle spielt, kann man einer Software nicht einfach andichten.

Trotzdem erkennt man Teile der alten Konstellation wieder.

Nehmen wir einen Reise-Agenten. Ich beauftrage ihn, die günstigste Reise nach München zu organisieren. Er findet einen Flug um 5.40 Uhr mit zwei Umstiegen und ein preiswertes Hotel weit draußen vor der Stadt. Auftrag erledigt.

Ich hatte nur etwas anderes gemeint.

Dafür braucht die Maschine keinen eigenen Willen. Es genügt, dass mein formulierter Auftrag und meine tatsächliche Absicht nicht vollständig übereinstimmen.

Bei einem Chatbot ist das zunächst lästig. Er macht einen schlechten Vorschlag, ich verwerfe ihn. Hat derselbe Agent Zugriff auf Kalender, Buchungsportal und Zahlungsmittel, verändert sich die Lage. Aus einem Output wird eine Handlung.

Noam Kolt hat diese Verbindung zur Principal-Agent-Theorie in seiner Arbeit über die Governance von AI Agents aufgegriffen. Er beschreibt unter anderem Informationsasymmetrien und diskretionäre Handlungsmacht und weist zugleich darauf hin, dass die bekannten Mittel zur Beherrschung von Agency-Problemen bei künstlichen Agenten an Grenzen geraten können. Systeme arbeiten mit einer Geschwindigkeit und Skalierung, für die menschliches Monitoring nicht unbedingt gemacht wurde. Ihre Entscheidungen können zudem schwer nachvollziehbar sein.

Atoosa Kasirzadeh und Iason Gabriel schlagen für die Betrachtung von AI Agents vier Dimensionen vor: Autonomie, Wirksamkeit, Zielkomplexität und Generalität. Das ist für Organisationen hilfreicher als die pauschale Frage, ob irgendeine Software nun schon ein „echter Agent“ sei.

Mich würde als Unternehmen ohnehin zuerst etwas viel Profaneres interessieren.

Was darf er? Governance für KI-Agenten

Bei Mitarbeitern beantworten wir diese Frage ziemlich selbstverständlich. Ein Werkstudent bekommt andere Systemrechte als ein Finanzvorstand. Ein neuer Kollege erhält nicht am ersten Morgen Zugriff auf CRM, Einkauf, Bankkonten und die Vorstandsmailbox, nur weil er einen sympathischen Eindruck macht.

Bei Software haben wir lange hauptsächlich über Funktionen gesprochen. Bei Agenten werden wir mehr über Befugnisse sprechen müssen.

Und hier bekommt auch das Watermarking einen anderen Stellenwert. Artikel 50 des AI Act verpflichtet Anbieter generativer Systeme unter bestimmten Voraussetzungen, synthetische Audio-, Bild-, Video- und Textoutputs maschinenlesbar als künstlich erzeugt oder manipuliert erkennbar zu machen. Die technische Lösung soll nach dem Gesetz soweit möglich wirksam, interoperabel, robust und zuverlässig sein.

Ein Watermark sagt damit noch nichts über die Qualität eines Textes. Es verhindert keine Halluzination und beweist keine Autorschaft. Für die Governance agentischer Systeme löst es erst recht nicht alle Probleme.

Es hinterlässt eine Spur.

Heute wollen wir wissen, ob Claude an einem Text beteiligt war. Wenn künstliche Agenten künftig häufiger kommunizieren, buchen, einkaufen oder andere Systeme beauftragen, wird die Herkunft einer Handlung interessanter. Dann möchte man irgendwann rekonstruieren können, welches System etwas getan hat, wer es beauftragt hatte und was es eigentlich durfte.

Watermarking wäre in dieser Perspektive ein ziemlich früher Baustein einer Infrastruktur für künstliche Handlungsmacht.

Was das für den Arbeitsmarkt bedeutet

Das berührt auch den Arbeitsmarkt, allerdings anders als die übliche Diskussion über verschwundene Berufe vermuten lässt. Die ILO kommt in ihrem aktuellen globalen Index zu dem Ergebnis, dass etwa ein Viertel der Beschäftigten weltweit in Berufen arbeitet, die in irgendeinem Umfang gegenüber generativer KI exponiert sind. In der höchsten Expositionskategorie liegen 3,3 Prozent. Weil viele Tätigkeiten weiterhin menschlichen Input benötigen, hält die ILO eine Veränderung von Jobs insgesamt für wahrscheinlicher als deren vollständige Ersetzung.

Agentische Systeme könnten diese Veränderung noch an einer anderen Stelle vorantreiben. Wo Software nicht mehr nur unterstützt, sondern Aufgaben übernimmt, wird der Mensch häufiger zum Auftraggeber.

Das klingt komfortabel. Wer einmal geführt hat, weiß, dass es das nicht unbedingt ist.

Principal Literacy: beauftragen lernen

Delegieren setzt voraus, dass man ungefähr weiß, was man erreichen möchte. Menschen helfen uns dabei bislang erheblich. Ein guter Mitarbeiter kennt den Kontext, stellt Rückfragen und lernt irgendwann die kleinen Merkwürdigkeiten einer Organisation. Er weiß, dass „mach das bitte fertig“ keineswegs fertig bedeutet, weil Claudia aus dem Vorstand vorher immer noch einmal draufschauen möchte.

Ein künstlicher Agent muss solche Zusammenhänge erst irgendwoher bekommen.

Ich benutze für die Kompetenz auf der anderen Seite dieser Beziehung vorläufig den Ausdruck Principal Literacy. Der Begriff ist nicht etabliert und soll auch keine neue Managementmethode ankündigen. Mich interessiert schlicht die Fähigkeit, künstliche Handlungsmacht vernünftig zu beauftragen. Zu wissen, was man abgibt, welche Befugnisse dazugehören und an welcher Stelle man sich besser wieder einmischt.

Ausgerechnet die Automatisierung führt uns damit zu einer recht alten Führungsfrage zurück.

Man muss wissen, was man von anderen will.

Das war bei Menschen schon schwer genug.

Über Dirk Hoenerbach

Dirk Hoenerbach ist Kommunikationsstratege, Berater und Dozent mit langjähriger Erfahrung in Management, Unternehmenskommunikation und der Lehre an Business Schools. Sein Schwerpunkt liegt auf KI-Transformation, Identität und der Frage, wie technologische Veränderungen Organisationen, Führung und Kommunikation verändern. Er wird ab September am KHMI als Dozent tätig sein.

KI-Agenten führen lernen

Was ein KI-Agent darf, ist am Ende keine technische Frage, sondern eine der Führung. Genau darauf bereitet die Weiterbildung KI-Strategie & Change Management vor: Führungskräfte und Strateg:innen lernen, KI-Transformationen und die dazugehörige Governance verantwortungsvoll zu steuern, statt sie der Technik zu überlassen.

Buchen Sie hier Ihren persönlichen und unverbindlichen Beratungstermin – oder rufen Sie uns einfach an: (+49) 089-38164873

.

Quellen

Anthropic (2026): How Claude marks AI-generated content. support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content

Google (2026): Google Search’s Guidance on Generative AI Content on Your Website. developers.google.com/search/docs/fundamentals/using-gen-ai-content

Europäische Kommission (2026): Artikel 50 AI Act – Transparency obligations for providers and deployers of certain AI systems. ai-act-service-desk.ec.europa.eu/en/ai-act/article-50

Jensen, M. C., Meckling, W. H. (1976): Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure. Journal of Financial Economics, 3(4), 305–360. papers.ssrn.com/sol3/papers.cfm?abstract_id=94043

Kolt, N. (2025): Governing AI Agents. Notre Dame Law Review (forthcoming). arxiv.org/abs/2501.07913

Kasirzadeh, A., Gabriel, I. (2025): Characterizing AI Agents for Alignment and Governance. arxiv.org/abs/2504.21848

International Labour Organization (2025): Generative AI and Jobs: A Refined Global Index of Occupational Exposure. ILO Working Paper 140. ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure