WENN DIE KI MITGESTALTET – WER IST EIGENTLICH DER NUTZER?

KI-Agenten, also Systeme Künstlicher Intelligenz, die nicht nur antworten, sondern selbstständig handeln, halten in rasantem Tempo Einzug in Unternehmen und Verwaltungen. Oft schneller, als sie sich steuern lassen. Aus Sicht des Social Design stellt sich damit eine scheinbar einfache Frage, deren Antwort komplizierter geworden ist: Für wen gestalten wir eigentlich?

Die Zahlen sind bemerkenswert. Für den „Value of AI Report 2026“ haben der Softwarekonzern SAP und das Forschungsinstitut Oxford Economics 2.600 Führungskräfte in 13 Ländern befragt, davon 200 in Deutschland. 75 Prozent räumen ein oder schließen zumindest nicht aus, KI-Agenten schneller einzuführen, als sie diese steuern können. 57 Prozent haben keinen Prozess, der menschliche Kontrolle in die automatisierten Abläufe einbindet. Und nur elf Prozent halten ihre Governance, also die Regeln, Zuständigkeiten und Kontrollmechanismen für den Einsatz, für wirklich ausreichend.

Dabei lohnt ein kurzer Blick auf den Unterschied: Ein Chatbot beantwortet Fragen. Ein KI-Agent dagegen erledigt Aufgaben in mehreren Schritten selbst: er recherchiert, prüft, bucht, schreibt E-Mails, stößt Prozesse an und trifft dabei laufend kleine Entscheidungen. Aus einem Werkzeug wird ein Akteur!

Vom Werkzeug zum Stellvertreter

Damit gerät ein Begriff ins Rutschen, der für jeden Designprozess zentral ist: der Nutzer. Wenn eine Kundin künftig ihren persönlichen Agenten losschickt, um einen Vertrag zu kündigen oder eine Reise umzubuchen, und das Unternehmen mit einem eigenen Agenten antwortet, dann verhandelt Maschine mit Maschine. Wessen Erlebnis gestalten wir dann noch? Und wo bleibt der Mensch?

In der Praxis wird diese Frage selten gestellt. Wer Transformationsprojekte in Unternehmen begleitet, kennt die übliche Logik: KI wird an Effizienz gemessen, an eingesparten Stunden, kürzeren Durchlaufzeiten, sinkenden Kosten pro Vorgang. Das ist legitim und oft auch notwendig. Doch der Mensch taucht in diesen Rechnungen meist nur als Kostenfaktor oder als Variable auf, kaum als Gegenüber, für das gestaltet wird.

Drei Nutzer, die wir nicht aus dem Blick verlieren dürfen 

Wer KI-Agenten nutzerzentriert gestalten will, muss den Nutzerbegriff deshalb weiter fassen. Mindestens drei Perspektiven gehören dazu.

Der Mensch hinter dem Agenten. Wer einem Agenten eine Aufgabe überträgt, gibt Kontrolle ab. Das funktioniert nur mit Vertrauen. Und Vertrauen braucht Nachvollziehbarkeit: Was hat der Agent getan, warum, und wo kann ich eingreifen?

Der Mensch neben dem Agenten. Laut dem „Work Relationship Index 2026“ des Technologiekonzerns HP nutzen bereits 49 Prozent der Bürobeschäftigten in Deutschland KI-Agenten bei der Arbeit. Nur in den USA sind es mehr. Gleichzeitig fürchten 43 Prozent dieser Nutzerinnen und Nutzer, durch KI oder durch Kolleginnen und Kollegen mit besseren KI-Kenntnissen ersetzt zu werden. Ebenso viele erwarten, dass ihr eigenes Berufsbild unschärfer wird. Wer hier nur Prozesse optimiert, ohne die Rollen der Menschen mitzugestalten, verspielt die Akzeptanz, auf die jede Transformation angewiesen ist.

Der Mensch ohne Agent. Und dann sind da diejenigen, die keinen Agenten haben, sich keinen leisten können oder ihn nicht bedienen können. Bei unserem SDNue Social Design Forum „Digital Wisdom“ haben wir darüber diskutiert, dass digitale Teilhabe längst gesellschaftliche Teilhabe bedeutet. Wenn Services künftig auf die Kommunikation zwischen Agenten optimiert werden, droht eine neue Spaltung zwischen denen, die sich vertreten lassen, und denen, die außen vor bleiben.

Das Gegenbeispiel: Wenn Agenten Teilhabe schaffen

Dass es auch anders geht, zeigt ausgerechnet die öffentliche Verwaltung. Im Agentic AI Hub des Bundesministeriums für Digitales und Staatsmodernisierung (BMDS) haben 19 Kommunen (darunter auch Nürnberg) zwischen März und Mai 2026 gemeinsam mit KI-Start-ups 20 Pilotprojekte erprobt. Beim Antrag auf „Hilfe zur Pflege“ etwa sank die Gesamtdurchlaufzeit um 45 Prozent. Für Menschen, die auf diese Leistung angewiesen sind, ist das kein Effizienzgewinn auf dem Papier, sondern spürbare Entlastung.

Noch einen Schritt weiter geht das Projekt „Beyond Forms“ des CityLAB Berlin, des Innovationslabors der Technologiestiftung Berlin. Die Vision: Leistungen künftig mit Hilfe eines KI-Agenten beantragen zu können, ganz ohne Formular. Bemerkenswert ist der Ausgangspunkt: Erster Anwendungsfall ist der Zugang benachteiligter und schutzbedürftiger Gruppen, und dem technischen Prototyping ist eine eigene Service-Design-Phase vorgeschaltet.

Die Technologie ist in beiden Fällen dieselbe wie im Unternehmen. Der Unterschied liegt darin, wofür und für wen gestaltet wird.

Was (Social) Design dazu beitragen kann

Wir haben an dieser Stelle schon einmal beschrieben, warum bloße Annahmen und bloße Empathie Designprojekte scheitern lassen. Für KI-Agenten gilt das umso mehr. Weder die Annahme, man wisse schon, was Nutzer wollen, noch der reine Blick auf Effizienz tragen weit. Was es braucht, ist Research im Problemraum, Triangulation (also die Kombination unterschiedlicher Methoden und Blickwinkel) und ein kontinuierliches Lernen, das nicht mit der Einführung endet.

Und es braucht ein anderes Verständnis von Governance: nicht als Compliance-Checkliste, die am Ende abgehakt wird, sondern als Gestaltungsfrage von Anfang an. An welcher Stelle sitzt der Mensch im Ablauf? Wer darf eingreifen, wer trägt Verantwortung, wer wird gefragt?

Die Politik hat sich dafür etwas Zeit verschafft: Nach der politischen Einigung auf den sogenannten Digital Omnibus sollen die Pflichten der EU-KI-Verordnung (AI Act) für Hochrisiko-Systeme auf Ende 2027 verschoben werden. Man kann diese Zeit nutzen, um abzuwarten. Oder um zu gestalten.

Am Ende bleibt eine Frage, die wir uns bei jedem neuen Agenten stellen sollten: Für wen gestalten wir, wenn die Maschine für uns handelt?