KI zur Entscheidungsunterstützung: Aufgaben, Prüfung und Verantwortung

KI kann bei einzelnen Arbeitsschritten rund um eine Entscheidung unterstützen, etwa beim Strukturieren von Unterlagen, Zusammenfassen von Berichten oder Vergleichen vorgegebener Optionen. Daraus folgt nicht automatisch, dass eine Entscheidung schneller, besser oder objektiver wird. Das muss für den konkreten Ablauf geprüft werden.

Für Führungskräfte sind drei Punkte zentral: die Aufgabe klar abgrenzen, die Verlässlichkeit der verwendeten Informationen und Ausgaben prüfen und festlegen, wer welche Verantwortung trägt.

Geeignete Aufgaben auswählen

Ein möglicher Einstieg sind vorbereitende Aufgaben, deren Ergebnisse sich anhand verfügbarer Quellen oder Kriterien kontrollieren lassen. Dazu zählen zum Beispiel:

• umfangreiche Unterlagen nach einer vorgegebenen Fragestellung strukturieren,
• eine Zusammenfassung mit Verweisen auf die zugrunde liegenden Textstellen erstellen,
• Optionen anhand vorher festgelegter Kriterien gegenüberstellen,
• offene Annahmen, Gegenargumente oder fehlende Informationen sichtbar machen,
• Szenarien auf Basis ausdrücklich genannter Annahmen beschreiben.

Solche Ausgaben sind Arbeitshilfen. Sie belegen weder, dass alle relevanten Informationen berücksichtigt wurden, noch dass eine Empfehlung sachlich richtig oder für die Organisation angemessen ist. Lassen Sie Annahmen, Quellen und Auslassungen sichtbar machen und gleichen Sie zentrale Punkte mit den Originalunterlagen ab.

Assistenz ist eine Eigenschaft des gesamten Ablaufs

Ob ein System lediglich Informationen aufbereitet oder eine Entscheidung maßgeblich mitprägt, hängt nicht nur von der Bezeichnung des Tools ab. Relevant ist der gesamte Prozess: Welche Eingaben erhält das System? Welche Ergebnisse erzeugt es? Wie werden diese Ergebnisse verwendet? Kann die zuständige Person sie verstehen, prüfen und tatsächlich zurückweisen?

Ein Mensch am Ende des Ablaufs reicht als Kontrolle nicht immer aus. Empfehlungen können die Wahrnehmung beeinflussen, besonders wenn sie sicher oder vollständig wirken. Das NIST weist auf Automatisierungsverzerrung und darauf hin, dass Rollen und Verantwortlichkeiten in Mensch-KI-Konfigurationen klar unterschieden werden sollten (NIST AI RMF, Anhang C). Planen Sie daher Zeit, Informationen und Befugnisse ein, damit eine Prüfung tatsächlich möglich ist.

Ausgaben für die Entscheidung prüfen

Bevor eine KI-Ausgabe in eine Entscheidung einfließt, sollte die Prüfung zur möglichen Tragweite eines Fehlers passen. Eine praktikable Prüfroutine umfasst:

1. Quellen abgleichen: Stimmen Zahlen, Zitate und Zusammenfassungen mit den Originalen überein?
2. Annahmen offenlegen: Welche Informationen fehlen, wurden ergänzt oder als sicher vorausgesetzt?
3. Gegenpositionen prüfen: Welche plausiblen Alternativen oder Risiken fehlen in der Darstellung?
4. Verantwortung festhalten: Wer prüft die Ausgabe, wer entscheidet und wer kann den Prozess stoppen?
5. Ergebnis dokumentieren: Welche Version, Datenbasis und Prüfschritte waren für die Entscheidung maßgeblich?

Generative KI kann überzeugend formulierte, aber falsche Aussagen oder Quellen produzieren. Das NIST beschreibt diese Fehler als „Confabulation“ und hebt das Risiko hervor, dass plausible Ausgaben übermäßiges Vertrauen auslösen (NIST: Generative Artificial Intelligence Profile). Bei Prognosen oder Analysen auf Basis strukturierter Daten sind zusätzlich Datenqualität, Abdeckung, Aktualität und mögliche Verzerrungen zu untersuchen. Ein Ergebnis sollte nicht genauer dargestellt werden, als Daten und Methode es tragen.

Rollen und rechtliche Fragen klären

Definieren Sie vor einem Einsatz, wer den Zweck bestimmt, Systeme und Daten freigibt, Ergebnisse prüft, Entscheidungen trifft und Auffälligkeiten eskaliert. Diese Rollen können je nach Organisation und Einsatz unterschiedlich verteilt sein. Die Entscheidung bleibt organisatorisch nachvollziehbar, auch wenn einzelne Arbeitsschritte an ein technisches System delegiert werden.

Für bestimmte Hochrisiko-KI-Systeme verlangt der EU AI Act wirksame menschliche Aufsicht. Die Maßnahmen müssen zu Risiko, Autonomie und Einsatzkontext passen; das umfasst unter anderem die Fähigkeit, Grenzen und Fehlverhalten zu erkennen sowie Ausgaben nicht übermäßig zu vertrauen (Artikel 14 der Verordnung (EU) 2024/1689). Ob ein konkreter Anwendungsfall in den Anwendungsbereich fällt, lässt sich nicht allein aus der Bezeichnung „Entscheidungsassistenz“ ableiten.

Wenn personenbezogene Daten betroffen sind, kann außerdem Artikel 22 DSGVO relevant sein. Er betrifft Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und gegenüber einer Person rechtliche Wirkung entfalten oder sie ähnlich erheblich beeinträchtigen; die Verordnung enthält dazu auch Ausnahmen und Schutzmaßnahmen (DSGVO, Artikel 22). Menschliche Beteiligung und ihre tatsächliche Wirkung müssen im konkreten Ablauf betrachtet werden. Dieser Überblick ersetzt keine rechtliche Prüfung.

Einen begrenzten Einsatz bewerten

Formulieren Sie vor einem Pilot eine überprüfbare Fragestellung. Legen Sie fest, welche Aufgabe betrachtet wird, welche Eingaben zulässig sind, welche Fehler nicht akzeptabel sind und wer die Ausgabe kontrolliert. Erfassen Sie neben möglichen Zeitveränderungen auch Korrekturaufwand, Fehler, Nutzbarkeit, Kosten und Auswirkungen auf betroffene Personen.

Vergleichen Sie den Ablauf mit einer geeigneten Ausgangsbasis und halten Sie Bedingungen und Einschränkungen fest. Eine Methode, um tatsächliche Wirkung von bloßer Nutzung zu unterscheiden, beschreibt der Beitrag KI-Nutzung und Wirkung in Geschäftsprozessen messen. Bei nicht akzeptablen Fehlern oder unzureichender Kontrolle sollte der Einsatz angepasst oder beendet werden.

Passende nächste Schritte

Die Leistungsseite KI-gestützte Entscheidungsunterstützung beschreibt Beratungs-, Coaching-, Workshop- und Supportformate zur Einordnung solcher Einsatzfälle. Der Artikel grenzt sich davon ab, indem er Prüffragen und Grenzen für die Bewertung eines konkreten Entscheidungsablaufs zusammenfasst.

Stand der Rechtsquellen: 1. Oktober 2026. Die Anwendbarkeit hängt vom konkreten System, Zweck und Einsatzkontext ab; die Rechtsquellen sind vor einer Umsetzung aktuell zu prüfen.