Von der KI-Euphorie zum stabilen Betrieb: Warum Architektur über den Erfolg von GenAI entscheidet

Ein funktionsfähiger Prototyp beantwortet eine begrenzte Frage unter bestimmten Bedingungen. Für den dauerhaften Einsatz müssen zusätzlich Datenflüsse, Schnittstellen, Zugriffsrechte, Überwachung, Support und Zuständigkeiten zusammenpassen. Daraus folgt keine pauschale Erfolgsquote: Welche Risiken entstehen und welche Architektur angemessen ist, hängt vom konkreten Zweck und Einsatzumfeld ab.

Architektur als Antwort auf Anforderungen

Beginnen Sie mit dem vorgesehenen Einsatz: Wer nutzt das System, welche Aufgaben unterstützt es, welche Informationen verarbeitet es und welche Folgen hätte ein falsches oder nicht verfügbares Ergebnis? Dokumentieren Sie dazu vorhandene Systeme, Datenquellen, Berechtigungen und Abhängigkeiten. Erst daraus lassen sich Anforderungen an Integration, Sicherheit, Verfügbarkeit und Skalierung ableiten.

Eine tragfähige Architektur muss nicht möglichst komplex sein. Sie sollte die benötigten Komponenten und ihre Schnittstellen verständlich abgrenzen, Änderungen erlauben und vermeidbare Abhängigkeiten sichtbar machen. Ob Standarddienst, individuelle Entwicklung oder eine Kombination passt, ist eine Abwägung anhand von Anforderungen, Ressourcen, Risiken und Lebenszykluskosten.

Betrieb von Anfang an mitplanen

Ein Betriebsmodell beschreibt, wer für Freigaben, Änderungen, Überwachung, Störungsmeldungen und Qualitätsfragen zuständig ist. Halten Sie außerdem fest, wie Vorfälle bearbeitet werden, wie Nutzungsfeedback einfließt und unter welchen Bedingungen ein System eingeschränkt oder pausiert wird. Die Aufgaben verteilen sich je nach Organisation auf Fachbereich, IT, Datenschutz, Informationssicherheit und Anbieter.

Überwachung sollte zum Einsatz passen. Neben technischer Verfügbarkeit können beispielsweise Fehlerarten, Eskalationen, ungeeignete Ausgaben und Rückmeldungen relevant sein. Messgrößen brauchen einen klaren Zweck und eine definierte Reaktion, wenn ein Grenzwert oder ein unerwartetes Muster auftritt. NIST beschreibt Risikomanagement als fortlaufende Arbeit über den Lebenszyklus; der freiwillige AI RMF wird derzeit überarbeitet. Der 2026 veröffentlichte NIST-Bericht zu Monitoring zeigt zugleich, dass die Überwachung produktiver KI-Systeme selbst praktische Lücken und offene Fragen hat. (NIST AI RMF, NIST AI 800-4, 2026)

Kosten und Infrastruktur nachvollziehbar planen

Stellen Sie einmalige Aufwände und laufende Kosten getrennt dar: etwa Entwicklung oder Konfiguration, Betrieb, Nutzung, Datenpflege, Qualitätssicherung, Support und Weiterentwicklung. Schätzungen sollten ihre Annahmen ausweisen, darunter Nutzungsmengen, Verfügbarkeit und erforderliche Prüfprozesse. Cloud, lokale Infrastruktur und hybride Varianten haben unterschiedliche technische und organisatorische Folgen; keine davon ist pauschal für alle Einsatzfälle vorzuziehen.

Vom Konzept zur Entscheidung

Ein belastbares Zielbild entsteht iterativ: Ausgangslage und Zweck klären, Anforderungen und Risiken erfassen, Optionen vergleichen und offene Fragen in einem begrenzten Vorhaben prüfen. Dokumentieren Sie, welche Erkenntnisse noch fehlen und wer über den nächsten Schritt entscheidet. Für die grundsätzliche Einordnung von Architektur und Betrieb eignet sich der Workshop zu skalierbarer KI-Architektur und Betrieb. Dieser behandelt Entscheidungsreife; die Leistung zur Architektur- und Betriebsmodellkonzeption richtet sich an die anschließende projektspezifische Ausarbeitung.

Der Beitrag über Architektur und Betrieb aus Entscheiderperspektive vertieft die Fragen, die vor einer Investitionsentscheidung geklärt werden sollten.