KI in der Prozessautomatisierung Vol. 3:
Architektur statt Tool-Chaos

Ja, die Teilnahme ist kostenlos.

Ja. Während des Live-Webinars haben Sie die Möglichkeit, Fragen einzubringen.

Ja. Die Aufzeichnung stellen wir im Nachgang allen angemeldeten Teilnehmern zur Verfügung.

Ja. Sie erhalten die Aufzeichnung, die Präsentationsfolien und die Antworten aus dem Q&A.

Nein. Vol. 3 ist eigenständig verständlich. Die wichtigsten Zusammenhänge ordnen wir zu Beginn kurz ein.

Ja. Moderne LLM-Schnittstellen ermöglichen es, die Ausgabe strukturiert vorzugeben. Nehmen wir exemplarisch OpenAI: Über sog. “Structured Outputs” kann ein JSON-Schema definiert werden, an das sich die Ausgabe des Modells halten muss. Statt einer freien Antwort wie „Das Dokument ist vermutlich eine Rechnung“ können beispielsweise documentType, confidence und invoiceNumber als definierte Felder zurückgegeben werden.

Wichtig ist dabei die Unterscheidung zwischen Struktur und fachlicher Richtigkeit: Wir können beispielsweise vorgeben, dass documentType nur invoice, contract oder other enthalten darf. Das garantiert aber nicht, dass eine tatsächliche Rechnung von der KI immer richtig als invoice erkannt wird. Je nach Anwendungsfall sind deshalb zusätzliche fachliche Prüfungen, Confidence-Schwellenwerte oder eine menschliche Prüfung sinnvoll. Das Prinzip ist natürlich nicht auf OpenAI beschränkt; ähnliche Möglichkeiten bieten auch andere Modelle und Plattformen.

Diese Frage knüpft direkt an die vorherige an: Wenn die Ausgabe einer KI strukturiert vorgegeben wird, kann sie automatisiert an die Workflow-Engine zurückgegeben und dort weiterverarbeitet werden. Dafür muss klar definiert sein, welche Informationen der AI-Service erhält und welches Ergebnis die Workflow-Engine zurückerwartet.

Eine AI Capability zur Dokumentenklassifikation könnte beispielsweise ein Dokument erhalten und als Ergebnis documentType, confidence und weitere Metadaten zurückgeben. Die Workflow-Engine verarbeitet dieses Ergebnis, muss aber nicht wissen, welches konkrete Modell oder welcher Prompt dahintersteht. Heute könnte die Capability beispielsweise ein Modell von OpenAI verwenden, morgen ein anderes Cloud- oder Inhouse-Modell. Solange Einund Ausgabe gleich bleiben, kann die dahinterliegende KI-Technologie ausgetauscht werden, ohne den Geschäftsprozess entsprechend verändern zu müssen.

Das KI-Ergebnis kann als Input für die weitere Prozesslogik verwendet werden. Eine AI Capability analysiert beispielsweise eine eingehende Kundenanfrage und liefert “category = Kündigung” und “confidence = 0,97”. Die Workflow-Engine kann daraufhin den vorgesehenen Kündigungsprozess starten. Bei einer geringeren Sicherheit könnte sie stattdessen eine manuelle Prüfung vorsehen.

Ähnlich funktioniert es bei komplexeren Entscheidungen: Die KI kann einen Vorschlag erzeugen, während die Workflow-Engine festlegt, ob dieser automatisch übernommen werden darf oder ein Mensch freigeben muss. So bleibt deterministische, reproduzierbare und auditierbare Prozesslogik in der Workflow-Engine, während KI dort eingesetzt wird, wo Kontext und Flexibilität gefragt sind.

Die Begriffe werden in der Praxis nicht immer trennscharf verwendet. Ein Workflow bildet typischerweise einen konkreten, ausführbaren Ablauf innerhalb eines Geschäftsprozesses ab. Der Geschäftsprozess beschreibt dagegen den fachlichen Vorgang End-to-End und kann mehrere Workflows, Systeme, Abteilungen und externe Beteiligte umfassen.

Beispiel: „Rechnung prüfen und freigeben“ kann ein Workflow innerhalb eines umfassenderen Purchase-to-Pay-Prozesses sein. Business Process Orchestration sorgt für die durchgängige Steuerung eines solchen End-to-End-Prozesses und umfasst beispielsweise Prozesszustände, Fristen, Eskalationen, Beteiligte und einen Audit Trail. Davon lässt sich die AI Orchestration unterscheiden: Sie stellt AI Capabilities bereit und koordiniert dafür beispielsweise Modelle, Agenten, Tools und Wissensquellen.

AI-Architektur sollte Teil der Enterprise-Architektur sein und keine dauerhafte Parallelwelt bilden. Das bedeutet nicht, dass es keine eigenen KI-spezifischen Bausteine gibt. AI Orchestration, LLM Gateways, Modelle, Agenten oder Wissenssysteme übernehmen durchaus eigene technische Aufgaben. Sie sollten aber in bestehende Prozesse, Anwendungen, Datenquellen, Berechtigungsstrukturen, Security, Monitoring und Governance eingebettet werden.

Ein wesentlicher Ansatz ist, Nutzung und Kosten zentral transparent und steuerbar zu machen. Ein LLM Gateway kann beispielsweise abhängig von Aufgabe, Kosten, Datenschutzanforderungen oder benötigter Leistungsfähigkeit unterschiedliche Modelle ansprechen. Für eine einfache Klassifikation reicht möglicherweise ein günstigeres Modell; nur komplexere Fälle werden an ein leistungsfähigeres und teureres Modell weitergegeben.

Als technische KPIs bieten sich beispielsweise Anzahl der Modellaufrufe, Tokenverbrauch und Kosten je Modell bzw. AI Capability an. Diese Werte sind wichtig, greifen für die wirtschaftliche Bewertung aber zu kurz. Entscheidend ist nicht, einen einzelnen KI-Aufruf oder ein bestimmtes Modell möglichst günstig zu betreiben, sondern den gesamten Geschäftsprozess möglichst wirtschaftlich zu automatisieren.

Deshalb sollten zusätzlich fachliche und wirtschaftliche KPIs betrachtet werden, beispielsweise Kosten je verarbeitetem Vorgang, Automatisierungsquote, Nachbearbeitungsquote, Durchlaufzeit und Kosten eines automatisierten gegenüber einem manuell bearbeiteten Vorgang. Ein günstigeres Modell kann unterm Strich sogar teurer sein, wenn schlechtere Ergebnisse zu mehr manueller Nachbearbeitung führen. Umgekehrt kann ein teurerer KI-Aufruf wirtschaftlich sinnvoll sein, wenn dadurch ein Vorgang zuverlässig und weitgehend automatisiert verarbeitet werden kann.

Wenn mit „Harness“ die kontrollierende Umgebung bzw. die Leitplanken für den KI-Einsatz gemeint sind, entsteht diese nicht zwingend durch einen einzelnen technischen Baustein, sondern durch das Zusammenspiel mehrerer Komponenten.

Die Workflow-Engine steuert den End-to-End-Prozess und legt fest, wann eine AI Capability aufgerufen wird. Die AI Orchestration übernimmt die flexible KI-Verarbeitung und kann dafür Modelle, Agenten, Tools und Wissensquellen kombinieren. Ein LLM Gateway kann zusätzlich den Zugriff auf unterschiedliche Modelle zentralisieren und beispielsweise Authentifizierung, Policies, Routing und Fallbacks übernehmen.