KI darf viel wissen. Aber wer darf entscheiden?

Einleitung: Eine plausible Empfehlung ist noch keine Befugnis

Eine KI erkennt, dass ein Kunde seine Kreditgrenze überschritten hat, und empfiehlt, die nächste Lieferung zu sperren. Die Daten im ERP-System scheinen eindeutig. Die Empfehlung erscheint plausibel. Doch der Vertrieb kennt eine Sondervereinbarung, die Buchhaltung erwartet einen Zahlungseingang, und die Geschäftsführung hat den Auftrag bewusst freigegeben. Wer darf jetzt entscheiden?

An dieser Stelle zeigt sich, worum es beim Einsatz künstlicher Intelligenz im Unternehmen wirklich geht. Informationen auszuwerten ist nicht dasselbe, wie eine Situation unternehmerisch zu beurteilen. Und eine überzeugende Empfehlung verleiht noch keine Entscheidungsbefugnis.

Der Beitrag „AI Shouldn’t Make the Decision, So How Can Context Tell Us Who Should?“ von Progress Data Platform greift diese Unterscheidung auf.^[1] Er lenkt den Blick auf eine Frage, die hinter der Begeisterung für autonome Agenten leicht zurücktritt: Weiß das System nicht nur, was zu tun wäre, sondern auch, wer darüber entscheiden darf?

Für uns bei PRODVIS liegt darin eine zentrale Gestaltungsaufgabe digitaler Transformation. Wir wollen KI weder auf die Rolle eines unverbindlichen Ratgebers beschränken noch ihr pauschal Handlungsvollmacht erteilen. Entscheidend ist, ihre Fähigkeiten mit einer verlässlichen ERP-Datengrundlage, klaren Prozessen und eindeutigen Zuständigkeiten zu verbinden. Erst dann lässt sich sinnvoll bestimmen, wo sie selbstständig handeln soll – und wo sie den richtigen Menschen mit den richtigen Informationen unterstützen muss.

1. Eine richtige Analyse ist noch keine richtige Entscheidung

Kehren wir zum Beispiel vom Anfang zurück. Die Analyse des KI-Agenten – Kreditgrenze überschritten, Rechnungen überfällig – könnte vollkommen korrekt sein. Trotzdem wäre die automatische Liefersperre möglicherweise die falsche Handlung.

Vielleicht wurde eine Zahlung bereits angekündigt, aber noch nicht zugeordnet. Vielleicht besteht eine genehmigte Sondervereinbarung. Vielleicht betrifft die Lieferung einen vertraglich besonders sensiblen Termin. Oder die Geschäftsführung hat bewusst entschieden, für diesen Kunden vorübergehend ein höheres Risiko zu akzeptieren.

Das Beispiel zeigt den Unterschied zwischen einem Datenbefund und einer unternehmerischen Entscheidung. Der Befund beschreibt eine Situation. Die Entscheidung berücksichtigt zusätzlich Ziele, Verpflichtungen, Ausnahmen und Zuständigkeiten. Eine KI, die diesen Unterschied ignoriert, automatisiert nicht nur einen Arbeitsschritt. Sie setzt stillschweigend voraus, dass aus einem erkannten Muster bereits eine Handlungsvollmacht entsteht. Genau das sollten wir verhindern.

2. Kontext ist mehr als zusätzlicher Inhalt für ein Sprachmodell

Progress kritisiert zu Recht ein verkürztes Verständnis von Kontext: Mehr Dokumente, bessere Suche und zusätzliche Datenzugriffe können Antworten verbessern. Sie beantworten aber noch nicht die Frage, wer handeln darf.^[1] Für unsere Arbeit an der Verbindung von ERP, Prozessen und KI ist deshalb eine dreifache Unterscheidung hilfreich.

• Fachlicher Kontext: Welcher Kunde, welcher Auftrag, welche Vereinbarung und welche Datenquelle sind betroffen?
• Prozesskontext: In welchem Bearbeitungsstand befindet sich der Vorgang? Welche Schritte sind bereits erfolgt, welche Abläufe hängen daran?
• Entscheidungskontext: Wer ist zuständig? Welche Grenzen gelten? Wann ist eine Freigabe erforderlich – und wer übernimmt, wenn die zuständige Person nicht verfügbar ist?

Diese Ebenen gehören zusammen. Eine Kundenakte zu verstehen bedeutet noch nicht, sie verändern zu dürfen. Einen Zahlungsengpass zu erkennen bedeutet noch nicht, eine Zahlung zurückhalten zu dürfen.

Kontext soll nicht nur die Antwort verbessern. Er muss auch die Grenzen der anschließenden Handlung bestimmen.

3. Ohne verlässliche ERP-Daten keine verantwortbare Entscheidung

Alle drei Kontextebenen haben im Mittelstand einen gemeinsamen Ursprung: das ERP-System. Dort liegen Kundenstamm, Kreditlimits, offene Posten, Aufträge, Lieferungen, Konditionen und Buchungen. Dort ist dokumentiert, in welchem Status sich ein Vorgang befindet und wer ihn zuletzt verändert hat. Und dort sind – im besten Fall – auch Rollen, Berechtigungen und Freigabegrenzen hinterlegt.

Eine KI kann nur so verantwortlich handeln, wie es diese Datengrundlage zulässt. Ist ein Zahlungseingang noch nicht verbucht, erscheint der Kunde überfällig. Ist eine Sondervereinbarung nur in einer E-Mail festgehalten statt im Kundenstamm, existiert sie für den Agenten nicht. Gibt es Dubletten im Debitorenstamm, verteilt sich ein Risiko auf mehrere Datensätze und bleibt unsichtbar. Die Analyse wäre dann formal korrekt – und sachlich falsch.

Datenqualität im ERP ist deshalb keine IT-Hygiene, sondern Voraussetzung jeder Delegation an eine Maschine. Gartner beziffert die Kosten schlechter Datenqualität auf durchschnittlich mindestens 12,9 Millionen US-Dollar pro Jahr und Organisation – eine Schätzung aus dem Jahr 2020, also aus der Zeit vor agentischer KI.^[3] Mit KI-Agenten wächst die Tragweite: Fehler bleiben nicht mehr in einem Bericht stehen, sondern können unmittelbar in Handlungen übergehen.

Für eine verlässliche ERP-Datengrundlage sehen wir vier Anforderungen:

• Aktualität: Buchungen, Zahlungseingänge und Statusänderungen werden zeitnah erfasst, damit die KI den tatsächlichen Stand sieht und nicht den von gestern.
• Eindeutigkeit: Stammdaten sind gepflegt, Dubletten bereinigt, und Begriffe wie „überfällig“, „gesperrt“ oder „freigegeben“ sind unternehmensweit einheitlich definiert.
• Vollständigkeit: Vereinbarungen, Ausnahmen und Freigaben werden strukturiert im System dokumentiert – nicht nur in Postfächern oder in den Köpfen einzelner Mitarbeiter.
• Nachvollziehbarkeit: Herkunft, Änderungshistorie und Berechtigungen sind erkennbar, sodass sich jede Empfehlung auf ihre Datenbasis zurückführen lässt.

Progress beschreibt dasselbe Prinzip für die Fertigung: Ein KI-System, das ein Qualitätsproblem untersucht, sollte nicht allein aus einem Prüfergebnis schließen, sondern die damals gültige Spezifikation, die Lieferantencharge, Prozessparameter und frühere Abweichungen einbeziehen.^[5] Übertragen auf das ERP heißt das: Die KI braucht den verbundenen Geschäftsvorgang, nicht den isolierten Datensatz.

Hinzu kommt ein Punkt, der oft übersehen wird. Ein Agent muss erkennen können, wann die Datengrundlage nicht ausreicht. Fehlt eine Information oder widersprechen sich zwei Quellen, ist das kein Anlass zur Improvisation, sondern ein Signal zur Übergabe. Ein Cloud-ERP mit einheitlichem Datenmodell, sauberem Rollenkonzept und dokumentierten Workflows – wie wir es in unseren Projekten etwa mit Exact Online umsetzen – ist deshalb nicht nur ein Verwaltungssystem. Es ist das Rückgrat verantwortlicher Automatisierung.

4. Der Mensch in der Schleife braucht ein klares Mandat

„Das prüft am Ende noch ein Mensch“ klingt beruhigend. Als Prozessbeschreibung ist dieser Satz allerdings unzureichend. Welcher Mensch? Mit welcher Fachkenntnis? Mit welchen Befugnissen? Auf welcher Informationsgrundlage?

Der Progress-Beitrag macht deutlich, dass Menschen in Entscheidungsprozessen nicht beliebig austauschbar sind.^[1] Für den Mittelstand folgt daraus eine konkrete Gestaltungsaufgabe: Ein KI-System sollte einen Vorgang nicht an irgendeinen verfügbaren Mitarbeiter weiterreichen, sondern an die zuständige Rolle – mit nachvollziehbarer Begründung und den entscheidungsrelevanten Informationen. Progress formuliert in seinem Governance-Leitfaden ähnlich, dass KI-Entscheidungen so geleitet werden müssen, dass Menschen sie prüfen, eskalieren oder anfechten können.^[2]

Bei einer Abweichung zwischen Bestellung und Rechnung könnte das bedeuten: Der Einkauf beurteilt die vereinbarten Konditionen, der Wareneingang bestätigt die tatsächlich erhaltene Menge, und die Buchhaltung bewertet die weitere Rechnungsbearbeitung. Die KI kann diese Perspektiven zusammenführen. Sie sollte ihre Unterschiede aber nicht durch eine scheinbar eindeutige Gesamtempfehlung verdecken.

Die europäische KI-Verordnung stellt für Hochrisiko-Systeme einen vergleichbaren Anspruch: Die mit der Aufsicht betrauten Personen müssen die Ausgabe richtig interpretieren können, sich der Neigung zu übermäßigem Vertrauen in das System – dem „Automatisierungsbias“ – bewusst bleiben und das Ergebnis außer Kraft setzen können.^[4] Auch wo ein ERP-Prozess nicht in diese Kategorie fällt, ist das ein guter Maßstab. Eine gute Entscheidungsvorlage zeigt deshalb nicht nur, was für eine Maßnahme spricht. Sie macht auch sichtbar, welche Informationen fehlen und welche Unsicherheit bestehen bleibt.

5. Entscheidungswege gestalten, nicht nur KI-Workflows

Aus PRODVIS-Sicht liegt hier der eigentliche Perspektivwechsel. Ein KI-Workflow beschreibt, wie ein System Informationen verarbeitet und Werkzeuge nutzt. Ein Entscheidungsweg beschreibt darüber hinaus, wann aus einer Erkenntnis eine verbindliche Handlung werden darf. Vor jeder Automatisierung sollten fünf Fragen beantwortet sein:

1. Welche Informationen – und aus welchen Quellen im ERP – müssen für diese Entscheidung aktuell und vollständig vorliegen?
2. Welche fehlenden oder widersprüchlichen Angaben verhindern eine automatische Ausführung?
3. Welche Rolle trägt die Entscheidung?
4. Innerhalb welcher ausdrücklich festgelegten Grenzen darf das System selbst handeln?
5. Wie werden Ausführung, Ausnahme und Übergabe nachvollziehbar dokumentiert?

Damit wird Autonomie nicht zu einer pauschalen Eigenschaft eines Agenten. Sie wird zu einer begrenzten Befugnis innerhalb eines konkreten Prozesses. Ein System könnte beispielsweise einen Vorgang selbstständig zuordnen und eine Antwort vorbereiten, während eine Änderung von Zahlungsbedingungen weiterhin eine Freigabe verlangt. Entscheidend ist nicht, ob der Agent technisch beides beherrscht. Entscheidend ist, ob das Unternehmen beides bewusst erlaubt.

6. Prozesse, Daten, Visibilität: ein gemeinsamer Gestaltungsauftrag

Der Gedanke lässt sich unmittelbar mit unserem PRODVIS-Leitmotiv verbinden. Prozesse klären, wie Arbeit und Entscheidungen zusammenhängen. Daten – allen voran die Stamm- und Bewegungsdaten im ERP – schaffen eine belastbare Grundlage und lassen ihre Herkunft sowie ihre Grenzen erkennen. Visibilität macht sichtbar, was das System erkannt, vorgeschlagen oder ausgeführt hat – und wo eine Entscheidung noch aussteht.

Unser Anspruch ist, diese drei Perspektiven gemeinsam zu gestalten. Ein leistungsfähiges Modell allein beantwortet weder eine ungeklärte Zuständigkeitsfrage noch einen widersprüchlichen Freigabeprozess – und es repariert keine lückenhaften Stammdaten. Umgekehrt sollte Governance nicht als zusätzliche Kontrollschicht verstanden werden, die erst nachträglich auf eine fertige KI-Anwendung gesetzt wird. Sie gehört in deren Entwurf.

Schluss: Fortschritt heißt nicht, überall den Menschen zu ersetzen

Wir lesen den Beitrag von Progress nicht als Absage an autonome KI. Er ist vielmehr eine Aufforderung, Autonomie präzise zu definieren. Nicht jede Handlung braucht eine manuelle Freigabe. Aber jede automatisierte Handlung sollte auf einem bewusst erteilten Mandat und einer verlässlichen Datengrundlage beruhen. Wo Informationen fehlen, Regeln kollidieren oder Befugnisse enden, sollte das System nicht improvisieren, sondern geordnet übergeben.

Denn genau dort beginnt Verantwortung: nicht bei der Qualität einer Antwort, sondern bei der Frage, wer aus ihr welche Konsequenzen ziehen darf. Für uns bei PRODVIS heißt das: KI nicht isoliert einführen, sondern mit den Prozessen, ERP-Daten und Zuständigkeiten verbinden, die ein Unternehmen handlungsfähig machen. Wer darf eine Ausnahme genehmigen? Welche Information fehlt noch? Wann muss ein Vorgang angehalten werden? Und wie bleibt später nachvollziehbar, weshalb eine Maßnahme ausgeführt wurde? Diese Fragen sind kein Hindernis für Innovation. Sie beschreiben den Gestaltungsauftrag.

Unser Ziel ist deshalb weder die vollständige Automatisierung um jeden Preis noch die manuelle Freigabe jedes einzelnen Schritts. Es ist eine bewusst gestaltete Zusammenarbeit: KI bereitet vor, führt Informationen zusammen und handelt dort selbstständig, wo ihr Auftrag eindeutig ist. Menschen entscheiden dort, wo Abwägung, besondere Befugnisse oder unternehmerisches Urteil gefragt sind. Prozesse geben dieser Zusammenarbeit Struktur. Verlässliche ERP-Daten geben ihr eine belastbare Grundlage. Visibilität macht Entscheidungen und ihre Folgen nachvollziehbar.

Daran wollen wir Fortschritt messen: nicht daran, wie selten ein Mensch eingreifen muss, sondern daran, wie gut das Zusammenspiel funktioniert. Eine KI, die ihre Grenzen erkennt und den richtigen Vorgang mit den richtigen Informationen an die zuständige Person übergibt, ist nicht weniger leistungsfähig. Sie erfüllt ihren Auftrag.

Die entscheidende Frage lautet nicht: Wie viel Autonomie ist technisch möglich? Sie lautet: Welche Autonomie ist in diesem Prozess sinnvoll – und wer verantwortet sie?

Literaturverzeichnis

1. Progress Data Platform (2026): AI Shouldn’t Make the Decision, So How Can Context Tell Us Who Should? In: Practical AI: Data to Decision, LinkedIn-Newsletter, Ausgabe 10, veröffentlicht am 30.10.2026. LinkedIn-Newsletter „Practical AI: Data to Decision“
2. Progress Software (2026): AI Ethics & Governance – From Principles to Production. Progress Data Platform Insights. Abgerufen am 31.10.2026. Progress: AI Ethics & Governance
3. Gartner (o. J.): Data Quality: Why It Matters and How to Achieve It. Gartner Data & Analytics Topics (Kennzahl auf Basis von Gartner-Research aus dem Jahr 2020). Abgerufen am 31.10.2026. Gartner: Data Quality
4. Europäische Union (2024): Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 14: Menschliche Aufsicht. AI Act Service Desk der Europäischen Kommission. Abgerufen am 31.10.2026. EU AI Act, Artikel 14
5. Progress Software (2026): How Progress Data Platform Turns Fragmented Manufacturing Data into Connected Intelligence. Progress Blog. Abgerufen am 31.10.2026. Progress Blog: Fragmented Manufacturing Data

Hinweis: Alle Online-Quellen wurden zuletzt am 31. Oktober 2026 abgerufen. Die Gartner-Kennzahl beruht auf einer Erhebung unter Referenzkunden von Anbietern für Datenqualitätslösungen und ist als Größenordnung zu verstehen.

Weiterführend bei PRODVIS

• Agentische KI im ERP für den Mittelstand
• KI-Agenten sind das neue Customizing
• ERP & KI-Agenten Readiness-Checkliste
• Cloud ERP mit Exact Online für den Mittelstand

Erstellt mit Unterstützung von KI – von Menschen geprüft.

This essay is published in German. The following is a short English summary.

An AI detects that a customer has exceeded its credit limit and recommends blocking the next delivery. The ERP data look clear and the recommendation seems plausible – yet sales knows about a special agreement, accounting expects a payment and management has deliberately approved the order. Who gets to decide? Wolf Schumacher, CEO of PRODVIS, takes up the Progress Data Platform article “AI Shouldn’t Make the Decision, So How Can Context Tell Us Who Should?” and argues that a correct analysis is not yet a correct decision, and a convincing recommendation does not confer decision authority.

Context has three layers – business context, process context and decision context – and it must not only improve the answer but also define the limits of the subsequent action. All three layers originate in the ERP system. AI can only act as responsibly as its data foundation allows: timeliness, unambiguity, completeness and traceability are prerequisites for any delegation to a machine. A cloud ERP with a unified data model, a clean role concept and documented workflows, such as Exact Online, is therefore the backbone of responsible automation.

The human in the loop needs a clear mandate: cases should be handed to the responsible role with the relevant information, in line with the EU AI Act’s requirements on human oversight and automation bias. Before automating, companies should answer five questions on required data, blocking gaps, responsible role, explicit limits and documentation. Autonomy then becomes a limited, deliberately granted authority within a specific process. The decisive question is not how much autonomy is technically possible, but which autonomy makes sense in this process – and who is accountable for it. The full essay, including references, is available as a PDF above.

Created with AI support – reviewed by humans.