KI-Agenten können erstaunlich viel. Gerade deshalb lohnt es sich, ihre Grenzen klar zu benennen. Trifft eines der folgenden vier Kriterien zu, gehört der Fall zurück auf die Lösungsleiter – unabhängig davon, wie attraktiv er aussieht.
1. Harte Rechenlogik
Alles, was jedes Mal exakt stimmen muss: Tarife, Provisionen, Preisformeln. Sprachmodelle sind keine Taschenrechner. Sie als solche zu verkleiden, verbirgt den Fehler, statt ihn zu beseitigen. Hier gehören Regeln in Code, Excel oder ein BI-Modell.
2. Revisionssichere Nachvollziehbarkeit
Wenn Prüfer, Aufsicht oder Kunden rekonstruieren müssen, wie eine Zahl oder Entscheidung zustande kam, ist eine generierte Antwort ein Risiko. Nachvollziehbarkeit braucht feste Regeln und protokollierte Schritte.
3. Große strukturierte Datenmengen
Millionen Zeilen gehören in eine Datenbank oder ein BI-Modell. Ein Agent, der sie liest, ist langsam, teuer und unzuverlässig. Besser: Die Zahl liefert das Datenmodell, die Erklärung dazu kann ein Copilot entwerfen.
4. Echtzeitanforderungen
Entscheidungen im Sekundenbruchteil innerhalb operativer Prozesse sind nicht das Terrain eines Agenten. Hier braucht es deterministische Systeme mit garantierten Antwortzeiten.
Was trotzdem geht
Nichts davon schließt Copilot als Assistenten für die arbeitende Person aus: Formeln erklären, Abweichungen kommentieren, einen Bericht vorformulieren. Ausgeschlossen ist nur, die Entscheidung an die KI abzugeben.
Die Frage über allem
Was passiert, wenn das Ergebnis falsch ist – und wie teuer ist es, das zu bemerken? Falsch und offensichtlich ist ein vertretbares Risiko. Falsch und plausibel wirkend ist gefährlich. Falsch und hinter einer Buchung oder einem Preis: Stopp.
Mehr dazu in unserer Methode „Vom Problem zum Agenten“.
