KI & Agentik

Ich arbeite intensiv mit KI — beim Entwickeln von Software, beim Prüfen von Texten, beim Durchdenken von Fällen. Deshalb ist meine Einschätzung weder Begeisterung noch Abwehr, sondern Erfahrung: KI kann heute erstaunlich viel — und dabei sehr überzeugend falsch liegen.

Eloquent, aber dumm.

Daraus folgt für mich eine Regel, die der Branche nicht gefällt: Was eine KI ausgibt, ist eine Behauptung — so lange, bis es belegt ist. Behauptungen prüfe ich, bei Mandanten wie bei Maschinen. Wer eine KI ohne deterministische Kontrolle einfach machen lässt, hat nicht automatisiert, sondern die Prüfung abgeschafft.

Und je mächtiger und schneller die Modelle werden, desto mehr Kontrolle muss mitwachsen. Mehr KI senkt den Aufwand nicht — sie verschiebt ihn vom Erstellen zum Prüfen. Die eigentliche Arbeit liegt darin, Kontrollmechanismen zu bauen, die falsche Schlussfolgerungen erkennen, bevor sie jemandem schaden.