Das Modell tut, was Sie sagen — nicht, was Sie meinen

Der Fall stammt aus unserer eigenen Produktpraxis. Ein Marktbericht erscheint wöchentlich als PDF, unser System liest ihn automatisch aus: Notierungen mit Preisspannen, für jede Region eine. Das lief zuverlässig, mit einer Ausnahme. Stand im PDF die Spanne 0,00 bis 0,03, kam im System 0 bis 0 an. Jede Woche, immer an derselben Stelle.

Der Schmierzettel verrät die Ursache

Der erste Verdacht lag nahe: Die KI liest den Wert schlecht. Die Prüfung zeigte das Gegenteil. Bevor eine KI ihr Endergebnis abliefert, hält sie eine sichtbare Zwischenüberlegung fest, eine Art Schmierzettel. Dort stand die Spanne richtig. Erst in der Reinschrift wurde daraus 0 bis 0. Das Modell hatte den Wert also korrekt gelesen und anschließend absichtlich verändert.

Die Ursache stand in der Arbeitsanweisung an die KI, im Fachjargon Prompt genannt. Dort hieß es: „Sollte ein Preis mit 0,00 angegeben sein, dann hinterlege diesen mit einer Spanne von 0-0." Gemeint war der Fall, dass ein Preis gar nicht notiert ist; im PDF steht dann „n.c.", nicht notiert. Die KI las den Satz aber wörtlich: Sobald irgendwo 0,00 auftauchte, auch am Anfang einer echten Spanne, machte sie 0 bis 0 daraus.

Die KI hat sich nicht geirrt, sie hat gehorcht.

Zwei Regeln statt einer Sammelklausel

Die Korrektur: Die eine Sammelklausel wurde durch zwei getrennte, eindeutige Regeln ersetzt. Die erste regelt nur den Fall „nicht notiert". Die zweite regelt Spannen und enthält ein Gegenbeispiel: Spannen werden exakt übernommen, aus 0,00 bis 0,03 wird 0,00 bis 0,03 und nichts anderes. Seitdem kommt der Wert so an, wie er im PDF steht.

An diesem Fall lässt sich ablesen, was gute Anweisungen ausmacht. Sonderfälle bekommen eigene Regeln. Wer zwei verschiedene Dinge in eine Klausel packt, hier fehlende Preise und echte Nullwerte, bekommt sie irgendwann verwechselt. Und gute Regeln sagen nicht nur, was zu tun ist, sondern zeigen an einem Beispiel, was nicht gemeint ist. Ein einziges „so nicht" hätte diesen Fehler von Anfang an verhindert.

Auch für die Fehlersuche liefert der Fall das Muster: Zwischenüberlegung und Endergebnis vergleichen. Steht der Wert auf dem Schmierzettel richtig, liegt der Fehler nicht im Modell, sondern in der Anweisung. Wer das weiß, sucht an der richtigen Stelle.

Ein sehr fleißiger, sehr wörtlicher Mitarbeiter

Das Muster kennen Sie aus dem eigenen Haus. Schlecht formulierte Arbeitsanweisungen richten auch bei Menschen Schaden an. Der Unterschied: Ein erfahrener Mitarbeiter merkt, dass etwas nicht stimmen kann, und fragt nach. Eine KI fragt nicht nach. Sie ist ein sehr fleißiger, sehr wörtlicher Mitarbeiter, der mehrdeutige Anweisungen wörtlich falsch befolgt statt sinngemäß richtig.

Präzises Arbeiten mit KI ist deshalb kein Technikthema. Es ist präzises Delegieren: einen Auftrag so formulieren, dass er nicht missverstanden werden kann. Diese Fähigkeit brauchen Unternehmen ohnehin. Die KI macht nur unmittelbar sichtbar, wo sie fehlt.