Ein bekanntes Muster aus anderen Bereichen
Das Phänomen ist älter als Sprachmodelle. Wer sich auf ein Navigationsgerät verlässt, achtet weniger auf Straßenschilder. Wer mit Rechtschreibprüfung schreibt, liest weniger aufmerksam Korrektur. Bei KI-Entwürfen ist der Effekt besonders stark, weil die Texte gut formuliert sind und kaum äußere Hinweise auf Fehler liefern.
Woran man es im Team bemerkt
Warnsignale sind Freigaben in auffällig kurzer Folge, Entwürfe, die unverändert durchgehen, obwohl sie Kleinigkeiten enthalten, und Aussagen wie „das passt eigentlich immer“. Auch wenn die Zahl der Korrekturen plötzlich stark sinkt, ist das nicht automatisch ein gutes Zeichen; es kann ebenso bedeuten, dass weniger gründlich geprüft wird.
Prüfaufgaben konkret machen
Eine allgemeine Anweisung wie „bitte prüfen“ verliert schnell an Wirkung. Besser ist eine kurze Liste je Ablauf: welche Angaben mit der Quelle zu vergleichen sind, wann eine Rückfrage nötig ist, welche Formulierungen nie hinausgehen dürfen. So bleibt die Prüfung eine Tätigkeit mit Inhalt statt einer Bestätigung aus Gewohnheit.
Unsicherheit sichtbar machen
Hilfreich ist, wenn das System offenlegt, worauf es sich stützt und wo die Grundlage dünn ist, etwa weil nur eine ältere Quelle gefunden wurde. Solche Markierungen lenken die Aufmerksamkeit dorthin, wo sie gebraucht wird. In unseren Abläufen zeigt jeder Entwurf seine Fundstelle; fehlt eine verlässliche Quelle, entsteht ein Hinweis statt eines glatten Textes.
Die Grenze jeder Gegenmaßnahme
Ganz verhindern lässt sich Gewöhnung nicht; sie ist menschlich. Ziel ist, sie früh zu bemerken und gegenzusteuern. Dazu gehören regelmäßige, bewusst gründliche Stichproben, die wiederholte Messung an realen Fragen und offene Gespräche darüber, wo das System zuletzt danebenlag.