Field note

Das Phantom in der eingeloggten Antwort

Ich fragte eine KI, was mein Projekt sei. Eingeloggt kannte sie mich. Ausgeloggt hatte sie nie von mir gehört.

Denes Csaszar · Makefield · Berlin · not yet published

Ich fragte einen KI-Assistenten, was mein Projekt sei — eingeloggt in das Konto, das ich täglich nutze. Er antwortete selbstbewusst und korrekt und beschrieb das, was ich baue, als wüsste die Welt schon davon. Für eine Sekunde war es aufregend.

Dann öffnete ich ein sauberes, ausgeloggtes Fenster und stellte genau dieselbe Frage. Die selbstbewusste Antwort war weg. Zurück kam das echte Bild: ein Name, den das Modell nicht wirklich erkannte, umgeben von ein paar nicht verwandten Namensvettern.

Das ist, was passierte. Eingeloggt schöpfte der Assistent aus meinen eigenen früheren Chats und gespeichertem Gedächtnis — er wiederholte mir meine eigene Idee zurück. Das ist keine Sichtbarkeit. Es ist ein Spiegel. Die schmeichelhafte Version existierte für genau einen Menschen auf der Welt: mich.

Das ist der mit Abstand häufigste Fehler, den Leute machen, wenn sie „prüfen, was KI über uns sagt". Sie prüfen es eingeloggt, mit Gedächtnis und Personalisierung an, und die Engine spiegelt ihnen ihre eigenen Informationen zurück — ihre Seite, ihre Formulierung, ihr Framing. Es fühlt sich wie Beweis an. Es ist das Gegenteil: Es ist die eine Lesung, der du nicht trauen kannst, weil kein Kunde in deinem Konto ist.

Der Fix ist eine Zeile: Teste deine KI-Sichtbarkeit so, wie es ein Fremder täte. Ausgeloggt, keine Historie, ein frisches Fenster, jedes Mal. Musst du eingeloggt bleiben, weil eine Engine sonst begrenzt, was sie tut, schalte zuerst Gedächtnis und benutzerdefinierte Anweisungen aus — und schreib auf, dass du es getan hast.

Die Lücke zwischen den zwei Antworten ist der ganze Punkt. Die eingeloggte Version ist, wer du gegenüber der KI zu sein wünschst. Die saubere Version ist, wer du tatsächlich bist, wenn ein Kunde fragt. Nur eine davon lohnt sich zu messen.

Darum läuft ein Audit durch Bauweise sauber — siehe auch stell dieselbe Frage zweimal, bekomm zwei Antworten.