Field note

A fantom a bejelentkezett válaszban

Megkérdeztem egy AI-t, mi a projektem. Bejelentkezve ismert. Kijelentkezve sosem hallott rólam.

Denes Csaszar · Makefield · Berlin · not yet published

Megkérdeztem egy AI-asszisztenst, mi a projektem — a fiókba bejelentkezve, amit naponta használok. Magabiztosan és pontosan válaszolt, úgy leírva, amit építek, mintha a világ már tudna róla. Egy pillanatra izgalmas volt.

Aztán megnyitottam egy tiszta, kijelentkezett ablakot, és feltettem pontosan ugyanazt a kérdést. A magabiztos válasz eltűnt. Ami visszajött, a valós kép volt: egy név, amit a modell valójában nem ismert fel, körülvéve néhány nem összefüggő névrokonnal.

Íme, mi történt. Bejelentkezve az asszisztens a saját múltbeli chatjeimből és mentett memóriámból merített — a saját ötletemet ismételte vissza nekem. Ez nem láthatóság. Tükör. A hízelgő verzió pontosan egy ember számára létezett a világon: számomra.

Ez a mai messze leggyakoribb hiba, amikor az emberek „megnézik, mit mond rólunk az AI". Bejelentkezve nézik meg, memóriával és személyre szabással bekapcsolva, és a motor a saját információikat tükrözi vissza rájuk — az oldalukat, a megfogalmazásukat, a keretezésüket. Bizonyítéknak érződik. Az ellenkezője: ez az egyetlen olvasat, amiben nem bízhatsz, mert egyetlen vásárló sincs a fiókodban.

A javítás egy sor: teszteld az AI-láthatóságodat úgy, ahogy egy idegen tenné. Kijelentkezve, előzmények nélkül, friss ablakban, minden alkalommal. Ha bejelentkezve kell maradnod, mert egy motor másképp korlátozza, amit tesz, előbb kapcsold ki a memóriát és az egyéni utasításokat — és írd fel, hogy megtetted.

A két válasz közötti rés az egész lényeg. A bejelentkezett verzió az, akinek az AI felé szeretnéd magad. A tiszta verzió az, aki valójában vagy, amikor egy vásárló kérdez. Csak az egyiket érdemes mérni.

Ezért fut egy audit a felépítésénél fogva tisztán — lásd még kérdezd meg kétszer ugyanazt, kapj két választ.