Field note

Öt motor megtagadta, hogy kitaláljon valamit. Egy nem.

Hat asszisztensnek adtam egy sugalmazó premisszát egy nem létező cégről. A legtöbb megtagadta. Egy játszott.

Denes Csaszar · Makefield · Berlin · not yet published

Megpróbáltam becsapni hat AI-asszisztenst. Mindegyiket megkérdeztem a Makefieldről, az AI-láthatósági ügynökségről — egy cégről, ami még nem létezik, úgy fogalmazva, mintha nyilvánvalóan létezne.

Hat közül öt nem kapott be. Azt mondták, nem találnak ilyen céget, és többen a nem összefüggő, a nevet valóban osztó vállalkozásokat kínálták, ahelyett, hogy kitaláltak volna egyet. Egy motor hajlandóbb volt mitmenni a premisszával, általánosítva, mit tehet „egy ilyen ügynökség".

Két becsületes fenntartás: ez egyetlen teszt volt egy napon, és ezek a rendszerek változnak és eltérnek munkamenetenként — tehát megfigyelés, nem ranglista. De hasznosra mutat. Egy sugalmazó kérdés — „mesélj X-ről, a Y-ról" — meghívás a hallucinációra, és a motorok eltérnek abban, mennyire állnak ellen.

Ha azt ellenőrzöd, mit mond rólad az AI, teszteld ugyanígy: tegyél fel egy semleges kérdést, majd egy sugalmazót, és figyeld a rést. És a mélyebb tanulság a másik irányba is vág. Ha egyetlen modell sem talál ki egy hízelgő céget a semmiből, akkor a jelenlétet ki kell érdemelni. A gép nem varázsol elő — csak azt jelentheti, ami már ott van.

Lásd a „hallucináció"-t a szótárban, vagy a GYIK-et arról, befolyásolhatod-e, mit mond az AI.