Field note

Az AI olyan forrásokat hivatkoz, amelyek nem állnak meg

A saját auditomban az AI-válaszok nem létező oldalakra mutattak. Egy valósnak tűnő hivatkozás nem bizonyíték.

Denes Csaszar · Makefield · Berlin · not yet published

Amikor azt auditáltam, mit mondanak az AI-asszisztensek egy kategóriáról, a kézenfekvőt tettem: mindegyiktől elkértem a forrásait. A legtöbb egy rendezett linklistát adott vissza. E linkek egy része sehová sem vezetett — helytartó címek és nem létező oldalak. A válasz forrásoltnak látszott; a források üresek voltak.

Ez nem csak az én balszerencsém. 2025-ben a kutatók ellenőrizték, hogy az AI-asszisztensek válaszait valóban alátámasztották-e a hivatkozott források, és úgy találták, hogy nagy részük nem volt teljesen alátámasztva — még bekapcsolt webkereséssel is. Az a tanulmány az orvosi területen készült, tehát kezeld a pontos számokat óvatosságként, ne a te kategóriád értékeként (Nature Communications, 2025).

Két dolog következik. Olvasóként: egy hivatkozás alakú karakterlánc nem bizonyíték — kattints rá, mielőtt megbízol benne. A modell ugyanolyan magabiztosan hangzik, akár egyetért a forrása, akár nem, akár nem is létezik. Cégként, amely látható akar lenni: ez a lehetőség. A valóban hivatkozottság küszöbe — egy valós, ellenőrizhető forrás által, amely tényleg azt mondja, amit az AI állít — alacsonyabb, mint amilyennek látszik, éppen mert annyi, ami ma hivatkozásnak számít, üres. Legyél a forrás, ami megáll.

Lásd a „hivatkozás"-t és a „hallucináció"-t a szótárban, vagy az áttekintést arról, hogyan illik ez a módszerbe.