Field note
Az AI-motorok még abban sem értenek egyet, mi a kérdés
Egy kérdést tettem fel. Néhány motor »ajánlj egy eszközt«-öt hallott, mások »bízz meg egy megfelelőségi auditort«-ot.
Már tudjuk, hogy különböző motorok különböző cégeket neveznek meg. De egy audit olvasása közben azt találtam, hogy az egyet nem értés ennél mélyebbre nyúlik — néha a motorok egyáltalán nem ugyanazt a kérdést válaszolják.
A lekérdezés egyszerű volt: „ki tudja auditálni, hogyan írja le az AI a termékemet?" A hat asszisztens különböző világokra vált szét. Néhány „ajánlj egy AI-láthatósági eszközt"-ként hallotta, és szoftvereket és ügynökségeket nevezett meg. Mások „bízz meg valakit egy AI-rendszer megfelelőségi auditjára"-ként hallották, és a Big Four tanácsadókat és adatvédelmi testületeket nevezték meg. Néhány elvont maradt, és auditortípusokat írt le anélkül, hogy bárkit megnevezne. Ugyanazok a szavak, valóban különböző értelmezések.
Ez azért számít, mert megváltoztatja, mit ér egy egyetlen válasz. Ha egy motort ellenőrzöl, és az egyféleképp olvassa a kérdésed, nemcsak egy választ kaptál — egy válasz egy kérdésre, amit a következő motor fel sem tett volna. A keretezés a névsor előtt van: mielőtt két motor nem érthet egyet a kiről, egyet kell érteniük abban, mit kérdezel — és néha nem.
Amikor tehát azt olvasod, mit mond az AI a kategóriádról, olvasd a keretezést, ne csak a listát: a kérdés melyik verzióját válaszolta ez a motor? Egy magabiztos, jól forrásolt válasz a kérdésed rossz olvasatára még mindig a rossz válasz — és a listából egyedül sosem vennéd észre.
A fenntartás, mint mindig: ez egy kérdés egy napon, egy ember által olvasva — szemléltető, nem mérés. De élesíti a szabályt, amit az egész terület folyton tanít: egy motor, egyszer, nagyon keveset mond.
A keretezés olvasása a szakterület része — és ezért fed le egy audit minden motort, ugyanúgy.
New here? Start with the overview → · By Denes Csaszar · written in the open