Field note

KI zitiert Quellen, die nicht standhalten

In meinem eigenen Audit zeigten KI-Antworten auf Seiten, die es nicht gibt. Ein Zitat, das echt aussieht, ist kein Beweis.

Denes Csaszar · Makefield · Berlin · not yet published

Als ich auditierte, was KI-Assistenten über eine Kategorie sagen, tat ich das Offensichtliche: Ich fragte jeden nach seinen Quellen. Die meisten reichten eine ordentliche Liste von Links zurück. Manche dieser Links führten ins Leere — Platzhalter-Adressen und Seiten, die es nicht gibt. Die Antwort sah belegt aus; die Quellen waren hohl.

Das ist nicht nur mein Pech. 2025 prüften Forscher, ob die Antworten von KI-Assistenten tatsächlich von den zitierten Quellen gestützt wurden, und fanden, dass ein großer Anteil nicht vollständig belegt war — selbst mit eingeschalteter Websuche. Diese Studie war im medizinischen Bereich, behandle die genauen Zahlen also als Warnung, nicht als Wert für deine Kategorie (Nature Communications, 2025).

Zwei Dinge folgen. Als Leser: Eine zitatförmige Zeichenkette ist kein Beleg — klick sie an, bevor du ihr vertraust. Das Modell klingt gleich selbstbewusst, ob seine Quelle zustimmt, widerspricht oder nicht existiert. Als Unternehmen, das sichtbar sein will: Das ist die Chance. Die Hürde, wirklich zitiert zu werden — von einer echten, prüfbaren Quelle, die tatsächlich sagt, was die KI behauptet — ist niedriger, als sie aussieht, gerade weil so viel von dem, was heute als Zitat durchgeht, hohl ist. Sei die Quelle, die standhält.

Siehe „Zitierung" und „Halluzination" im Glossar, oder den Überblick dafür, wie das in die Methode passt.