Waarom LLM's altijd zullen hallucineren: een geometrische grens, geen trainingsfout
I noem deze beperking RCC (beperkingen op recursieve instorting).
Ze stelt dat elk inferentiesysteem dat is ingebed in een grotere variëteit —
zonder toegang tot zijn interne toestand, zonder stabiel referentiekader,
en zonder zicht op de omhulling waarin het opereert —
zal *noodzakelijkerwijs* hallucinatie, drift en ineenstorting van planning vertonen.
Het is geen modelfout. Het is een geometrische beperking van niet-centrale waarnemers.