Zašto će veliki jezični modeli uvijek halucinirati: geometrijska granica, a ne pogreška u treniranju
I ovo ograničenje nazivam RCC (ograničenja rekurzivnog kolapsa).
Ona tvrdi da svaki sustav zaključivanja ugrađen u veću mnogostrukost —
bez pristupa vlastitom unutarnjem stanju, bez stabilnog referentnog sustava,
i bez uvida u spremnik u kojem djeluje —
*nužno* će pokazivati halucinacije, drift i kolaps planiranja.
To nije pogreška modela. To je geometrijsko ograničenje promatrača izvan središta.