Miért fognak a nagy nyelvi modellek mindig hallucinálni: geometriai határ, nem tanítási hiba
I ezt a korlátot RCC-nek nevezem (rekurzív összeomlási korlátok).
Azt állítja, hogy minden, egy nagyobb sokaságba ágyazott következtetési rendszer —
belső állapotához való hozzáférés nélkül, stabil vonatkoztatási rendszer nélkül,
és anélkül, hogy rálátna arra a befoglaló struktúrára, amelyben működik —
*szükségszerűen* hallucinációt, elsodródást és a tervezés összeomlását fogja mutatni.
Ez nem modellhiba. A nem központi megfigyelők geometriai korlátja.