Prečo budú LLM vždy halucinovať: geometrická hranica, nie chyba tréningu
I nazývam toto obmedzenie RCC (obmedzenia rekurzívneho kolapsu).
Tvrdí, že každý inferenčný systém vložený do väčšej variety —
bez prístupu k svojmu vnútornému stavu, bez stabilnej vzťažnej sústavy,
a bez možnosti vidieť kontajner, v ktorom funguje —
bude *nevyhnutne* vykazovať halucinácie, unášanie a kolaps plánovania.
Nie je to chyba modelu. Je to geometrické obmedzenie necentrálnych pozorovateľov.