Varför stora språkmodeller alltid kommer att hallucinera: en geometrisk gräns, inte en träningsbugg
I kallar denna begränsning RCC (rekursiva kollapsbegränsningar).
Den slår fast att varje inferenssystem som är inbäddat i en större mångfald —
utan tillgång till dess interna tillstånd, utan en stabil referensram,
och utan insyn i den behållare det verkar i —
kommer *med nödvändighet* att uppvisa hallucination, drift och planeringskollaps.
Det är inte ett fel i modellen. Det är en geometrisk begränsning hos icke-centrala observatörer.