เหตุใด LLMs จึงสร้างข้อมูลหลอนอยู่เสมอ: ขอบเขตทางเรขาคณิต ไม่ใช่จุดบกพร่องในการฝึก
I เรียกข้อจำกัดนี้ว่า RCC (ข้อจำกัดการพังทลายแบบเรียกซ้ำ)
มันระบุว่าระบบอนุมานใดก็ตามที่ฝังตัวอยู่ภายในแมนิโฟลด์ที่ใหญ่กว่า —
โดยเข้าถึงสถานะภายในของตนไม่ได้ โดยไร้กรอบอ้างอิงที่เสถียร
และโดยไม่อาจมองเห็นภาชนะที่มันทำงานอยู่ภายใน —
จะ *จำเป็นต้อง* แสดงการหลอน การลอยเลื่อน และการยุบตัวของการวางแผน
มันไม่ใช่ข้อบกพร่องของแบบจำลอง แต่เป็นข้อจำกัดทางเรขาคณิตของผู้สังเกตที่ไม่ได้อยู่ ณ ศูนย์กลาง