Чому великі мовні моделі завжди галюцинуватимуть: геометрична межа, а не помилка навчання
I називаю це обмеження RCC (обмеження рекурсивного колапсу).
Вона стверджує, що будь-яка система висновування, вбудована в більший многовид, —
без доступу до її внутрішнього стану, без стабільної системи відліку,
і без видимості контейнера, у якому вона діє —
*неодмінно* демонструватиме галюцинації, дрейф і колапс планування.
Це не помилка моделі. Це геометричне обмеження нецентральних спостерігачів.