RCC — 재귀적 붕괴 제약
내재된 지능의 경계 이론
RCC는 모든 추론의 경계 조건이다.
어떤 용기 안에서 예측하는 모든 시스템은—
전체 상태에 접근할 수 없고, 전역적 기준틀도 없이—
환각을 일으키고, 드리프트하며, 국소적으로 자기모순에 빠질 것이다.
이는 실패가 아니라 내재한 관측자에게 따르는 기하학적 필연이다.
RCC 한눈에 보기 — 이것이 중요한 이유
대규모 언어 모형이 실패하는 것은 설계가 부실해서가 아니라, 내재된 부분적 맹시 추론 시스템으로 작동하기 때문이다.
RCC는 환각, 표류, 계획 붕괴가 공학적 버그가 아니라 구조적으로 불가피함을 보여 준다.
이는 다음을 뜻한다:
추측하는 대신 경계를 지도로 그릴 수 있다.
규모를 낭비하는 대신 계산을 최적화할 수 있다.
우리는 기하학을 거스르지 않고 그 기하학과 함께 작동하는 아키텍처를 설계할 수 있다.
RCC는 새로운 모델이 아니다.
그것은 모든 모델이 그 안에 놓이는 경계다.
LLM의 실패가 지속되는 이유 — 조 단위 매개변수 규모에서도
환각, 표류, 계획의 붕괴가 구조적으로 불가피할 수 있다는 경계 이론의 논증.
대부분의 논의는 환각, 추론 표류, 장기 범위의 붕괴를 공학적 문제로 다룬다.
RCC(재귀적 붕괴 제약)는 더 강한 주장을 제시한다:
이러한 행동은 고칠 수 없을지도 모른다 —
그것들은 내재된 추론 자체의 기하학적 부작용일 수 있다.
이 관점이 옳다면, 규모 확장, RLHF 또는 아키텍처 조정의 개선은 실패가 나타나는 지점을 옮길 수는 있지만 실패를 없앨 수는 없다.
RCC란 무엇인가
RCC는 경계 이론이다:
새로운 아키텍처가 아니다
훈련 방법이 아니다
정렬 전략이 아니다
이것은 모든 내재된 추론 시스템이 따라야 하는 구조적 한계에 대한 공리적 기술이다.
이 공리들을 충족하는 모든 시스템에는 모델의 크기나 구현 방식과 관계없이 동일한 제약이 따른다.
RCC의 네 가지 공리
공리 1 — 내부 상태의 접근 불가능성
내재된 시스템은 자신의 내부 상태 전체를 볼 수 없다.
추론은 손실이 있는 부분적인 자기 투영을 통해 수행된다.
공리 2 — 용기의 불투명성
시스템은 자신을 포함하는 다양체를 관찰할 수 없다
(학습 분포, 궤적, 상위 맥락 등).
공리 3 — 전역적 기준계의 부재
모든 추론은 현재 보이는 맥락에 국한된다.
장기적인 일관성은 보장할 수 없다.
공리 4 — 강제된 국소 최적화
불확실한 상황에서도 시스템은 다음 갱신을 산출해야 한다
국소 정보만을 사용해.
통합 제약
공리들을 종합하면:
시스템에 내재하며 중심에 있지 않은 관찰자는 부분적인 정보로부터 전역적으로 안정된 추론을 구성할 수 없다.
이는 지능의 결핍이 아니다.
그것은 기하학적 한계다.
익숙한 LLM 실패는 왜 나타나는가
부분적인 가시성 아래에서 시스템은 세계의 보이지 않는 부분들을 완성해야 한다.
그 완성 과정은 다음과 같다:
미결정 상태인
장거리 범위에서 불안정함
보이지 않는 어떠한 전역 구조와도 일치하지 않는
맥락이 늘어날수록:
출력이 표류한다
내적 정합성이 저하된다
8–12단계 추론이 붕괴한다
교정으로도 전역 안정성을 회복하지 못한다
이것들은 버그가 아니다 — 불완전한 정보 아래에서 이루어지는 추론의 결과다.
규모 확장과 정렬로도 이것을 없앨 수 없는 이유
규모 확장, 미세 조정, RLHF로도 모델에 다음을 부여할 수는 없다:
전역적 가시성
완전한 내성
자신을 담는 다양체에 대한 접근
이 방법들은 국소적 행동을 개선할 수 있지만,
하지만 그 바탕에 있는 기하학적 경계를 제거할 수는 없다.
함의
RCC가 옳다면:
환각은 제거할 수 없으며, 위치만 옮길 수 있다
표류는 제거할 수 없고, 감쇠시킬 수 있을 뿐이다
사고 연쇄의 붕괴는 경계를 넘어설 수 없다
자기 일관성은 전역적으로 보장될 수 없다
이는 “LLM의 실패 양상”을 내재된 추론의 구조적으로 필연적인 결과로 재규정한다.
또한 이는 일부 연구 방향에는 근본적인 제약이 있을 수 있지만 다른 방향은 여전히 열려 있음을 시사한다.
RCC가 가능하게 하는 것
RCC는 진보를 제한하지 않는다 — 그 방향을 바꾼다.
내재된 추론의 기하학적 경계를 규명함으로써, RCC는 다음을 가능하게 한다:
맹목적인 과잉 훈련 대신 목적에 맞춘 규모 확장
기하학에 맞서기보다 그에 정렬되는 아키텍처
사후 보수 대신 실패 예측
긴 문맥 과제를 위한 연산 효율적인 계획 범위
경계를 고려하는 표류 및 붕괴 평가 지표
RCC는 불확실성을 버그에서 지도로 바꾼다.
동의하지 않는다면
동의하지 않는다면 어느 공리가 틀렸는지 밝혀야 한다 —
현재 모형에서 관찰되는 증상을 비판하는 데 그쳐서는 안 된다.
RCC 삼중 한계 정리
RCC는 무엇이 실패하는지만이 아니라, 왜 어떤 모델도 실패의 삼각형을 벗어날 수 없는지를 설명한다.
어떤 내재 추론 시스템도 다음을 동시에 최적화할 수 없다:
H (환각률 ↓)
D (드리프트 ↓)
C (붕괴 확률 ↓)
RCC 제약 아래에서 시스템은 다음으로 비용을 치러야 한다
R (외부 참조 비용),
S (추론 깊이),
또는 C(붕괴).
R, S, C는 동시에 최소화할 수 없다.
이것은 경험적인 것이 아니라 기하학적인 것이다.
형식적으로 표현하면:
다음과 같이 두자
H = 환각률
D = 재귀적 추론에서의 표류
C = 회귀 붕괴 확률
R = 외부 참조 비용 (검색 / 도구 / 사람)
S = 추론 깊이 (단계 수)
그러면 RCC는 다음을 함의한다:
H ↓ ⇒ R ↑
환각을 줄이려면 외부 참조를 늘려야 한다.
S ↑ ⇒ D ↑
부분적인 자기 관측으로 인해 더 깊은 추론은 표류를 증폭한다.
D ↓ ⇒ C ↑
표류를 안정화하면 경계에서 더 이른 붕괴가 강제된다.
이 세 가지 한계는 아키텍처가 아니라 구조에 따른 것이다.
규모, 구조, 정렬과 무관하게 어떤 모델도 이를 깨뜨릴 수 없다
기술 부록 — RCC의 형식 공리
공리 1 — 내부 상태의 접근 불가능성
Ω를 전체 내부 상태라 하자.
관찰자는 투영만을 본다:
π : Ω → Ω′ 단, |Ω′| < |Ω|
모든 추론은 Ω′ 위에서 작동한다.
공리 2 — 용기의 불투명성
M을 이를 포함하는 다양체라 하자.
가시성(M) = 0
∂M 또는 curvature(M)와 같은 전역적 속성은
내부에서는 관측할 수 없다.
공리 3 — 전역적 기준틀의 부재
다음을 만족하는 Γ는 존재하지 않는다:
Γ : Ω′ → 전역적으로 일관된 좌표
추론은 국소 프레임 φᵢ 안에서만 일어나며,
그곳에서 사상은 φᵢ ↛ φⱼ
멀리 떨어져 있거나 상관관계가 없는 맥락에서.
공리 4 — 비가역적 국소 붕괴
각 추론 단계 t에서:
x₍ₜ₊₁₎ = argmin L_local(φₜ, π(Ω))
이 요건은 다음의 경우에도 성립한다:
∂정보 / ∂M = 0
경계 정리(RCC)
다음 조건에서는 어떤 내재된 추론 시스템도 표류 없이 안정적인 장기 추론을 유지할 수 없다:
∂Ω > 0, ∂M > 0, Γ ∄
따라서 환각, 표류, 붕괴는
구조적 귀결,
학습의 산물이 아니다.