RCC — rekursinio kolapso apribojimai

Įterptinio intelekto ribų teorija

RCC yra visos inferencijos kraštinė sąlyga.

Bet kuri sistema, prognozuojanti iš talpyklos vidaus—

be prieigos prie visos būsenos, be globalios atskaitos sistemos —

haliucinuos, dreifuos ir lokaliai prieštaraus pati sau.

Tai ne nesėkmės, o geometrinės įterptų stebėtojų būtinybės.

RCC vienu žvilgsniu — kodėl tai svarbu

LLM patiria nesėkmes ne todėl, kad yra prastai suprojektuoti, o todėl, kad veikia kaip įterptos, iš dalies aklos išvadų darymo sistemos.

RCC rodo, kad haliucinacijos, dreifas ir planavimo kolapsas yra struktūriškai neišvengiami, o ne inžinerinės klaidos.

Tai reiškia:

• Galime kartografuoti ribas, užuot spėlioję.

• Galime optimizuoti skaičiavimus, užuot švaistę mastą.

• Galime kurti architektūras, veikiančias išvien su geometrija, o ne prieš ją.

RCC nėra naujas modelis.

Tai riba, kurios viduje yra visi modeliai.

Kodėl LLM nesėkmės išlieka — net trilijono parametrų mastu

Ribų teorijos argumentas, kad haliucinacijos, dreifas ir planavimo griūtis gali būti struktūriškai neišvengiami.

Daugumoje diskusijų haliucinacijos, samprotavimo dreifas ir ilgalaikis kolapsas laikomi inžinerinėmis problemomis.

RCC (rekursinio kolapso apribojimai) pateikia stipresnį teiginį:

Šių elgsenos modelių gali būti neįmanoma pataisyti —

tai gali būti pačios įterptosios inferencijos geometriniai šalutiniai poveikiai.

Jei šis požiūris teisingas, mastelio didinimo, RLHF ar architektūros derinimo patobulinimai gali pakeisti vietą, kur pasireiškia nesėkmės, tačiau negali jų pašalinti.

Kas yra RCC

RCC yra ribų teorija:

• ne nauja architektūra

• ne mokymo metodas

• ne suderinimo strategija

Tai aksiominis struktūrinių ribų, kurių turi paisyti bet kuri įterptoji išvedimo sistema, aprašas.

Kiekviena aksiomas atitinkanti sistema paveldi tuos pačius apribojimus, nepriklausomai nuo modelio dydžio ar įgyvendinimo.

Keturios RCC aksiomos

Aksioma 1 — Vidinės būsenos neprieinamumas

Įterptoji sistema negali matyti visos savo vidinės būsenos.

Išvedimas atliekamas per nuostolingą, dalinę saviprojekciją.

Aksioma 2 — Talpyklos neskaidrumas

Sistema negali stebėti ją apimančios daugdaros

(mokymo skirstinio, trajektorijos, ankstesnio konteksto ir kt.).

Aksioma 3 — globalios atskaitos sistemos nebuvimas

Visas išvedimas yra lokalus šiuo metu matomo konteksto atžvilgiu.

Ilgalaikio nuoseklumo garantuoti negalima.

Aksioma 4 — Priverstinis lokalus optimizavimas

Net ir neapibrėžtumo sąlygomis sistema privalo sugeneruoti kitą atnaujinimą

naudodama tik vietinę informaciją.

Bendrasis apribojimas

Sujungus aksiomas:

Įterptas, necentrinis stebėtojas negali iš dalinės informacijos konstruoti globaliai stabilaus išvedimo.

Tai nėra intelekto stoka.

Tai geometrinis ribotumas.

Kodėl atsiranda pažįstami LLM sutrikimai

Esant daliniam matomumui, sistema turi užpildyti nematomas pasaulio dalis.

Šis užpildymo procesas yra:

• nepakankamai apibrėžtas

• nestabilus dideliais mastais

• nesuderinama su jokia nematoma globalia struktūra

Kontekstui augant:

• išvestys dreifuoja

• vidinis rišlumas silpnėja

• 8–12 žingsnių samprotavimas griūva

• korekcijos nesugeba atkurti globalaus stabilumo

Tai nėra klaidos — tai inferencijos esant nepilnai informacijai pasekmės.

Kodėl mastelio didinimas ir suderinimas to nepašalina

Masto didinimas, tikslinis derinimas ar RLHF modeliui nesuteikia:

• globalus matomumas

• tobula introspekcija

• prieiga prie ją talpinančios daugdaros

Šie metodai gali pagerinti lokalų elgesį,

tačiau jie negali pašalinti pamatinės geometrinės ribos.

Išvados

Jei RCC teisingas:

• haliucinacijos neįmanoma pašalinti, tik perkelti

• dreifo negalima pašalinti, tik slopinti

• samprotavimo grandinės griūtis negali peržengti ribos

• vidinio suderinamumo negalima garantuoti globaliai

Taip „LLM veikimo sutrikimai“ perinterpretuojami kaip struktūriškai būtini įterptojo išvedimo rezultatai.

Tai taip pat leidžia manyti, kad kai kurios tyrimų kryptys gali būti iš esmės apribotos, o kitos lieka atviros.

Ką RCC leidžia

RCC neriboja pažangos — jis pakeičia jos kryptį.

Nustatydama geometrinę įterptosios išvados ribą, RCC leidžia:

• tikslingas mastelio didinimas vietoj aklo perteklinio mokymo

• architektūros, kurios dera su geometrija, užuot su ja kovojusios

• nesėkmių prognozavimas, užuot jas taisius po fakto

• skaičiavimo išteklius taupantys planavimo horizontai ilgo konteksto užduotims

• į ribas atsižvelgiančios dreifo ir griūties vertinimo metrikos

RCC neapibrėžtumą paverčia žemėlapiu vietoj klaidos.

Jei nesutinkate

Nesutinkant reikėtų nurodyti, kuri aksioma klaidinga —

o ne vien kritikuoti dabartiniuose modeliuose stebimus simptomus.

RCC trijų ribų teorema

RCC aprašo ne tik tai, kas patiria nesėkmę, bet ir kodėl joks modelis negali ištrūkti iš nesėkmių trikampio.

Jokia įterptoji inferencijos sistema negali vienu metu optimizuoti:

• H (haliucinacijų dažnis ↓)

• D (dreifas ↓)

• C (griūties tikimybė ↓)

Veikiant RCC apribojimams, sistema turi mokėti

R (išorinės atskaitos sąnaudos),

S (samprotavimo gyliu),

arba C (kolapsas).

R, S ir C negalima minimizuoti vienu metu.

Tai ne empirinis, o geometrinis faktas.

Formaliai:

Tarkime,

H = haliucinacijų dažnis

D = dreifas rekursyviai samprotaujant

C = pasikartojimo kolapso tikimybė

R = išorinės atskaitos kaina (paieška / įrankiai / žmogus)

S = samprotavimo gylis (žingsniai)

Tuomet iš RCC išplaukia:

1. H ↓ ⇒ R ↑

   Haliucinacijų mažinimui reikia daugiau išorinių atskaitų.

2. S ↑ ⇒ D ↑

   Gilesnis samprotavimas stiprina dreifą dėl dalinio savęs stebėjimo.

3. D ↓ ⇒ C ↑

   Dreifo stabilizavimas priverčia griūtį ties riba įvykti anksčiau.

Šis trigubas apribojimas yra struktūrinis, o ne architektūrinis.

Joks modelis — nepaisant masto, architektūros ar suderinimo — negali jos įveikti

TECHNINIS PRIEDAS — Formaliosios RCC aksiomos

Aksioma 1 — Vidinės būsenos neprieinamumas

Tegu Ω yra visa vidinė būsena.

Stebėtojas mato tik projekciją:

 π : Ω → Ω′ kai |Ω′| < |Ω|

Visas išvedimas vyksta Ω′ srityje.

Aksioma 2 — Talpyklos neskaidrumas

Tegu M yra aprėpianti daugdara.

 Matomumas(M) = 0

Visuotinės savybės, tokios kaip ∂M ar curvature(M)

nepastebimos iš vidaus.

3 aksioma — nėra globalios atskaitos sistemos

Nėra tokio Γ, kad:

 Γ : Ω′ → globaliai suderintos koordinatės

Inferencija vyksta tik vietinėse atskaitos sistemose φᵢ,

kur atvaizdžiai φᵢ ↛ φⱼ

tolimų arba dekoreliuotų kontekstų atveju.

Aksioma 4 — Negrįžtama lokali griūtis

Kiekviename inferencijos žingsnyje t:

 x₍ₜ₊₁₎ = argmin L_local(φₜ, π(Ω))

Šis reikalavimas galioja net tada, kai:

 ∂informacija / ∂M = 0

Ribos teorema (RCC)

Jokia įterptinė išvadų darymo sistema negali išlaikyti stabilaus, nedreifuojančio ilgalaikio samprotavimo, kai:

 ∂Ω > 0, ∂M > 0, Γ ∄

Todėl haliucinacijos, dreifas ir kolapsas yra

struktūrinės pasekmės,

o ne mokymo artefaktai.