Kodėl AI klaidingai skaito jūsų geriausių puslapių vidurį

Viduryje jūsų turinys miršta, o ne todėl, kad puslapiui įpusėjus staiga rašote blogai, o ne todėl, kad skaitytojui nusibosta. Tačiau dėl to, kad dideli kalbiniai modeliai turi pakartojamą silpnybę esant ilgiems kontekstams, o šiuolaikinės AI sistemos vis dažniau išspaudžia ilgą turinį, kol modelis net neperskaito.

Šis derinys sukuria tai, ką aš manau, kaip šuns kaulų mąstymą. Stiprus pradžioje, stiprus pabaigoje, o vidurys kliba. Modelis dreifuoja, praranda siūlą arba sugriebia netinkamą atraminę detalę. Galite paskelbti ilgą, gerai ištirtą kūrinį ir vis tiek žiūrėti, kaip sistema pakelia įvadą, pakelia išvadą, tada haliucinuoja jungiamąjį audinį tarp jų.

Tai nėra teorija, kaip rodoma atliekant tyrimus, o taip pat ir gamybos sistemose.

Kodėl atsiranda šuns kaulas

Yra du sukrauti gedimo režimai ir jie patenka į tą pačią vietą.

Pirma, „pasiklydęs viduryje“ yra tikras. Stanfordas ir bendradarbiai išmatavo, kaip kalbos modeliai elgiasi, kai pagrindinė informacija juda ilgą laiką. Našumas dažnai buvo didžiausias, kai atitinkama medžiaga buvo pradžioje arba pabaigoje, o ji sumažėjo, kai atitinkama medžiaga atsidūrė viduryje. Toks yra šuns kaulų modelis, išreikštas kiekybiškai.

Antra, ilgieji kontekstai tampa vis didesni, tačiau sistemos taip pat tampa agresyvesnės dėl glaudinimo. Net jei modeliui gali prireikti didžiulės įvesties, produktų rinkinys dažnai genima, apibendrina arba suglaudina, kad būtų galima kontroliuoti išlaidas ir išlaikyti stabilias agento darbo eigas. Dėl to vidurys tampa dar trapesnis, nes jį lengviausia sutraukti į niūrią santrauką.

Naujas pavyzdys: ATACompressor yra 2026 m. arXiv dokumentas, orientuotas į prisitaikantį, užduotį suprantantį glaudinimą, kad būtų galima apdoroti ilgą kontekstą. Jame „pasiklydę viduryje“ aiškiai įvardijama kaip problema ilguose kontekstuose, o glaudinimas laikomas strategija, kuri turi išsaugoti su užduotimi susijusį turinį ir sumažinti visa kita.

Taigi tu buvai teisus, jei kada nors liepei kam nors „sutrumpinti vidurį“. Dabar siūlyčiau šį patobulinimą:

Jūs ne tiek sutrumpinate LLM vidurį, kiek sukuriate vidurį, kad išgyventumėte ir dėmesio šališkumą, ir suspaudimą.

Du filtrai, viena pavojinga zona

Pagalvokite, kad jūsų turinys praeina per du filtrus, kol jis tampa atsakymu.

• 1 filtras: modelio dėmesio elgsena: Net jei sistema perduoda visą tekstą, modelio galimybė jį naudoti priklauso nuo padėties. Pradžia ir pabaiga paprastai veikia geriau, vidurys – prasčiau.
• 2 filtras: sistemos lygio konteksto valdymas: Kol modelis nieko nemato, daugelis sistemų kondensuoja įvestį. Tai gali būti aiškus apibendrinimas, išmoktas glaudinimas arba „konteksto lankstymo“ modeliai, kuriuos naudoja agentai, kad darbo atmintis būtų maža. Vienas iš pavyzdžių šioje srityje yra „AgentFold“, kuriame pagrindinis dėmesys skiriamas aktyviam konteksto lankstymui ilgo horizonto žiniatinklio agentams.

Jei priimsite tuos du filtrus kaip įprastus, vidurys taps dvigubos rizikos zona. Jis dažniau ignoruojamas ir dažniau suspaudžiamas.

Tai yra balanso logika su šuns kaulo idėja. „Sutrumpinti vidurį“ metodas tampa tiesioginiu abiejų filtrų sušvelninimu. Sumažinate tai, ką sistema suglaudins, o tai, kas lieka, modeliui lengviau nuskaityti ir naudoti.

Ką daryti nepavertus rašto specifikacijų lapu

Tai nėra raginimas nužudyti ilgąją formą, nes ilgoji forma vis dar svarbi žmonėms ir įrenginiams, kurie naudoja jūsų turinį kaip žinių bazę. Pataisymas yra struktūrinis, o ne „rašyk mažiau“.

Norite, kad viduryje būtų didesnis informacijos tankis ir aiškesni inkarai.

Čia pateikiamos praktinės gairės, kurios laikomos tiksliai.

1. Įdėkite „atsakymų blokus“ į vidurį, o ne jungiamąją prozą

Dauguma ilgų straipsnių turi minkštą, klajojantį vidurį, kuriame autorius sukuria niuansų, prideda spalvų ir stengiasi būti kruopštus. Žmonės gali tai sekti. Ten modeliai dažniau praranda siūlą. Vietoj to, viduryje padarykite trumpų blokų seką, kur kiekvienas blokas gali stovėti atskirai.

Atsakymų bloke yra:
Aiškus reikalavimas. Suvaržymas. Pagalbinė detalė. Tiesioginė reikšmė.

Jei blokas negali išlikti cituojamas pats, jis neišgyvens ir suspaudimo. Taip padarysite vidurį „sunku apibendrinti blogai“.

2. Pakartokite temą įpusėjus

Dreifas dažnai nutinka, nes modelis nustoja matyti nuoseklius inkarus.

Viduryje pridėkite trumpą „pakartotinį raktą“, kuris paprastais žodžiais pakartoja disertaciją, iš naujo nurodo pagrindinius objektus ir iš naujo nustato sprendimo kriterijus. Čia dažnai pakanka dviejų keturių sakinių. Pagalvokite apie tai kaip modelio tęstinumo valdymą.

Tai taip pat padeda suspaudimo sistemoms. Pakartodami tai, kas svarbu, nurodote kompresoriui, ko neišmesti.

3. Laikykite įrodymą vietoje prie ieškinio

Tiek modeliai, tiek kompresoriai veikia geriau, kai atraminė detalė yra arti teiginio, kurį ji palaiko.

Jei jūsų reikalavimas pateiktas 14 pastraipoje, o įrodymas – 37 pastraipoje, kompresorius dažnai sumažina vidurį į santrauką, kuri panaikina ryšį tarp jų. Tada modelis užpildo šią spragą geriausiu spėjimu.

Vietinis įrodymas atrodo taip:
Pateikite pretenziją, tada skaičių, datą, apibrėžimą arba citatą. Jei jums reikia ilgesnio paaiškinimo, padarykite tai patvirtinę paraišką.

Taip pat lengviau cituoti. Sunku cituoti teiginį, dėl kurio reikia susieti kontekstą iš kelių skyrių.

4. Naudokite nuoseklų pagrindinių objektų pavadinimą

Tai tylu, bet tai labai svarbu. Jei tą patį dalyką penkis kartus pervardysite pagal stilių, žmonės linksi, bet modeliai gali nukrypti.

Pasirinkite pagrindinio dalyko terminą ir laikykite jį nuosekliai. Galite pridėti žmonių sinonimų, bet išlaikyti pagrindinę etiketę stabilią. Kai sistemos ištraukia arba suspaudžiamos, stabilios etiketės tampa rankenėlėmis. Nestabilios etiketės tampa rūku.

5. „Struktūrinius išėjimus“ vertinkite kaip užuominą, kaip mašinos mieliau vartoja informaciją

Didelė LLM įrankių tendencija yra struktūrizuoti išėjimai ir suvaržytas dekodavimas. Esmė ne ta, kad jūsų straipsnis turėtų būti JSON. Esmė ta, kad ekosistema juda prie mašininio analizavimo. Ši tendencija jums pasako kai ką svarbaus: mašinos nori nuspėjamų faktų.

Taigi, straipsnio viduryje įtraukite bent keletą nuspėjamų formų:
Apibrėžimai. Žingsnių sekos. Kriterijų sąrašai. Palyginimai su fiksuotais atributais. Įvardinti subjektai, susieti su konkrečiomis pretenzijomis.

Atlikite tai ir jūsų turinį bus lengviau išgauti, saugiai suspausti ir pakartotinai tinkamai naudoti.

Kaip tai rodoma realiame SEO darbe

Tai yra perėjimo taškas. Jei esate SEO ar turinio vadovas, optimizuojate ne „modeliui“. Jūs optimizuojate sistemas, kurios nuskaito, suglaudina ir sintezuoja.

Jūsų matomi simptomai atrodys taip:

• Jūsų straipsnis viršuje perfrazuojamas teisingai, tačiau vidurinė sąvoka pateikiama klaidingai. Tai prarastas vidurys ir suspaudimas.
• Jūsų prekės ženklas minimas, bet jūsų patvirtinantys įrodymai neįtraukiami į atsakymą. Vietinis įrodymas žlunga. Modelis negali pateisinti jūsų citavimo, todėl naudoja jus kaip fono spalvą.
• Jūsų niuansuotos vidurinės dalys tampa bendro pobūdžio. Tai yra suspaudimas, jūsų niuansų pavertimas blankia santrauka, tada modelis, traktuojantis tą santrauką kaip „tikrąjį“ vidurį.
• Jūsų žingsnis „sutrumpinti vidurį“ yra tai, kaip sumažinate šiuos nesėkmių rodiklius. Ne pjaunant vertę, o sugriežtinant informacijos geometriją.

Paprastas būdas redaguoti vidurio išgyvenimą

Štai aiški, penkių žingsnių darbo eiga, kurią galite pritaikyti bet kokiam ilgam kūriniui, ir tai yra seka, kurią galite atlikti per valandą ar mažiau.

1. Nustatykite vidurio tašką ir skaitykite tik vidurinį trečdalį. Jei vidurinio trečdalio nepavyksta apibendrinti dviem sakiniais neprarandant prasmės, jis per švelnus.
2. Vidutinio trečdalio pradžioje pridėkite vieną pastraipą iš naujo. Pakartokite: pagrindinis teiginys, ribos ir „na ką“. Sutrumpinkite.
3. Vidurinį trečdalį paverskite nuo keturių iki aštuonių atsakymų blokų. Kiekvienas blokas turi būti cituojamas. Kiekvienas blokas turi turėti savo apribojimą ir bent vieną pagalbinę detalę.
4. Perkelkite įrodymą šalia reikalavimo. Jei įrodymas yra toli, patraukite kompaktišką įrodomąjį elementą aukštyn. Skaičius, apibrėžimas, šaltinio nuoroda. Ilgesnį paaiškinimą galėsite pasilikti vėliau.
5. Stabilizuokite etiketes. Pasirinkite savo pagrindinių objektų pavadinimus ir laikykitės jų viduryje.

Jei norite nerimto pagrindimo, kodėl tai veikia, taip yra todėl, kad kuriate abu anksčiau aprašytus gedimo režimus: padėties jautrumą „pasiklydę viduryje“, išmatuotą atliekant ilgo konteksto tyrimus, ir realybę, kad gamybos sistemos suglaudina ir sulenkia kontekstą, kad agentai ir darbo eigos būtų stabilios.

Apvyniojimas

Didesni kontekstiniai langai jūsų neišgelbės. Jie gali pabloginti jūsų problemą, nes ilgas turinys skatina labiau suspausti, o suspaudimas sukelia daugiau nuostolių viduryje.

Taigi taip, toliau rašykite ilgąją formą, kai tai yra pagrįsta, bet nustokite traktuoti vidurį kaip vietą, kur galima klajoti. Elkitės su juo kaip su laikančiu tilto tarpatramiu. Įdėkite ten stipriausias sijas, o ne gražiausias dekoracijas.

Taip kuriate turinį, kuris išgyvena ir žmogaus skaitymą, ir pakartotinį mašinos naudojimą, nepaversdami rašymo steriliais dokumentais.

Daugiau išteklių:

Šis įrašas iš pradžių buvo paskelbtas Duane Forrester Decodes.

Teminis vaizdas: Collagery / Shutterstock