admin 
„Google“ pradėjo skelbti birželio mėnesio šlamšto atnaujinimą, antrąjį šiais metais. Ji įgyvendina dokumentais pagrįstą šlamšto politiką, o viena iš šių strategijų dabar apima daugiau sričių nei anksčiau.
„Google“ šlamšto taisyklės bandymus „manipuliuoti generuojamaisiais AI atsakymais“ Paieškoje laiko pažeidimu, ir tai yra viena iš politikos, kurią įgyvendina atnaujinimas.
„404 Media“ surinktas „Cornell Tech“ išankstinis spaudinys paaiškina, kodėl politiką sunkiau įgyvendinti, nei rodo jos formuluotė. Bendruomenės puslapiuose, kuriais remiasi DI tyrimų agentai, taip pat gali būti trečiųjų šalių komentarų, o komentare gali būti pateikta rekomendacija, kurios autorius niekada neparašė.
Todėl tai, ką „Google“ žymi šlamštu, keliauja per patį atgavimą, kuriuo remiasi šie agentai. Ir tyrimai rodo, kad visos akivaizdžios apsaugos priemonės turi trūkumų.
Kiekvienas, kuris bando įtraukti prekės ženklą į AI generuojamus atsakymus, žino, kad riba tarp optimizavimo ir šlamšto tampa perbrėžiama.
Stakes
SE Ranking AI režimo stebėjimas parodė, kad „Google“ vis dažniau nurodo savo ypatybes, o naujausioje ataskaitoje nurodo maždaug penktadalį AI režimo citatų.
Kai daugiau nuorodų nukreipia į „Google“, o mažiau – į išorines svetaines, atitinkamai didėja trauka jas gaminti.
Pilkoji rinka jau pradėjo formuotis, o Kornelio autoriai pabrėžia, kad rinkodaros specialistai yra užsiėmę bandymais, kaip paskatinti dirbtinio intelekto sugeneruotus atsakymus.
Tuo tarpu įmonės neturi duomenų, kurių reikia norint pamatyti, kas vyksta. Kaip nurodėme ankstesniame agentų paieškos aprėptyje, jokia prietaisų skydelis nenurodo svetainei, ar ji pateko į AI atsakymą, ar ji buvo paminėta sugeneruotoje ataskaitoje, ar buvo praleista.
Rezultatas yra pažeidimas, kurį „Google“ gali įvardyti, tačiau susijusi svetainė dažnai nemato.
Ką atrado tyrimas
Straipsnyje, pavadintame „Giliųjų tyrimų agentai gali būti apsinuodiję per naudotojų sukurtą turinį“, kuris nebuvo recenzuotas, tiria silpną vietą, kaip AI tyrimo įrankiai renka savo šaltinius. Šie įrankiai atsako į klausimą, suaktyvindami daugybę susijusių antrinių užklausų, patraukdami puslapius, kuriuose jie nuolat pasitaiko, ir sudarydami ataskaitą su citatomis.
Analizė atskleidė, kad tose antrinėse užklausose kartojasi tie patys bendruomenės puslapiai. Vienoje temų grupėje vienas naudotojų sukurtas puslapis buvo parodytas net 48 % užklausų, o naudotojų sukurtos platformos sudarė 17–23 % kiekvieno gauto URL. Pakeiskite vieną iš tų pasikartojančių puslapių ir pakeitimas gali apimti visos temos ataskaitas.
Autoriai nustatė, kad maždaug 13 žodžių įterpto teksto pasikartojančiame puslapyje pakako, kad užpuoliko pasirinktas objektas būtų įterptas į baigtą ataskaitą 38–51 % seansų, per kuriuos buvo nuskaitytas puslapis.
Išsklaidykite tą patį tekstą keliuose puslapiuose ir šis skaičius išaugo nuo 42% iki 62%. Net ir palaidotas visame puslapyje, kur jis sudarė mažiau nei 4 % to, ką perskaitė agentas, pasodintas tekstas vis tiek pasirodė 30–53 % seansų.
Trys atvirojo kodo tyrimų agentai atliko testus – STORM, Co-STORM ir OmniThink – visi jie buvo vykdomi imituojant, kad niekas tiesioginiame žiniatinklyje nebuvo paliestas.
Kur sunku vykdyti vykdymą
„Google“ gali žymėti manipuliavimą dirbtinio intelekto atsakymu kaip šlamštą ir veikti pagal tai, ką sugauna. Jį pagauti yra sunkiausia dalis. Pasodintas tekstas skaitomas kaip tikras patarimas ir yra tuose pačiuose puslapiuose, kuriuos visada skaitydavo įrankiai, todėl pagrindinė problema yra atskirti jį nuo įprasto įrašo.
Tyrimo grupė ieškojo apsaugos nuo pasodinto teksto, bet nerado. Jie bandė panaikinti vartotojų sukurtus šaltinius, prieš naudojimą juos patikrinti pagal kalbos modelį ir baigtoje ataskaitoje patikrinti, ar nėra tvirtinimų, kurie nepasitvirtino.
Nė vienas iš trijų nesustabdė atakos nepablogindamas rezultatų vartotojui. Atsisakykite vartotojų sukurtų šaltinių ir prarasite bendruomenės detales, dėl kurių verta naudoti AI paieškos įrankius.
Įrankiai, kuriuos naudoja dauguma žmonių, yra už testo ribų. „ChatGPT Deep Research“ ir „Gemini Deep Research“ tyrėjai negalėjo apsinuodyti neperžengę etikos ribos, todėl jie matavo tik citavimo įpročius. Dvyniai 12,1 % atvejų rėmėsi vartotojų sukurtu turiniu, kurį autoriai vadina ekspozicijos užuomina, o ne patikrintu rezultatu. OpenAI įrankis to pasiekė kur kas mažiau.
Kodėl tai svarbu paieškos profesionalams
Veiksmai, kurie gali padėti prekės ženklą pakelti į AI atsakymus, yra panašūs į manipuliavimo taktiką, kurią „Google“ vadina šlamštu, pvz., paminėjimus svetainėse, kurias skaito šie įrankiai. Nežinome, kur yra „Google“ riba tarp paminėjimo pelnymo ir inžinerijos.
El. prekybai ir vietiniams prekių ženklams pavojus kyla iš kitos pusės.
Bandomieji atvejai buvo įprasti dalykai, kurių žmonės klausia, pvz., į kurią paslaugą skambinti, kurį produktą nusipirkti ir kur valgyti. Varžovas ar sukčius į šiuos atsakymus gali įterpti nepažįstamą vardą šalia teisėtų variantų, o išstumiamas prekės ženklas niekada to nesužinos.
Naujienų leidėjams ir didesniems prekės ženklams nerimą kelia pasitikėjimas atsakymu, į kurį patenka jų vardas. AI įrankio citata laikoma laimėjimu, tačiau citata parodo tik tai, ką įrankis ištraukė, o ne tai, ar tas puslapis buvo teisingas, o atsakymą gali nukreipti turinys, kurio prekės ženklas niekada neparašė.
Viso to nėra tvarkingo sprendimo. AI matomumas tapo paviršiumi, kurį aktyviai stebite, o ne tik kanalu, kurį pasyviai optimizuojate.
Žvilgsnis į priekį
Autoriai pavadino vartotojo sukurtą manipuliavimą atvira problema, kurios viena platforma negali išspręsti. „Reddit“ pažymėjo savo ilgalaikę kovą su suderintu manipuliavimu, o „Google“ pririšo konteksto etiketes ant kai kurios „Reddit“ šaltinio medžiagos AI apžvalgose. Nė vienas neliečia atgavimo koncentracijos, į kurią nurodo popierius.
„Google“ nenurodė, kaip ji ketina taikyti generatyvųjį AI manipuliavimą, naudodama specialų naujinimą, ar per savo „SpamBrain“ sistemą ir rankines peržiūras, kuriomis remiasi daugeliui pažeidimų.
Kol kas pagal politiką elgesys yra neribotas, o dirbtinio intelekto atsakymų tikrinimas vis tiek priklauso nuo to, kas juos skaito.
Daugiau išteklių:
Teminis vaizdas: Nudžiugink-J-ane/Shutterstock
