admin
Neseniai buvau nusivylęs dirbdamas su Claude, ir tai paskatino mane įdomiai bendrauti su platforma, dėl kurios aš išnagrinėjau savo lūkesčius, veiksmus ir elgesį… ir tai atvėrė akis. Trumpoji versija – aš noriu ir toliau galvoti apie AI kaip apie asistentą, kaip apie laboratorijos partnerį. Iš tikrųjų į jį reikia žiūrėti kaip į robotą laboratorijoje – galintį daryti įspūdingus dalykus, nurodant teisingą kryptį, bet tik tvirtuose rėmuose. Vis dar yra tiek daug dalykų, kurių ji nepajėgia, ir mes, kaip praktikai, kartais tai pamirštame ir darome prielaidas, remdamiesi tuo, ką norime, kad platforma galėtų, o ne įžemintume ją realybėje apie ribas.
Ir nors AI ribos šiandien yra tikrai įspūdingos, jos nublanksta prieš tai, ką žmonės sugeba. Ar kartais nepastebime šio skirtumo ir AI sistemoms priskiriame žmogiškąsias savybes? Lažinuosi, kad mes visi vienu ar kitu momentu turime. Mes prisiėmėme tikslumą ir pasirinkome kryptį. Laikėme savaime suprantamu dalyku „tai akivaizdu“ ir tikėjomės, kad atsakymas bus „apima tai, kas akivaizdu“. Ir mes nusiminę, kai mums tai nepavyksta.
AI kartais bendraujant jaučiasi kaip žmogus, tačiau veikdamas jis nesielgia kaip žmogus. Šis atotrūkis tarp išvaizdos ir tikrovės yra ta vieta, kur iš tikrųjų prasideda daugiausia painiavos, nusivylimo ir netinkamo didelių kalbos modelių naudojimo. Žmonių sąveikos su kompiuteriu tyrimai rodo, kad žmonės natūraliai antropomorfizuoja sistemas, kurios kalba, reaguoja socialiai arba atspindi žmonių bendravimo modelius.
Tai nėra vartotojų sumanumo, smalsumo ar ketinimų nesėkmė. Tai psichinių modelių nesėkmė. Žmonės, įskaitant aukštos kvalifikacijos specialistus, dažnai kreipiasi į dirbtinio intelekto sistemas turėdami lūkesčius, nulemtus to, kaip šios sistemos pristatomos, o ne kaip jos iš tikrųjų veikia. Rezultatas – nuolatinis nusivylimo srautas, klaidingai priskiriamas nesubrendusioms technologijoms, silpnoms raginimams ar nepatikimais modeliais.
Problema ne viena iš tų. Problema yra lūkesčiai.
Norėdami suprasti, kodėl, turime atskirai pažvelgti į dvi skirtingas grupes. Iš vienos pusės vartotojai, o iš kitos – praktikai. Jie skirtingai sąveikauja su AI. Jiems nepavyksta skirtingai. Tačiau abi grupės reaguoja į tą patį pagrindinį neatitikimą tarp to, kaip AI jaučiasi ir kaip jis iš tikrųjų elgiasi.
Vartotojų pusė, kur dominuoja suvokimas
Dauguma vartotojų su dirbtiniu intelektu susiduria per pokalbių sąsajas. Pokalbių robotai, asistentai ir atsakymų varikliai kalba ištisais sakiniais, vartoja mandagią kalbą, pripažįsta niuansus ir reaguoja akivaizdžiai empatiškai. Tai neatsitiktinai. Natūralios kalbos sklandumas yra pagrindinė šiuolaikinių LLM privalumas, o tai yra funkcija, kurią vartotojai patiria pirmiausia.
Kai kažkas bendrauja taip, kaip tai daro žmogus, žmonės natūraliai priskiria tam žmogiškuosius bruožus. Supratimas. Ketinimas. Atmintis. Nuosprendis. Ši tendencija gerai užfiksuota dešimtmečius trukusiuose žmogaus kompiuterių sąveikos ir antropomorfizmo tyrimuose. Tai nėra trūkumas. Taip žmonės suvokia pasaulį.
Žvelgiant iš vartotojo perspektyvos, šis protinis trumpinys paprastai atrodo pagrįstas. Jie nesistengia valdyti sistemos. Jie bando gauti pagalbos, informacijos ar patikinimo. Kai sistema veikia gerai, pasitikėjimas didėja. Kai nepavyksta, reakcija yra emocinė. Sumišimas. Nusivylimas. Jausmas, kad buvo suklaidintas.
Ši dinamika yra svarbi, ypač kai dirbtinis intelektas yra įtrauktas į kasdienius produktus. Tačiau ne čia įvyksta didžiausios pasekmės.
Jie pasirodo praktikuojančių asmenų pusėje.
Aiškiai apibrėžti praktikuojančio asmens elgesį
Praktikuojantis asmuo nėra apibrėžiamas pareigų pavadinimu ar techniniu gyliu. Praktikuojantis asmuo apibrėžiamas atskaitomybe.
Jei kartais naudojate dirbtinį intelektą dėl smalsumo ar patogumo, esate vartotojas. Jei ne kartą naudojate dirbtinį intelektą savo darbe, integruojate jo rezultatus į darbo eigą ir esate atsakingi už tolesnius rezultatus, esate praktikas.
Tai apima SEO vadybininkus, rinkodaros lyderius, turinio strategus, analitikus, produktų vadybininkus ir vadovus, priimančius sprendimus, pagrįstus dirbtiniu intelektu. Praktikai neeksperimentuoja. Jie pradeda veikti.
Ir čia mentalinio modelio problema tampa struktūrine.
Praktikuojantys asmenys paprastai nelaiko AI kaip su asmeniu emocine prasme. Jie netiki, kad tai turi jausmų ar sąmonės. Vietoj to, jie elgiasi kaip su kolega darbo eigos prasme. Dažnai kaip gabus jaunesnysis kolega.
Šis skirtumas yra subtilus, bet kritiškas.
Praktikai linkę manyti, kad pakankamai pažangi sistema padarys išvadą apie ketinimą, išlaikys tęstinumą ir spręs, nebent būtų aiškiai nurodyta kitaip. Ši prielaida nėra neracionali. Tai atspindi, kaip dirba žmonių komandos. Patyrę specialistai nuolat pasikliauja bendru kontekstu, numanomais prioritetais ir profesine intuicija.
Tačiau LLM taip neveikia.
Tai, kas vartotojų elgsenoje atrodo kaip antropomorfizmas, praktikų darbo eigoje pasirodo kaip netinkamas delegavimas. Atsakomybė tyliai nukrypsta nuo žmogaus į sistemą ne emociškai, o operatyviai.
Šį poslinkį galite pamatyti labai specifiniuose, pakartojamuose modeliuose.
Praktikai dažnai deleguoja užduotis visiškai nenurodydami tikslų, apribojimų ar sėkmės kriterijų, darant prielaidą, kad sistema padarys išvadą, kas svarbu. Jie elgiasi taip, lyg modelis išlaikytų stabilią atmintį ir nuolatinį prioritetų suvokimą, net jei intelektualiai žino, kad taip nėra. Jie tikisi, kad sistema imsis iniciatyvos, pažymės problemas arba pati išspręs neaiškumus. Jie persveria sklandumą ir pasitikėjimą rezultatais, o per mažai įvertina patikrinimą. Ir laikui bėgant jie pradeda apibūdinti rezultatus kaip sistemos priimtus sprendimus, o ne pasirinkimus, kuriuos jie patvirtino.
Niekas iš to nėra neatsargus. Tai natūralus darbo įpročių perkėlimas iš žmonių bendradarbiavimo į sistemos sąveiką.
Problema ta, kad sistema neturi sprendimo.
Kodėl tai nėra įrankių problema
Kai DI neveikia profesionaliai, instinktas kaltas modeliui, raginimams ar technologijos brandumui. Šis instinktas suprantamas, tačiau jis nepaiso pagrindinės problemos.
LLM elgiasi tiksliai taip, kaip jie buvo sukurti. Jie generuoja atsakymus pagal duomenų šablonus, suvaržymų ribose, be savo tikslų, vertybių ar ketinimų.
Jie nežino, kas svarbu, nebent tu jiems pasakysi. Jie nenusprendžia, kaip atrodo sėkmė. Jie neįvertina kompromisų. Jie neturi rezultatų.
Kai praktikai skiria mąstymo užduotis, kurios vis dar priklauso žmonėms, nesėkmė nenuostabu. Tai neišvengiama.
Čia naudinga galvoti apie Ironmaną ir Supermeną. Ne kaip popkultūros smulkmenos, o kaip mentalinio modelio korekcija.
Geležinis žmogus, Supermenas ir netinkama autonomija
Supermenas veikia savarankiškai. Jis suvokia situaciją, nusprendžia, kas svarbu, ir veikia pagal savo nuomonę. Jis stovi šalia tavęs ir gelbsti dieną.
Būtent taip daugelis praktikų netiesiogiai tikisi, kad LLM elgsis darbo eigoje.
Ironman veikia kitaip. Kostiumas sustiprina jėgą, greitį, suvokimą ir ištvermę, bet nieko nedaro be piloto. Jis vykdomas laikantis apribojimų. Jame pateikiamos galimybės. Tai praplečia galimybes. Ji nesirenka tikslų ar vertybių.
LLM yra Ironman kostiumai.
Jie sustiprina bet kokius jūsų ketinimus, struktūrą ir sprendimą. Jie nepakeičia piloto.
Kai aiškiai matote tą skirtumą, daug nusivylimo išgaruoja. Sistema nustoja jaustis nepatikima ir pradeda elgtis nuspėjamai, nes lūkesčiai pasikeitė, kad atitiktų realybę.
Kodėl tai svarbu SEO ir rinkodaros lyderiams
SEO ir rinkodaros lyderiai jau veikia sudėtingose sistemose. Algoritmai, platformos, matavimo sistemos ir apribojimai, kurių nevaldote, yra kasdienio darbo dalis. LLM prideda dar vieną sluoksnį prie šio krūvos. Jie jo nepakeičia.
SEO vadybininkams tai reiškia, kad dirbtinis intelektas gali paspartinti tyrimus, išplėsti turinį, padėti atlikti analizę, bet negali nuspręsti, kaip atrodo autoritetas, kaip reikėtų daryti kompromisus ar ką verslui reiškia sėkmė. Tai lieka žmogiškomis pareigomis.
Rinkodaros vadovams tai reiškia, kad dirbtinio intelekto pritaikymas pirmiausia nėra įrankių sprendimas. Tai yra atsakomybės paskirstymo sprendimas. Komandos, kurios laiko LLM sprendimus priimančiais asmenimis, kelia riziką. Komandos, kurios juos traktuoja kaip stiprinimo sluoksnius, keičia mastelį saugiau ir efektyviau.
Skirtumas nėra rafinuotumas. Tai nuosavybė.
Tikrasis pataisymas
Dauguma patarimų, kaip naudoti AI, yra skirti geresniems nurodymams. Raginimas yra svarbus, bet jis yra pasroviui. Tikroji korekcija yra mąstymo nuosavybės atgavimas.
Žmonės turi turėti tikslus, apribojimus, prioritetus, vertinimą ir sprendimą. Sistemos gali valdyti išplėtimą, sintezę, greitį, modelio aptikimą ir braižymą.
Kai ši riba yra aiški, LLM tampa nepaprastai veiksmingi. Kai jis susilieja, atsiranda nusivylimas.
Tylos privalumas
Štai dalis, kuri retai ištariama garsiai.
Praktikuojantys specialistai, kurie įsisavina šį psichikos modelį, nuolat pasiekia geresnių rezultatų naudodami tuos pačius įrankius, kuriuos naudoja visi kiti. Ne todėl, kad jie yra protingesni ar techniškesni, o todėl, kad jie nustoja prašyti sistemos, kad ji būtų kažkas, kas ji nėra.
Jie pilotuoja kostiumą, ir tai yra jų pranašumas.
AI nekontroliuoja jūsų darbo. Jūs nesate pakeičiamas. Keičiasi ten, kur gyvena atsakomybė.
Elkitės su dirbtiniu intelektu kaip su žmogumi ir būsite nusivylę. Elkitės su juo kaip su sistema, ir būsite riboti. Elkitės su juo kaip su „Ironman“ kostiumu ir TU bus sustiprintas.
Supermenui ateitis nepriklauso. Ji priklauso žmonėms, kurie moka skraidinti kostiumą.
Daugiau išteklių:
Šis įrašas iš pradžių buvo paskelbtas Duane Forrester Decodes.
Teminis vaizdas: Corona Borealis studija/Shutterstock
