Kas nusprendžia, ką jums sako AI? Campbellas Brownas, kadaise buvęs „Meta“ naujienų vadovu, turi minčių

Campbell Brown savo karjerą praleido ieškodama tikslios informacijos, pirmiausia kaip garsi televizijos žurnalistė, o vėliau kaip pirmoji ir vienintelė „Facebook“ atsidavusi naujienų vadovė. Dabar, stebėdama, kaip dirbtinis intelektas keičia tai, kaip žmonės vartoja informaciją, ji mato, kad istorija gali pasikartoti. Šį kartą ji nelaukia, kol kas nors kitas ją ištaisys.

Jos įmonė „Forum AI“, kurią ji neseniai aptarė su „TechCrunch“ vadovu Timu Fernholzu per StrictlyVC vakarą San Franciske, įvertina, kaip fondų modeliai veikia tomis temomis, kurias ji vadina „didelių interesų“ temomis – geopolitika, psichinė sveikata, finansai, samdymas – temomis, kuriose „nėra aiškių atsakymų „taip“ arba „ne“, kur viskas sudėtinga ir miglota“.

Idėja yra surasti geriausius pasaulio ekspertus, paskirti jiems architektų etalonus, tada išmokyti dirbtinio intelekto teisėjus vertinti modelius plačiu mastu. „Forum AI“ geopolitiniam darbui Brownas pasamdė Niallą Fergusoną, Fareedą Zakaria, buvusį valstybės sekretorių Tony Blinkeną, buvusį Atstovų Rūmų pirmininką Keviną McCarthy ir Anne Neuberger, vadovavusią kibernetiniam saugumui Obamos administracijoje. Tikslas yra pasiekti, kad dirbtinio intelekto teisėjai pasiektų maždaug 90 % sutarimą su tais žmonių ekspertais – slenkstį, pasak jos, Forum AI pavyko pasiekti.

Brownas „Forum AI“, įkurto prieš 17 mėnesių Niujorke, kilmę sieja su konkrečiu momentu. „Buvau „Meta“, kai ChatGPT pirmą kartą buvo išleistas viešai, – prisiminė ji, – ir prisimenu, kad netrukus po to, kai supratau, tai bus kanalas, kuriuo tekės visa informacija. Ir tai nėra labai gerai. Poveikis jos pačios vaikams privertė akimirką jaustis beveik egzistencine. „Mano vaikai bus tikrai kvaili, jei nesugalvosime, kaip tai ištaisyti“, – prisiminė galvodama ji.

Labiausiai ją nuvylė tai, kad tikslumas niekam nebuvo prioritetas. Jos teigimu, fondų modelių įmonės yra „labai susitelkusios į kodavimą ir matematiką“, o naujienos ir informacija yra sunkesnės. Tačiau sunkiau, tvirtino ji, nereiškia, kad neprivaloma.

Iš tiesų, kai Forum AI pradėjo vertinti pirmaujančius modelius, išvados nebuvo labai džiuginančios. Ji citavo Dvynius, kurie traukiasi iš Kinijos komunistų partijos svetainių „dėl istorijų, kurios neturi nieko bendra su Kinija“, ir atkreipė dėmesį į kairiosios pakraipos politinį šališkumą beveik visuose modeliuose. Anot jos, gausu ir subtilesnių nesėkmių, įskaitant konteksto trūkumą, perspektyvų trūkumą, šiaudinius argumentus be pripažinimo. „Dar reikia nueiti ilgą kelią“, – sakė ji. „Tačiau taip pat manau, kad yra keletas labai paprastų pataisymų, kurie labai pagerintų rezultatus.

Brownas daugelį metų praleido „Facebook“ stebėdamas, kas nutinka, kai platforma optimizuojasi netinkamam dalykui. „Daugelis dalykų, kuriuos bandėme, mums nepavyko“, – sakė ji Fernholzui. Jos sukurtos faktų tikrinimo programos nebėra. Pamoka, net jei socialinė žiniasklaida į tai užmerkė akis, yra ta, kad optimizavimas įsitraukimui buvo niekšiškas visuomenei ir daugelis liko mažiau informuoti.

Ji tikisi, kad AI gali nutraukti šį ciklą. „Dabar tai gali vykti bet kuriuo kitu būdu“, – sakė ji; įmonės gali suteikti vartotojams tai, ko jie nori, arba „duoti žmonėms tai, kas tikra, kas sąžininga ir kas tiesa“. Ji pripažino, kad idealistinė to versija – AI optimizavimas tiesai – gali skambėti naiviai. Tačiau ji mano, kad verslas čia gali būti mažai tikėtinas sąjungininkas. Įmonės, naudojančios dirbtinį intelektą sprendimams dėl kredito, skolinimui, draudimui ir samdymui, rūpinasi atsakomybe ir „jos norės, kad optimizuotumėte, kad tai padarytumėte teisingai“.

Dėl šios įmonės paklausos taip pat „Forum AI“ žada savo verslą, nors atitikties palūkanas paversti pastoviomis pajamomis tebėra iššūkis, ypač atsižvelgiant į tai, kad didžioji dalis dabartinės rinkos vis dar patenkinta žymimųjų laukelių auditu ir standartizuotais etalonais, kuriuos Brownas laiko netinkamais.

Jos teigimu, atitiktis aplinkybėms yra „pokštas“. Kai Niujorkas priėmė pirmąjį samdymo šališkumo įstatymą, reikalaujantį dirbtinio intelekto audito, valstijos kontrolierius nustatė, kad daugiau nei pusė pažeidimų buvo nepastebėti. Pasak jos, tikram vertinimui reikia srities patirties, kad būtų galima atlikti ne tik žinomus scenarijus, bet ir kraštutinius atvejus, kurie „gali įvesti į bėdą, apie kurią žmonės negalvoja“. Ir tam darbui reikia laiko. „Protingi generalistai neketina to sumažinti.”

Brownas, kurio įmonė praėjusį rudenį surinko 3 milijonus dolerių, vadovaujama Lerero Hippeau, turi unikalią poziciją apibūdinti daugumos vartotojų AI pramonės savęs įvaizdžio ir realybės atotrūkį. „Iš didžiųjų technologijų kompanijų vadovų girdite: „Ši technologija pakeis pasaulį“, „tai išstums jus iš darbo“, „išgydys vėžį“, – sakė ji. „Tačiau įprastam žmogui, kuris tiesiog naudoja pokalbių robotą pagrindiniams klausimams užduoti, jis vis tiek sulaukia daug nešvarumų ir neteisingų atsakymų.

Pasitikėjimas dirbtiniu intelektu yra nepaprastai žemas, ir ji mano, kad skepticizmas daugeliu atvejų yra pagrįstas. „Pokalbis vyksta Silicio slėnyje apie vieną dalyką, o tarp vartotojų vyksta visiškai kitoks pokalbis.