Elonas įsipareigoja perkvalifikuoti „Grok Chatbot“, kad pateiktų labiau ideologiškai suderintus atsakymus

Taip, tai neatrodo puiku.

Savaitgalį „X“ ir „Xai“ savininkas Elonas Muskas pažymėjo artėjantį jo „Grok Chatbot“ pakeitimą, kuriame „Grok Development“ komanda pašalins “.Politiškai neteisinga, bet vis dėlto faktiškai teisinga “informacija iš savo duomenų bankų, siekiant išvengti programos iš esmės pateikiant atsakymus, su kuriais pats Muskas nesutinka.

Pokytis jau kurį laiką įvyko, dėl „X“ „Grok Chatbot“ kelis kartus pateikė atsakymus, kurie prieštarauja paties Musko nuomonei tam tikromis temomis. Pavyzdžiui, „Grok“ vartotojams sakė, kad vaikams turėtų būti leidžiama prieiga prie lyties patvirtinančios priežiūros, o tai, kas Muskas buvo vokalinis priešininkas, tuo tarpu tai taip pat prieštarauja politiniam smurtui, kurį vykdė kairiosios pakraipos rėmėjai (pažymint, kad yra daugiau įrodymų apie dešiniųjų išpuolius).

Tarp įvairių jo teiginių, kurie įvertino jo kūrėją, „Grok“ taip pat pavadino save „didžiausiu dezinformacijos„ X “barstytoju.

O savaitgalį Muskas nurodė, kad jam užteko. Po to, kai Grok nurodė duomenis apie žiniasklaidos reikalus ir „Rolling Stone“, Muskas atsakė sakydamas, kad Groko „tiekimas yra baisus“ ir kad „tik labai kvailas AI patikėtų MM ir Rs“.

Tada Muskas pasekė pranešimu, kuriame raginama „X“ vartotojams pateikti „neskaidomų faktų apie Grok mokymą“ pavyzdžius, kuriuose X auditorija pateikė daugiau nei 100 tūkst. Atsakymų, dėl kurių, jų manymu, bus piktžolės iš „Grok“ informacijos bazės.

Dėl to Grokas bus labiau suderintas su dešiniųjų kalbėjimo taškais ir daugiau nežinančių faktinių pranešimų ir įrodymų. Kitaip tariant, tai taps echo-chamber AI, o vis daugiau ir daugiau žmonių pasikliauja AI atsakymais į visų rūšių klausimus, tai atrodo didelis rūpestis platesniu AI vystymuisi.

Nors „Grok“ naudojimas yra gana ribotas. Pranešama, kad „ChatGpt“ turi apie 800 milijonų aktyvių vartotojų, o „Meta“ neseniai teigė, kad meta AI yra labiausiai naudojama AI pokalbių programa pasaulyje, kuriame yra milijardas mėnesinių vartotojų.

Palyginimui „Grok“ naudoja tik dalį 600 milijonų X mėnesinių veikėjų ir gali būti visiškai prieinama mokant vartotojams. Taigi tai nėra tokio paties lygio įtakos, kaip ir šios kitos AI programos, tačiau net ir tai, kad Muskas atvirai teigia, kad jis redaguoja savo šaltinius, kad geriau suderintų su savo ideologija, vis dar kelia susirūpinimą, ypač atsižvelgiant į naujausius Groko atsakymų klausimus.

Praėjusį mėnesį buvo nustatyta, kad „Grok“ pateikia netikslius atsakymus apie mirčių skaičių iš Holokausto, kartu stumia atsitiktinius atsakymus, į kuriuos įeina nuorodos į „baltąjį genocidą“ Pietų Afrikoje, kurios abu grindžiami paneigtomis sąmokslo teorijomis.

X teigia, kad abi klaidas įvyko dėl neteisėto „Grok“ kodekso pakeitimo, kurį sukėlė nesąžiningas darbuotojas, ir kad procesas dabar atnaujintas siekiant užtikrinti daugiau patikrinimų ir likučių. Tačiau nepaisant priežasties, įvykis pabrėžė, kiek „Sway Xai“ programuotojai gali turėti „Chatbot“ atsakymų, jei jie taip pasirenka, ir pats Elonas labai norėjo diskredituoti visus šaltinius, kurie nesutinka su jo nuomonėmis, tai atrodo kaip pavojingas derinys.

Iš tiesų, visas XAI projektas buvo įkurtas remiantis paties Elono pasipriešinimu kitiems AI modeliams, kurie, jo manymu, yra mokomi būti „pažadinti“.

Kaip pranešė „The Washington Post“:

„2023 m. Balandžio mėn. Interviu su„ Fox News “Muskas teigė, kad Openai„ mokė AI meluoti “, įtraukdamas žmonių atsiliepimus, kurie nukreipė„ Chatbot “„ nesakyti, ko duomenys iš tikrųjų reikalauja, kad tai pasakytų “. Savo naująjį projektą jis pavadino „tiesa“. “

Taigi, „Xai“ projektas buvo susijęs tiek su politiniais pasakojimais, kiek ir technologinė evoliucija, nes Muskas siekė savo paties AI paslėpti savo paties ideologijos, o ne objektyvios tiesos, pagrįstų internetiniais šaltiniais, ideologijai.

Ir daugelis jo šalininkų su juo sutiks. „Covid Pandemic“ sukėlė visiškai naują kovos su „Mainstream“ žiniasklaidos judėjimu, o faktas, kad AI įrankiai yra mokomi to, kas, laikoma pagrindiniais šaltiniais, yra šio postūmio.

Iš esmės daugelis Musko antifaktinį postūmį žiūrės teigiamai. Net jei jis yra ydingas, net jei tai lemia išplėstą dezinformacijos plitimą.

Nes tiesa, atrodo, yra tai, ką jūs tai padarote.

Tai dar vienas galimo technologijų pažangos neigiamų pavyzdžių pavyzdys, kuris dažnai būna pamirštamas tarp platesnio hipo.

Tą patį galima pasakyti apie kiekvieną reikšmingą naujovę, kad nors yra ir teigiamų, ir naudos, reikia išsiaiškinti, Mes taip pat dažnai pervertiname naudą, kurią tokios technologijos taps plačiai prieinamos.

Pavyzdžiui, internetas yra mokymosi revoliucija, kuri suteikia milijardams žmonių prieigą prie beveik visos pasaulio informacijos, kuri savo ruožtu turėtų padaryti žmoniją labiau išsilavinusį, labiau informuotą ir sustiprinti bazinio intelekto intelekto lygį.

Vis dėlto 2025 m. Diskusijos apie vakcinos veiksmingumą, klimato pokyčius ir net pačią žemės, kaip planetos, formos, yra gyvesnės nei bet kada.

Socialinė žiniasklaida turėjo sujungti pasaulį, leisdama mums pabendrauti su bet kuo, bet kur, palengvindama daugiau draugiškumo, empatijos ir supratimo. Vis dėlto, be abejo, tai padaryta priešingai, suteikiant galimybę netoleruojančioms, skirtingoms ir neapykantos kupinoms grupėms susieti, jungiančias blogiausius pasaulio elementus. Patys algoritmai, skatinantys socialinę žiniasklaidą, skatina tai, ir sunku teigti, kad socialinė žiniasklaida, kaip koncepcija, buvo grynoji teigiama.

Ir dabar mes turime AI, kitą didelę viltį, kuri demokratizuos kūrybiškumą ir palengvins naujus žmonių produktyvumo lygius, teikdami mašiniškai pagrįstą pagalbą, kad pagerintume mūsų kasdienį procesą.

Kaip manote, ar tai pavyks iš tikrųjų?

Žinoma, akivaizdžiai bus nauda, ​​nes buvo padaryta šiais kitais pažangomis, ypač atsižvelgiant į verslo perspektyvą. Tačiau utopinė idėja, kad AI kreipiasi į naują kūrybinės, intelektualios galimybės auksinį amžių, iš tikrųjų yra tik korporatyvinių denių ir diskusijų apie posėdžių salę dalykas.

Pažvelkite į AI turinį, kuriuo dabar dalijamasi internete. Vaizdo įrašai su rasistiniais atspalviais, kurių negalėjote sukurti su žmonių aktoriais. Ai nuogai panašūs į žmones, kurie nesuteikė leidimo tam. Žmonės, perduodantys AI sukurtą darbą kaip savo, apgaudinėja savo kelią į neišmokytas galimybes.

Tai nėra gerai, tai nėra geri dalykai, kuriuos palengvina ši nauja technologija, ir tai, ką mums parodo istorija, yra tai, kad blogiausi visuomenės elementai yra tokie pat naudingi, jei ne daugiau, jei ne, iš šių pažangų.

Tai sugrąžina mus į Eloną ir jo sprendimą iš esmės redaguoti istoriją, kad „pagerintumėte“ savo pokalbių programą. Tai labai blogas precedentas ir labai susijęs su poslinkiu, ypač todėl, kad vis daugiau ir daugiau žmonių atsakymuose pasikliauja šiomis AI įrankiais.

Ar tikrai manome, kad tai pagerins visuomenę, ar padarys mus protingesnius kaip rūšį?

Ir jei atsakymas iš abiejų priekyje yra ne, kodėl tada mes stumiame AI į kiekvieną kiekvienos programos elementą?