admin 
Redditoriai visame pasaulyje praėjusią savaitę buvo skandaluojami sužinoję, kad tyrėjų komanda išleido AI varomųjų, žmogaus impulsonansuojančių robotų spiečius „Keisti mano požiūrį“. Didelio masto eksperimentas buvo skirtas ištirti, kokia įtikinama AI.
Robotai paskelbė daugiau nei 1 700 komentarų, priimdami tokius asmenis kaip išgyvenusius piktnaudžiavimus ar prieštaringai vertinamą tapatybę, pavyzdžiui, „Live Livain Life Matter“ gynėją.
„Reddit“ incidentas buvo mini-nightmare. „Reddit“ prekės ženklas yra susijęs su autentiškumu – vieta, kur tikri žmonės dalijasi realiomis nuomonėmis. Jei ta į žmogų orientuota ekosistema sutrikdytų AI šlaite arba taps vieta, kur žmonės negali pasitikėti, kad gauna informacijos iš tikrų žmonių, tai gali padaryti daugiau nei grėsmę pagrindinei „Reddit“ tapatybei. „Reddit“ esmė gali būti rizikuojanti, nes dabar įmonė parduoda savo turinį „Openai“ mokymui.
Bendrovė pasmerkė „netinkamą ir labai neetišką eksperimentą“ ir pateikė skundą Universitetui, kuris jį valdė. Tačiau šis eksperimentas buvo tik vienas iš to, kas greičiausiai bus daugybė generatyvinių AI robotų atvejų, apsimetančių žmonėmis dėl „Reddit“ dėl įvairių priežasčių, pradedant mokslo ir baigiant politiškai manipuliuojančiu.
Siekdama apsaugoti vartotojus nuo manipuliavimo robotu ir „išlaikyti„ Reddit Human ““, bendrovė tyliai pranešė apie artėjantį veiksmą – tokį, kuris gali būti nepopuliarus vartotojams, kurie atvyksta į „Reddit“ dėl kitos priežasties: anonimiškumas.
Pirmadienį „Reddit“ generalinis direktorius Steve'as Huffmanas pasidalino įraše, kad „Reddit“ pradės dirbti su „įvairiomis trečiųjų šalių tarnybomis“, kad patikrintų vartotojo žmoniją. Tai yra reikšmingas žingsnis platformai, kuriai istoriškai nereikalavo jokios asmeninės informacijos vartotojams, kad būtų sukurta paskyra.
„Norėdami išlaikyti„ Reddit Human “ir patenkinti besikeičiančius reguliavimo reikalavimus, mums reikės šiek tiek daugiau informacijos“, – rašė Huffmanas. „Tiksliau, mes turėsime žinoti, ar esate žmogus, ir kai kuriose vietose, jei esate suaugęs. Bet mes niekada nenorime sužinoti jūsų vardo ar kas esate“.
„TechCrunch“ renginys
Berkeley, CA
|
Birželio 5 d
Užsisakykite dabar
(Socialinės žiniasklaidos bendrovės jau pradėjo įgyvendinti ID patikrinimus po mažiausiai devynių valstijų ir JK ir priėmė įstatymus, įpareigojančius amžių tikrinimą apsaugoti vaikus savo platformose.)
„Reddit“ atstovas spaudai atsisakė paaiškinti, kokiomis aplinkybėmis įmonė reikalautų, kad vartotojai pereis patikrinimo procesą, nors jie patvirtino, kad „Reddit“ jau imasi priemonių uždrausti „blogus“ robotus. Atstovas taip pat nesidalintų daugiau informacijos apie tai, kokias trečiųjų šalių paslaugas įmonė naudotų ar kokią asmeniškai identifikuojančią informaciją vartotojams turės pasiūlyti.
Šiandien daugelis kompanijų remiasi tokiomis patikrinimo platformomis kaip „Persona“, „Lydinis“, „Stripe Identity“, „Plaid“ ir „Footprint“, kurioms paprastai reikalingas vyriausybės išduotas ID, kad būtų galima patikrinti amžių ir žmoniją. Tada yra naujesnės ir spekuliatyvesnės technologijos, tokios kaip Samo Altmano įrankiai žmonijai ir jo akių nuskaitymo „žmogaus įrodymas“.
Oponentai, norėdami patikrinti asmens tapatybės patikrinimus, sako, kad kyla duomenų privatumo ir saugumo rizikos, kad galėtumėte pasidalyti savo asmenine informacija su socialinės žiniasklaidos platformomis. Tai ypač pasakytina apie tokią platformą kaip „Reddit“, kurioje žmonės ateina paskelbti patirties, kurios galbūt niekada neturėtų, jei jų vardai būtų pristatyti.
Nėra sunku įsivaizduoti pasaulį, kuriame valdžios institucijos gali pakenkti „Reddit“ dėl, pavyzdžiui, nėščios paauglės tapatybės, klausdama apie abortų patirtį R/moterims tose valstijose, kur ji dabar yra neteisėta. Tiesiog pažiūrėkite, kaip „Meta“ perdavė privačius Nebraskos moters ir jos 17-metės dukters pokalbius, kurie aptarė pastarojo planus nutraukti nėštumą. „Meta“ pagalba paskatino teisėsaugą įsigyti kratos orderį, dėl kurio motina ir dukra buvo sumokėta kaltinimais.
Būtent rizika Reddit tikisi išvengti bakstelėjant išorės firmas, kad pateiktų „esminę informaciją ir nieko daugiau“, per Huffmaną, kuris pabrėžė, kad „mes niekada nenorime žinoti jūsų vardo ar kas tu esi“.
„Anonimiškumas yra labai svarbus norint reddituoti“, – sakė jis.
Generalinis direktorius taip pat pažymėjo, kad „Reddit“ ir toliau bus „ypač apsaugoti jūsų asmeninę informaciją“ ir „ir toliau atsitrauks nuo per didelių ar nepagrįstų valstybinių ar privačių valdžios institucijų reikalavimų“.
