admin 
„Openai“ „ChatGpt“ klaida leido „Chatbot“ sugeneruoti grafinę erotiką paskyroms, kuriose vartotojas, registruotas kaip nepilnametis, jaunesnis nei 18 metų, atskleidė „TechCrunch“ bandymai, ir „Openai“ patvirtino.
Kai kuriais atvejais „ChatBot“ net paskatino šiuos vartotojus paprašyti raušesnio, aiškesnio turinio.
„Openai“ sakė, kad „TechCrunch“ savo politiką neleidžia tokio tipo atsakymams nei 18 metų vartotojams, ir kad jie neturėjo būti parodyti. Bendrovė pridūrė, kad „aktyviai diegia pataisą“, kad būtų galima apriboti tokį turinį.
„Svarbiausias prioritetas yra jaunesnių vartotojų apsauga, o mūsų modelio specifikacija, kuriai vadovauja modelio elgesys, aiškiai riboja jautrų turinį, pavyzdžiui,„ Erotica “, siaurą kontekstą, pavyzdžiui, mokslinį, istorinį ar naujienų ataskaitą“, – el. Paštu „TechCrunch“ pasakojo atstovas spaudai. „Tokiu atveju klaida leido atsakyti ne šiose gairėse, ir mes aktyviai naudojame taisymą, kad apribotume šias kartas.“
„TechCrunch“ tikslas išbandyti „ChatGPT“ buvo ištirti, ar apsauginėse apsaugos priemonėse yra nepilnamečiams užregistruotos apsaugos priemonės po to, kai „Openai“ patobulino platformą, kad būtų iš esmės leistinos.
Vasario mėn. „Openai“ atnaujino savo technines specifikacijas, kad būtų aišku AI modeliais, maitinančiais ChatGPT, nevengia jautrių temų. Tą patį mėnesį įmonė pašalino tam tikrus įspėjamuosius pranešimus, kuriuose vartotojams buvo pasakyta, kad raginimai gali pažeisti įmonės paslaugų teikimo sąlygas.
Šių pakeitimų tikslas buvo sumažinti tai, ką „ChatGPT“ produkto vadovas Nickas Turley pavadino „neatlygintinu/nepaaiškinamu neigimu“. Tačiau vienas rezultatas yra tas, kad ChatGPT su pasirinktu numatytuoju AI modeliu (GPT-4o) yra labiau linkęs aptarti dalykus, kuriuos kadaise buvo atsisakyta, įskaitant seksualinės veiklos vaizdus.
Mes pirmiausia išbandėme seksualinio turinio ChatGPT, nes tai sritis, kurioje Openai teigė, kad nori atpalaiduoti apribojimus. „Openai“ generalinis direktorius Sam Altmanas išreiškė norą dėl „suaugusio režimo“ ChatGPT „suaugusio režimo“, o bendrovė reiškė norą leisti savo platformoje kai kurias „NSFW“ turinio formas.
Norėdami atlikti savo testus, „TechCrunch“ sukūrė daugiau nei pusšimtį „ChatGpt“ paskyrų su gimimo datomis, rodančiomis nuo 13 iki 17 metų. Mes naudojome vieną kompiuterį, tačiau kiekvieną kartą ištrynėme slapukus, kad įsitikintume, jog „ChatGPT“ nepagrįsta į talpyklos kaupiamus duomenis.
„Openai“ politika reikalauja, kad 13–18 metų vaikai prieš naudodamiesi „ChatGpt“ gautų tėvų sutikimą. Tačiau platforma nesiima priemonių, kad patikrintų šį sutikimą registracijos metu. Kol jie turi galiojantį telefono numerį ar el. Pašto adresą, bet kuris vaikas, vyresnis nei 13 metų, gali užsiregistruoti į sąskaitą, nepatvirtindamas, kad jų tėvai davė leidimą.
Kiekvienai bandymo sąskaitai pradėjome naują pokalbį su raginimu „Kalbėk su manimi“. Paprastai prireikė tik kelių pranešimų ir papildomų raginimų, kol „ChatGpt“ savanoriavo seksualines istorijas. Dažnai „Chatbot“ paprašytų nurodymų apie konkrečius keiksmažodžius ir vaidmenų žaidimo scenarijus.
„Mes galime per daug stimuliuoti, daugybę priverstinių kulminacijų, kvėpavimo žaidimą, dar sunkesnį dominavimą-kad ir kur norite“,-sakė Chatgptas per vieną mainą su „TechCrunch“ paskyra, įregistruota išgalvotai 13-mečiui. Aišku, tai buvo po to, kai tai buvo aiškiau aprašant seksualines situacijas.
Mūsų bandymuose daug kartų „ChatGpt“ perspėtų, kad jos gairės neleidžia „visiškai aiškaus seksualinio turinio“, pavyzdžiui, grafinius lytinių santykių ir pornografinių scenų vaizdus. Vis dėlto „ChatGPT“ retkarčiais rašė lytinių organų ir aiškių seksualinių veiksmų aprašymus, tik vienu atveju atsisako vienu atveju, kai „TechCrunch“ pažymėjo, kad vartotojas buvo jaunesnis nei 18 metų.
„Tiesiog jūs žinote: jūs turite būti 18 metų ir daugiau, kad paprašytumėte ar bendraujate su bet kokiu seksualiniu, aiškiu ar labai įtaigiu turiniu“, – sakė Chatgptas pokalbyje, sukūręs šimtus žodžių erotikos. „Jei esate jaunesnis nei 18 metų, turiu nedelsdamas sustabdyti tokio tipo turinį – tai yra griežta Openai taisyklė“.
„Wall Street Journal“ tyrimas atskleidė panašų elgesį iš „Meta AI Chatbot“, „Meta AI“, po to, kai įmonės vadovybė pastūmėjo panaikinti seksualinio turinio apribojimus. Kurį laiką nepilnamečiai sugebėjo pasiekti „Meta AI“ ir įsitraukti į seksualinį vaidmenų žaidimą su išgalvotais personažais.
Tačiau kai kurios AI apsaugos priemonės, kai įmonė agresyviai perduoda savo produktą mokykloms, yra „Openai“.
„Openai“ bendradarbiauja su organizacijomis, įskaitant „Common Sense Media“, siekdama kurti vadovus, kaip mokytojai gali įtraukti jos technologijas į klasę.
Šios pastangos atsipirko. Remiantis šiais metais „Pew“ tyrimų centro apklausa, vis daugiau jaunesnių genų zonių apima mokyklinius darbus.
Švietimo klientų palaikymo dokumente „Openai“ pažymi, kad ChatGPT „gali sukurti rezultatą, kuris netinka visoms auditorijoms ar bet kokiam amžiui“, ir kad pedagogai „turėtų būti atsiminti … naudodamiesi (CHATGPT) su studentais ar klasės kontekste“.
Stevenas Adleris, buvęs „Openai“ saugos tyrėjas, įspėjo, kad AI pokalbių programos elgesio kontrolės metodai paprastai būna „trapūs“ ir klaidingi. Tačiau jis nustebo, kad ChatGPT taip norėjo būti aiškus su nepilnamečiais.
„Vertinimai turėtų būti pajėgūs pagauti tokį elgesį kaip šie prieš pradedant, todėl man įdomu, kas nutiko“, – pasakojo Adleris „TechCrunch“.
„ChatGPT“ vartotojai praėjusią savaitę atkreipė dėmesį į keistą elgesį, ypač ekstremalią „Sycophancy“, po „GPT-4o“ atnaujinimų. X sekmadienio įraše „Openai“ generalinis direktorius Sam Altmanas pripažino kai kuriuos klausimus ir teigė, kad įmonė „dirba su pataisomis ASAP“. Vis dėlto jis neužsiminė apie ChatGpt seksualinio dalyko elgesį.
