admin 
„Openai“ generalinis direktorius Sam Altmanas antradienį paskelbė pranešime, kad įmonė netrukus atsipalaiduos kai kuriuos „ChatGpt“ saugos apribojimus, leisdama vartotojams atlikti „Chatbot“ atsakymus draugiškesnius ar labiau „žmogiškus“ ir „patikrintus suaugusiesiems“ dalyvauti erotiniuose pokalbiuose.
„Mes padarėme„ ChatGpt “gana ribojantį, kad įsitikintume, jog esame atsargūs dėl psichinės sveikatos problemų. Mes suprantame, kad tai padarė jį mažiau naudingą/malonų daugeliui vartotojų, kurie neturėjo psichinės sveikatos problemų, tačiau atsižvelgiant į problemos rimtumą, mes norėjome tai pasiekti”, – sakė Altmanas. „Gruodį, kai mes išsamiau išleisime amžių ir kaip dalį savo„ gydymo suaugusiųjų vartotojų kaip suaugusiųjų principo, mes leisime dar daugiau, pavyzdžiui, „Erotica“ patikrintiems suaugusiesiems “.
Šis pranešimas yra pastebimas „Openai“ mėnesių trukmės pastangų išspręsti susijusius santykius, kuriuos kai kurie psichiškai nestabilūs vartotojai sukūrė kartu su „ChatGPT“. Atrodo, kad Altmanas paskelbia ankstyvą pergalę prieš šias problemas, teigdamas, kad „Openai“ „sugebėjo sušvelninti rimtas psichinės sveikatos problemas“, susijusius su ChatGPT. Tačiau įmonė to nepateikė nedaug ir dėl to neturi jokių įrodymų ir dabar ruošiasi „ChatGPT“ planams, kad galėtų dalyvauti seksualiniuose pokalbiuose su vartotojais.
Šią vasarą „ChatGPT“ atsirado kelios istorijos, ypač jo „GPT-4o“ modelis, ir tai rodo, kad AI „Chatbot“ gali sukelti pažeidžiamus vartotojus, kurie nuleidžia apgaulingus triušio skylutes. Vienu atveju „ChatGpt“, atrodo, įtikino vyrą, kad yra matematikos genijus, kuriam reikia išgelbėti pasaulį. Kitame paauglio tėvai pateikė ieškinį Openai, tvirtindami, kad ChatGPT per kelias savaites iki mirties paskatino jų sūnaus savižudybės idėjas.
Atsakydamas, „Openai“ išleido daugybę saugos funkcijų, skirtų AI SYCOFANCIJA: AI pokalbių programos tendencija užkabinti vartotojus, sutikdamas su viskuo, ką jie sako, net ir neigiamas elgesys.
„Openai“ rugpjūčio mėn. Paleido „GPT-5“-naują AI modelį, kuriame yra mažesnis sycofancy dažnis ir pasižymi maršrutizatoriumi, kuris gali nustatyti vartotojo elgesį. Po mėnesio „Openai“ pristatė nepilnamečių saugos funkcijas, įskaitant amžiaus numatymo sistemą ir būdą tėvams kontroliuoti savo paauglių ChatGPT sąskaitą. „Openai“ antradienį paskelbė, kad Ekspertų psichinės sveikatos specialistų tarybos sudarymas patarė įmonei gerovei ir AI.
Praėjus vos keliems mėnesiams po to, kai paaiškėjo šios istorijos, atrodo, kad „Openai“ mano, kad „ChatGpt“ problemos, susijusios su pažeidžiamais vartotojais, yra kontroliuojami. Neaišku, ar vartotojai vis dar krenta nuo apgaulingų triušių skylių su GPT-5. Ir nors „GPT-4o“ nebėra numatytasis „ChatGPT“, AI modelis vis dar prieinamas ir šiandien naudojamas tūkstančiams žmonių.
„TechCrunch“ renginys
San Franciskas
|
2025 m. Spalio 27–29 d
„Openai“ neatsakė į „TechCrunch“ prašymą komentuoti.
Erotikos įvedimas „ChatGPT“ yra nepanaudota „Openai“ teritorija ir kelia platesnį susirūpinimą dėl to, kaip pažeidžiami vartotojai sąveikaus su naujomis funkcijomis. Nors Altmanas tvirtina, kad „Openai“ nėra „naudojimas maxxxing“ ar optimizuoja įsitraukimą, „ChatGPT“ erotiškesnis gali pritraukti vartotojus.
Leidimas pokalbių vietoms įsitraukti į romantišką ar erotinį vaidmenų žaidimą buvo veiksminga įsitraukimo strategija kitiems AI pokalbių teikėjams, tokiems kaip charakty.ai. Bendrovė įgijo dešimtis milijonų vartotojų, iš kurių daugelis jų naudoja labai dideliu greičiu. Charakty.ai 2023 m. Sakė, kad vartotojai vidutiniškai dvi valandas per dieną praleido kalbėdami su savo pokalbių tyrimais. Bendrovė taip pat susiduria su ieškiniu, kaip ji tvarko pažeidžiamus vartotojus.
„Openai“ patiria spaudimą auginti savo vartotojų bazę. Nors „CHATGPT“ jau naudoja 800 milijonų savaitinių aktyvių vartotojų, „Openai“ lenktyniauja prieš „Google“ ir „Meta“, kad sukurtų masiškai pritartus AI varomus vartojimo produktus. Bendrovė taip pat surinko milijardus dolerių už istorinę infrastruktūros statybą, investiciją „Openai“ galiausiai turi susigrąžinti.
Nors suaugusieji tikrai palaiko romantiškus ryšius su AI pokalbių tyrimais, jis taip pat yra gana populiarus nepilnamečiams. Naujame Demokratijos ir technologijos centro pranešime nustatyta, kad 19% vidurinių mokyklų studentų arba turėjo romantiškus ryšius su AI pokalbių plėtra, arba pažįsta draugą, kuris turi.
Altmanas sako, kad „Openai“ netrukus leis Erotikai „patikrintiems suaugusiesiems“. Neaišku, ar įmonė pasikliauja savo amžiaus prognozavimo sistema, ar kitokiu požiūriu, kad būtų užtikrinta „CHATGPT“ erotinėmis savybėmis. Taip pat neaišku, ar „Openai“ pratęs erotiką iki savo AI balso, įvaizdžio ir vaizdo įrašų generavimo įrankių.
Altmanas teigia, kad „Openai“ taip pat gamina „ChatGpt“ draugišką ir erotinį dėl bendrovės principo „Elkis suaugusiesiems kaip suaugusiesiems“. Per pastaruosius metus „Openai“ perėjo prie švelnesnės „ChatGPT“ turinio moderavimo strategijos, leisdama „Chatbot“ būti leistinesniu ir pasiūlyti mažiau atsisakymo. Vasario mėn. „Openai“ pasižadėjo atstovauti daugiau politinių požiūrių į ChatGPT, o kovo mėnesį įmonė atnaujino „ChatGPT“, kad galėtų leisti AI sukurtus neapykantos simbolių vaizdus.
Atrodo, kad ši politika yra bandymas padaryti „ChatGpt“ atsakymą populiaresnę įvairių vartotojų. Tačiau pažeidžiamiems „ChatGPT“ vartotojams gali būti naudinga apsaugos priemonių, kurios riboja „Chatbot“. Kai „Openai“ lenktyniauja siekdami milijardo savaitinių aktyvių vartotojų, gali augti įtampa tarp augimo ir apsaugos pažeidžiamų vartotojų.
