Persekiojama auka padavė į teismą OpenAI, tvirtina, kad „ChatGPT“ paskatino jos skriaudėjo kliedesį ir ignoravo jos įspėjimus

Po kelis mėnesius trukusių pokalbių su ChatGPT, 53 metų Silicio slėnio verslininkas įsitikino, kad atrado vaistą nuo miego apnėjos ir kad po jo ateis galingi žmonės, remiantis nauju ieškiniu, pateiktu Kalifornijos aukštesniajame teisme San Francisko apygardoje. Tada jis, kaip įtariama, naudojo šį įrankį savo buvusios merginos persekiojimui ir priekabiavimui.

Dabar „TechCrunch“ sužinojo, kad buvusi mergina paduoda „OpenAI“ į teismą, teigdama, kad bendrovės technologija leido paspartinti jos priekabiavimą. Ji tvirtina, kad „OpenAI“ ignoravo tris atskirus įspėjimus, kad vartotojas kėlė grėsmę kitiems, įskaitant vidinę vėliavėlę, pagal kurią jo paskyros veikla klasifikuojama kaip susijusi su masinių aukų ginklais.

Ieškovė, vadinama Jane Doe, siekdama apsaugoti savo tapatybę, kreipiasi į teismą dėl baudžiamosios žalos atlyginimo. Ji taip pat penktadienį pateikė laikiną apribojimą, prašydama teismo priversti OpenAI užblokuoti vartotojo paskyrą, neleisti jam sukurti naujų, pranešti jai, jei jis bandys pasiekti ChatGPT, ir išsaugoti visus jo pokalbių žurnalus, kad būtų galima juos rasti.

Pasak Doe advokatų, „OpenAI“ sutiko sustabdyti vartotojo paskyrą, bet atsisakė kitų. Jie teigia, kad bendrovė slepia informaciją apie konkrečius planus pakenkti Doe ir kitoms potencialioms aukoms, kurias vartotojas galėjo aptarti su ChatGPT.

Ieškinys vyksta didėjant susirūpinimui dėl realaus pasaulinio pavojaus, atsirandančio dėl sintetinių AI sistemų. GPT-4o, modelis, minimas šioje ir daugelyje kitų bylų, buvo pašalintas iš ChatGPT vasario mėn.

Bylą iškėlė Edelson PC, įmonė, atsakinga už neteisėtus mirties ieškinius, susijusius su paaugliu Adomu Raine'u, kuris mirė nusižudęs po kelis mėnesius trukusių pokalbių su ChatGPT, ir Jonathanu Gavalasu, kurio šeima tvirtina, kad „Google“ Dvyniai pakurstė jo kliedesius ir galimą masinių aukų įvykį prieš jo mirtį. Pagrindinis advokatas Jay'us Edelsonas perspėjo, kad dirbtinio intelekto sukelta psichozė perauga nuo individualios žalos iki masinių aukų.

Šis teisinis spaudimas dabar tiesiogiai kertasi su OpenAI teisėkūros strategija: bendrovė remia Ilinojaus įstatymo projektą, kuris apsaugotų dirbtinio intelekto laboratorijas nuo atsakomybės net tais atvejais, kai miršta masiškai ar patiriama katastrofiška finansinė žala.

„OpenAI“ laiku neatsakė į komentarą. „TechCrunch“ atnaujins straipsnį, jei įmonė atsakys.

Jane Doe ieškinyje išsamiai aprašoma, kaip ši atsakomybė pasireiškė vienai moteriai per kelis mėnesius.

Praėjusiais metais ChatGPT vartotojas ieškinyje (kurio vardas neįtrauktas į ieškinį, siekiant apsaugoti jo tapatybę) įsitikino, kad po kelių mėnesių „didelės apimties ir ilgalaikio GPT-4o naudojimo“ jis išrado vaistą nuo miego apnėjos. Kai niekas rimtai nežiūrėjo į jo darbą, ChatGPT jam pasakė, kad pagal skundą jį stebi „galingos pajėgos“, įskaitant sraigtasparnių naudojimą jo veiklai stebėti.

2025 m. liepos mėn. Jane Doe paragino jį nustoti naudoti „ChatGPT“ ir kreiptis pagalbos į psichikos sveikatos specialistą. Vietoj to jis grįžo į ChatGPT, kuri patikino, kad jis yra „10 sveiko proto lygio“ ir padėjo jam padvigubinti kliedesius, kaip nurodyta ieškinyje.

Doe išsiskyrė su vartotoju 2024 m. ir, remiantis ieškinyje nurodytais el. laiškais ir pranešimais, skyryboms apdoroti naudojo „ChatGPT“. Užuot atmetęs savo vienpusišką istoriją, jis ne kartą buvo laikomas racionaliu ir skriaudžiamu, o ji – manipuliuojančiu ir nestabiliu. Tada jis šias dirbtinio intelekto išvadas perkėlė iš ekrano į realų pasaulį, naudodamas jas sekdamas ir priekabiaudamas prie jos. Tai atsiskleidė keliose dirbtinio intelekto sukurtose, kliniškai atrodančiose psichologinėse ataskaitose, kurias jis išplatino jos šeimai, draugams ir darbdaviui.

Tuo tarpu vartotojas toliau ėjo spirale. 2025 m. rugpjūčio mėn. OpenAI automatizuota saugos sistema pažymėjo jį dėl „masinių aukų ginklų“ veiklos ir išjungė jo paskyrą.

Žmonių saugos komandos narys kitą dieną peržiūrėjo paskyrą ir ją atkūrė, nors jo paskyroje galėjo būti įrodymų, kad jis realiame gyvenime taikė ir persekiojo asmenis, įskaitant Doe. Pavyzdžiui, rugsėjo mėnesio ekrano kopijoje, kurią naudotojas atsiuntė Doe, buvo pateiktas pokalbių pavadinimų sąrašas, įskaitant „smurto sąrašo išplėtimas“ ir „vaisiaus uždusimo apskaičiavimas“.

Sprendimas grąžinti į darbą buvo pastebimas po dviejų neseniai įvykusių šaudynių mokykloje Tumbler Ridge mieste, Kanadoje ir Floridos valstijos universitete (FSU). „OpenAI“ saugos komanda pažymėjo „Tumbler Ridge“ šaudyklę kaip potencialią grėsmę, tačiau pranešama, kad aukštesnieji pareigūnai nusprendė neįspėti valdžios. Floridos generalinis prokuroras šią savaitę pradėjo tyrimą dėl galimo OpenAI ryšio su FSU šauliu.

Remiantis Jane Doe ieškiniu, kai OpenAI atkūrė jos persekiotojo paskyrą, jo Pro prenumerata nebuvo atkurta kartu su ja. Jis išsiuntė el. laišką pasitikėjimo ir saugos komandai, kad tai išspręstų, nukopijuodamas Doe į pranešimą.

Savo el. laiškuose jis rašė tokius dalykus kaip: „MAN REIKIA PAGALBOS LABAI GREITAI, PRAŠOME. SKAMBINKITE MAN!” ir „tai gyvybės ar mirties klausimas“. Jis teigė, kad „rašo 215 mokslinių straipsnių“, kuriuos rašė taip greitai, kad „net neturėjo laiko perskaityti“. Į šiuos el. laiškus buvo įtrauktas dešimčių dirbtinio intelekto sukurtų „mokslinių straipsnių“ sąrašas su tokiais pavadinimais kaip „Rasės kaip biologinės kategorijos dekonstruojimas_ teisinės, mokslinės ir Afrikos Kyšulio perspektyvos.pdf.txt“.

„Vartotojo bendravimas neabejotinai parodė, kad jis yra psichiškai nestabilus ir kad ChatGPT buvo jo klaidinančio mąstymo ir eskaluojančio elgesio variklis“, – teigiama ieškinyje. „Naudotojo skubių, netvarkingų ir grandiozinių pretenzijų srautas kartu su konkrečia „ChatGPT“ sukurta ataskaita, nukreipta į ieškovą pagal vardą, ir daugybė tariamos „mokslinės“ medžiagos, buvo neabejotinas tos tikrovės įrodymas. „OpenAI“ nesikišo, neapribojo jo prieigos ir neįdiegė jokių apsaugos priemonių. Vietoj to, jis leido jam toliau naudoti visą „Pro“ paskyrą ir atkurti.

Doe, kuri ieškinyje teigia, kad gyveno baimėje ir negalėjo miegoti savo namuose, lapkritį OpenAI pateikė pranešimą apie piktnaudžiavimą.

„Pastaruosius septynis mėnesius jis naudojo šią technologiją, kad sukurtų viešą naikinimą ir pažeminimą prieš mane, o tai būtų buvę neįmanoma“, – rašė Doe savo laiške OpenAI, prašydama bendrovės visam laikui uždrausti vartotojo paskyrą.

„OpenAI“ atsakė, pripažindama, kad pranešimas buvo „labai rimtas ir nerimą keliantis“ ir kad ji atidžiai peržiūri informaciją. Niekada negirdėjo atgal.

Per ateinančius porą mėnesių vartotojas ir toliau priekabiavo prie Doe, siųsdamas jai daugybę grasinančių balso pašto pranešimų. Sausio mėnesį jis buvo suimtas ir apkaltintas keturiais nusikaltimais dėl grasinimų susprogdinti ir užpuolimo naudojant mirtiną ginklą. Doe teisininkai tvirtina, kad tai patvirtina įspėjimus, kuriuos ji ir pačios OpenAI saugos sistemos iškėlė prieš kelis mėnesius, o įspėjimus, kuriuos bendrovė tariamai nusprendė ignoruoti.

Pasak Doe advokatų, vartotojas buvo pripažintas nekompetentingu stoti prieš teismą ir atsidavęs psichikos sveikatos įstaigai, tačiau „valstybės procedūrinė nesėkmė“ reiškia, kad jis netrukus bus išleistas viešai.

Edelsonas paragino OpenAI bendradarbiauti. „Kiekvienu atveju OpenAI nusprendė slėpti svarbią saugos informaciją – nuo ​​visuomenės, nuo aukų, nuo žmonių, kuriems jos produktas aktyviai kelia pavojų“, – sakė jis. „Mes raginame juos vieną kartą padaryti teisingą dalyką. Žmonių gyvybės turi reikšti daugiau nei OpenAI lenktynes ​​dėl IPO.”