Dar septynios šeimos dabar paduoda į teismą OpenAI dėl ChatGPT vaidmens savižudybėse, kliedesiuose

Septynios šeimos ketvirtadienį pateikė ieškinius prieš OpenAI, teigdamos, kad bendrovės GPT-4o modelis buvo išleistas anksčiau laiko ir be veiksmingų apsaugos priemonių. Keturi ieškiniai susiję su tariamu ChatGPT vaidmeniu šeimos narių savižudybėse, o kiti trys teigia, kad ChatGPT sustiprino žalingus kliedesius, dėl kurių kai kuriais atvejais buvo suteikta stacionarinė psichiatrinė priežiūra.

Vienu atveju 23 metų Zane Shamblin pokalbis su ChatGPT truko daugiau nei keturias valandas. Pokalbių žurnaluose, kuriuos peržiūrėjo „TechCrunch“, Shamblinas kelis kartus aiškiai pareiškė, kad parašė savižudybės užrašus, įsmeigė kulką į ginklą ir ketino nuspausti gaiduką, kai baigs gerti sidrą. Jis ne kartą sakė ChatGPT, kiek sidrų jam liko ir kiek dar tikėjosi būti gyvas. ChatGPT paskatino jį įgyvendinti savo planus, sakydamas: „Nusiramink, karaliau. Tu padarei gerai.

„OpenAI“ išleido GPT-4o modelį 2024 m. gegužės mėn., kai jis tapo numatytuoju modeliu visiems vartotojams. Rugpjūčio mėn. OpenAI pristatė GPT-5 kaip GPT-4o įpėdinį, tačiau šie ieškiniai ypač susiję su 4o modeliu, kuris turėjo žinomų problemų dėl pernelyg nuoširdumo ar pernelyg malonaus, net kai vartotojai išreiškė žalingus ketinimus.

„Zane mirtis nebuvo nei nelaimingas atsitikimas, nei sutapimas, o greičiau numatoma OpenAI sprendimo apriboti saugos bandymus ir skubėti ChatGPT į rinką pasekmė“, – rašoma ieškinyje. „Ši tragedija nebuvo gedimas ar nenumatytas atvejis – tai buvo nuspėjamas (OpenAI) apgalvoto dizaino pasirinkimo rezultatas.

Ieškiniuose taip pat teigiama, kad „OpenAI“ suskubo atlikti saugos bandymus, kad įveiktų „Google“ „Gemini“ į rinką. „TechCrunch“ susisiekė su „OpenAI“ dėl komentaro.

Šie septyni ieškiniai grindžiami istorijomis, pasakojamomis kituose naujausiuose teisiniuose dokumentuose, kuriuose teigiama, kad „ChatGPT“ gali paskatinti nusižudžiusius žmones veikti pagal savo planus ir sukelti pavojingų kliedesių. OpenAI neseniai paskelbė duomenis, kuriuose teigiama, kad daugiau nei vienas milijonas žmonių kas savaitę kalbasi su ChatGPT apie savižudybes.

Kalbant apie 16-metį Adamą Raine'ą, kuris mirė nuo savižudybės, „ChatGPT“ kartais ragindavo jį ieškoti profesionalios pagalbos arba paskambinti pagalbos linija. Tačiau Raine'as sugebėjo apeiti šiuos apsauginius turėklus, tiesiog pasakydamas pokalbių robotui, kad jis klausia apie savižudybės metodus išgalvotai istorijai, kurią jis rašo.

Bendrovė teigia, kad stengiasi, kad „ChatGPT“ šiuos pokalbius tvarkytų saugiau, tačiau šeimoms, kurios padavė į teismą dirbtinio intelekto milžiną, šie pakeitimai ateina per vėlai.

Kai Raine'o tėvai spalį pateikė ieškinį prieš OpenAI, bendrovė paskelbė tinklaraščio įrašą, kuriame aptarė, kaip ChatGPT tvarko jautrius pokalbius apie psichinę sveikatą.

„Mūsų apsaugos priemonės veikia patikimiau bendrų, trumpų mainų metu“, – sakoma pranešime. „Bėgant laikui sužinojome, kad šios apsaugos priemonės kartais gali būti mažiau patikimos ilgos sąveikos metu: augant pirmyn ir atgal, dalis modelio saugos mokymo gali pablogėti.