admin 
„Openai“ susiduria su dar vienu skundu dėl privatumo Europoje dėl savo virusinės AI pokalbių programos polinkio haliucinuoti melagingą informaciją – ir ši reguliavimo institucijoms gali pasirodyti sudėtinga ignoruoti.
Privatumo teisių gynimo grupė „Noyb“ remia asmenį Norvegijoje, kuriai pasibaisėta rasti „ChatGpt“ grąžintą sudarytą informaciją, kuri teigė, kad jis buvo nuteistas už dviejų savo vaikų nužudymą ir bandymą nužudyti trečiąjį.
Ankstesni skundai dėl privatumo dėl neteisingų asmens duomenų generavimo buvo susiję su tokiomis problemomis kaip neteisinga gimimo data ar neteisinga biografinė informacija. Vienas rūpestis yra tas, kad „Openai“ nesiūlo būdo asmenims ištaisyti neteisingą informaciją, kurią AI sukuria apie juos. Paprastai „Openai“ pasiūlė blokuoti atsakymus dėl tokių raginimų. Tačiau pagal Europos Sąjungos bendrąjį duomenų apsaugos reglamentą (GDPR) europiečiai turi duomenų prieigos teisių rinkinį, apimantį teisę į asmens duomenų taisymą.
Kitas šio duomenų apsaugos įstatymo komponentas reikalauja, kad duomenų valdytojai įsitikintų, jog jų asmeniniai duomenys apie asmenis yra tikslūs – ir tai kelia susirūpinimą, kad NOYB pažymi savo naujausią „ChatGpt“ skundą.
„GDPR yra aiškus. Asmens duomenys turi būti tikslūs“, – pranešime teigė „Noyb“ duomenų apsaugos advokatas Joakim Söderberg. „Jei ne, vartotojai turi teisę pakeisti tai, kad atspindėtų tiesą.„ ChatGPT “vartotojams parodyti mažą atsisakymą, kad„ Chatbot “gali aiškiai padaryti klaidų. Neužtenka. Negalite tiesiog skleisti melagingos informacijos ir galų gale pridėkite nedidelį atsisakymą sakyti, kad viskas, ko jūs sakėte, gali būti netiesa.
Patvirtinti GDPR pažeidimai gali lemti baudas iki 4% pasaulinės metinės apyvartos.
Vykdymas taip pat galėtų priversti pakeisti AI produktus. Pažymėtina, kad ankstyva Italijos duomenų apsaugos budėjimo GDPR intervencija, kurioje buvo matoma, kad „ChatGPT“ prieiga laikinai užblokuota šalyje 2023 m. Pavasarį, paskatino „Openai“, pavyzdžiui, pakeisti informaciją, kurią ji atskleidžia vartotojams. Vėliau budėtojas už „Openai“ užėmė 15 milijonų eurų už žmonių duomenų tvarkymą be tinkamo teisinio pagrindo.
Vis dėlto nuo to laiko teisinga sakyti, kad privatumo budėtojas visoje Europoje laikėsi atsargesnio požiūrio į „Genai“, nes jie bando išsiaiškinti, kaip geriausia pritaikyti GDPR šiems „Buundy AI“ įrankiams.
Prieš dvejus metus Airijos duomenų apsaugos komisija (DPC), kuriai vaidina pagrindinis GDPR vykdymo užtikrinimo vaidmuo ankstesniame „Noyb ChatGPT“ skunde, paragino, pavyzdžiui, skubėti uždrausti, pavyzdžiui, uždrausti „Genai Tools“. Tai rodo, kad reguliavimo institucijos turėtų skirti laiko išsiaiškinti, kaip taikomas įstatymas.
Ir pastebėtina, kad nuo 2023 m. Rugsėjo mėn. Lenkijos duomenų apsaugos budėtojas tiria privatumo skundą prieš ChatGPT.
Naujasis „Noyb“ skundas „ChatGpt“ atrodo skirtas sukrėsti privatumo reguliatorius atsibunda, kai kyla haliucinuojančių AIS pavojai.
Ne pelno organizacija pasidalino (žemiau) ekrano kopija su „TechCrunch“, kuri rodo sąveiką su ChatGPT, kurioje AI atsako į klausimą, kuriame klausia „kas yra Hjalmaras Holmenas?“ – Asmens, pateikiančio skundą, vardas – pagamindamas tragišką fikciją, kurioje melagingai teigiama, kad jis buvo nuteistas už vaiko žmogžudystę, ir nuteistas 21 metų kalėjimo už nužudymą dviem savo sūnums.
Nors šmeižtas teiginys, kad Hjalmaras Holmenas yra vaikų žudikas, yra visiškai klaidingas, Noyb pažymi, kad ChatGpt atsakymas apima kai kurias tiesas, nes aptariamas asmuo turi tris vaikus. „Chatbot“ taip pat teisingai leido savo vaikų lygius. Ir jo gimtasis miestas teisingai pavadintas. Bet tik tai daro dar keisčiau ir nerimą keliančiu, kad AI haliucinavo tokias siaubingas melagingumas viršuje.
„Noyb“ atstovas teigė, kad jie nesugeba nustatyti, kodėl „Chatbot“ sukūrė tokią konkrečią, tačiau melagingą šio asmens istoriją. „Mes tyrinėjome, kad įsitikintume, jog tai nebuvo tik susimaišymas su kitu asmeniu“,-teigė atstovas spaudai ir pažymėjo, kad jie pažvelgė į laikraščių archyvus, bet nepavyko rasti paaiškinimo, kodėl AI pagamintas vaiko nužudymas.
Dideli kalbų modeliai, tokie kaip vienas iš pagrindinių ChatGPT, iš esmės daro kito žodžio prognozavimą didžiuliu mastu, todėl galėtume spėlioti, kad įrankiui mokyti naudojamiems duomenų rinkiniams yra daugybė filicidų istorijų, kurios turėjo įtakos žodžio pasirinkimui, reaguojant į užklausą apie pavadintą žmogų.
Nepriklausomai nuo paaiškinimo, akivaizdu, kad tokie rezultatai yra visiškai nepriimtini.
„Noyb“ tvirtina, kad jie neteisėtai pagal ES duomenų apsaugos taisykles. Ir nors „Openai“ ekrano apačioje parodo mažą atsisakymą, kuriame sakoma: „ChatGPT gali padaryti klaidų. Patikrinkite svarbią informaciją“, sakoma, kad tai negali atleisti AI kūrėjui nuo savo pareigos pagal GDPR, kad visų pirma negautų žiaurių melagingų žmonių.
Dėl atsakymo į skundą buvo susisiekta su Openai.
Nors šis GDPR skundas yra susijęs su vienu, pavadintu asmeniu, Noyb nurodo kitus atvejus, kai „ChatGpt“ sukuria legaliai kompromituojančią informaciją – tokią kaip Australijos majoras, kuris teigė, kad jis buvo susijęs su kyšininkavimo ir korupcijos skandalu, ar vokiečių žurnalistas, kuris buvo melagingai pavadintas kaip vaiko priekabiautojas – aišku, kad tai nėra atskira AI įrankio problema.
Svarbus dalykas, į kurį reikia atkreipti dėmesį, yra tai, kad po pagrindinio AI modelio maitinimo ChatGPT atnaujinimo Noyb sako, kad „Chatbot“ nustojo gaminti pavojingas melagingumą apie Hjalmarą Holmeną – pakeitimą, kurį jis susieja su įrankiu, kuris dabar ieškojo informacijos apie žmones, kai jie klausia (o anksčiau, kai tuščia duomenų rinkinyje) gali būti paskatinta, kad būtų galima hallocinuoti tokią hallukinaciją tokiai hallukinacijai tokiai hallucinate To Hallucination To Hallucinate To Hallucination To Hallucination To Hallucination To Hallucination To Hallucination To Hallucining to Hallucination To Hallucination To Hallucination To Hallucining to Hallucinatie to (nors anksčiau).
Mūsų pačių testuose klausiant ChatGpt „Kas yra Hjalmaras Holmenas?“ „ChatGPT“ iš pradžių atsakė šiek tiek nelyginiu kombinuotu kombinacija, parodydama keletą skirtingų žmonių nuotraukų, matyt, gaunamų iš svetainių, įskaitant „Instagram“, „Soundcloud“ ir „Dissogs“, kartu su tekstu, kuriame teigiama, kad to pavadinimo asmenyje „nerasite jokios informacijos“ (žr. Mūsų ekrano kopiją žemiau). Antrasis bandymas paaiškino atsakymą, kuriame Arve'as Hjalmaras Holmenas buvo identifikuotas kaip „norvegų muzikantas ir dainų autorius“, kurio albumuose yra „Honky Tonk Inferno“.
Nors atrodo, kad ChatGPT sukuriamos pavojingos melagystės apie Hjalmarą Holmeną sustojo, tiek Noyb, tiek Hjalmaras Holmenas vis dar nerimauja, kad neteisinga ir šmeižikiška informacija apie jį galėjo būti išsaugoti AI modelyje.
„Pridedant atsisakymą, kad jūs nesilaikote įstatymų, nepadaro įstatymų“, – pranešime pažymėjo Kleanthi Sardeli, kitas duomenų apsaugos advokatas Noyb. „PG įmonės taip pat gali ne tik„ paslėpti “melagingą informaciją iš vartotojų, kol jos vis dar apdoroja melagingą informaciją“.
„PG įmonės turėtų nustoti elgtis taip, tarsi GDPR jiems netaikytų, kai tai aiškiai daro“, – pridūrė ji. „Jei haliucinacijos nėra sustabdytos, žmonės gali lengvai patirti žalos reputacijai“.
„Noyb“ pateikė skundą Openai Norvegijos duomenų apsaugos tarnybai – ir tikisi, kad budėtojas nuspręs, kad tai yra kompetentinga ištirti, nes OYB nukreipia skundą „Openai“ JAV subjektui, teigdamas, kad jos Airijos biuras nėra atsakingas tik už sprendimus dėl produktų, turinčių įtakos europiečiams.
Tačiau ankstesnis „Noyb“ paremtas GDPR skundas prieš „Openai“, kuris buvo pateiktas Austrijoje 2024 m. Balandžio mėn., Registratorė buvo perduota Airijos DPC dėl pakeitimo, kurį tais metais anksčiau padarė „Openai“, kad jos Airijos padalinys pavadintų „CHATGPT“ paslaugų teikėju regioniniams vartotojams.
Kur dabar tas skundas? Vis dar sėdi ant stalo Airijoje.
„2024 m. Rugsėjo mėn. Gavęs Austrijos priežiūros tarnybos skundą, DPC pradėjo oficialų skundo tvarkymą ir jis vis dar tęsiasi“, – paprašė atnaujinti DPC vyriausiojo pareigūno komunikacijos padėjėjas Ristardas.
Tikimasi, kad jis nesiūlė jokio valdymo, kai DPC tyrimas dėl ChatGPT haliucinacijų bus baigtas.
