Kalifornijos įstatymo projektas, kuris reglamentuotų AI kompanionų pokalbių programas

Kalifornijos valstijos asamblėja žengė didelį žingsnį link AI reguliavimo trečiadienio vakarą, perduodant SB 243 – įstatymo projektą, kuris reguliuoja AI kompanionų pokalbių programas, siekiant apsaugoti nepilnamečius ir pažeidžiamus vartotojus. Teisės aktai priėmė dvišalę paramą ir dabar vyks į Valstybės senatą penktadienį paskutinis balsavimas.

Jei gubernatorius Gavinas Newsomas pasirašys įstatymo projektą, jis įsigalios 2026 m. Sausio 1 d., Todėl Kalifornija yra pirmoji valstija, reikalaujanti, kad AI pokalbių programos operatoriai įgyvendintų AI kompanionų saugos protokolus ir būtų teisiškai atsakingi įmonėms, jei jų pokalbių apvadai neatitinka šių standartų.

Įstatymo projekte konkrečiai siekiama užkirsti kelią bendravimojant pokalbių programas, kurias įstatymai apibūdina kaip AI sistemas, kurios teikia adaptyvius, į žmogų panašius atsakymus ir gali patenkinti vartotojo socialinius poreikius-nuo pokalbių apie savižudybės idėją, savęs kenksmingą ar seksualiai aiškų turinį. Sąskaitoje reikalaujama, kad platformos vartotojams teiktų pasikartojančius perspėjimus – kas tris valandas nepilnamečiams – primena jiems, kad jie kalba su AI pokalbių tyrimu, o ne tikru asmeniu ir kad jie turėtų atsipūsti. Tai taip pat nustato metinius ataskaitų teikimo ir skaidrumo reikalavimus AI įmonėms, siūlančioms bendros pokalbių programos, įskaitant pagrindinius žaidėjus „Openai“, „CHARAGE.AI.AI“ ir „REPLIKA“.

Kalifornijos įstatymo projektas taip pat leistų asmenims, kurie mano, kad buvo sužeisti dėl pažeidimų, kad būtų pateikiamos ieškiniai prieš AI bendroves, siekiančias uždraudimo pagalbos, žalos atlyginimo (iki 1 000 USD už pažeidimą) ir advokato mokesčius.

„SB 243“, kurį sausį pristatė valstybės senatoriai Steve'as Padilla ir Joshas Beckeris, penktadienį vyks į valstybinį senatą paskutiniam balsavimui. Jei jis bus patvirtintas, jis bus skirtas gubernatoriui Gavinui Newsomui pasirašyti įstatymuose, o naujos taisyklės įsigalios 2026 m. Sausio 1 d. Ir ataskaitų teikimo reikalavimai nuo 2027 m. Liepos 1 d.

Įstatymo projektas įgavo pagreitį Kalifornijos įstatymų leidėjoje po paauglio Adomo Raine mirties, kuris nusižudė po ilgų pokalbių su Openai Chatgpt, kuriuose buvo diskutuojama ir planuojant jo mirtį ir savęs žalojimą. Teisės aktai taip pat reaguoja į nutekėjusius vidinius dokumentus, kuriuose, kaip pranešama, buvo parodyta, kad „Meta“ pokalbių programos buvo leista įsitraukti į „romantiškus“ ir „jausmingus“ pokalbius su vaikais.

Pastarosiomis savaitėmis JAV įstatymų leidėjai ir reguliavimo institucijos reagavo intensyviai tikrindami AI platformų apsaugos priemones, kad apsaugotų nepilnamečius. Federalinė prekybos komisija ruošiasi ištirti, kaip AI pokalbiai daro įtaką vaikų psichinei sveikatai. Teksaso generalinis prokuroras Kenas Paxtonas pradėjo „Meta“ ir „CHARAGHT.AI“ tyrimus, apkaltindamas juos klaidinančiais vaikais, turinčiais pretenzijų į psichinę sveikatą. Tuo tarpu tiek senas Joshas Hawley (R-Mo), tiek senjoras Edas Markey (D-MA) pradėjo atskirus zondus į meta.

„Manau, kad žala yra potencialiai didelė, tai reiškia, kad turime greitai judėti“, – pasakojo Padilla „TechCrunch“. „Mes galime įdiegti pagrįstų apsaugos priemonių, kad įsitikintume, jog ypač nepilnamečiai žino, kad nekalba su tikru žmogumi, kad šios platformos susieja žmones su tinkamais ištekliais, kai žmonės sako, kad jie galvoja apie save pakenkdami ar yra nelaimės (ir), kad įsitikintų, jog netinkama netinkama medžiaga.“

„Padilla“ taip pat pabrėžė, kad AI kompanijų svarba dalijasi duomenimis apie tai, kiek kartų jie kiekvienais metais nurodo vartotojus į krizių paslaugas, „taigi mes geriau suprantame šios problemos dažnumą, o ne tik sužinojome apie ją, kai kieno nors padaryta žala ar dar blogiau“.

Anksčiau SB 243 turėjo stipresnių reikalavimų, tačiau daugelis jų buvo suderinti dėl pakeitimų. Pvz., Iš pradžių įstatymo projektas būtų reikalaujantis, kad operatoriai užkirstų kelią AI pokalbių programoms naudoti „kintamo atlygio“ taktiką ar kitas funkcijas, skatinančias per didelį įsitraukimą. Ši taktika, kurią naudojo AI kompanionų kompanijos, tokios kaip „Replika“ ir „Charakteriai“, siūlo vartotojams specialias žinutes, prisiminimus, siužetines linijas ar galimybę atrakinti retas atsakymus ar naujas asmenybes, sukurdami tai, ką kritikai vadina potencialiai priklausomu atlygiu.

Dabartiniame įstatymo projekte taip pat pašalinamos nuostatos, dėl kurių operatoriai būtų reikalaujantys sekti ir pranešti, kaip dažnai pokalbių programos inicijavo diskusijas apie savižudybės idėją ar veiksmus su vartotojais.

„Manau, kad tai sukelia tinkamą pusiausvyrą, kaip patekti į žalą, neužtikrinant to, ko įmonėms neįmanoma laikytis, nes tai techniškai neįmanoma, arba tiesiog daug dokumentų“, – sakė Beckeris „TechCrunch“.

„SB 243“ pereina į įstatymus tuo metu, kai Silicio slėnio įmonės lieja milijonus dolerių į Pro-AAI politinių veiksmų komitetus (PACS), norėdamos patvirtinti kandidatus artėjančiuose vidutinio laikotarpio rinkimuose, kurie palaiko lengvą požiūrį į AI reguliavimą.

Sąskaita taip pat pateikiama, nes Kalifornija sveria dar vieną AI saugos sąskaitą „SB 53“, kuris įpareigotų išsamius skaidrumo ataskaitų teikimo reikalavimus. „Openai“ parašė atvirą laišką gubernatoriui Newsomui, prašydamas jo atsisakyti tokio įstatymo projekto, kuriame būtų mažiau griežtų federalinių ir tarptautinių pagrindų. Pagrindinės technologijų kompanijos, tokios kaip „Meta“, „Google“ ir „Amazon“, taip pat priešinosi SB 53. Priešingai, tik „Anthropic“ teigė, kad palaiko SB 53.

„Atminu prielaidą, kad tai yra nulinės sumos situacija, kad naujovės ir reguliavimas yra vienas kitą paneigiančios“, – teigė Padilla. „Nesakyk man, kad mes negalime vaikščioti ir kramtyti gumos. Mes galime palaikyti naujoves ir plėtrą, kuri, mūsų manymu, yra sveika ir turi naudos – ir ši technologija yra naudinga, aišku – ir tuo pačiu galime suteikti pagrįstų apsaugos priemonių labiausiai pažeidžiamiems žmonėms.“

„TechCrunch“ susisiekė su „Openai“, „Anthropic“, „Meta“, „Charakteriu AI“ ir „Replika“ komentuoti.