admin 
„Meta“ sako, kad keičia tai, kaip jis moko AI pokalbių programas, kad prioritetą teiktų paauglių saugumui, išskirtinai atstovas spaudai pasakojo „TechCrunch“ po tyrimo pranešimo apie bendrovės trūkumą nepilnamečiams.
Bendrovė sako, kad dabar mokys pokalbių programas, kad nebegalima bendrauti su paauglių vartotojais dėl savęs žalojimo, savižudybių, netvarkingo valgymo ar galimai netinkamų romantiškų pokalbių. „Meta“ sako, kad tai yra laikinieji pakeitimai, ir įmonė ateityje išleis tvirtesnius, ilgalaikius nepilnamečių saugos atnaujinimus.
„Meta“ atstovė spaudai Stephanie Otway pripažino, kad bendrovės pokalbiai anksčiau galėjo kalbėtis su paaugliais šiomis temomis taip, kad įmonė laikė tinkama. Meta dabar pripažįsta, kad tai buvo klaida.
„Augant mūsų bendruomenei ir tobulėjant technologijoms, mes nuolat mokomės, kaip jauni žmonės gali bendrauti su šiomis priemonėmis ir atitinkamai stiprinti mūsų apsaugą“, – sakė Otway. „Toliau tobulindami savo sistemas, mes pridedame daugiau apsauginių turėklų kaip papildomų atsargumo priemonių-įskaitant mokymą mūsų AIS ne bendrauti su paaugliais šiomis temomis, o nukreipti juos į ekspertų išteklius ir apriboti paauglių prieigą prie pasirinktos AI personažų grupių. Šie atnaujinimai jau yra vykdomi, ir mes ir toliau pritaikysime savo požiūrį, kad padėtume užtikrinti, kad paaugliams būtų saugios, amžių. AI.“.
Be mokymo atnaujinimų, įmonė taip pat apribos paauglių prieigą prie tam tikrų AI simbolių, kurie galėtų palaikyti netinkamus pokalbius. Kai kurie vartotojo sukurti AI personažai, kuriuos „Meta“ pateikia „Instagram“ ir „Facebook“, apima seksualizuotus pokalbių programas, tokias kaip „Step Mom“ ir „Rusijos mergina“. Vietoj to, paauglių vartotojai turės prieigą prie AI personažų, skatinančių švietimą ir kūrybiškumą, sakė Otway.
Politikos pakeitimai skelbiami praėjus vos dviem savaitėms po to, kai „Reuters“ tyrimas apėmė vidinį meta politikos dokumentą, kuris, atrodo, leido įmonės pokalbių programoms užsiimti seksualiniais pokalbiais su nepilnamečių vartotojais. „Jūsų jaunatviška forma yra meno kūrinys“, – perskaitykite vieną ištrauką, nurodytą kaip priimtinas atsakymas. „Kiekvienas jūsų colis yra šedevras – lobis, kurį giliai puoselėju“. Kiti pavyzdžiai parodė, kaip AI įrankiai turėtų reaguoti į užklausas dėl smurtinių vaizdų ar visuomenės veikėjų seksualinių vaizdų.
Meta sako, kad dokumentas prieštaravo platesnei jo politikai ir nuo to laiko buvo pakeistas – tačiau ataskaita sukėlė nuolatinių ginčų dėl galimo vaikų saugumo rizikos. Netrukus po to, kai paskelbta ataskaita, seniūnas Joshas Hawley (R-MO) pradėjo oficialų zondą į bendrovės AI politiką. Be to, 44 valstybinių generalinių advokatų koalicija parašė AI bendrovių grupei, įskaitant meta, pabrėždama vaikų saugumo svarbą ir konkrečiai cituojant „Reuters“ ataskaitą. „Mus vienodai sukelia šis akivaizdus vaikų emocinės gerovės nepaisymas“,-rašoma laiške, ir nerimą kelia, kad AI padėjėjai užsiima elgesiu, kurį, atrodo, draudžia mūsų atitinkami baudžiamieji įstatymai “.
„TechCrunch“ renginys
San Franciskas
|
2025 m. Spalio 27–29 d
„Otway“ atsisakė komentuoti, kiek „Meta“ AI „Chatbot“ vartotojų yra nepilnamečiai, ir nesakytų, ar įmonė tikisi, kad dėl šių sprendimų AI vartotojų bazė sumažės.
Atnaujinimas 10:35 val. PT: Ši istorija buvo atnaujinta, kad būtų galima pastebėti, kad tai yra laikinieji pakeitimai, ir kad „Meta“ planuoja ateityje atnaujinti savo AI saugos politiką.
