„Discord“ pripažįsta, kad AI moderavimo klaida neteisėtai uždraudė naudotojus dėl nekenksmingų vaizdų
admin 
„Discord“ pripažino, kad jos AI moderavimo sistemos klaida per pastaruosius du mėnesius per klaidą uždraudė daugiau nei 8 000 vartotojų, nes nekenksmingi vaizdai, įskaitant skaičiuokles, šachmatų lentas, žaidimų tekstūras, taip pat baltus ir pilkus permatomus fonus, buvo neteisingai pažymėti kaip žalingas turinys.
Bendrovė patvirtino, kad ši problema turėjo įtakos paskyroms nuo gegužės mėnesio, o savaitgalį buvo uždrausta dar 200 vartotojų, kol jos komanda nustatė ir ištaisė problemą. Šiuo metu visos paveiktos paskyros atkuriamos.
Šis incidentas išryškina vieną iš augančių iššūkių, susijusių su AI padedamu moderavimu, nes daugelis platformų vis labiau pasikliauja automatizuotomis sistemomis, kad nustatytų neteisėtą ar piktnaudžiavimą dideliu mastu.
Išsamioje gijoje apie X Discord paaiškino, kad jos automatizuota saugos sistema veikia suderindama įkeltą turinį su žinomos kenksmingos medžiagos duomenų bazėmis. Nors ši technologija skirta neteisėtam turiniui gaudyti, bendrovė pripažino, kad kartais ji gali sukelti klaidingus teigiamus rezultatus. Žmogaus moderatorius peržiūri turinį, tačiau dėl klaidos sistema nedelsiant užblokavo paveiktas paskyras.
„Dirbame siekdami geresnių apsaugos priemonių, kad tai nepasikartotų“, – rašė bendrovė.
Mūsų sistemos pažymi turinį suderindamos jį su žinoma žalinga medžiaga. Toks panašumo atitikimas gali duoti klaidingų teigiamų rezultatų, todėl mūsų pasitikėjimo ir saugos komandos narys visada peržiūri pažymėtą turinį prieš imdamasis kokių nors veiksmų.
Numatytas elgesys yra…
– „Discord“ palaikymas (@discord_support) 2026 m. liepos 7 d
„X“ ir „Reddit“ naudotojai tvirtino, kad jie buvo visam laikui sustabdyti vien dėl vaizdų, kuriuose yra kvadratinių tinklelių, įkėlimo. Keletas vartotojų spėliojo, kad „Discord“ AI moderavimo įrankiai tampa vis jautresni į tinklelį panašiems modeliams, nes jie anksčiau buvo naudojami bandant užmaskuoti arba užmaskuoti NSFW ir vaikų išnaudojimo turinį iš automatinių aptikimo sistemų.
Paveikti vartotojai išreiškė nusivylimą socialinėje žiniasklaidoje, o kai kurie tvirtina, kad nuolatiniai paskyros draudimai, pagrįsti tik automatiniu aptikimu, gali turėti rimtų pasekmių, ypač tiems vartotojams, kurie naudojasi „Discord“ darbu, žaidimų bendruomenėse ar ilgalaikiuose socialiniuose ryšiuose.
„Discord paskyros praradimas dėl tokio nesąžiningo dalyko gali būti labai niokojantis ir smarkiai paveikti vartotojus, o kasdien milijonai vartotojų nukenčia nuo klaidingų AI draudimų. Tai turi būti sustabdyta“, – rašė vienas X vartotojas.
Mano paskyra buvo neteisėtai užblokuota jūsų platformoje, nes jūsų dirbtinio intelekto riktas mano ŽAIDIMO TEKSTŪRAS aptiko kaip CSAM. Man reikia susigrąžinti paskyrą, nes esu žaidimų direktorius ir naudoju „Discord“ visam bendravimui. Pateikiau užklausą dėl sustabdymo peržiūros.@discord @discord_support pic.twitter.com/QfAkCIJo6S
— JDBRYANT 🎂 ŠIANDIEN (@jdbryantdev) 2026 m. liepos 4 d.
„Discord“ nėra vienintelė, kuri susiduria su moderavimo problemomis dėl automatizuotų sistemų. Praėjusiais metais „Instagram“ ir „Facebook“ grupių naudotojai pranešė apie plačiai paplitusius nepaaiškinamus paskyros sustabdymus, kuriuos, daugelio nuomone, sukėlė AI moderavimo sistemos. Nors vartotojai nurodė automatizavimą kaip galimą kaltininką, Meta niekada viešai nepatvirtino, ar AI klaidos buvo atsakingos. Dabar „Meta“ priežiūros taryba siekia didesnio skaidrumo.
Praėjusiais metais „Tumblr“ taip pat sulaukė skundų iš vartotojų, kurie teigė, kad jų paskyros buvo masiškai sustabdytos be aiškių paaiškinimų.
Kai perkate per mūsų straipsniuose pateiktas nuorodas, galime uždirbti nedidelį komisinį atlyginimą. Tai neturi įtakos mūsų redakcinei nepriklausomybei.
