Meta dopustila oglase koji prikazuju AI sadržaj seksualnog zlostavljanja djece
Organizacija Tech Transparency Project (TTP) sa sjedištem u Washingtonu saopćila je da je pronašla 332 oglasa sa sadržajem seksualnog zlostavljanja djece koji su prikazivani na Facebooku i Instagramu
Meta je tokom proteklih deset mjeseci prikazivala stotine plaćenih oglasa sa sadržajem seksualnog zlostavljanja djece generisanim pomoću vještačke inteligencije, uključujući nekoliko takvih oglasa u Indiji, pokazao je novi izvještaj američkih aktivista, piše BBC. Izvještaj je objavljen dva mjeseca nakon što je indijska vlada naredila Meti da s Instagrama ukloni sve oglase i sadržaje kojima se promovira materijal seksualnog zlostavljanja djece (CSAM). Naredba je uslijedila nakon istrage BBC Eyea, kojom je utvrđeno da je Instagram u Indiji prikazivao plaćene oglase kojima je promoviran takav materijal. Organizacija Tech Transparency Project (TTP) sa sjedištem u Washingtonu saopćila je da je pronašla 332 oglasa sa sadržajem seksualnog zlostavljanja djece koji su prikazivani na Facebooku i Instagramu. Većina njih, ukupno 274, prikazana je u augustu ove godine. Kada se BBC obratio Meti u vezi s ovim nalazima, iz kompanije su saopćili: - Ne tolerišemo aplikacije za digitalno uklanjanje odjeće niti bilo koji oblik iskorištavanja djece, bez obzira na to radi li se o stvarnom sadržaju ili onome koji je generisan vještačkom inteligencijom. Ovi kriminalci neprestano mijenjaju taktike kako bi izbjegli otkrivanje, zbog čega nastavljamo unapređivati svoje sisteme za otkrivanje i provođenje pravila, naveli su iz Mete za BBC. U izvještaju TTP-a, objavljenom u utorak, navodi se da je identificirano nekoliko fotografija stvarne djece, među kojima je i član jedne evropske kraljevske porodice, koje su korištene u oglasima i potom izmijenjene pomoću vještačke inteligencije. Više od deset oglasa pojavilo se na Metinim platformama čak i nakon što je TTP upoznao kompaniju sa svojim nalazima. Otprilike četvrtina oglasa, njih 84, prikazivana je u Indiji, a 78 ih je objavljeno nakon naredbe indijske vlade o uklanjanju materijala seksualnog zlostavljanja djece i njenog sastanka s visokim predstavnicima Mete. Nakon istrage BBC-a, nekoliko indijskih institucija, uključujući Nacionalnu komisiju za zaštitu prava djece i Nacionalnu komisiju za ljudska prava, saopćilo je da razmatra ovaj slučaj. Distribucija materijala seksualnog zlostavljanja djece krivično je djelo u Indiji, dok pravila Mete propisuju da oglasi ne smiju sadržavati sadržaj kojim se djeca seksualno iskorištavaju ili dovode u opasnost. Kada se BBC obratio Meti u vezi sa svojom istragom, iz kompanije su naveli da svaki slučaj mogućeg iskorištavanja djece prijavljuju američkom Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC), u skladu sa svojim zakonskim obavezama. NCMEC predstavlja centralizirani globalni sistem za prijavljivanje slučajeva seksualnog iskorištavanja djece na internetu. Međutim, Bhuwan Ribhu, osnivač mreže Just Rights for Children, koja okuplja više od 250 organizacija posvećenih sprečavanju nasilja nad djecom u Indiji, smatra da to nije dovoljno. Just Rights for Children je, pozivajući se na nalaze BBC-a, podnio zahtjev Vrhovnom sudu Indije i zatražio da društvenim mrežama bude naloženo obavezno prijavljivanje i identificiranje osoba koje promoviraju materijal seksualnog zlostavljanja djece. - Kompanije koje upravljaju društvenim mrežama očigledno krše indijske zakone jer sadržaj seksualnog zlostavljanja djece ne prijavljuju indijskim agencijama za provođenje zakona, iako ih naši zakoni o zaštiti djece na to obavezuju, rekao je Ribhu. TTP, istraživačka inicijativa neprofitne organizacije Campaign for Accountability, čiji je cilj pozivati velike tehnološke kompanije na odgovornost, saopćio je da je pronašao 332 oglasa sa sadržajem seksualnog zlostavljanja djece koji su se prikazivali na Instagramu i Facebooku u Sjedinjenim Američkim Državama, Velikoj Britaniji, Evropskoj uniji, Australiji i Indiji. Iz organizacije navode da su sve oglase prijavili NCMEC-u. Prema nalazima TTP-a, gotovo svi pronađeni oglasi počinju fotografijom djeteta, a tokom reprodukcije snimka fotografija se pomoću vještačke inteligencije mijenja tako da dijete izgleda kao da učestvuje u eksplicitnom seksualnom činu. TTP je naveo da su svi prijavljeni oglasi uklonjeni nakon što se organizacija obratila Meti tražeći odgovor. Zanimljivo, oglasi se na Metinim platformama objavljuju tek nakon što ih odobri njena tehnologija za moderiranje. Sistem pregleda prvenstveno se oslanja na automatizirane procese i osmišljen je tako da provjerava fotografije, videosnimke, tekst i zvuk, kao i korisnike kojima je oglas namijenjen te odredišta na koja vode priloženi linkovi. TTP je, međutim, utvrdio da su nekoliko oglasa sa sadržajem seksualnog zlostavljanja djece postavili Metini partneri iz Kine koji se bave oglašavanjem. Ovi partneri, poznati kao posrednici u prodaji oglasa, usmjeravaju kinesko oglašavanje vrijedno milijarde dolara prema Facebooku i Instagramu. Partneri nisu odgovorili na pitanja TTP-a.
IZVOR: oslobodjenje.ba