Dovoljna je samo jedna, čak i posve bezazlena fotografija da je tzv. umjetna inteligencija pretvori u pornografski sadržaj. Sve više aplikacija omogućuje stvaranje takvih sadržaja u samo nekoliko sekundi, a razmjeri te pojave počinju zabrinjavati stručnjake. Otprilike polovica američkih tinejdžera priznaje da je vidjela pornografski sadržaj generiran umjetnom inteligencijom.
Tzv. „nudify apps“, odnosno aplikacije za „skidanje“, koriste se umjetnom inteligencijom za obradu fotografija te fotografije odjevenih osoba pretvaraju u pornografski sadržaj. Razvoj takvih alata omogućio je manipuliranje fotografijama u svega nekoliko klikova.
Prijetnja djeci
To izaziva ozbiljnu zabrinutost za sigurnost djece na internetu. Prema podatcima organizacije Common Sense Media, otprilike polovica američkih tinejdžera kaže da je vidjela pornografski sadržaj generiran umjetnom inteligencijom. Još više zabrinjava podatak da među onima koji su se susreli s takvom pornografijom svaki četvrti tvrdi da je sadržaj prikazivao njega ili neku osobu koju poznaje.
Svaki peti tinejdžer čak priznaje da je sam stvarao pornografski sadržaj pomoću umjetne inteligencije, dok je svaki četvrti takav sadržaj dijelio ili poznaje nekoga tko je to učinio, pokazuju podatci organizacije Common Sense Media.
Aplikacije je lako pronaći
Aplikacije koje omogućuju stvaranje lažnih fotografija nagih osoba lako su dostupne, a neke od njih nemaju čak ni dobna ograničenja. CBS News testirao je 70 alata umjetne inteligencije dostupnih na Google Playu i App Storeu. Čak 19 njih omogućavalo je pretvaranje fotografija odjevenih osoba u sadržaje koji prikazuju golotinju i seksualne prizore. U jednom je slučaju za stvaranje realistične slike bilo potrebno manje od 30 sekundi.
CBS News obavijestio je Google i Apple o pronađenim aplikacijama. Većina ih je nakon toga uklonjena iz njihovih trgovina. Obje tvrtke tvrde da njihova pravila zabranjuju objavljivanje seksualnoga sadržaja te da poduzimaju mjere protiv aplikacija koje ta pravila krše. Google je priopćio da su već suspendirane stotine takvih aplikacija.
Riječ je o kažnjivim djelima
Počinitelji takvih djela nisu uvijek anonimni korisnici interneta – mogu biti čak i školski kolege žrtava, upozorava detektiv Javier Rodriguez iz policijske službe školskoga okruga Austin. Ovisno o prirodi djela, počinitelji se mogu suočiti s ozbiljnim pravnim posljedicama, uključujući i kaznu zatvora.
Roditelji su prva linija obrane svoje djece
Jednu od najvažnijih uloga u zaštiti djece od širenja neovlašteno izmijenjenih fotografija mogu imati roditelji.
„Najbolji je savjet razgovarati s djecom koja su dio vašega života“, kaže Michelle DeLaune, čelnica organizacije za zaštitu djece na internetu. „Postavljajte im pitanja o tome kako se koriste umjetnom inteligencijom i kako se njome koriste njihovi vršnjaci. Znaju li za slučaj da se nešto takvo dogodilo u njihovoj školi ili nekome od njihovih prijatelja?“
Detektiv Rodriguez naglašava da dijete treba osjećati kako s roditeljima može slobodno razgovarati o svojim problemima i pogrješkama.
Škole bi također trebale ažurirati svoja pravila i reagirati na slučajeve zlouporabe umjetne inteligencije. Pet od deset najvećih školskih okruga u SAD-u već ima postupke za takve slučajeve, uključujući smjernice kojima je određeno kada treba obavijestiti policiju. Preostalih pet školskih okruga nije odgovorilo na ponovljene zahtjeve CBS Newsa za komentar.