Głównym wyzwaniem są zwłaszcza manipulacje nagimi zdjęciami nieletnich, co skłoniło FBI do wydania ostrzeżenia, zaznaczając, że problem ten będzie jedynie narastał. Sztuczna inteligencja, rozwijając się przed naszymi oczami, wpływa na rzeczywistość, ale nie zawsze w sposób korzystny.
Według doniesień firmy zajmującej się analizą ruchu i trendów w serwisach społecznościowych, Graphika, zauważa się rosnące zainteresowanie internautów aplikacjami umożliwiającymi "rozbieranie" kobiet ze zdjęć. Jak to działa? Szybka obróbka pozwala ukazać każdą osobę ze zdjęcia w sposób sugerujący, że pozuje nago. Ze względu na dużą wiarygodność takich zdjęć, stają się one łatwym narzędziem do krzywdzenia innych. Takie obrazy mogą być wykorzystywane nie tylko w celu kompromitacji, ale także do wyłudzania okupu. Często są one publikowane na platformach społecznościowych, publicznych stronach internetowych lub na forach online.
Ostrzeżenie FBI
Komunikat opublikowany przez FBI ostrzega przed "złośliwym wykorzystywaniem technologii i usług manipulacji treścią" w celu przekształcania zdjęć i filmów, głównie pochodzących z mediów społecznościowych danej osoby, w obrazy o charakterze seksualnym, które wydają się autentyczne i przypominają ofiarę. Następnie takie obrazy są rozpowszechniane w mediach społecznościowych, publicznych forach lub na stronach pornograficznych. Ponadto FBI podkreśla, że "aplikacje rozbierające" mogą stanowić narzędzie do krzywdzenia nieletnich.
W zaledwie wrześniu 2023 roku policja natrafiła na ślad 20 przerobionych zdjęć młodych dziewcząt z Hiszpanii, których obrazy zostały dostosowane przy użyciu aplikacji opartej na technologii "ClothOff".
Podcasty
Playlisty tematyczne
