Deep fake. Zagrożenie czy kwintesencja XXI wieku?

Sztuczna inteligencja. Zjawisko deep fake

O sztucznej inteligencji w marketingu słyszymy praktycznie wszędzie. Technologia, która jest w stanie analizować olbrzymie ilości danych, by podejmować najlepsze decyzje optymalizacyjne, w dzisiejszym świecie mediów online ma bardzo szerokie zastosowanie.

Niestety – rozwój sztucznej inteligencji niesie ze sobą także pewne zagrożenia. Jednym z nich jest deep fake. Zjawisko to polega na tworzeniu sztucznych materiałów video wykorzystujących wizerunek znanych osób poprzez podkładanie im wypowiedzi, które nie zostały przez nie wypowiedziane.

Kendrick czy Kanye West? Jakie możliwości daje deep fake?

Rozpatrując deep fake w kontekście zagrożenia musimy wziąć pod uwagę cel tworzenia tego typu zmanipulowanych materiałów video. Obecnie dostępnych jest wiele narzędzi, wykorzystujących tę technologię w celach rozrywkowych, np. Reface App. Korzystając z tej aplikacji możemy, m.in. podstawić swoją twarz pod bohaterów słynnych klipów czy fragmentów znanych filmów.

Opublikowanie takich materiałów nie spowoduje oczywiście, że skutecznie kogoś wprowadzimy w błąd - to prosta aplikacja, więcna pierwszy rzut oka jesteśmy w stanie wyłapać manipulacje. Gorzej, jeśli korzystamy z bardziej profesjonalnych technologii. Tutaj warto wspomnieć o pierwszym globalnym, głośnym przypadku deep fake’a, w którym Chris Ume w bardzo skuteczny sposób wcielił się w postać Toma Cruisa. W krótkim video w genialny sposób odwzorował jego ruchy a następnie na swoją twarz nałożył jego twarz. Oglądając ten materiał trudno uwierzyć, że nie wystąpił tam Tom Cruise . I

Inny przypadek profesjonalnego wykorzystania tej technologii to wcielenie się Kendricka Lamara w kilku wybitnych artystów kultury afroamerykańskiej, takich jak OJ Simpson’a, Kanye West’a, Willa Smith’a czy Kobe’go Bryanta, w teledysku utworu promującego najnowszą płytę. W tym wypadku również bardzo trudno wyłapać jakiekolwiek manipulacje – oczywiście wyłączając warstwę dźwiękową – głos Kendricka słyszymy przez cały czas trwania utworu.

Wykorzystanie technologii w marketingu i polityce

Naturalną konsekwencją rozwoju technologii deep fake’ów jest wykorzystanie jej w marketingu. Aktor Bruce Willis wystąpił jakiś czas temu w reklamie promującej jedną z rosyjskich firm telekomunikacyjnych. No właśnie – czy wystąpił naprawdę? W spocie widzimy jego twarz, ale fizycznie nigdy nie pojawił się na planie zdjęciowym. W reklamie za zgodą aktora wykorzystano jedynie jego wizerunek. Mamy zatem twarz znanego celebryty w spocie, ale dzięki technologii nie wymagamy jego fizycznego udziału w nagraniu, podróżowania, zakwaterowania itp. To konkretne oszczędności – zarówno dla marki jak i dla samego aktora. Niestety – poza pozytywnymi scenariuszami wykorzystania technologii deep fake’ów pojawiają się także te negatywne.

Manoj Tiwari to jeden z indyjskich polityków, który spreparował w kampanii wyborczej video promujące jego kandydaturę w wyborach. W swoich filmach wykorzystujących deep fake sugerował, że posługuje się specyficznym dialektem, by zdobyć głosy indyjskiej mniejszości etnicznej. To oszustwo w najczystszej postaci, na którym polityk został przyłapany. I tu pojawia się podstawowy problem związany z deep fake’ami i zagrożeniami z nich płynącymi: w jaki sposób mamy odróżnić prawdę od tego zmanipulowanych treści?

Deep fake, fake news i fact checking

W kontekście powszechnych fake news’ów i dezinformacji mamy dosyć dużo możliwości weryfikowania faktów, np. portale fact checkingowe, organizacje pozarządowe, technologie weryfikujące źródła itp. W przypadku video taka weryfikacja jest bardzo skomplikowana. Powstały już co prawda narzędzia typu Deepware, w których możemy wspomóc się technologią by zweryfikować ewentualne manipulacje w materiale video.

Technologia ta próbuje wyłapać wszelkie niezgodności czy zakłócenia by określić prawdopodobieństwo manipulacji. Z prostymi deep fake’ami to narzędzie radzi sobie fantastycznie wskazując klatki spotu video, w których z wysokim prawdopodobieństwem doświadczamy oszustwa. Niestety – przy profesjonalnych produkcjach jest to dużo trudniejsze. Sami twórcy technologii przyznają, że póki co mamy do czynienia z wersją "beta" finalnego rozwiązania i wciąż pracują nad jego doskonaleniem.

Technologia deep fake. Szansa czy zagrożenie?

Reasumując – deep fake może kojarzyć się nam z oszustwami, które ciężko wykrywać i jest to potencjalne zagrożenie dla nas, szczególnie w obszarze rosnącego zjawiska dezinformacji. Niemniej – mamy także pozytywne przypadki wykorzystania deep fake’ów w marketingu czyreklamie. Sztuczna inteligencja i computer vision to potężne narzędzie. Tak jak zwykle - wszystko zależy od tego kto i w jakim celu będzie z niej korzystał.

Źródło informacji: Ekspert Michał Szczur, Digital Activation Lead, Mindshare Polska