Deepfake na usługach rasizmu: modelka straciła twarz za sprawą sztucznej inteligencji
Nie przestają zaskakiwać nowe negatywne zastosowania mechanizmów deepfake, które mają na celu zafałszowanie rzeczywistości. Dochodzi do kradzieży wizerunków, głosów, nierzadko w celu oszustw. Okazuje się, że deepfake’i można także wykorzystać do rozpowszechniania uprzedzeń rasowych.
Modelka pozbawiona twarzy
Jak donosi Guardian, światem modellingu wstrząsnęła w ostatnim czasie historia, którą podzieliła się Shareen Wu, modelka z Tajwanu aktywna na TikToku. Wzięła ona udział w pokazie Michaela Castello, który odbył się podczas Los Angeles Fashion Show. Przeglądając zdjęcia z wybiegu na instagramowym koncie projektanta, Wu zauważyła, że jej twarz z użyciem deepfake została podmieniona na inną.
Sprawa wzbudziła tym większy skandal, że twarz Wu została podmieniona na oblicze osoby o zgoła innym pochodzeniu etnicznym. Na zdjęciu, do którego dotarła modelka, autentyczne jest tylko jej ciało, na którym prezentowana była kreacja. Warto zaznaczyć, że Shareen Wu jest niezależną modelką, nie pobierała wynagrodzenia za swoją pracę, gdyż jej „zapłatą” miało być w tym przypadku uzyskanie rozpoznawalności. Przez użycie mechanizmów deepfake zostało to uniemożliwione.
Głos Aleksandra Kwaśniewskiego wykorzystany do internetowego oszustwa. Należy zachować szczególną czujnośćTo nie projektant podmienił twarze
Do sprawy szybko odniósł się sam Castello, twierdząc, że to nie on dokonał manipulacji. Jednocześnie oskarżył modelkę o stawianie fałszywych oskarżeń i zapowiedział podjęcie kroków prawnych. Zmanipulowaną fotografię miał otrzymać od jednego z fanów, zaś jego odpowiedzialność polega wyłącznie na nieuważnym podzieleniu się nią na Instagramie.
Projektant poinformował także, że to nie on odpowiadał za oprawę samego wydarzenia, a ponadto nie wiedział o tym, że Wu nie otrzymała za swoją pracę wynagrodzenia. Zaoferował nawet, że zrekompensuje jej poświęcony czas i talent. Po mniej niż dobie oświadczenie zostało usunięte, a Castello nie odpowiedział na pytania nadesłane przez Guardiana.
Element większego problemu
Po dość chaotycznych działaniach projektanta oraz po tym, jak tiktok Wu zdobył wiralową popularność i obejrzano go ponad 1,8 mln razy, modelka zdecydowała się na dochodzenie swoich praw z pomocą organizacji Model Alliance, która będzie reprezentować ją prawnie. Cała sprawa zapewne nie zyskałaby takiego rozgłosu, gdyby nie kwestie rasowe. Według komentatorów deepfake opublikowany przez projektanta jest przykładem tego, jak branża modowa cofa się w kwestii różnorodność z poziomu, na który ciężko pracowano przez całe dekady.
