Popularny brytyjski aktor twierdzi, że skradziono mu głos. Wszystkiemu winne deepfake’i
Sławny brytyjski aktor Stephen Fry, znany między innymi z takich produkcji, jak „V jak Vendetta” czy komediowej serii „Czarna Żmija”, przestrzega przed wykorzystaniem sztucznej inteligencji w kinematografii i szerzej w kulturze. Podczas festiwalu CogX artysta podzielił się własnym przykrym doświadczeniem w tym zakresie – za sprawą zaawansowanego oprogramowania przetwarzającego tekst na mowę „skradziono” jego głos.
Niebezpieczne precedensy
O sprawach podrabiania głosów z użyciem mechanizmów deepfake’owych informowaliśmy w ostatnim czasie przy okazji spotu przygotowanego przez Platformę Obywatelską. Tekst upubliczniony przez Poufną Rozmowę odczytywało oprogramowanie, które zostało wytrenowane, by z dużą dokładnością naśladować głos Mateusza Morawieckiego. Miało to stworzyć efekt przekonujący, że premier wypowiedział przesłane w mailach słowa, mimo że nigdy nic takiego nie miało miejsca.
Walkę z podobnymi praktykami zapowiedziało Google – treści reklamowe pochodzące od komitetów wyborczych wykorzystujące deepfake’i będą musiały być odpowiednio oznaczane. Korporacja z Mountain View obawia się, że fałszywe treści negatywnie wpłyną na nadchodzącą kampanię prezydencką w USA.
Deepfake zamiast aktorstwa
Ale polityka i kampanie wyborcze to nie jedyny obszar, w którym deepfake’i są siłą stanowiącą potencjalne zagrożenie. Jak przekonuje Stephen Fry, nie mniej groźny wpływ treści wygenerowane maszynowo mogą mieć dla kultury. Aktor zdał sobie sprawę, że wystarczy skorzystać z ogólnodostępnych materiałów, by stworzyć wysokiej jakości nagrania, w których dowolny tekst odczytywany jest jego głosem.
Do wytrenowania modelu, który „skradł głos aktora” wykorzystano obszerny materiał w postaci audiobooków nagranych przez aktora. Siedem tomów przygód Harry’ego Pottera wystarczyło, by aktorowi zademonstrowano nagranie, w którym jego głosem posługiwał się narrator dokumentu historycznego. Rzecz jasna Fry nigdy nad takim filmem nie pracował.
To, co usłyszałem, nie było rezultatem mashupu. Był to elastyczny sztuczny głos, gdzie słowa są modulowane tak, aby odpowiadać znaczeniem poszczególnych zdań. Zatem można było w ten sposób sprawić, że moim głosem mogło być odczytane cokolwiek: od zachęt, by szturmować parlament do dialogów w hard porno, wszystko bez mojej wiedzy, ani zgody. To wszystko było zrobione bez mojej zgody. Gdy się o tym dowiedziałem, skontaktowałem się z moimi agentami po obu stronach Atlantyku, a oni się wściekli – nie sądzili, że coś takiego jest w ogóle możliwe.
Sztuczna inteligencja oprotestowana przez SAG-AFTRA
Fry nie ma wątpliwości, że to, czego doświadczył to zaledwie wierzchołek góry lodowej i wkrótce w przekonujący sposób będzie można generować całe pełnometrażowe filmy z udziałem aktorów, którym skradziony zostanie wizerunek lub głos. Jest to żywa obawa pracowników branży filmowej, a postulat zaniechania wykorzystywania deepfake’ów w podobnych celach jest jednym z najważniejszych podczas trwających w Hollywood strajków związku zawodowego filmowców SAG-AFTRA.
Protestują nie tylko aktorzy, ale też inni pracownicy kreatywni, między innymi scenarzyści. Ich pracę także próbuje się automatyzować z użyciem silników przetwarzających język naturalny, jak GPT. Działania aktorów skupionych w SAG-AFTRA sparaliżowały branżę filmową i spowodowały liczne opóźnienia filmowych premier. Są już także pierwsze sukcesy – część wytwórni zgodziła się na podwyżki.
