Kdo, jak a proč používá deepfakes | GQ Rusko

Deepfake je mladší bratr Photoshopu, technologie, která umožňuje měnit obličeje lidí ve videích. Dříve se používala k tvorbě erotických filmů. Nyní se ale všechno změnilo.

28 května 2020 město

Co kdybyste se dozvěděli, že anglická královna vyměnila trůn za trenérskou pozici v pořadu The Voice a že Vladimir Putin hrál Dr. Evila v pokračování Austina Powerse? Myslíte si, že je to nemožné? Pak se seznamte s deepfakes – virálními videi, která stírají hranici mezi pravdou a fikcí a brzy změní náš svět.

Italští politici se od hrdinů špatné reality show moc neliší. Takže když se 45letý zakladatel strany Italia Viva Matteo Renzi (který je často nazýván špatnou kopií Silvia Berlusconiho) zapletl do dalšího skandálu, zdálo se to jako naprosto běžná událost. Zde náš hrdina sedí u stolu ve studiu a čeká na živé vysílání. Jako by zapomněl na kamery, Renzi najednou začne házet bláto na současnou italskou vládu a na vrcholu svého projevu použije gesto „půl ruky“, které znamená „jděte všichni do prdele“. Aktivisté všech směrů, kteří video viděli, se samozřejmě vrhli na sdílení svého rozhořčení na Twitteru. Trvalo dlouho, než pozorní diváci udělali přítrž.

Ačkoli video vypadalo velmi realisticky, Renzi své kolegy nikdy ve skutečnosti neurazil (alespoň ne na veřejnosti). Video s ním se ukázalo být deepfake (deep znamená hluboké učení neuronové sítě a fake znamená „padělek“). Poznámka GQ) – video, ve kterém je tvář jedné osoby, v tomto případě komika, nahrazena jinou, tedy Renziho tváří. Vytvoření takového obsahu pomohl algoritmus neuronové sítě, který na postavu z videa třetí strany navrstvil několik Renziho obrázků, načež se stal přesnou kopií Itala.

Než byl podvod odhalen, musel politik svým příznivcům přísahat, že video s ním nemá nic společného. Renzo vypadal šíleně. Jako alkoholik, který tvrdí, že se svého panáka nikdy nedotkl. Jeho příčetnost a čestnost začaly mezi jeho spolustraníky vyvolávat otázky. A to vše – díky technologii, která se na první pohled zdála vtipná.

Dnes zvládne deepfake kdokoli s počítačem, internetem a hromadou trpělivosti – kvalitní video vyžaduje opravdu pečlivou úpravu (ale dobře víme, že ti, co sedí na internetu, nemají s nedostatkem času problém).

Deepfakes, tento vlající symbol konce pravdy, znepokojuje mnoho badatelů. Koneckonců, vtipná videa často sledují skutečně nebezpečné cíle. Představte si, co by se stalo, kdyby se v předvečer voleb na internetu objevilo video jednoho z kandidátů, jak souloží s lamami nebo přiznává, že podporuje ideologii Třetí říše. Důsledky, které falešná videa slibují společnosti, znepokojují i Facebook: společnost vyhlásila soutěž na vývoj metod pro rozpoznávání deepfakes. Jsou ale tito drzí potomci Photoshopu opravdu tak děsiví?

Apokalypsa zítra

Sam Gregory byl vždycky v srdci aktivista s vášní pro všechno, co se týká videa. Právě tyto vlastnosti ho vedly k vedení Witness, nevládní organizace, která vybavuje města od Damašku po Rio kamerami, aby odhalovala porušování lidských práv. Witness také vyvrací falešné a zavádějící zprávy. Gregory byl jedním z prvních, kdo si uvědomil nebezpečí deepfakes. „Už léta se mluví o vzestupu post-pravdy,“ říká. „Ve skutečnosti je ohrožena samotná demokracie.“

Deepfakes jsou děsivé, protože se stávají každým dnem realističtějšími a podkopávají posvátný princip apoštola Tomáše: k uvěření už nestačí jen vidět. „Vlna řečí o deepfakes v médiích připomíná 1990. léta, kdy se poprvé objevily digitální obrázky a o něco později Photoshop,“ říká André Gunther, profesor na Pařížské škole pokročilých studií v sociálních vědách. „Guruové té doby psali, že už nemůžeme věřit všemu, co je na fotografiích ukázáno, že digitální obrázky zničí pravdu. Ale jak vidíte, nepřestali jsme fotografie upravovat a slibovaná apokalypsa nepřišla.“

Policie Pierre La

Vskutku, bez ohledu na to, kolik věrohodných deepfaků najdeme (jako je video Trumpa, který povzbuzuje zaměstnance americké kanceláře k nekontrolovatelnému sexu přímo na pracovišti, nebo video Marka Zuckerberga, který přiznává, že USA ovládá teroristická organizace Spectre), žádný z nich dosud významně nezměnil běh dějin. Falešná videa v podstatě slibují problémy konkrétním lidem. Nebo přesněji řečeno ženám.

První cíl

Dvaadvacetiletá Bella Thorne je herečka, zpěvačka a autorka románu Život wannabe mogula: Duševní rozvrat, který se loni těšil velké mediální pozornosti. Jako teenagerka byla Thorne, stejně jako Britney Spears, Miley Cyrus a Selena Gomez před ní, jednou z múz Disney Channelu. S takovou historií není divu, že se v USA stala superhvězdou s desítkami milionů sledujících na sociálních sítích. A to, spolu s americkým fetišismem teenagerů s Disney značkou, ji vedlo k tomu, že se připojila ke Scarlett Johansson, Emilii Clarke, Maisie Williams, Gal Gadot a Emmě Watson na smutném seznamu celebrit, jejichž tváře se nejčastěji používají v erotických deepfakes. Při pohledu na seznam chystaných filmů Belly Thorne by si člověk myslel, že nemá čas se zabývat takovou internetovou špinavostí. Ale zuřivý hněv, s nímž deepfakes komentuje, naznačuje opak.

„Už léta jsem obětí takovýchhle falešných fotek,“ naříká Thorne. „Nejdřív to byly fotky. Takové, u kterých si lidé začali myslet, že jsou upravené ve Photoshopu. Ale teď s těmi deepfaky je to desetkrát zatraceně věrohodnější! Některé z nich mě prostě doháněly k šílenství. Někdo vzal můj obličej z videa, kde nahrávám zprávu tátovi, a spojil ho s videem holky masturbující v autě. A lidé tomu uvěřili! Asi jsem měl s odvoláním vystoupit. Sdílet všechny detaily svého sexuálního života, aby těmhle zatraceným deepfakům už nikdo nevěřil. A mimochodem, neholím si ochlupení, takže to prosím do budoucna mějte na paměti.“

Smůla nikdy nepřichází sama: loni se někdo naboural do telefonu Belly Thorne. Herečka se ale rozhodla převzít iniciativu od hackera a zveřejnila online své intimní fotografie. „Neměla jsem na výběr,“ říká s lítostí. „Stejně by je zveřejnil. Pro mě to byl způsob, jak získat zpět trochu svobody. Ale tolik jsem kvůli tomu trpěla. Když potkám nové lidi, hned si myslím, že mě už viděli nahou.“

Bella Thorne je už měsíce jednou z mála lidí, kteří se otevřeně vyjadřují k online šikaně, která tak často postihuje slavné ženy. Aby s ní bojovala, chce natočit dokument o deepfakes a pomstě.

„Pomsta a deepfaky jdou vždycky ruku v ruce,“ je si jistá herečka. „Můžou za to mnoho sebevražd mezi teenagery. Nesmíme mlčet, musíme vysvětlit, že se to může stát nám všem, našim dcerám, našim přátelům. Neměli bychom očekávat, že deepfaky budou sloužit jen v politických hrách. Podívejte se kolem sebe, co se právě teď děje? Ženy jsou ponižovány, jsme vydírány a nuceny mlčet.“

Rana Ayyub, reportérka Washington Post, která vyšetřovala vraždu osmiletého dítěte v indické vesnici Razanah, byla minulý rok obtěžována online tyrany. Jednoho dne dostala e-mail s odkazem a klikla na něj. „Na videu byl můj obličej,“ vzpomíná Ayyub. „Byla jsem v šoku, ale věděla jsem, že to nejsem já, a měla jsem kudrnaté vlasy, ne rovné.“ Byl to deepfake, založený na hrůzném filmu pro dospělé. „A pak jsem pozvracela,“ říká.

Pokud ale Thorn a Ayoub uvažovali o využití své autority a informačního prostoru k tomu, aby problém neumlčovali, co by měli dělat ti, kteří se nemohou chlubit slávou? Online šikana je často paralyzující.

Pětadvacetiletá Australanka Noelle Martinová také zažila šikanu prostřednictvím deepfake. Před sedmi lety, jako mladá studentka práv, nemohla spát a bez váhání se rozhodla vygooglit si své vlastní fotky. Výsledky ji šokovaly. „Byly tam stovky upravených obrázků mého obličeje nalepených na nahé tělo někoho jiného. Ani jsem si nemyslela, že je to možné, a neměla jsem tušení, kdo se mi snaží ublížit. Moje kariéra ještě ani nezačala a moje pověst už byla zničena tím nejbrutálnějším možným způsobem.“

Zdrcená Martin se ze všech sil snažila dosáhnout odstranění fotografií z internetu. Ale byl rok 2013 a australské zákony za takové zločiny neexistovaly. Noelle proto napsala všem webovým stránkám, které zveřejnily její fotografie, a požádala je o jejich odstranění. Mnohé z nich ale nikdy nereagovaly.

O několik let později dívka učinila nejtěžší a nejodvážnější rozhodnutí svého života. „Představa, že by tohle lidé mohli dělat ostatním, mi připadala nespravedlivá,“ říká Martin. „Věděla jsem, že nejsem jediná, kdo je šikanován. Ale ostatní se o tom báli mluvit. Říct lidem o šikaně je jediný způsob, jak problém překonat, získat zpět své jméno a život. Je to také skvělá příležitost upoutat pozornost úředníků, kteří schvalují nové zákony.“

Noelle Martinová koncertovala na turné po Austrálii a v roce 2018 se stala tváří nového zákona proti erotické šikaně. Tehdy se stalo něco nemyslitelného. „Dostala jsem další e-mail z falešného účtu, tentokrát s odkazem na video, nikoli s fotografií,“ vzpomíná. „A byl to deepfake. Ale nebála jsem se, byla jsem zuřivá. Ti blbci mě chtěli ponížit a umlčet, protože jsem bojovala za svá práva. Je škoda, že politici a firmy stále nechápou rozsah katastrofy, kterou deepfaky mohou způsobit.“

Protiútok

Kalifornský právník Adam Dodge sdílí názor Noelle Martinové. Již desetiletí se prostřednictvím organizace EndTAB, kterou založil, zastává zájmů obětí genderově podmíněného násilí. Slogan EndTAB shrnuje současný stav společnosti: „Zneužívání se stalo digitálním.“ Adam z první ruky ví, že deepfake se stávají běžnou záležitostí pro pomstu a šikanu. „Deepfake vám umožňují prožít své fantazie na obrazovce, a proto jsou tak populární,“ vysvětluje právník. „Když jsem se s nimi poprvé setkal, uvědomil jsem si, že by mohly být použity především proti ženám. Nyní je jasné, že budoucími oběťmi deepfake jsme my všichni.“

Abyste se někomu pomstili pomocí deepfake, potřebujete jen krátké video vaší oběti uložené z jejího Instagramu. A pro ty, kteří si nechtějí ušpinit ruce, existují fóra, kde si můžete objednat jakýkoli deepfake dle vlastního výběru. Četná videa s celebritami jsou veřejně dostupná a v soukromé korespondenci s autorem si můžete domluvit exkluzivitu za 30 dolarů. Například s vaší přítelkyní, která je obklopena muži s tmavou pletí. Nebo s prezidentem, který se v sauně náhle setká s kancléřem jiné země.

Aby pomohl těm, kterých se deepfaky dotkly, vyvinul Adam Dodge průvodce. „Ve většině případů téměř každý, kdo video sleduje, ví, že je falešné,“ říká. „To ale nezmírňuje trestný čin. Dokud je video online, oběť trpí.“

Dodge nejprve doporučuje zdokumentovat přítomnost deepfake pomocí snímku obrazovky nebo nahrávky obrazovky. Poté napište dopis společnosti Google, ve kterém bez podléhání emocím budete muset vysvětlit, že video ukazuje váš obličej, ale ne vaše tělo, a že vás video uráží. Spolu s dopisem můžete společnosti zaslat potvrzení o podání policejní zprávy (nejprve se však budete muset policii hodně zapotit, abyste jí vysvětlili, co je deepfake). Nakonec, aniž byste čekali na odpověď od Googlu, jehož programátoři stránku s vaším videem pouze skryjí z vyhledávání, ale nesmažou ji, zkuste kontaktovat web, kde je video zveřejněno. Dodge dokonce přišel se způsobem, jak na tom vydělat. „Povzbuzuji oběti, aby se pokusily zjistit, komu patří původní video,“ říká právník. „Tímto způsobem můžete k problému přilákat držitele autorských práv a osoby v záběru, protože deepfake jsou mimo jiné porušením jejich autorských práv.“

Stejně jako každá nová technologie, i deepfake vyvolává spoustu strachu. Koneckonců nedokážeme předvídat, jak a k jakým účelům budou v budoucnu použity. Bylo by ale hloupé nevšímat si pozitivních aspektů tohoto jevu. Využití deepfake by mělo snížit náklady na produkci filmů a televizních reklam. Při sledování dabovaných filmů vás už nebude rozčilovat, pokud hlas dabéra nedrží krok s výrazy obličeje hrdiny: umělá inteligence to vyrovná. Celebrity nemusí nahrávat stovky videí pro fanoušky v různých jazycích a místo toho, abyste hledali Madonniny kontakty a žádali ji, aby poblahopřála vašemu příteli k narozeninám, si můžete realistické přání vymyslet vlastníma rukama. Ano, ve společnosti, pro kterou se deepfake stanou normou, bude obtížnější rozlišit pravdu od lži. Ale co je pravda? A jste si jisti, že existuje?

Pravděpodobně vás také bude zajímat:

13 nejvtipnějších a nejstrašidelnějších aplikací neuronové sítě