Vidět neznamená věřit - deepfake jako výzva pro právo

Pro představu – na internetu se objeví video, na němž kontroverzně vystupuje známá osobnost, přičemž hlas, mimika i pohyby odpovídají jejímu vystupování. Přestože působí důvěryhodně, nikdy nevzniklo – bylo pouze vytvořeno.

S rozvojem těchto technologií došlo k narušení důvěry v audiovizuální záznamy. Zatímco dříve byly považovány za spolehlivé, dnes může být totožné video vytvořené v řádu minut. Příkladem je video z roku 2022, na němž ukrajinský prezident Volodymyr Zelensky vyzývá své vojáky ke kapitulaci. Přestože bylo video rychle odhaleno jako deepfake, ukázalo, jak snadno může být technologie zneužita k ovlivnění veřejného mínění.[1]

Nabízí se tak otázka, zda je možné zneužití deepfake postihnout prostřednictvím současné právní úpravy, nebo vzniká prostor pro kriminalitu, na kterou není právní řád dosud připraven. Dokáže právo v době umělé inteligence udržet důvěru společnosti v samotnou realitu?

Jedním z hlavních problémů deepfake je dokazování pravosti audiovizuálního záznamu. Pokud je možné pomocí umělé inteligence vytvořit realistický záznam, bude stále obtížnější rozlišit mezi autentickým a manipulovaným materiálem, a to i s ohledem na stále vyvíjející se technologie, které jejich důvěryhodnost dále zvyšují. To může ovlivnit ochranu osobnosti i dokazování v soudních řízeních.

V takové situaci nejde pouze o otázku pravdivosti informace, ale také o otázku důvěry v samotné důkazní prostředky. V době deepfake nejde jen o manipulaci s obrazem, ale i o manipulaci s důvěrou v samotnou skutečnost. Jakou hodnotu bude mít audiovizuální důkaz, pokud bude možné totožný materiál vytvořit během několika minut?

Právě zde se ukazuje jedna z největších výzev pro současné právo - technologie schopné zpochybnit samotnou realitu. Proto se domnívám, že největší výzvou pro právo v době deepfake nebude samotná existence této technologie, ale zachování důvěry v digitální důkazní prostředky.

Co když už ani obraz nebude důkazem pravdy?

Současný právní řád neobsahuje skutkovou podstatu trestného činu zaměřenou přímo na deepfake, proto je nutné vycházet z obecných právních předpisů - občanského zákoníku a trestního zákoníku. Zneužití deepfake lze podřadit pod skutkové podstaty existujících trestných činů, například pomluva (§ 184), vydírání (§ 175) či poškození cizích práv (§ 181), vše dle zákona č. 40/2009 Sb., trestního zákoníku.[2]

Vedle trestněprávní roviny zasahuje deepfake i do roviny soukromého práva. V případě, že obsah deepfake zasahuje do cti, důstojnosti nebo soukromí, má poškozený právo domáhat se ochrany osobnosti dle § 81 a násl. občanského zákoníku. Zneužití deepfake by mohlo zakládat nejen povinnost zdržet se protiprávního jednání, ale i povinnost nahradit vzniklou újmu dle § 2956 a § 2957 občanského zákoníku.[3] Zásah do osobních práv jedince může mít dopady i na jeho společenské postavení, což zdůrazňuje i judikatura českých soudů.

V rámci Evropské unie již došlo k regulaci systémů umělé inteligence, přičemž důležitou roli zde hraje regulace, označovaná AI Act. Její zavedení naznačuje, že členské státy si začínají uvědomovat rizika spojená s manipulací digitálního obsahu a hledají způsoby, jak na ně reagovat.[4]

Případná právní regulace deepfake by musela být nastavena citlivě, protože snaha postihnout manipulovaný obsah by mohla narážet na hranici svobody projevu, tedy jeden z pilířů demokratického právního státu. Zároveň ne každý uměle vytvořený obsah musí být škodlivý, technologie je využívána v oblasti umění či kinematografie. Právní regulace by proto měla jít směrem, který by bránil zneužití těchto technologií, nikoli proti technologii jako takové.

Problémem je i to, že vývoj právní regulace postupuje pomaleji než technologický vývoj. Zatímco vytvoření deepfake obsahu je běžně dostupné široké veřejnosti, právní reakce na tento fenomén je zatím spíše nepřímá. Tato disproporce může vést k situaci, kdy právo reaguje na nové formy kriminality s časovou prodlevou.

Právo nemůže zastavit technologický vývoj, avšak musí pružněji reagovat na jeho důsledky pro ochranu společnosti. Proto bude muset hledat nové způsoby, jak ověřit autenticitu digitálních důkazů a chránit důvěru společnosti v jejich pravdivost.

V digitální době nejde jen o to, zda lze realitu zaznamenat, ale zda jí bude možné i nadále věřit. Přestává tak být otázkou pouze to, zda se určitá událost skutečně stala. Stále častěji bude nutné prokazovat i opak – tedy, že se nikdy nestala. Dnes – v době deepfake technologií – tak nestojíme pouze před otázkou, jak chránit pravdu, ale zda dokážeme ochránit důvěru v samotnou realitu nebo zda vůbec ještě dokážeme poznat, co pravda je.

Tento článek obsadil 1. místo v soutěži o nejlepší článek s právním tématikou “Ukaž svou kreativitu XIII.”, kterou pořádá CODEXIS Academia, ve spolupráci s redakcí právního portálu Právní prostor.cz a Svazem průmyslu a dopravy.

---

[1] BBC News: Deepfake video of Volodymyr Zelenskyy (2022), https://www.bbc.com/news/technology-60780142

[2] zákon č. 40/2009 Sb., trestní zákoník

[3] zákon č. 89/2012 Sb., občanský zákoník

[4] Nařízení Evropského parlamentu a Rady o umělé inteligenci (AI Act)