Vidět neznamená věřit - deepfake jako výzva pro právo

Co když to, co vidíme, nikdy nebyla pravda? Před několika lety jsme věřili, že obraz nelže. „Vidět znamená věřit.“ Dnes už si tím nemůžeme být tak jisti. Audiovizuální záznam byl dlouho považován za téměř nezpochybnitelné zachycení reality. V posledních letech, kdy se umělá inteligence stala běžnou součástí života, se rozvinula deepfake technologie, která tuto představu zpochybňuje.

Pro představu – na internetu se objeví video, na němž kontroverzně vystupuje známá osobnost, přičemž hlas, mimika i pohyby odpovídají jejímu vystupování. Přestože působí důvěryhodně, nikdy nevzniklo – bylo pouze vytvořeno.

S rozvojem těchto technologií došlo k narušení důvěry v audiovizuální záznamy. Zatímco dříve byly považovány za spolehlivé, dnes může být totožné video vytvořené v řádu minut. Příkladem je video z roku 2022, na němž ukrajinský prezident Volodymyr Zelensky vyzývá své vojáky ke kapitulaci. Přestože bylo video rychle odhaleno jako deepfake, ukázalo, jak snadno může být technologie zneužita k ovlivnění veřejného mínění.[1]

Nabízí se tak otázka, zda je možné zneužití deepfake postihnout prostřednictvím současné právní úpravy, nebo vzniká prostor pro kriminalitu, na kterou není právní řád dosud připraven. Dokáže právo v době umělé inteligence udržet důvěru společnosti v samotnou realitu?

Jedním z hlavních problémů deepfake je dokazování pravosti audiovizuálního záznamu. Pokud je možné pomocí umělé inteligence vytvořit realistický záznam, bude stále obtížnější rozlišit mezi autentickým a manipulovaným materiálem, a to i s ohledem na stále vyvíjející se technologie, které jejich důvěryhodnost dále zvyšují. To může ovlivnit ochranu osobnosti i dokazování v soudních řízeních.

V takové situaci nejde pouze o otázku pravdivosti informace, ale také o otázku důvěry v samotné důkazní prostředky. V době deepfake nejde jen o manipulaci s obrazem, ale i o manipulaci s důvěrou v samotnou skutečnost. Jakou hodnotu bude mít audiovizuální důkaz, pokud bude možné totožný materiál vytvořit během několika minut?

Právě zde se ukazuje jedna z největších výzev pro současné právo - technologie schopné zpochybnit samotnou realitu. Proto se domnívám, že největší výzvou pro právo v době deepfake nebude samotná existence této technologie, ale zachování důvěry v digitální důkazní prostředky.

Co když už ani obraz nebude důkazem pravdy?

Současný právní řád neobsahuje skutkovou podstatu trestného činu zaměřenou přímo na deepfake, proto je nutné vycházet z obecných právních předpisů - občanského zákoníku a trestního zákoníku. Zneužití deepfake lze podřadit pod skutkové podstaty existujících trestných činů, například pomluva (§ 184), vydírání (§ 175) či poškození cizích práv (§ 181), vše dle zákona č. 40/2009 Sb., trestního zákoníku.[2]

Vedle trestněprávní roviny zasahuje deepfake i do roviny soukromého práva. V případě, že obsah deepfake zasahuje do cti, důstojnosti nebo soukromí, má poškozený právo domáhat se ochrany osobnosti dle § 81 a násl. občanského zákoníku. Zneužití deepfake by mohlo zakládat nejen povinnost zdržet se protiprávního jednání, ale i povinnost nahradit vzniklou újmu dle § 2956 a § 2957 občanského zákoníku.[3] Zásah do osobních práv jedince může mít dopady i na jeho společenské postavení, což zdůrazňuje i judikatura českých soudů.

V rámci Evropské unie již došlo k regulaci systémů umělé inteligence, přičemž důležitou roli zde hraje regulace, označovaná AI Act. Její zavedení naznačuje, že členské státy si začínají uvědomovat rizika spojená s manipulací digitálního obsahu a hledají způsoby, jak na ně reagovat.[4]

Případná právní regulace deepfake by musela být nastavena citlivě, protože snaha postihnout manipulovaný obsah by mohla narážet na hranici svobody projevu, tedy jeden z pilířů demokratického právního státu. Zároveň ne každý uměle vytvořený obsah musí být škodlivý, technologie je využívána v oblasti umění či kinematografie. Právní regulace by proto měla jít směrem, který by bránil zneužití těchto technologií, nikoli proti technologii jako takové.

Problémem je i to, že vývoj právní regulace postupuje pomaleji než technologický vývoj. Zatímco vytvoření deepfake obsahu je běžně dostupné široké veřejnosti, právní reakce na tento fenomén je zatím spíše nepřímá. Tato disproporce může vést k situaci, kdy právo reaguje na nové formy kriminality s časovou prodlevou.

Právo nemůže zastavit technologický vývoj, avšak musí pružněji reagovat na jeho důsledky pro ochranu společnosti. Proto bude muset hledat nové způsoby, jak ověřit autenticitu digitálních důkazů a chránit důvěru společnosti v jejich pravdivost.

V digitální době nejde jen o to, zda lze realitu zaznamenat, ale zda jí bude možné i nadále věřit. Přestává tak být otázkou pouze to, zda se určitá událost skutečně stala. Stále častěji bude nutné prokazovat i opak – tedy, že se nikdy nestala. Dnes – v době deepfake technologií – tak nestojíme pouze před otázkou, jak chránit pravdu, ale zda dokážeme ochránit důvěru v samotnou realitu nebo zda vůbec ještě dokážeme poznat, co pravda je.

Tento článek obsadil 1. místo v soutěži o nejlepší článek s právním tématikou “Ukaž svou kreativitu XIII.”, kterou pořádá CODEXIS Academia, ve spolupráci s redakcí právního portálu Právní prostor.cz a Svazem průmyslu a dopravy.