Pro mě je to téma zajímavé i z toho důvodu, že se koukáme na spoustu zajímavých zahraničních precedentů či případů, které ještě neskončily rozhodnutím, a snažíme se vlastně definovat budoucí výzvy jak pro nás advokáty, tak i pro české soudnictví jako takové. A myslím si, že je velmi zajímavé sledovat vývoj v zemích, které se soustředí na to, aby se staly pionýry v oblasti umělé inteligence, tedy zejména ve Spojených státech amerických, které o rozhodnutích a soudních řízeních hodně informují. Samozřejmě Čína a další země, které soupeří, tolik sdílné nejsou, ale taky o řízeních něco víme.
Kdybychom téma brali prizmatem českých soudů i nás, jakožto lidí, kteří budou dávat soudům svá podání, popřípadě budou adresáty nějakých nových povinností, které budou vyplývat ze soudních rozhodnutí, je potřeba sledovat více rovin. Ta první je, že umělá inteligence proniká do práva: mluví se o AI Actu, o nařízení, mluví se o tom, jak budeme v České republice AI Act implementovat, mluví se o tom, že na AI nejsou peníze, AI je v podstatě všude, ale to, že proniká do práva jako předmět sporu, jako nástroj, kterým si ve sporu pomáhají advokáti, pomáhají si soudy, tak i jako zdroj nových právních otázek, právě zejména s novou regulací, která je s touto technologií spojená. A myslím si, že je dobře, aby zaznělo, že regulaci máme, já jsem za ni ve výsledku rád. Ne proto, že nám, advokátům, přidělává práci, za kterou můžeme účtovat klientům, ale proto, že se skutečně můžeme koukat na nějaké stabilnější prostředí, do kterého ty nástroje pronikají, a můžeme následně případně polevovat v regulaci, než překotně a velmi ztěžka řešit zcela neregulované problémy.
To, že udávají zahraniční soudy směr, pravděpodobně ti z vás, které umělá inteligence zajímá, často sledujete. Podíváme se jen na pár zásadních rozhodnutí, ale nebudu je komentovat v detailu, spíš jen k dokreslení, co jsou hlavní oblasti, ve kterých spory okolo AI běží.
A samozřejmě to, že AI vstupuje do soudních síní, do soudnictví, vnímáme právě i na základě toho, že se díváme na zajímavé legal tech startupy, tedy společnosti, které vyvíjejí technologie pro právní sektor. My sami se snažíme, stejně jako další kanceláře, koukat na to, které z nich by mohly být zajímavé pro různé specializace v kanceláři. A to, že ty technologie pomáhají a mohou pomáhat nejen nám, ale i soudům, tak už je teď jasná věc, otázkou je jen, jak rychle to půjde, nejen u nás v advokacii (nejsme určitě ti nejrychlejší transformátoři), ale jak to půjde i v českém soudnictví, kde si myslím, že to bude mít možná ještě o trošičku pomalejší náběh. A soudci a soudnictví se tak možná budou ocitat v drobné nevýhodě oproti nám profesionálům, kteří budeme s těmi řešeními pracovat pravděpodobně dříve a nebudeme z různých důvodů zcela transparentně schopni prokázat, jak moc s nimi pracujeme.
První český spor už proběhl někdy ke konci roku 2023, jistě jste slyšeli o rozhodnutí Městského soudu v Praze, já se o něm jen krátce zmíním, ale vlastně je to spíš připomínka toho, že něco, co mělo být úvodní vlaštovkou, už proběhlo. Ale sporů okolo umělé inteligence je v České republice opravdu velmi málo a těch vyřešených, alespoň co já vím, je zatím pouze toto jediné rozhodnutí, které bylo vlastně o povaze díla nebo o povaze obrázku, který byl vytvořen na základě pokynu zadaného do generativního nástroje.
Touto větou bych vlastně mohl celý svůj příspěvek uzavřít, protože umělá inteligence je opravdu nejen právní, ale i v podstatě věcná realita, na kterou se české soudy musí připravit a musí s ní pracovat. I proto jsem rád, že vzniklo Centrum pro digitalizaci a umělou inteligenci v justici se zkratkou CendAI. Přiznám se, že jsem se o něm dozvěděl až před několika týdny. Vzniklo u Vrchního soudu u pana Romana Horáčka, v hlavě jeho a dalších a je to zajímavá iniciativa, hezká snaha pojmenovávat témata a začít soudce vzdělávat. Po diskuzi s některými soudci jsem pochopil, že vzdělávání již probíhá, že je u některých velmi intenzivní, zejména u těch, kteří pracují s nástroji ChatGPT nebo Copilot, který je vlastně puštěn do české justice v takřka neomezeném provozu. Ale já se osobně přiznám, že Copilot bych dle mých osobních zkušeností nebral jako velkou přidanou hodnotu s ohledem na to, jak funguje v porovnání s ostatními nástroji. Možná ještě jen pro moji informaci, inspiraci, kolik z vás už použilo model o3 v rámci ChatGPT? Jeden, dva, tři, pět. Dobře. Je určitě znát (a AI nás o tom přesvědčuje ještě daleko víc než tradiční technologie), že vývoj právě i v oblasti velkých jazykových modelů a nástrojů, které s nimi pracují, je opravdu velmi překotný a opravdu z týdne na týden se objevují nové a nové funkce a nové a nové, řekněme, pokroky, které překvapují stále nejen nás právníky, ale i technologický sektor.
Klíčové oblasti
Jsem rád, že můžu pojmenovat nějaké základní kategorie, klíčové oblasti těch sporů, ale jak jsem říkal, nebudu se jim věnovat do hloubky, myslím si, že by to pro vás nebylo úplně přínosné, ale to, co vnímám jako hlavní oblasti, jsou oblasti duševního vlastnictví, které, když se na ně koukám z tradičního pohledu, tak bylo jasné v rámci sporů o autorská nebo o díla, o výstupy, o nějaká hmotná vyjádření, zdali jsou nebo nejsou autorským dílem, jak je právně chránit vlastně velmi dobře a kolegové, kteří IP dělali a dělají, mi asi dosvědčí, že toto prostředí bylo relativně hezky prošlapané.
Umělá inteligence jako nová technologie, ale mohou to být samozřejmě i jakékoliv další, které se z ní budou odvozovat nebo přijdou následně, tak nám tento koncept a tuto jistotu trošku narušují a jedním z hlavních témat je autorství. Je to zejména o trénování modelů a trénování nástrojů na duševním vlastnictví někoho třetího, ať už jde o obrázky, jde o hudbu nebo jde o texty jako takové.
Velkou neznámou, aspoň co do výsledků těch řízení, je odpovědnost za škodu, kterou ty nástroje využívající umělou inteligenci mohou způsobit. Vlastně i režim povinností ve vztahu k systémům a řešením, který řeší nařízení AI Act, v zásadě rozděluje kategorie, celkem jasně se snaží definovat, jak je ten řetězec nesení povinností na sebe navázaný, ale v řadě zemí jsou tyto otázky opravdu zatím stále pouze v rovině soudnictví a soudního rozhodování, takže se určitě nedá soudcům v některých zemích závidět.
O tréninkových datech pro umělou inteligenci a návaznosti na duševní vlastnictví už jsem se zmínil, ale je to taky oblast, kde spory velmi pravděpodobně, ať už dopadnou jakkoliv, budou definovat určitý přístup všech ostatních, ať už tvůrců těch řešení nebo i společností v daných sektorech (film, muzika nebo právě třeba fotografie), jak vlastně dál budou to své podnikání dělat, protože se dost dobře může stát, že minimálně v anglosaském světě převáží princip povoleného užívání, takzvaného fair use, který umožňuje za určitých okolností využívat i autorská díla nebo duševní vlastnictví třetích osob i pro další účely bez svolení, a tím pádem je možné, že uvidíme na základě těchto rozhodnutí nějaké zásadní změny v tom, jak společnosti podnikají.
A potom asi nelze nezmínit ochranu osobních údajů. Samozřejmě i osobní údaje jakožto data jsou zdrojem, se kterým umělá inteligence pracuje, a to, jak se k ochraně osobních údajů postavit, je nejen předmětem sporů, ale bude to také předmětem dalších rozborů.
Další sporné oblasti
Možná jste zaznamenali i to, že tady máme nejen velké oblasti klíčové, ale vlastně jak ti, kteří umělou inteligenci využívají, tak ti, kteří ji budují, tak ti, kteří o ní rozhodují, se setkávají i s některými z těchto, řekněme, fenoménů, ať už je to halucinace umělé inteligence, diskriminace nebo zkreslování, diskriminační výstupy, popřípadě i transparentnost rozhodování nebo procesu, jak vlastně vzniká určitý výstup na základě nějakého pokynu, který do umělé inteligence dáte. To jsou bezesporu věci, které zatím nezmizely, které se možná redukují. Výrobci řešení, věřím, jsou si těchto sporných oblastí vědomi a snaží se maximálním způsobem, tak jak to je samozřejmě shodné s předmětem jejich podnikání, tyto sporné oblasti odbourávat. Ale pokud někdo říká, že před rokem zadal něco do umělé inteligence, ta si vymyslela s prominutím nějakou hloupost, a proto jí nevěří, tak tento přístup je opravdu potřeba revidovat prakticky každý týden, protože se ty nástroje, jak jsem říkal, opravdu velmi zlepšují a to, co platilo včera, už občas neplatí dnes, minimálně v těch jejích dovednostech.
Vybrané relevantní spory
U relevantních sporů si myslím, že je zajímavé zmínit jich alespoň pár, ale nebudu zabíhat do hloubky. Ten první, Thaler, je velmi ikonické jméno, protože je to člověk, který je vědec a který se snaží prosadit, aby umělá inteligence, jeho datový model, mohl být uznán jako autor děl nebo vynálezce u konkrétního patentu. Kontaktoval s těmito požadavky různé úřady v Americe, v Evropské unii, ve Velké Británii a snad i v Austrálii, ale u všech úřadů jeho AI model nebyl uznán jako vynálezce nebo jako autor nějakého autorského díla. Jak úřady, tak následně i soudy v některých zemích odmítaly a odmítají uznávat jako autora právě a jenom nástroj, v podstatě umělou inteligenci, ať už systém, nástroj, řešení, algoritmus, aniž by tam bylo nějaké opravdu signifikantní tvůrčí přispění fyzické osoby. Tento závěr je vlastně shodný takřka po celém světě.
Potom žaloba vůči OpenAI na generovanou pomluvu, kdy chatovací nástroj nepravdivě obvinil moderátora ze zpronevěry. S ohledem na to, jak funguje ChatGPT a jak obecně funguje umělá inteligence, tak je to v podstatě pouze statistický model, který dává nějaké nejpravděpodobnější odpovědi. Proto vám občas odpoví po půl hodině na stejnou otázku jinak. Stejně tak, pokud ho dobře instruujete nebo se ho nesprávně zeptáte, tak to, co z něj vypadne, může vést například až k obvinění z toho, že někdo spáchal nějaký trestný čin. Takže tato žaloba, byť má určitý zajímavý příběh a substrát, tak bude opět zajímavá minimálně v tom smyslu, že bude vidět, jak v tom, řekněme neupraveném, obecném rozhraní toho nástroje může docházet k nějakému odpovědnostnímu mechanismu, popřípadě, jakým způsobem by mohl být ten pan Walters kompenzován, pokud se v Americe, kde je možné ledacos, opravdu domůže svých práv.
Klíčový případ ohledně tréninku umělé inteligence a velkých modelů, zejména těch, které využívají své schopnosti pro generování obrázků a obrazových výstupů, jako Getty Images vůči Stability AI, ono těch sporů je hodně, ale v podstatě toto jsou ty, které si můžete případně ať už do AI nebo do Google nebo kamkoliv jinam zadat a dozvědět se o nich víc, protože jsou to klíčové případy, na kterých je zajímavá argumentace. Tady opět máme nositele práv k nějakým obrázkům, k nějaké databázi, představte si to jako Profimedii třeba v České republice, která by žalovala nějaký český jazykový model, který vytváří nějaké obrázky, za to, že použili jejich chráněné fotografie z databáze, odstranili vodoznak a vlastně vydělávají na tom, že oni dali dohromady velkou databázi a tenhle ten nový nástroj ji pouze využil, naučil se na ní mechaniku a teď vydělává na recyklaci těch fotografií díky naučené mechanice práce s obrázky. O tom je celý spor, který stále probíhá a bude jedním z těch klíčových, u kterých si myslím, že určí tu relativně kritickou hranici. A určitě v České republice teto spor neočekávám, protože tady, aspoň co já vím, nemáme žádné nástroje, které bychom mohli podřadit pod příslušnost českých soudů, aby o takovémto sporu rozhodovaly.
A poslední případ je ten z České republiky ohledně vygenerování obrázku na základě jednoduchého promptu. Já mám za to, že ten případ byl opravdu jenom takovou pokusnou vlaštovkou, kterou vypustili advokáti k tomu, aby zjistili nějaký prvotní názor českého soudnictví na to, jak si vykládá v kontextu umělé inteligence autorství a jestli ten osobní tvůrčí přínos fyzické osoby, který se předpokládá u autorského díla, tak jestli u tohoto rozhodnutí městského soudu z roku 2023 si ho i v kontextu AI vykládá tak, že prostě nikdo jiný než fyzická osoba nemůže být autorem. Toto rozhodnutí velmi jednoduše říká ano, AI nemůže být autorem, ale samozřejmě nezavírá dveře k tomu, že by se s využitím umělé inteligence jako čistě nástroje dalo dospět i k tomu, že ten, kdo zadává a dobře instruuje ten nástroj, by mohl za určitých okolností být jako autor uznán. Ale je to nějaká úvaha, kterou rozvádějí případy spíš zahraniční, kde už se k podobným závěrům dospělo. Myslím si, že u nás opět nebude o tomto příliš velká diskuze a nikdo se o toto nebude chtít soudit. Takže ani zde si nemyslím, že by české soudy čekalo nějaké velké rozhodování.
Specifika AI sporů
To, co možná je a bude do budoucna určitě v těch sporech zajímavé, protože věřím, že se povedou spory, které budou třeba o diskriminaci kandidátů na zaměstnání, diskriminaci žadatelů o úvěry v těch scénářích, které jsou uvedené v příloze III AI Actu, jako takzvané vysoce rizikové systémy umělé inteligence, tak tam jsou popsané v rozpadu do různých oblastí.
Samotná autonomie toho systému a to obtížné určování příčiny škody v rámci fungování těchto systémů i nesení konkrétních povinností bude jedním ze specifik, které budou oproti běžným technologickým sporům hodně odlišné. To, že sama o sobě vlastně ta technologie nemůže být žalována, je asi stejné, jako že nemůžete žalovat CRM za to, že vám dalo špatný kontakt na vašeho klienta. Spor vždycky vedete vůči někomu, kdo je v pozadí toho systému, ale zase máme tady relativně velký rozpad těch odpovědností mezi poskytovatele, mezi toho, kdo to řešení nasazuje, mezi distributory, mezi dodavatele, mezi samotné osoby, které ten systém používají. Takže opět tady to bude velmi specifické, pokud se o tomto bude rozhodovat v nějakém větším detailu.
O tom, že můžeme přinést k soudu důkaz, který může být pozměněn nebo zcela vytvořen umělou inteligencí, asi nemusíme spekulovat. Ze zkušeností vím, že už se to děje, ať už je to podání anebo je to opravdu nějaký textový nebo nějaký jiný vstup. Co je důležité, možná si jenom říct, že i umělá inteligence nemusí být jenom ten škůdce v rámci zkoumání důkazu, volného hodnocení, protože umělá inteligence může právě třeba zostřením fotografií nebo vyčištěním zvukových záznamů, nebo nějakou další operací, kterou umí velmi dobře, přispět k tomu, že ty důkazy jsou daleko srozumitelnější a použitelnější, než by byly bez jejího zapojení. Takže u důkazů nevidím jenom tu negativní stránku, ale je tu i pozitivní.
A potom samozřejmě ta samotná komplexnost a potřeba expertízy souvisí i s tím, že ty spory už budou relativně technicky složité. A to, že někdo bude rozumět tomu, jak se instaluje nebo užívá systém, popřípadě bude rozumět logování, ještě neznamená, že ten spor tím může končit, protože opět oproti standardnímu prostředí je tam celá řada dalších vrstev, u kterých aspoň my se domníváme, že bude potřeba daleko víc odborníků, kteří se na tom budou podílet. Nejsem si úplně jistý, jestli existují v tuto chvíli nějací dobří odborníci na odhalování důkazů s využitím AI, jestli vlastně už tady máme pro soudy připravený nějaký odborný aparát, který by s tímto mohl pomáhat, ale beru to jenom jako střípek do mozaiky komplexnosti a potřeby další expertízy.
Případová studie: „Nezvaný kandidát“
Říkal jsem si, že by nebylo špatné si možná vzít nějaký příklad. Nazval jsem to studií, ale je to v podstatě vymyšlený příklad toho, co by se mohlo stát, kdyby se propojilo několik regulací dohromady na nějakém relativně jednoduše pochopitelném případu. Nebylo by špatné si to ukázat třeba na tom, když firma nasazuje automatický nábor svých zaměstnanců nebo minimálně nasadí systém pro předvýběr uchazečů bez účasti personalistů, protože odhaduje se, že přes 90 % firem v žebříčku Fortune 500 využívá umělou inteligenci při rozhodování v náboru. Já bych možná nebyl tak optimistický, ale i kdyby to bylo 85 nebo 80 %, tak to je opravdu významné. Některé, například Amazon, už za to byly pokutovány a samy zjistily, že principy, které zavedly, nejsou úplně správné a vedou k diskriminaci. Nicméně pojďme si tento příklad představit: firma má systém na předvýběr uchazečů. Ozve se jí zamítnutá kandidátka, která si svoje CV-čko vygenerovala také prostřednictvím umělé inteligence a je vyřazena bez vysvětlení a bez pohovoru. A podezřívá samozřejmě tu společnost, kam poslala to CV-čko a kde opravdu chtěla být, že ji diskriminovali, že ji vlastně vyřadili s využitím umělé inteligence, aniž by se na to někdo z personalistů podíval. Myslím si, že to není úplně daleko od reality i v některých firmách v České republice. A zvažuje další právní kroky, požaduje vysvětlení a snaží se vymyslet způsob, jak se dobrat k informacím a k tomu, jestli náhodou nemohla být diskriminována a nemohla by z toho něco vysoudit.
Právní otázky
Kdo vlastně rozhodoval na straně té společnosti, může být jedna z těch otázek. Protože firma bude tvrdit, že si koupila řešení od třetí osoby. Ta jí řekla, že řešení je plně v souladu s AI Actem, že k tomu dostanou příručku, že jim to vysvětlí, a tím pádem, že to můžou v klidu používat. Jestli splnili nebo nesplnili všechno, co jim AI Act bude předepisovat od příštího roku pro vysoce rizikové systémy, bych teď nechal stranou. Zároveň bychom tady ale měli to, že již dnes existuje víc než 10 mně známých služeb, které jsou schopné na základě změny inzerátu vytvořit motivační dopis, který je opravdu velmi přiléhavý v jakémkoliv světovém jazyce a dokážou upravit životopis tak, aby opravdu odpovídal tomu, co se v tom popisu pozice chce. To znamená, že i dnes (a nejen ve světě, ale věřím, že i u nás je k tomu řada různých zdrojů, které navádí, jak to dělat) jsme opravdu tady v podstatě při souboji nějakého AI vůči AI. Jestli se můžeme bavit o diskriminaci nebo jestli je tohle férové, kdo odpovídá za to, jestli zpracování bylo nebo nebylo v souladu s výkladovým rámcem.
V GDPR máme spoustu ustanovení, včetně Recitálu, která říkají, že je potřeba lidský dohled, není možné být předmětem výlučně automatizovaného rozhodování.
Stejně tak i v AI Actu máme nějaký regulační základ k tomu, co jsou vysoce rizikové systémy, kdo plní jaké povinnosti, kdo musí dohlížet, jaké jsou tam sankce.
Chtěl jsem jen nastínit, že pokud by takovýto případ vzniknul, tak to není jenom o nějakém neúspěšném náboru, ale je to opravdu příklad toho, co by se mohlo stát, kdyby se digitální prostředí jak na úrovni uchazeče, tak i na úrovni organizace, která systém a řešení nasadila. Už by se k soudu dostávaly spory, kdy se výstup generovaný AI dostává do zpracování, které vlastně taky bude dělat AI.
Myslím si a souhlasím s CendAI, s těmi závěry, které deklarují, že je v tuto chvíli strašně důležité hlavně školit a dostat znalost, alespoň základů, k soudcům a k odbornému personálu. Stejně tak, jako pravděpodobně školíte vy, jako konzumujete spoustu různých materiálů k umělé inteligenci, tak je potřeba tohle opravdu nyní dostat všem do hlavy a opravdu nespoléhat na to, že poznáme rozdíl mezi vygenerovaným obrázkem a reálnou fotografií. Myslím si, že už to poznat vůbec nemusíte. To, že budou advokáti víc používat AI, už jsem zmiňoval a je potřeba soudce na to taky začít více připravovat. I my sami samozřejmě musíme vědět, co a jak s umělou inteligencí dělat. A beru i to, že musíme dostat finance, respektive české soudy a soudnictví na toto musí dostat nějaké smysluplné financování a musí mít nějakou dlouhodobější strategii. Je tady spousta možností, jak by mohly přiblížit svoje rozhodování občanům, jak by mohly lépe vysvětlovat nebo propagovat to, co vlastně samy soudy dělají. A nejen pro veřejnost, ale i pro advokáty by to mohlo být přínosné.
A vlastně posledním obrázkem dělám oslí můstek na to, že generativní umělá inteligence nebo umělá inteligence jako fenomén už prostě dávno z té tuby vytekl a my ho tam nemůžeme dát zpátky a nemůžeme si teď tady přemýšlet nad tím, jak ho budeme regulovat, ale musíme s ním pracovat. I proto je tady urgence nejenom ode mě, ale v podstatě na celém trhu, která zaznívá naprosto jasně: je potřeba s tím opravdu začít pracovat a nesmíte na nic čekat. Je to jenom na vás. Musíte být odvážní a zvídaví.
Diskuze k článku ()