Systémy založené na umělé inteligenci lze využívat jak pro účely formulování pravidel chování (tj. pro normotvorbu), tak i pro rozhodování, zda byla tato pravidla naplněna (tj. v soudnictví). Takovéto využívání však vzhledem k jeho podstatnému vlivu na život jednotlivce i celé společnosti vyvolává řadu otázek. Cílem tohoto článku je proto na obecné úrovni rámcově představit možné problémy a zároveň příležitosti při využívání umělé inteligence právě v oblasti normotvorby a soudnictví. Článek stručně mapuje současné přístupy a trendy ve využívání těchto systémů ve světě a v České republice. V oblasti normotvorby jako hlavní pozitiva spatřuje asistenci při zajišťování toho, aby právní normy byly logické, systematické a přehledné. Na druhou stranu je nutné pamatovat i na rizika. Ta představuje například nesprávná interpretace záměrně vágních právních pojmů či nesprávná reakce na existující mezery v právu. V oblasti soudnictví se ukazuje, že systémy umělé inteligence mohou mít pozitivní vliv na rychlost a efektivitu soudního řízení a tudíž i na výkon práva. Na druhou stranu je však nutné využívat umělou inteligenci v soudnictví s opatrností a pod dohledem, aby se zajistilo, že se dodržuje spravedlnost a práva účastníků řízení. Při využívání systémů umělé inteligence pro účely normotvorby, soudního rozhodování a nakonec i pro účely vynucování práva orgány veřejné moci je však třeba mít na paměti i případný synergický efekt. Specializované systémy v jednotlivých odvětvích veřejné moci se totiž mohou ovlivňovat a způsobit tak nepředvídané následky pro celý právní systém. Rovněž by mohlo dojít k situaci, kdy se tyto systémy částečně stanou zároveň normotvůrcem, soudcem i vykonavatelem. To by však bylo v zásadním rozporu s ústavním principem dělby moci, na kterém je náš demokratický právní řád vybudován.
Úvod
Systémy umělé inteligence pronikají do všech oblastí našeho života, přičemž jednou z těchto oblastí je i právo. V oblasti práva se již systémy umělé inteligence používají například v advokátních kancelářích, kdy slouží zejména jako expertní systémy k dohledávání relevantní judikatury, monitorování komunikace s klientem, dodržování zákonných lhůt či posuzování pravděpodobnosti úspěchu v konkrétním soudním případu.
Právě soudnictví ale představuje další doménu, v níž se předpokládá možné nasazení systémů umělé inteligence. Tyto systémy totiž dokáží formalizovat rozhodovací proces a nahradit v něm tak člověka. Zároveň se v souvislosti s rozhodovací činností hovoří i o možnosti využívat systémy umělé inteligence pro účely normotvorby. Provázání obou oblastí by pak mohlo vést k větší efektivitě celého právního systému, a to včetně větší srozumitelnosti právních textů, předvídatelnosti soudních rozhodnutí, a tím i dostupnosti spravedlnosti pro veřejnost. Stávající právní a soudní systém totiž trpí především informační přehlceností, která přirozeně vede k většímu výskytu chyb v právních textech (např. odkazování na absentující prováděcí předpisy, protichůdná ustanovení, atd.). Zároveň je nedostatek lidských kapacit na zpracování soudních případů, a to například včetně rozsáhlých důkazů. Právo je proto běžným osobám často nepřístupné. Bariérou je nejenom nutnost odborné znalosti, ale také nemožnost dohledat všechna relevantní ustanovení s ohledem na velkou provázanost předpisů. Často je konkrétní právní pravidla možné dohledat pouze v placených právních databázích.
Systémy umělé inteligence mají potenciál tento nepříznivý stav vyřešit. Zároveň se však objevují jistá úskalí při jejich používání. Cílem tohoto článku je tedy tato úskalí a zároveň příležitosti na obecné úrovni představit.
Koncept umělé inteligence v právu
Pojem umělá inteligence se v současné době používá velmi často. Nepanuje však obecná shoda nad tím, jaké všechny technologie pod uvedený pojem spadají. Zejména právní definice je přitom podstatná pro určení konkrétního rozsahu práva a povinností spojených s využíváním takto označovaných systémů.
V současné době lze identifikovat několik přístupů k definování umělé inteligence pro účely etiky a práva. Nejvýše v tomto systému stojí samozřejmě mezinárodní úmluvy, doporučení mezinárodních organizací a pro účely interpretace práva České republiky i právo a dokumenty Evropské unie.
Na mezinárodní úrovni se s definicí umělé inteligence setkáváme zejména v doporučeních UNESCO o etice umělé inteligence.[1] Jde o nezávaznou definici, která může případně posloužit pro účely interpretace práva. Systémy umělé inteligence jsou v tomto doporučení definovány jako "systémy, které mají kapacitu zpracovávat data a informace způsobem, který připomíná inteligentní chování a typicky zahrnuje aspekty odůvodňování, učení, vnímání, predikce, plánování nebo kontroly".[2] Tyto systémy jsou pak dále upřesněny co do schopností, způsobu fungování a využívání určitých metod. Doporučení pak zejména vyzdvihuje fakt, že tyto systémy vykazují různou míru autonomie, která je založena na technikách modelování znalostí a jejich reprezentace, které využívají data a kalkulace korelací. Mezi techniky umělé inteligence řadí především strojové učení, hluboké učení, tzv. reinforcement learning a strojové uvažování, včetně plánování, reprezentace znalostí a uvažování, vyhledávání a optimalizace. Doporučení však také stanoví, že pod termín umělá inteligence mohou spadat i další techniky.
Definice termínu umělá inteligence se nachází rovněž v návrhu Úmluvy o umělé inteligenci, lidských právech, demokracii a panství práva, kterou připravila Komise na umělou inteligenci zřízená při Radě Evropy. Podle čl. 2 písm. a) se systémem umělé inteligence rozumí "strojový systém, který je schopen informovat nebo autonomně generovat výstupy, jako jsou předpovědi, doporučení nebo rozhodnutí pomocí strojových a/nebo lidských dat a vstupů a ovlivňovat prostředí, se kterým interaguje".[3] Návrh této úmluvy dosud nebyl zveřejněn a její vyjednávání zatím probíhá neveřejným způsobem. Vznik úmluvy podporuje i Evropská unie,[4] která již dříve předložila vlastní návrh nařízení na regulaci umělé inteligence - tzv. Akt o umělé inteligenci.[5]
Návrh tohoto nařízení považuje za systém umělé inteligence "software, který je vyvinut pomocí jedné nebo více technik a přístupů uvedených v příloze I, a který může pro danou sadu cílů definovaných člověkem generovat výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí ovlivňující prostředí, s nimiž komunikují". V příloze č. I jsou pak uvedeny následující techniky: "přístupy strojového učení, včetně učení s učitelem, bez učitele a posilovaného učení, používající celou řadu metod, včetně hlubokého učení; přístupy založené na logice a znalostech, včetně reprezentace znalostí, induktivního (logického) programování, znalostních základen, inferenčních a deduktivních mechanismů, (symbolického) uvažování a expertních systémů; a statistické přístupy, bayesovské odhadování, metody vyhledávání a optimalizace". Právě znění přílohy a tudíž konkrétní rozsah pojmu systému umělé inteligence jsou v současné době předmětem vyjednávání návrhu Aktu o umělé inteligenci.
Umělá inteligence v tvorbě právních předpisů
Využívání systémů umělé inteligence a strojového učení má vliv na normotvornou činnost na několika úrovních. Důvodem je schopnost těchto systémů pracovat s textem a přirozeným jazykem. Systémy se proto hojně využívají například pro vyhledávání v textu, identifikaci relevantních materiálů, jakými jsou nejen relevantní právní ustanovení, ale i judikatura, nebo pro analýzu a predikci. Schopnost zpracování přirozeného jazyka se může uplatnit právě při tvorbě právních předpisů tak, aby byly logické, systematické a přehledné. Zároveň takové zpracování předpisů může vést k jejich vytváření ve strojově čitelné formě, která bude následně použitelná nejenom pro vývoj systémů pro soudnictví, ale také například pro posuzování jiných právních dokumentů co do jejich souladu s právem.
V současné době se systémy umělé inteligence v oblasti normotvorby využívají například pro určení pravděpodobnosti, že návrh zákona bude přijat a stane se součástí závazných právních norem,[6] pro návrh předpisů v různých jazykových verzích,[7] pro analýzu judikatury za účelem vylepšení normotvorby[8] nebo v soukromé sféře pro analýzu chování jednotlivců v online prostředí za účelem vylepšení podmínek užívání služby.[9]
Evropská unie v souvislosti s vývojem a využíváním systémů umělé inteligence začala stanovovat jak etická, tak i právní pravidla. V souvislosti se systémy pro normotvorbu je namístě zmínit především etický přístup. Nově navržená regulace umělé inteligence se totiž vztahuje zejména na systémy používané pro účely soudnictví a pro systémy využívané orgány činnými v trestním řízení.[10] Navržená etická pravidla zakotvená v dokumentu Etické pokyny pro zajištění důvěryhodnosti umělé inteligence[11] jsou totiž platná pro všechny systémy umělé inteligence vyvíjené v EU. Byť nejde o závazný právní text, lze jej považovat za klíčový dokument, který může do budoucna sloužit i jako interpretační nástroj pro posuzování právních povinností vývojářů systémů umělé inteligence v případech, kdy nebude jasný právní výklad v určité situaci. Zároveň tato etická pravidla stanoví určitý standard, jehož optikou by mělo být na tyto systémy nahlíženo.
Podle zmíněných Etických pokynů by měly systémy umělé inteligence respektovat zejména čtyři základní zásady: zásadu respektování lidské autonomie, zásadu předcházení újmám, zásadu spravedlnosti a zásadu vysvětlitelnosti. Všechny tyto zásady jsou poměrně detailně specifikovány ve zmíněném dokumentu. Kromě těchto zásad je nutné zmínit i požadavky na tzv. důvěryhodnou umělou inteligenci, která by měla splňovat sedm následujících požadavků: měl by existovat lidský faktor a dohled, systém musí být robustní a bezpečný, měl by být konstruován tak, aby byly chráněny osobní údaje a data, systém musí být transparentní, musí být konstruován tak, aby ctil rozmanitost, zajistil nediskriminaci a spravedlnost, musí zajišťovat dobré sociální a environmentální podmínky a musí minimalizovat negativní dopady a umožnit určit odpovědnost.
Specifická situace je v oblasti využívání umělé inteligence v USA. Spojené státy americké totiž systémy umělé inteligence využívají hojně, a to zejména v soudnictví a zvláště v oblasti soudnictví trestního. Co se týče normotvorby, není bez zajímavosti, že zde byl vytvořen systém, který na základě analýzy historických dat o tom, který z navržených právních předpisů byl nakonec přijat Kongresem, určuje pravděpodobnost, se kterou bude v budoucnu přijat nově navržený zákon bez ohledu na to, jaké oblasti se týká.[12]
Otázkou využívání umělé inteligence pro účely normotvorby se zabývají i autoři z Ruské federace. Vzhledem k době, v níž je tento text psán, považujeme za nutné vyjádřit, že současná válka a agrese Ruska proti Ukrajině je věc, kterou celý civilizovaný svět odsuzuje. Proto jsme byli jako autoři na pochybách, jak se postavit k výzkumu z této země. Pro celkový obraz přístupu k otázce umělé inteligence lze však považovat za adekvátní, abychom se zmínili o tom, jaký je v současné Ruské federaci k fenoménu umělé inteligence přístup.
Ruští autoři se například v jednom z článků[13] zabývají využitím judikatury k vylepšení prací na normotvorbě státu. Zde popisují metody používané v Ruské federaci ke shromažďování a "předzpracování" (angl. pre-processing) dat, eventuálně datových sad.[14] Další autoři z Ruské federace[15] se zaměřují stejně jako Evropská unie na problematiku vytváření systémů umělé inteligence, které budou objektivní a budou prosty předsudků. Autoři v oblasti systémů pro normotvorbu uvádějí, "že je třeba založit přijetí legislativy na dobře odůvodněných rozhodnutích a vyvarovat se naopak arbitrárních postupů". Na rozdíl od Evropské unie uvedení autoři však nejdou do hloubky a ignorují kognitivní vývoj, jehož v této oblasti Evropská unie již dosáhla. Významným opominutím je skutečnost, že prakticky nezohledňují etické hodnoty, jejichž dodržování je jedním ze základních předpokladů využívání systémů umělé inteligence vůbec. Dále se vůbec nevěnují otázce, jak vysvětlit rozhodování systémů umělé inteligence při vytváření návrhů právních norem. Autoři bazírují především na objektivitě systémů, což by mělo vyloučit chyby člověka. Otázkou však zůstává, nakolik bude při rostoucí míře využívání systémů umělé inteligence do normotvorby člověk skutečně zapojen a nakolik bude respektován názor odborníka, který vytvoření normy připravuje. V této souvislosti lze ovšem v dané fázi vývoje namítnout, že u legislativy je tím konečným kontrolorem v demokratických státech Parlament.
Článek byl publikován v časopise Právník č. 6/2023. Pokračování je dostupné zde.
[1] UNESCO. Recommendation on the Ethics of Artificial Intelligence. In: UNESCO [online]. 23. 11. 2021 [cit. 2023-02-06]. Dostupné z: .
[2] Ibidem, s. 10.
[3] COUNCIL OF EUROPE. COMMITTEE ON ARTIFICIAL INTELLIGENCE (CAI). Revised Zero Draft [Framework] Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law. In: Council of Europe [online]. 6. 1. 2023 [cit. 2023-01-08]. Dostupné z: .
[4] Rozhodnutí Rady (EU) 2022/2349 ze dne 21. listopadu 2022 o zmocnění k zahájení jednání jménem Evropské unie o úmluvě Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu. Úřední věstník EU, L 311/138. 2. 12. 2022.
[5] Návrh Nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty unie. 2021/0106(COD). In: EUR-Lex [online]. 21. 4. 2021 [cit. 2022-05-17]. Dostupné z: .
[6] Viz NAY, J. Predicting and understanding law-making with word vectors and an ensemble model. PLoS ONE. 2017, roč. 12, č. 5 [cit. 2022-05-17]. Dostupné z: .
[7] NANDA, R. - SIRAGUSA, G. - DI CARO, L. - BOELLA, G. - GROSSIO, L. - GERBAUDO, M. - COSTAMAGNA, F. Unsuper vised and supervised text similarity systems for automated identification of national implementing measures of European directives. Artificial Intelligence Law. 2019, roč. 27, s. 199-225 [cit. 2022-05-17]. Dostupné z: .
[8] METSKER, O. - TROFIMOV, E. - PETROV, M. - BUTAKOV, N. Russian Court Decisions Data Analysis Using Distributed Computing and Machine Learning to Improve Lawmaking and Law Enforcement. Procedia Computer Science. 2019, roč. 156, s. 264-273 [cit. 2022-05-17]. Dostupné z: .
[9] BHUSHAH, S. - SHANKER, S. A Review on Machine Learning Techniques on Social Media Data for Policy Making. International Research Journal of Engineering and Technology. 2020, roč. 7, č. 6 [cit. 2022-05-17]. Dostupné z: .
[10] Jde o již zmíněný návrh Nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty unie. 2021/0106(COD).
[11] Nezávislá odborná skupina na vysoké úrovni pro umělou inteligenci. Etické pokyny pro zajištění důvěryhodnosti umělé inteligence. In: Evropská komise [online]. 8. 4. 2019 [cit. 2022-05-17]. Dostupné z: .
[12] NAY, J. Predicting and understanding law-making with word vectors and an ensemble model.
[13] METSKER, O. - TROFIMOV, E. - PETROV, M. - BUTAKOV, N. Russian Court Decisions Data Analysis Using Distributed Computing and Machine Learning to Improve Lawmaking and Law Enforcement.
[14] Data mohou mít nejrůznější podobu - může jít o alfanumerická vyjádření, prostá čísla, slova, obrázky atd. Datové sady se pak využívají pro trénování systémů umělé inteligence, přičemž pro natrénování algoritmu je zpravidla nutné, aby data v datové sadě měla stejný formát. V některých případech je proto nutné převést naskenované obrázky textů na strojově čitelný text, odstranit chyby vzniklé při přepisu apod. Tento postup je pak označován termínem předzpracování.
Diskuze k článku ()