Umělá inteligence jako právní subjekt – sci-fi nebo budoucnost práva?

Umělá inteligence je dosud vnímána především jako nástroj, který má lidem usnadnit práci, ušetřit čas a zvýšit efektivitu, tudíž jako objekt v rukou jiných právních subjektů. Právní subjektivita dle § 15 zákona č. 89/2012 Sb., občanský zákoník, znamená způsobilost být subjektem práv a povinností, tedy mít právní osobnost. V současné právní úpravě nemůže být AI subjektem práva, jelikož tím je pouze fyzická či právnická osoba. S rozvojem autonomních a kognitivních funkcí umělé inteligence však nabývá významu otázka právní odpovědnosti vyplývající z jejího potenciálně nežádoucího nebo škodlivého jednání a eventuálního přiznání určité formy právní subjektivity. Nebo jde o myšlenku, která i nadále patří výhradně do světa science fiction?

Právní subjektivita a odpovědnost umělé inteligence ve světle evropské regulace

Myšlenka zvláštního právního statusu „elektronické osoby“ se objevila již v roce 2017 v usnesení Evropského parlamentu o občanskoprávních pravidlech pro robotiku. Autonomie robota je v tomto usnesení definována jako

„schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole či vlivu zvnějšku; …tato autonomie je čistě technické povahy a její stupeň závisí na tom, jak byl robot konstruován, pokud jde o komplexitu jeho interakce s prostředím“.[1] Znamená to tedy, že AI je nezávislá, má vlastní vůli, vymyká se lidské kontrole a měla by jí být přiznána právní osobnost? Jelikož je zde kladen důraz právě na technickou povahu takovýchto robotů, lze spíše říci, že je jejich „vlastní“ vůle pouze vykonstruována jejich vývojářem a následně v mezích konkrétních promptů realizována jednotlivými uživateli, a proto nelze uvažovat o samostatném subjektu s právní osobností nezávislou na fyzické osobě.

První regulaci systémů AI na světě přináší nařízení EU s názvem Akt o umělé inteligenci z roku 2024. Systém AI je zde vymezen jako strojový systém navržený tak, aby fungoval na různých úrovních autonomie, a který je schopen z obdržených vstupů odvozovat výstupy, kterými mohou být predikce, obsah, doporučení nebo rozhodnutí, jež mohou ovlivnit fyzické nebo virtuální prostředí. Toto nařízení však neřeší otázku právní subjektivity umělé inteligence. Odpovědnost zůstává v rukou lidí – konkrétně provozovatelů, vývojářů a uživatelů – kterým jsou stanoveny odlišné povinnosti, požadavky a omezení podle míry rizika, jež jednotlivé systémy umělé inteligence představují. Tato rizika jsou rozdělena do čtyř kategorií: nepřijatelné, vysoké, vyžadující transparentnost a minimální nebo žádné.[2]

Jaké jsou argumenty pro právní subjektivitu umělé inteligence?

Určitou inspiraci pro přiznání právní subjektivity lze nalézt u právnických osob, které se v mnoha ohledech shodují s povahou umělé inteligence. Tyto subjekty jsou rovněž uměle vytvořenými entitami, které nemají vlastní vědomí ani vůli, jednají prostřednictvím fyzických osob, a přesto jim právní řád přiznává právní osobnost a s ní související práva a povinnosti. Pokud v budoucnu umělá inteligence dosáhne takové úrovně autonomie, kdy bude moci jednat v určitých případech zcela pro člověka nepředvídatelně, nebude již snadné určit osobu odpovědnou za takové jednání potenciálně škodlivého charakteru. Jisté řešení by mohlo být spatřováno ve vytvoření určitého peněžitého fondu, který by sloužil k náhradě škody, za které by byla přímo odpovědná umělá inteligence. Pokud by byla AI přiznána právní subjektivita, mohla by taktéž vystupovat jako smluvní strana, vlastnit data nebo například figurovat jako nositel práv v oblasti duševního vlastnictví.

Vývoj umělé inteligence představuje bezesporu jedno z nejaktuálnějších, nejzásadnější témat dnešní doby a zároveň do budoucna výzvu obrovského významu. S jejím rozšiřujícím se využitím se objevují nejen otázky právní, ale také etické, na které společnost není zatím připravena poskytnout jednoznačnou odpověď. Toto téma zůstává mimořádně citlivé a může vyvolávat oprávněné obavy. I proto je třeba postupovat s maximální obezřetností a s důrazem na ochranu základních práv a hodnot, na nichž společnost stojí.

Tento článek byl součástí soutěže o nejlepší článek s právním tématikou “Ukaž svou kreativitu XII.”, kterou pořádá CODEXIS Academia, ve spolupráci s redakcí právního portálu Právní prostor.cz a Svazem průmyslu a dopravy.

[1] Usnesení Evropského parlamentu ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku [2015/2103(INL)]

[2] Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci)