Odpovědnost samořiditelných aut aneb má smysl trestat roboty?

Ať už ale tyto vědecké pokroky vnímáme pozitivně či negativně, budou mít bezpochyby dopad na celou společnost. Jednou z hlavních otázek, jež v této věci vyvstává, je otázka odpovědnosti za škodu způsobenou v důsledku činnosti umělé inteligence, a právě tomuto tématu se můj článek věnuje.

Ač se již odpovědností za provoz a výrobu těchto systémů legislativa do jisté míry zabývá, stále leží na bedrech zákonodárců nelehký úkol, a to nezpůsobit novou právní úpravou zpomalení ve výzkumu a průmyslovém vývoji, ale naopak vytvořit právní jistotu, která zmíněný rozvoj podpoří. Na určitém společném právním rámci již pracují orgány EU. V Evropském parlamentu bylo v prosinci přijato Usnesení o občanskoprávních pravidlech pro robotiku (dále jen ,,Usnesení”).

Jeden ze základních požadavků Usnesení se týká potřeby jednotné unijní definice autonomních systémů a jejich podkategorií, která by zohlednila vlastnosti, jimiž se inteligentní robot vyznačuje.[1]

Podle záměru vývojářů by měli roboti získat autonomní a kognitivní schopnosti, např. schopnost učit se na základě zkušeností a činit kvazisamostatná rozhodnutí. Tím by se z nich postupně stávaly subjekty působící na své okolí. To s sebou nese riziko, že robot svou činností způsobí újmu. I když nikde není stanovena závazná definice robota jako takového, jeho autonomii lze definovat jako „schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole či vlivu zvnějšku.“[2] Čím je tedy robot autonomnější, tím méně jej lze kontrolovat a považovat za nástroj v rukou jiných subjektů (výrobců, provozovatelů, uživatelů…) I když na trhu zatím nejsou dostupné plně autonomní vozy, případů, kdy došlo k selhání systému a nehodě, ačkoli v autě řidič přítomen byl, se stalo už několik.[3] V takovém případě nastává otázka, kdo je vinen? Kdo by měl v tomto případě za nehodu odpovídat? Výrobce nebo programátor? Uživatel? Nebo snad sami roboti?

Současná legislativa neumožňuje, aby robot nesl odpovědnost za jednání nebo opomenutí, jímž způsobil škodu třetí straně. Odpovědná bude tedy konkrétní osoba, pokud mohla předvídat protiprávní chování a zabránit mu. Otázkou však je, zda by ale tyto osoby měly odpovídat, až roboti dokáží jednat samostatně na základě toho, co se naučili.

Jak bylo zmíněno, užívání autonomních systémů nabývá na významu. Největší nárůst poptávky po těchto systémech zaznamenal automobilový průmysl, který patří k nejdůležitějším sektorům v ekonomice.[4] Právě ve světě automobilů je potřeba stanovení odpovědnosti značná.

Z našeho účinného práva se dají aplikovat ustanovení občanského zákoníku upravující odpovědnost za škodu z provozu dopravního prostředku či odpovědnost za vadu výrobku, pokud nehoda nastane špatným naprogramováním daného systému. Problém ale spočívá v tom, že nelze dopředu naprogramovat jednání či reakce, které ovlivní lidské životy. I sebeautonomnější vozidlo zůstane stále věcí, která musí mít jasně předdefinováno, zda v konkrétní situaci vybere řešení A nebo B. Domnívám se, že vědci nemají mandát k rozhodnutí, zda v případě hrozící nehody „obětovat“ kolemjdoucího chodce nebo řidiče vozidla. Automatizace silničních vozidel se dělí na pět stupňů.[5] Aktuálním dostupným modelem je stupeň 3. Tento stupeň umožňuje řidiči přestat sledovat jízdu a volnou chvíli trávit například čtením či psaním SMS. Tato auta ale zvládají samostatné řízení pouze při nízké rychlosti a jen ve vybraných lokalitách a složitější jízdní úkony musí řidič řešit sám, jeho přítomnost ve vozidle je tedy stále nezbytná. Žádné plně autonomní vozidlo v současnosti neexistuje, a lze se domnívat, že bez stanovení všeobecně akceptované normy nebude uvedení na trh možné.

Jednou z diskutovaných variant je absolutní odpovědnost výrobce, protože právě on má dle Usnesení nejlepší předpoklady k zamezení potenciální škodě. Tuto formu odpovědnosti však musíme brát s rezervou, neboť není možné, aby programátor odpovídal i za nesprávné užívání robota. Vhodnější se jeví aplikace některých ustanovení občanského zákoníku. Způsobí-li škodu věc (robot), nahradí škodu ten, kdo měl mít nad věcí dohled. Pokud nelze takovou osobu určit, platí, že je jí vlastník věci.[6] Pokud bude škoda způsobena užitím vadného robota, nahradí škodu způsobenou touto vadou ten, kdo je povinen plnit a použije vadného robota.[7] Na škodu způsobenou autonomním vozem by šlo aplikovat ustanovení upravující pravidla pro škodu z provozu dopravních prostředků[8], případně ustanovení upravující odpovědnost za škodu způsobenou provozem zvlášť nebezpečným.[9]

Další variantou, jak vyřešit složitou otázku určení odpovědnosti, je návrh povinného systému pojištění, který by fungoval po vzoru povinného pojištění z provozu vozidla. Tento systém by měl navíc zohledňovat veškerou potenciální odpovědnost v rámci celého řetězce, na rozdíl od současné podoby pojištění, jež se vztahuje jen na jednání a chyby lidského činitele. Pro případ, kdy by provozovatel robota takové pojištění sjednané neměl, má být zřízen speciální fond, který by kompenzaci škody zajistil.

V dlouhodobém horizontu se jako jedno z řešení odpovědnosti za škodu způsobenou umělou inteligencí zvažuje zavedení statusu elektronické osoby - alespoň pro ty nejsložitější autonomní roboty. Na základě toho by odpovědnost k náhradě škody nesli sami roboti. Domnívám se však, že tento status je utopií a bohatě si vystačíme s tradičním dělením na osobu fyzickou a právnickou. Nemohu predikovat, kdy a kam dokáží vědci se svými objevy dojít, stále však roboty vnímám jako věc. Neumím si představit, že by robot, který sice na základě nově přiznaného statusu nabyl právní osobnosti, mohl být sankcionován jinak než peněžitým trestem nebo zákazem činnosti. Ač roboti budou sebeinteligentnější a sebeautonomnější, zůstanou stále věcmi bez vůle. Důležité je, aby se poškozený domohl odškodnění, přičemž robot sám jako fiktivní osoba nebude disponovat vlastními prostředky. Odpovědnost bude mít objektivní charakter založený na principu přičitatelnosti, v tomto ohledu však právní řád již řešení nabízí. Konec konců by se věc v rovině civilního práva dala vyřešit i na základě právní zásady casum sentit dominus. Trestní odpovědnost robotů by vydala na samostatný článek, ne-li monografii.

Soutěžní příspěvek v soutěži Ukaž svou kreativitu VII, 1. místo.

[1] Návrh usnesení Evropského parlamentu obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku, dostupný [online] http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+REPORT+A8-2017-0005+0+DOC+XML+V0//CS

[2] Ibid.

[3] K poslední nehodě došlo 19. 2. 2018 v Arizoně, kde samořiditelný automobil Volvo XC90 společnosti Uber smrtelně zranil přecházející ženu. Viz ,,Selhalo úplně všechno - technika i řidič, hodnotí odborník smrtelnou nehodu samořiditelného auta”. Dostupné [online] https://www.novinky.cz/auto/467003-selhalo-uplne-vsechno-technika-i-ridic-hodnoti-odbornik-smrtelnou-nehodu-samoriditelneho-auta.html)

[4] V EU tvoří zhruba 4% HDP, v ČR pak dokonce 7,4 %.

[5] Viz ,,Profesionální řidiče nahradí „stupeň 5. Otázka je, kdy se to stane.” Dostupné [online] https://technet.idnes.cz/autonomni-auto-porsche-lidar-sea-international-f5k-/veda.aspx?c=A170614_083717_veda_kuz

[6] § 2937 zákona č. 89/2012 Sb.

[7] § 2936 zákona č. 89/2012 Sb.

[8] § 2927 a § 2930 zákona č. 89/2012 Sb.

[9] § 2925 zákona č. 89/2012 Sb.