5G sítě a jejich dopad na právo AI Zdroj: FOTOLIA

5G sítě a jejich dopad na právo AI

Stávající rok je téměř u konce a spolu s ním možná i realita, jak ji známe. Příchodem nového roku budeme pravděpodobně zase o něco blíže revolučnímu rozvoji moderních technologií souvisejícímu se zavedením mobilní sítě páté generace (tzv. „5G sítě“), která již v některých státech funguje, jako příklad můžeme uvést Jižní Koreu, některé státy USA či Monako, přičemž v dalších zemích je zavedení nové sítě vbrzku očekáváno. Zmíněná nová generace sítí přináší rapidní navýšení přenosové rychlosti spolu s nižší dobou odezvy, což umožňuje snazší spárování a výměnu dat mezi navzájem propojenými zařízeními (např. domácími spotřebiči).

Mgr. Bc. Denisa Brdlíková

advokátní koncipientka, TOMAN, DEVÁTÝ & PARTNEŘI advokátní kancelář, s.r.o.

Mgr. Bc. Denisa Brdlíková

advokátní koncipientka, TOMAN, DEVÁTÝ & PARTNEŘI advokátní kancelář, s.r.o.

Nedostatečná přenosová rychlost a odezva přitom doposud představovala limit pro rozvoj moderních technologií, díky 5G sítím se tak očekává mimo jiné enormní rozvoj umělé inteligence (AI), zejména vývoj nyní velmi aktuálních autonomních vozidel. V ne příliš vzdálené budoucnosti mají být skrz 5G sítě zautomatizovány běžné denní činnosti a současně by mělo dojít k plnému využívání internetu věcí – jímž se rozumí systémy, které mohou obsahovat například vozidla či již zmíněné domácí spotřebiče vybavené elektronikou, softwarem apod., skrze něž bude umožněno vzájemné propojení těchto systémů spolu s výměnou dat. Nově se také nabízí možnost využívání virtuální a rozšířené reality v mobilních telefonech (např. komunikace prostřednictvím hologramu) pro běžné uživatele.

Nastíněná digitalizace se však nedotkne pouze jednotlivců s moderními vymoženostmi, aplikace nových technologií se predikuje rovněž v oblastech veřejného zájmu jako je výroba, energetika, zemědělství, ale třeba i oblast bankovnictví, zdravotnictví či dokonce národní obrany. Přínosy 5G sítě pocítíme pravděpodobně dříve a důrazněji právě v uvedených oblastech, než jako uživatelé mobilních telefonů s rychlejším připojením, kde budou, zejména v prvních letech, změny téměř nepostřehnutelné.

Zmíněný technický rozvoj má podle mnohých přinést revoluční stimulaci inovací, a s tím související ekonomický růst a blahobyt. Očekává se, že na sítích nové generace bude vybudováno nové digitální prostředí, stanou se tedy jakousi nosnou konstrukcí společností a ekonomik, když pomocí nich budou propojeny miliardy objektů a systémů. 

Nejsou to ovšem pouze výhody, co s sebou 5G sítě přinášejí, je potřeba zohlednit i související hrozby a nová rizika, neboť se zvyšující se závislostí na technologiích se stáváme stále více zranitelnými. Jakákoliv slabina v systému může mít nedozírné následky a dopad na širokou veřejnost včetně jejího demokratického fungování, zejména s ohledem na oblasti, v nichž se v rámci digitalizace odevzdáváme plně do rukou technologiím (příkladem může být digitalizace voleb).

Tyto možné hrozby vzala na vědomí i Evropská unie, která započala iniciativu pokud možno co nejvíce snížit bezpečnostní rizika plynoucí ze složitých infrastruktur typu 5G sítí, a na základě toho definovat společný postup států Evropské unie k otázce bezpečnosti sítě 5G. Evropská komise z toho důvodu vydala na základě závěrů učiněných na zasedání Evropské rady ze dne 22. 3. 2019 doporučení[1], které obsahuje soubor určitých kroků pro posouzení rizik v oblasti kybernetické bezpečnosti sítí 5G a posílení preventivních opatření, a to jak na úrovni EU, tak jednotlivých členských států. Stěžejní bude mimo jiné správné nastavení komplexního právního rámce, včetně koordinované činnosti na úrovni Evropské unie.

Otázek, které s postupujícím vývojem technologií vyvstávají, a jež bude nutné po právní stránce řádně zabezpečit, je celá řada. Jednou z takových stěžejních oblastí, je problematika odpovědnosti za jednání AI. V listopadu letošního roku publikovala Evropská komise studii s názvem Odpovědnost pro umělou inteligenci a další nové technologie, která se danou problematikou zabývá[2]. Součástí studie bylo i hodnocení stávajících režimů odpovědnosti členských států, které byly vyhodnoceny jako prozatím použitelné pro poskytnutí alespoň základní ochrany osob, jež byly poškozeny skrze užití technologií. Odpovědnostní režimy jsou v rámci jednotlivých zemí řešeny především prostřednictvím občanskoprávní úpravy, v některých případech v kombinaci s pojištěním.

Specifické charakteristiky vznikajících technologií, jejich neustálé aktualizace a s tím související modifikace, kdy je třeba současně zohlednit nepředvídatelnost těchto technologií (včetně stále rostoucí autonomie a schopnosti sebevzdělávání), však mohou mít do budoucna za následek obtížnou vymahatelnost nároku na náhradu škody i v oprávněných případech. Expertní skupina, která studii zpracovávala, tak upozorňuje na nutnost dalších úprav legislativ jak evropské, tak národní úrovně. Na evropské úrovni je přitom formou směrnice harmonizována pouze odpovědnost výrobců za vadné výrobky, zbývající druhy odpovědností jsou regulovány samostatně v rámci jednotlivých členských států.

Za klíčovou považuje Evropská komise úpravu odpovědnostních režimů především v následujících oblastech, které navrhuje reflektovat v právních řádech členských států.

  • Osoba provozující právem dovolenou technologii, která však přesto představuje zvýšené riziko pro společnost (např. robot ve veřejných prostorách poháněný umělou inteligencí) by měla podléhat objektivní odpovědnosti za škody způsobené provozem této technologie.

  • Pokud poskytovatel služeb zajišťuje nezbytný technický rámec a disponuje vyšším stupněm kontroly než majitel či uživatel skutečného produktu nebo služby vybavené AI, je potřeba tuto skutečnost zohlednit při určovaní primárního provozovatele technologie.

  • Od osoby používající technologii, která pro ostatní nepředstavuje zvýšené riziko, se nadále vyžaduje dodržování povinnosti řádně vybrat, provozovat, kontrolovat a udržovat tuto technologii, přičemž v  případě, že v plnění svých povinností selže, ponese odpovědnost za jejich porušení.

  • Osoba používající technologii mající určitou míru autonomie by měla za případnou škodu nést přinejmenším stejnou odpovědnost, jako kdyby byla uvedená škoda způsobena lidským pomocníkem.

  • Výrobci produktů nebo digitálního obsahu obsahujícího nově vznikající digitální technologie (tzv. emerging technologies)[3] by měli být odpovědni za škodu způsobenou vadami svých výrobků, a to i v případě, že taková vada byla způsobena změnami provedenými na výrobku pod kontrolou výrobce poté, co byl produkt uveden na trh.

  • V situacích, kdy jsou třetí strany vystaveny zvýšenému riziku poškození, by povinné pojištění odpovědnosti mohlo obětem poskytnout lepší přístup k odškodnění a chránit potenciální škůdce proti riziku odpovědnosti.

  • Oběti by v případě, že konkrétní technologie zvyšuje obtíže při dokazování existence prvku odpovědnosti nad rámec toho, co lze rozumně očekávat, měly mít právo na usnadnění dokazování.

  • Nově vznikající digitální technologie by měly být ve vhodných případech vybaveny protokolovacími funkcemi. Případné selhání technologie by pak při protokolaci či při poskytování přiměřeného přístupu k uloženým datům mělo vést k obrácení důkazního břemene k zamezení vzniku újmy na straně oběti.

  • Případné zničení údajů oběti by mělo být považováno za újmu, kterou je možné za určitých podmínek nahradit.

  • Není nutné udělovat zařízením či autonomním systémům právní osobnost. Škoda způsobená technologiemi může a měla by být přičítána již existujícím osobám či orgánům.

Česká republika, kde se zavedení 5G sítí jeví jako reálné v nejbližších dvou letech, má prozatím otázku odpovědnosti řešenu v rámci občanského zákoníku, kdy lze uvažovat zejména o použití ustanovení upravující odpovědnost za škodu způsobenou věcí, odpovědnost za vadu výrobku odpovědnost za škodu z provozu dopravního prostředku či odpovědnost za škodu způsobenou provozem zvlášť nebezpečným. S dalším vývojem technologií a růstem jejich autonomie či dokonce sebeuvědomění však budou zmíněná ustanovení zcela nedostatečná a legislativní úprava bude nevyhnutelná. A jiné státy na tom nejsou o moc lépe.

První vlaštovkou, co se legislativního zakotvení problematiky odpovědnosti za AI týče, je nedávná právní regulace Velké Británie. Ta jako úplně první stát na světě, upravila otázku odpovědnosti za umělou inteligenci, neboť právě uvedená země ve většině finančních společností a pojišťoven využívá umělou inteligenci pověřenou rozhodováním. Odpovědnost za rozhodnutí učiněná umělou inteligencí tak ve Velké Británii ponesou přímo ty společnosti, které AI využívají k rozhodování, a sice v případě, kdy společnost nebude schopná obhájit rozhodnutí umělé inteligence učiněné namísto fyzické osoby.[4]

Do budoucna lze očekávat, že podobných legislativních opatření bude nadále přibývat v reakci neustále postupující infiltraci umělé inteligence do našich životů. S ohledem na nedozírné možnosti, jaké nám čím dál rychlejší nástup stále sofistikovanějších technologií přináší, je nutné nepodceňovat rizika, jejichž závažnost je přímo úměrná schopnostem nových technologií. Je velice důležité pokusit se nezaspat dobu a zároveň zajistit, aby právo drželo s technologickým vývojem pokud možno krok.

Závěrem mi dovolte všechny, které daná problematika zajímá, informovat o lednové konferenci pořádané advokátní kanceláři Toman, Devátý a partneři na téma Právo a bezpečnost 5G sítě, kde bude daná oblast rozebrána podrobněji.


[1] Dostupné online zde: https://eur-lex.europa.eu/legal-content/CS/TXT/PDF/?uri=CELEX:32019H0534&from=EN

[2] Dostupné online zde: https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupMeetingDoc&docid=36608

[3] Jde o nové technologie, které jsou v současné době vyvíjeny, nebo se budou vyvíjet v příštích pěti až deseti letech, a které zásadním způsobe, změní obchodní a sociální prostředí. Patří sem informační technologie, bezdrátová datová komunikace, biotechnologie, pokročilá robotika apod. Viz http://www.businessdictionary.com/definition/emerging-technologies.html

[4] HODGE, Neil. ICO draft guidance helps U.K. firms clarify AI choices [online]. 3. 12. 2019 [cit. 2019-12-13]. Dostupné z: https://www.complianceweek.com/artificial-intelligence/ico-draft-guidance-helps-uk-firms-clarify-ai-choices/28116.article

Líbil se vám náš článek? Ohodnoťte ho, prosím.
Hodnotili 4 čtenáři

Diskuze k článku 0 komentářů

Všechny komentáře se zobrazí po vstupu do diskuze

Vstoupit do diskuze

Nejoblíbenější články