Regulace, AI a advokacie – zákulisí legislativy a advokátních inovací

Svůj příspěvek v rámci workshopu přednesl Ing. Jan Kavalírek - náměstek ministra a vládní zmocněnec pro umělou inteligenci, prof. Jan Hajič - vedoucí projektu OpenEuroLLM, Ústav formální a aplikované lingvistiky MFF UK, Mgr. Alžběta Dvořáková Recová - stálá zástupkyně České advokátní komory v Bruselu a JUDr. Jiří Novák - advokát a bývalý předseda výboru pro IT právo Rady Evropských advokátních komor (CCBE). Workshop probíhal diskuzní formou a moderoval ho Mgr. Filip Drnec - předseda výkonného představenstva Advokátní asociace pro AI.

První příspěvek přednesl Ing. Jan Kavalírek. Podrobně hovořil o připravovaném návrhu zákona o umělé inteligenci, který adaptuje nařízení AI Act do české legislativy. Cílem Ministerstva průmyslu a obchodu je věcný, jednoduchý zákon, který bude upřesňovat evropské nařízení AI Act bez přidání další regulace. Nyní návrh prochází vnitřním připomínkovým řízením na MPO a ještě před datem konání sněmovních voleb by měl být poslán do legislativního procesu. Ministerstvo průmyslu a obchodu také navrhuje snížení byrokratických požadavků v rámci AI Actu a zařazení AI Actu do digitálního omnibusu.

Dalším vystupujícím byl prof. Jan Hajič. Ten představil projekt OpenEuroLLM, v jehož čele stojí jako vedoucí projektu. Cílem projektu OpenEuroLLM je vytvořit otevřený, transparentní a mnohojazyčný jazykový model, který bude vyhovovat regulacím Evropské unie a zároveň dokáže konkurovat jazykovým modelům z Číny a USA. Podle názoru prof. Hajiče regulace jazykových modelů jako technologií není správná a brzdí jejich vývoj. Dle jeho slov je potřeba regulovat až aplikace a jejich použití v praxi, ne přímo jazykové modely. V této souvislosti se zmínil o nemožnosti výroby kvalitního jazykového modelu natrénovaného pouze na čistých datech bez porušení copyright.

Mgr. Alžběta Dvořáková Recová mluvila o AI Actu, zejména o regulaci vysoce rizikových systémů a zakázaných praktikách. Pozastavila se například u použití biometrické identifikace v reálném čase, pro kterou pro účely vymáhání práva platí obecný zákaz. Ze zákazu jsou však stanoveny výjimky, které jsou aplikovatelné pouze v případě, že členský stát do svého právního řádu použití těchto výjimek transponuje.

Posledním panelistou workshopu byl JUDr. Jiří Novák, který připomněl etická pravidla výkonu advokacie. Upozornil zejména na povinnost mlčenlivosti, která je potřeba uplatňovat i při využívání umělé inteligence a popsal jaká rizika se v souvislosti umělé inteligence, povinnosti mlčenlivosti a ochrany osobních údajů vyskytují. „Druhý problém, který nastává, nevychází z používání umělé inteligence advokáty, ale obecně z používání cloudových služeb advokáty,” uvedl a vysvětlil, že pokud data nejsou zajištěna tak, aby k nim přístup nebyl možný, mohou k datům chráněným advokátní mlčenlivostí získat přístup některé orgány veřejné moci.