Systémy AI v advokacii – dobrý sluha, zlý pán?

AI mění své funkcionality právě dle promtu (tj. zadání) uživatele nástroje tak, aby mu co nejvíce vyhověla, např. zadání ve znění: „připrav text e-mailu ve stylu zadavatele“ může vyústit ve vytvoření několika e-mailů různého znění (více agresivního, méně strojeného aj.). Současně se systémy AI umí „vyvíjet“ a přizpůsobovat interakci s uživatelem a svým předchozím výsledkům, resp. tomu, jak s nimi uživatel naloží. Systémy AI jsou tak do jisté míry nezávislé na uživateli. Pokud je tak úmyslem uživatele formátovat text, lze výsledek systému AI korigovat ke spokojenosti uživatele relativně jednoduše. Pokud je však prompt, tj. zadání naformulováno např. ve smyslu „vytvoř argumentaci pro uplatnění námitky promlčení“, objevují se ve výsledku nástroje AI větší či menší nepřesnosti až absolutní nesmysly. Zde je pak korekce ze strany uživatele klíčová.

Česká advokátní komora vydala již v září 2023 stanovisko k užívání umělé inteligence (AI) při poskytování právních služeb[1], kde se vyjádřila k této problematice s tím, že výslovně aprobuje užívání systémů AI advokáty (viz bod 1 stanoviska). Zároveň však upozorňuje na dvě souvislosti, které by advokáti měli při užívání systému AI zvážit, a to (i) že relativní samostatnost systémů AI nezbavuje advokáta jeho povinností mu vyplývajících z právních a stavovských předpisů a odpovědnosti za jejich plnění při užívání nástrojů umělé inteligence, a dále (ii) že bude-li advokát do promptu, tj. zadání uvádět informace sdělené klientem k jeho kauze, bude pravděpodobně docházet k porušení mlčenlivosti.[2]

Nezbytnost kontroly a korekce výsledků systémů AI plyne též z již existujících rozhodnutí českých soudů. A z těchto rozhodnutí pak vyplývá, že užívání systémů AI není často pro dobro věci, resp. ve prospěch klienta. V případě ústavní stížnosti projednávané u Ústavního soudu pod sp. zn. I. ÚS 3004/25 dospěla situace tak daleko, že ÚS pokutoval advokáta zastupujícího klienta v této věci pokutou ve výši 25.000 Kč (max. se mohlo jednat o pokutu ve výši 100.000 Kč) za hrubé ztěžování postupu řízení.[3] ÚS v odůvodnění citovaného usnesení uvedl, že: „Ústavní stížnost kromě argumentace neexistujícími právními prameny vykazuje některé známky použití umělé inteligence (anglicismus, neúplné, heslovité věty, nejednotný formát citací, nerozpoznání rozdílu mezi nálezem a usnesením). To vede Ústavní soud k domněnce, že povinný generoval podání pomocí některého z modelů umělé inteligence, poté však neověřil existenci citovaných rozhodnutí a správnost argumentace, resp. citace. Není podstatné, s pomocí jakých osob či nástrojů advokáti zpracují podání k soudu. Jako profesionálové znalí práva ovšem přebírají za podání plnou odpovědnost, a odpovídají tedy i za případnou halucinující argumentaci umělé inteligence, byla-li při vytvoření podání použita.“ Celou věc pak Ústavní soud uzavřel tím, že: „povinný (tj. pokutovaný advokát – pozn. autora) uvedl Ústavní soud v omyl a tím zbytečně komplikoval a zdržoval jeho postup. Svým přístupem k formulaci podání v zastoupení svého klienta tak hrubě ztížil postup řízení před Ústavním soudem.“[4]

Rovněž NSS reagoval ve svém nedávném rozhodnutí na extrémní rozsah vyjádření žalobce ke kasační stížnosti žalovaného, které nadto neobsahovalo z valné většiny relevantní argumentaci. Tato skutečnost pak vedla NSS k závěru, že tato podání žalobce nepředstavovala úkony, za které by přiznal žalobci nárok na náhradu řízení, a to i přes jeho plný úspěch ve věci. NSS uvedl: „Při úvaze o přiznání náhrady nákladů za tato podání však nemohl odhlédnout od toho, že vyjádření žalobce byla velmi těžce uchopitelná, neboť se z valné části míjela se smyslem vyjádření ke kasační stížnosti. Namísto věcných a konkrétních reakcí na kasační námitky žalobce (prostřednictvím svého zástupce) vystavěl vlastní, velmi obsáhlou, obecnou a z významné části zcela mimoběžnou argumentaci. Ta namísto, aby zefektivnila a urychlila řízení před soudem, vedla k jeho prodloužení, znepřehlednění postoje protistrany a nutnosti vyloučení řady argumentů, ať již pro jejich absolutní irelevanci pro věc (konkrétní kasační námitku) či prostě proto, že šlo o nepravdy. (…) Ať již daná vyjádření psal kdokoliv či cokoliv, soud tyto ve svém souhrnu nepovažoval pro danou věc za jakkoliv přínosné, a náklady na jejich vznik proto nemohl posoudit jako důvodně vynaložené.“[5] Je pak otázkou, pokud by dotyčný advokát k vyjádření použil pouze svých schopností (a nikoliv umělé inteligence), zda by NSS přiznal jeho klientovi náhradu nákladů řízení za tyto úkony. Vzhledem k charakteru odůvodnění uvedeného výše, mám za to, že by NSS posuzoval přínosnost vyjádření odlišně a k odepření náhrady nákladů by nepřistoupil (za předpokladu, že obsáhlá, obecná a mimoběžná argumentace obsažená ve vyjádření žalobce byla skutečně výtvorem AI a nikoliv člověka – advokáta).

Pro oba zmiňované případy je pak společné, že rozhodující soudy našly v podáních odkazy na neexistující judikáty, či odkazy na judikáty, které neobsahovaly advokátem tvrzenou argumentaci, příp. byly hrubě dezinterpretovány.

Závěr

Je zřejmé, že umělá inteligence je nejen advokátům užitečným pomocníkem při řadě úkonů, včetně např. formátování tohoto článku. Bohužel však nelze opomíjet její hranice a rizika takovéhoto opomenutí.

Nezbývá než apelovat na kolegy, aby systémy AI užívali spíše pro administrativní úkony, automatizaci interních procesů či úpravu textu, kde se jedná o relativně bezproblémové užití, a pokud se je rozhodnout využít věcně, pak aby k nim přistupovali kriticky a důkladně prověřovali „dobře míněné“ rady umělé inteligence.