Vzhledem k tomu, že je to poměrně komplexní problém, a na to, abychom se do problematiky zanořili a abych některé otázky aspoň korektně otevřel, na to bych asi potřeboval podstatnou část dne. Ovšem prostor, který mi byl dán, stačí tak na trošku rozvinutější anekdotu. Spíše se tedy jen dotknu některých problémů a nastíním, jaké starosti nám to ještě bude dělat.
Definice a základní právní úprava umělé inteligence
Zaprvé, nemáme definici umělé inteligence. Můžeme se pokusit společně něco sestavit, strávíme určitě plodné odpoledne krutou hádkou, nicméně žádná zákonná definice neexistuje. A v podstatě si pod umělou inteligencí můžete představit, co chcete – od prosté search engine až po digitální bytost jako je kapitán poručík Dat ze Star Treku, humanoid nebo cokoliv takového. Máme tedy široké pole působnosti. Obecně nejčastěji se dnes o umělé inteligenci hovoří jako o chatbotech se schopností autonomního učení, do určité míry autonomního rozhodování, ale to je momentální stav. Umělá inteligence může být cokoliv jiného podobného. Proto je poměrně obtížné to nějakým způsobem uchopit a regulovat.
Druhou otázkou je otázka práv, která souvisejí s tzv. umělou inteligencí. Je možné stvořit něco, jako je digitální právní bytost, něco s autonomním uvažováním, čemu by byla přiřknuta nějaká práva, povinnosti, odpovědnost? Nevím. Podle mě to zatím možné není, minimálně v těch oborech práva, které zatím přišly na přetřes. Hodně se hovořilo o autorských právech, autorských právech k dílům, které byly vytvořeny prostřednictvím umělé inteligence. Kupodivu to jde a umělá inteligence maluje obrazy, píše povídky, skládá hudbu. Domnívám se, že tyto produkty se zpravidla nevymykají z průměru obecné tvorby. Pokud se například začtete do novely stvořené umělou inteligencí, nemohu k tomu říci nic jiného, než že to je otázka vkusu jednoho každého. K námitkám, že už je to na takové úrovni, že dokonce byly umělou inteligencí sepsány diplomové práce, které byly hladce obhájeny, musím jako občasný pedagog podotknout, že to nesvědčí o prudké kvalitě umělé inteligence, jako spíš o pokleslé úrovni diplomových prací obecně.
Umělá inteligence a autorská práva
Další věc, ke které se dostaneme – tedy otázka autorských práv – je z hlediska právního v podstatě vyřešena. Podle autorského zákona může být autorem jenom fyzická osoba, a to chatbot není. Zatím tedy. Druhý pohled z hlediska autorských práv, ke kterému jsme došli, je to, že si někteří umělci stěžovali, že tím, jak se umělá inteligence učí a nasává do sebe jejich díla, nechává se jimi inspirovat a vlastně je používá, porušuje jejich autorská práva. To je taky zcela vedle terče, protože zpravidla to, co nasaje, jsou témata, zápletky, postavy atd., tzn. inspirace. Může se jednat o plagiát, inspiraci atd., ale to stále ještě není porušením autorských práv. Pokud opíšete celou kapitolu, dobře, ale pokud se necháte jen inspirovat, tak to současný autorský zákon trpí. Aby se hlásili programátoři s tím, že „já jsem stvořil tuto digitální bestii, tzn. cokoliv napíše, za to bych měl mít tantiémy“, dobrý pokus, ale zatím to taky neprojde.
Otázkou tedy jsou autorská práva, lidská práva nebo práva lidským právům obdobná – právo na důstojné zacházení atd. Zase to zatím ponechávám v kategorii science fiction, ale věřte tomu, že to přijde s další padesátkou nových pohlaví nebo podobnými koncepty. Možná bude ještě mezi lidmi i nějaké digitální pohlaví nebo mnoho digitálních pohlaví podle každého názvu a vzhledem k tomu, že komputační schopnost je mocná, možná, že jich budou stovky. Snad se toho nedožiji.
Umělá inteligence a poskytování právních služeb
Druhá věc, která je pro mě jako pro advokáta daleko důležitější, je otázka, jakým způsobem lze nebo nelze využívat umělou inteligenci při poskytování právních služeb. Tak za prvé může advokát používat tu či onu technologii? Ale ovšem. Advokát nemůže být omezen co do technologie při poskytování právních služeb. Musí samozřejmě zachovávat všechna omezení, která mu zákon o advokacii stanoví. Musí zachovávat povinnost mlčenlivosti, musí hájit oprávněné nároky atd. atd. To se samozřejmě lépe řekne, než udělá, nicméně technologie jako taková není tím testem. Použil jsi tuto technologii tak jako sorry. Ne, to ne. Na druhou stranu všechny povinnosti a omezení, které zákon advokátovi ukládá, mají sloužit primárně nikoliv k jeho důstojnosti a obohacení, ale k ochraně klienta. Znamená to, že v případě, že advokát poskytuje právní službu prostřednictvím umělé inteligence, tedy například, aby, když klient klade obvyklé úvodní jednoduché otázky, ho advokát rovnou připojil k chatbotovi a řekl: "Pokecej si s Edou, ten ti to vysvětlí." Pro mě za mě, to je možné v případě, že ten klient ví, s kým hovoří, že se nedomnívá, že na druhém konci drátu sedí starý zkušený advokát, který využívá svých znalostí, aby mu poradil. A za druhé, že to není jako právní služba účtováno. Neboť umělá inteligence určitě není oprávněna k tomu poskytovat právní službu. Není to advokát, nemá žádnou zodpovědnost. Což je pro toho klienta obzvlášť důležité, protože pokud mu ten „elektronický blb“ poradí nějakou hovadinu (a to se stane, pokud tam nejsou přesně omezeny, předepsány otázky, a pak to ani nemusí být umělá inteligence, ale jakýsi digitalizovaný, předem připravený rozhovor, tak to zkrátka není právní služba), kterou bude klient řídit, tak se těžko bude něčeho domáhat na umělé inteligenci. Tohle určitě v pořádku není. Jestli advokát může nějakým způsobem zpoplatňovat tuto službu, tu rozkoš, že si klient může pohovořit s přístrojem nebo s programem, možná, že ano, možná by to šlo jako zpoplatněný přístup do digitálního prostředí, pokud to advokátovi umožňuje jeho licenční smlouva, kterou na tento program má. Možná.
Pracovní sekce pro informační technologie advokátní komory bude v nejbližší době pracovat na závazném výkladovém stanovisku právě k tomuto tématu, to znamená, zda a jak může být umělá inteligence v advokacii využívána. Obecná pravda nebo obecné pravidlo by vždycky mělo být, že klient bude informován, že při přípravě stanovisek je využívána umělá inteligence atd. Samozřejmě, pokud advokát udělá to, že nechá stanovisko zpracovat umělé inteligenci a pak to rovnou pošle klientovi, je to celkem jedno, odpovědnost bude jeho. Ať už to svým kalným zrakem zhlédne, či nezhlédne. Ale z hlediska ochrany klienta se mi to moc nelíbí. Protože jedna z vlastností, které byly vyzvedávány jako pozitivum umělé inteligence, je, že se ta bestie sama učí. A tím se modifikuje, že do sebe naznává informace, postupy atd. Já nevím, jestli to je tak dobrá zpráva, protože s tím se samozřejmě také učí lhát, švindlovat, dezinterpretovat atd. Úplně stejně jako všechny ostatní postupy. Tady už nejsme jenom u třídění dat, ale i u způsobu, jakým s těmi daty bude pracovat.
To je potřeba také vzít v úvahu. Spoléhat se na to, že je to přece počítač, počítačový program, ten to určitě vyhodnotil správně, je stejně pošetilé jako se domnívat, že když jsem to viděl na internetu, tak je to pravda. Dříve to pro nás, pamětníky, bylo: "bylo to v televizi, tak to musí být pravda". Je to prostě médium člověkem vytvořené, které do sebe bohužel bude samovolně natahovat spoustu věcí chtěných i nechtěných a bude je používat poněkud nepředvídaně, protože to je další věc, která je tzv. umělé inteligenci dána, že má určitou míru autonomního rozhodování a výběru řešení či formulací, které navrhuje.
Je tedy potřeba s tím pracovat citlivě. Docela bezpečně lze všechny tyto systémy využívat k jednodušším analytickým věcem z hlediska velkých setů smluv atd. Pokud chceme umělou inteligenci využít na analýzy, rešerše v rámci zákona, možná, ale je potřeba být trošku opatrný, protože, jak známo, právo se nedá úplně vypočítat. Že by si člověk přečetl zákon a řekl: "tak a teď vím, je to tam napsáno". Pokud není vzat v úvahu výklad, judikatura, výkladová pravidla atd., tak závěr nemusí být nutně správný, ba naopak je tam vysoká míra pravděpodobnosti, že nebudou vzaty v úvahu všechny skutečnosti, které hrají roli. To je jen právní věc.
Umělá inteligence v justici
Pamatuji se, jak ještě před několika lety bylo čiré nadšení z toho, až přijde ta doba, kdy budou rozhodovat robotičtí soudci, přece jsou neúplatní, neovlivnitelní atd. Já jsem říkal, no, vím o jednom jediném místě, kde úspěšně funguje, abych tak řekl, nechci říct robotické, ale rozhodování autonomní automatizovanou autoritou. Je to jistý kanadský úřad, který ukládá pokuty. Pokuty za jednoduché skutkové děje, kde lze celkem jednoduše vyjmenovat parametry, které mohou být polehčující nebo přitěžující okolnosti. Nevydává to přístroj, vydává to úřad, funguje to, ale samozřejmě se v těchto věcech nevyslýchají žádní svědci atd., je to čistě jako paperwork. A obávám se, že tam jsme zatím na samé hraně možností, protože představa toho, jakým způsobem by ten, omlouvám se, říkám stroj, ale dejme tomu, tedy ta digitální bestie vnímala výslech svědka se všemi jeho atributy... výslech svědka nejsou jenom slova, to je body language, zkušení vyšetřovatelé řeknou, že poznají, že vyšetřovaný lže, po čichu. Zkrátka a dobře, to jsou velmi subtilní momenty, které hrají roli při hodnocení skutkového děje, eventuálně věrohodnosti svědectví. Takže tam, zatím si říkám, buďme v klidu, z tohohle mraku rozhodně brzy nezaprší.
A co dál?
A nyní na úplný závěr, možná jste zaznamenali jakousi paniku u vývojářů vedených Elonem Muskem a jeho spřísahanci, kteří zapřísahali vývojáře, aby se na šest měsíců zřekli dalšího vývoje, neboť je prudký skok ve vývoji umělé inteligence zaskočil, že prý na to lidstvo není připraveno a že ho to může vážně ohrožovat. Je to jako se vším. Samozřejmě, důvody Elona Muska a jeho "Melody Boys" nejsou ty, které hlásá. Že na to nejsme připraveni, to víme dávno, ale my nikdy nejsme na nic připraveni. Aby to bylo tak, že nejdřív budeme mít zákony, a pak se začnou věci dít, tak to nechodilo nikdy. Nejdřív je nějaký pokrok, který má efekt v rámci mezilidských vztahů, a pak se ukáže, že je potřeba to regulovat. Takhle to chodí. Aby to bylo obráceně, to málokdy. A navíc vývojáře a vynálezce to většinou tak úplně netrápí. Ti vynálezci, které dostihlo jejich svědomí, že jejich vynález byl zneužíván, ti patří spíše do románů než do skutečnosti. Takže ten důvod je jiný. Pánové si uvědomili, že na to nejsou připraveni obchodně. A představa, že jim prudké rozšíření umělé inteligence obchodně proklouzne mezi prsty, je samozřejmě věc, z které jsou upřímně zděšeni.
Myslím si, že nebezpečí vzpoury strojů a zániku lidstva je zatím pořád jen jeden z hezkých hollywoodských příběhů. Toho bych se tolik nebál. Daleko větší obavy mám z toho, když sleduji mladou generaci krásných nadějných dětí, které nepřetržitě zírají do obrazovky mobilního telefonu už od věku téměř předškolního. To si myslím, že dobře není, ale možná jsem jenom staromilcem.
Diskuze k článku ()