Umělá, resp. organoidní inteligence v soudnictví
Kdo nebo co je nositelem inteligence a kdo nebo co je nositelem rozumu, či citu? Je inteligence zárukou rozumu? Může být nerozumné rozhodnutí zároveň inteligentní? Jak tyto řečnické otázky souvisí s předestřeným tématem, nechť probudí chtíč po vědění.
Rizika umělé inteligence (AI), resp. organoidní inteligence (OI)
Již bez hlubších znalostí soudobého poznání jsou přirozeně zjevná rizika, která lidé – i kdyby jen teoreticky – spatřují ve vývoji umělé inteligence. Příkladem je nedávno zveřejněný dokument „Pause Giant AI Experiments: An Open Letter“, tj. otevřený dopis, podepsaný mnoha akademiky, experty a podnikateli zapojenými do vývoje umělé inteligence (AI), jež vyzývá všechny laboratoře umělé inteligence, aby okamžitě alespoň na 6 měsíců pozastavily vývoj pokročilých systémů umělé inteligence, neboť – zkráceně řečeno – jde vývoj příliš rychle kupředu bez jasně stanovených pravidel a bez jasně předpokládatelných důsledků, což představuje významná rizika. Více např. zde: Naléhavá výzva hvězd IT: Zastavte vývoj umělé inteligence, jde moc rychle Mezi další příklady – třebaže nevědecké a neexaktní – obecných obav z budoucnosti vývoje umělé inteligence se řadí nejrůznější sci-fi filmy, jakými jsou např. Matrix, Ex Machina, Já Robot, 2001: Vesmírná odysea, A.I. Umělá inteligence, Ona, a jiné.
Pojem a obsah umělé inteligence (AI) je všeobecně znám, avšak zastiňuje jiný – dle našeho názoru o mnoho rizikovější – fenomén, a to organoidní inteligenci (OI). Přibližně před deseti lety dokázali vědečtí pracovníci „vypěstovat“ miniaturní mozkové buňky (tzv. mozkové organoidy), což umožnilo pokrok pro medicínu a související obory, a mimo jiné je teď organoidní inteligence (OI) konkurentem umělé inteligence (AI). Mozkové organoidy by mohly v budoucnu tvořit základ tzv. organických počítačů. Nejnovější superpočítač dokázal překonat celkový výkon lidského mozku teprve v roce 2022, ačkoliv selektivně nepřekonatelných výsledků zatím lidský mozek dosahuje na poli složitých operací. Problém nastává v již zmíněných nedozírných důsledcích, neboť existuje možnost, že by tzv. biologické počítače nabyly vědomí a na to není nikdo připraven.[1]
Inteligence, rozum, cit, spravedlnost, rozhodování a soudnictví
Ve světle současného vědecko-technického pokroku na poli vývoje AI a OI, schopných strojového učení, je zjevně namístě se pozastavit a zamyslet se, zda by některé oblasti rozhodování neměly být ponechány v rukách toliko „obyčejného a nedokonalého“ člověka nežli autonomního stroje či organoidu, byť nadaného inteligencí, ale ne rozumem a citem. Pokud je potřeba k sestrojení bomby schopné zničit celou planetu Zemi inteligence, může její sestrojení být produktem inteligence, ale nemusí být rozumné.
Vždyť je to právě inteligence, jež může být vytvořena uměle, resp. propůjčena stroji nebo organoidu, nikoliv rozum nebo cit. Neexistuje ničeho takového jako umělého, resp. organoidního rozumu nebo citu. Samozřejmě, že lidský rozum a spíše pak city, resp. emoce byly, jsou a budou zdrojem chybných – možná nerozumných a pro někoho (tj. relativně) nespravedlivých – rozhodnutí, ale i tak nelze bezvýhradně (někdy ano) konstatovat, že by taková rozhodnutí nebyla produktem inteligence. Je tedy potřeba zdůraznit, že inteligence člověka a umělá, resp. organoidní inteligence mohou vytvářet chybná, nespravedlivá či nerozumná rozhodnutí. Nezapomínejme tedy, že velmi vysoká inteligence a pokročilá schopnost se učit není 100% předpokladem rozumných rozhodnutí.
Když bylo řečeno A, tak musí být řečeno i B. Hovoříme-li o rozhodnutí umělé či organoidní inteligence jako o rozumném či nerozumném, popisujeme subjektivní pohled člověka, který je obdařen vnímáním, že je něco rozumné nebo nerozumné. Uvědomme si však, že i když člověk není při svém rozhodování zcela objektivní, ale spíše subjektivní, neznamená to automaticky, že je jeho rozhodování nerozumné. Nyní se zamysleme nad rozhodováním stroje či organoidu. Domníváme se, že vyvozením ze shora uvedeného, lze na jedné straně konstatovat, že rozhodování stroje či organoidu je objektivní, ale na straně druhé nemůže být jeho rozhodování rozumné či nerozumné. Stroj, organoid i člověk konstatuje, že 1 + 1 = 2, a ani člověk senzibilní k subjektivitě nepřemýšlí, zda je výsledek rozumný či nerozumný, výsledek je objektivní danost. To nemůže prosím pěkně fungovat v soudnictví. Když zadáme stroji nebo organoidu vyřešit úkol, zda je správně „4 + 5 je 10“ nebo „4 + 5 jsou 10“, tak se soustředí na zadaný češtinářský úkol, ale může mu uniknout podstata, že 4 + 5 je 9, nikoliv 10.
Závěr
Stroj, resp. organoid produkuje objektivní rozhodnutí, a to právě proto, že není nadán rozumem nebo citem. Rozhodování člověka je zasaženo rozumem, citem, vnímáním dobra a zla, a je tedy subjektivní (více či méně). Leckoho by mohlo napadnout, že v soudnictví je objektivní rozhodnutí, to nejlepší a nestranné rozhodnutí, ale nenechme se oklamat dojmy. Pro lepší představivost nyní omezme pojem soudnictví na soudnictví v trestních věcech týkajících se vražd. Zkoumá se psychický stav pachatele, oběť mohla svého vraha dlouhodobě fyzicky i psychicky týrat, vrah nemusel být příčetný, polehčující okolnosti, přitěžující okolnosti, znalecké posudky a tak dále. To vše má vliv na výrok o vině a trestu a odůvodnění výroku. A soudce musí všechny tyto komponenty zohlednit a jakkoliv se dostane co nejblíže pravdě, tedy co nejblíže objektivitě, pořád je subjektivní a kdo pozorně četl shora uvedené nuance souhlasí, že – přes vědomí, že rozhodování člověka je subjektivní a jeho plodem může být nerozum – pouze člověk by měl v soudnictví rozhodovat o člověku.
Právo má téměř vždy zpoždění za realitou, např. od výskytu a konzumace nového typu škodlivé drogy až do jejího přidání na seznam zakázaných návykových látek. Ale než nám s AI a OI „ujede vlak“, zaručme ústavním právem, aby o člověku rozhodoval pouze člověk.
[1] https://insmart.cz/ai-ma-konkurenci-v-podobe-biologickych-pocitacu/
Další články
Právní průšvihy při nasazování AI nástrojů – praktické zkušenosti, kdy se to nepovedlo (1. část)
Implementace nástrojů umělé inteligence už pro právníky není hudbou budoucnosti, ale každodenní realitou. Zapomeňte však na tradiční přístup „odškrtávání checklistů“. V éře AI totiž regulace přímo diktuje samotný technický design produktů. Jak se úspěšně zorientovat v džungli desítek evropských předpisů, na co si dát pozor při mapování datových toků a proč musí právníci při vývoji aplikací sedět u jednoho stolu s programátory a produktovými manažery?
Kdy musí zahraniční firma odvádět daně v tuzemsku? Někdy stačí i jediný zaměstnanec na home office
Práce na dálku z jiné země je čím dál častější. Přestože se podmínky prezence na pracovišti rozvolnily, žádná benevolence už neplatí v tom, kde a jak firmy, potažmo zaměstnanci musí odvádět daně. Systém přitom není nejpřehlednější, a tak svádí k chybám.
Prediktivní analytika při správě daní
Daňová kontrola byla dlouho vnímána především jako nástroj zpětného ověření. Správce daně posuzoval, zda daňový subjekt v minulosti správně přiznal daň, zda doložil rozhodné skutečnosti a zda jeho tvrzení odpovídá realitě. Tento model má své pevné místo i v budoucnu. U části daňových rizik však naráží na praktický limit: pokud správce daně reaguje až ve chvíli, kdy je škoda způsobena, může být její náprava obtížná, ne-li fakticky nemožná.
Rozhovor: Adam Felix - Advokacie nesmí podléhat státnímu finančnímu dozoru
Ministerstvo financí předložilo návrh zákona o ekonomické ochraně státu a související novely zákona o Finančním analytickém úřadu a zákona o advokacii, které mají ambici posílit nástroje státu v boji proti praní peněz a financování terorismu. Vedle deklarovaného cíle návrh vyvolává zásadní debatu o tom, kde končí legitimní regulace a začíná zásah do samotné podstaty nezávislé advokacie a pilířů právního státu.
Nadační fond pro soukromý účel – vývoj, judikatura a praxe
Dodnes napříč širší veřejností přetrvává dojem, že nadační fondy jsou nástroj primárně určený pro dobročinné účely. V praxi se však nadační fondy běžně využívají rovněž ke správě rodinného majetku, jeho mezigeneračnímu předání i jako mateřská entita v holdingových strukturách.
