Umělá, resp. organoidní inteligence v soudnictví

Rizika umělé inteligence (AI), resp. organoidní inteligence (OI)

Již bez hlubších znalostí soudobého poznání jsou přirozeně zjevná rizika, která lidé – i kdyby jen teoreticky – spatřují ve vývoji umělé inteligence. Příkladem je nedávno zveřejněný dokument „Pause Giant AI Experiments: An Open Letter“, tj. otevřený dopis, podepsaný mnoha akademiky, experty a podnikateli zapojenými do vývoje umělé inteligence (AI), jež vyzývá všechny laboratoře umělé inteligence, aby okamžitě alespoň na 6 měsíců pozastavily vývoj pokročilých systémů umělé inteligence, neboť – zkráceně řečeno – jde vývoj příliš rychle kupředu bez jasně stanovených pravidel a bez jasně předpokládatelných důsledků, což představuje významná rizika. Více např. zde: Naléhavá výzva hvězd IT: Zastavte vývoj umělé inteligence, jde moc rychle Mezi další příklady – třebaže nevědecké a neexaktní – obecných obav z budoucnosti vývoje umělé inteligence se řadí nejrůznější sci-fi filmy, jakými jsou např. Matrix, Ex Machina, Já Robot, 2001: Vesmírná odysea, A.I. Umělá inteligence, Ona, a jiné.

Pojem a obsah umělé inteligence (AI) je všeobecně znám, avšak zastiňuje jiný – dle našeho názoru o mnoho rizikovější – fenomén, a to organoidní inteligenci (OI). Přibližně před deseti lety dokázali vědečtí pracovníci „vypěstovat“ miniaturní mozkové buňky (tzv. mozkové organoidy), což umožnilo pokrok pro medicínu a související obory, a mimo jiné je teď organoidní inteligence (OI) konkurentem umělé inteligence (AI). Mozkové organoidy by mohly v budoucnu tvořit základ tzv. organických počítačů. Nejnovější superpočítač dokázal překonat celkový výkon lidského mozku teprve v roce 2022, ačkoliv selektivně nepřekonatelných výsledků zatím lidský mozek dosahuje na poli složitých operací. Problém nastává v již zmíněných nedozírných důsledcích, neboť existuje možnost, že by tzv. biologické počítače nabyly vědomí a na to není nikdo připraven.[1]

Inteligence, rozum, cit, spravedlnost, rozhodování a soudnictví

Ve světle současného vědecko-technického pokroku na poli vývoje AI a OI, schopných strojového učení, je zjevně namístě se pozastavit a zamyslet se, zda by některé oblasti rozhodování neměly být ponechány v rukách toliko „obyčejného a nedokonalého“ člověka nežli autonomního stroje či organoidu, byť nadaného inteligencí, ale ne rozumem a citem. Pokud je potřeba k sestrojení bomby schopné zničit celou planetu Zemi inteligence, může její sestrojení být produktem inteligence, ale nemusí být rozumné.

Vždyť je to právě inteligence, jež může být vytvořena uměle, resp. propůjčena stroji nebo organoidu, nikoliv rozum nebo cit. Neexistuje ničeho takového jako umělého, resp. organoidního rozumu nebo citu. Samozřejmě, že lidský rozum a spíše pak city, resp. emoce byly, jsou a budou zdrojem chybných – možná nerozumných a pro někoho (tj. relativně) nespravedlivých – rozhodnutí, ale i tak nelze bezvýhradně (někdy ano) konstatovat, že by taková rozhodnutí nebyla produktem inteligence. Je tedy potřeba zdůraznit, že inteligence člověka a umělá, resp. organoidní inteligence mohou vytvářet chybná, nespravedlivá či nerozumná rozhodnutí. Nezapomínejme tedy, že velmi vysoká inteligence a pokročilá schopnost se učit není 100% předpokladem rozumných rozhodnutí.

Když bylo řečeno A, tak musí být řečeno i B. Hovoříme-li o rozhodnutí umělé či organoidní inteligence jako o rozumném či nerozumném, popisujeme subjektivní pohled člověka, který je obdařen vnímáním, že je něco rozumné nebo nerozumné. Uvědomme si však, že i když člověk není při svém rozhodování zcela objektivní, ale spíše subjektivní, neznamená to automaticky, že je jeho rozhodování nerozumné. Nyní se zamysleme nad rozhodováním stroje či organoidu. Domníváme se, že vyvozením ze shora uvedeného, lze na jedné straně konstatovat, že rozhodování stroje či organoidu je objektivní, ale na straně druhé nemůže být jeho rozhodování rozumné či nerozumné. Stroj, organoid i člověk konstatuje, že 1 + 1 = 2, a ani člověk senzibilní k subjektivitě nepřemýšlí, zda je výsledek rozumný či nerozumný, výsledek je objektivní danost. To nemůže prosím pěkně fungovat v soudnictví. Když zadáme stroji nebo organoidu vyřešit úkol, zda je správně „4 + 5 je 10“ nebo „4 + 5 jsou 10“, tak se soustředí na zadaný češtinářský úkol, ale může mu uniknout podstata, že 4 + 5 je 9, nikoliv 10.

Závěr

Stroj, resp. organoid produkuje objektivní rozhodnutí, a to právě proto, že není nadán rozumem nebo citem. Rozhodování člověka je zasaženo rozumem, citem, vnímáním dobra a zla, a je tedy subjektivní (více či méně). Leckoho by mohlo napadnout, že v soudnictví je objektivní rozhodnutí, to nejlepší a nestranné rozhodnutí, ale nenechme se oklamat dojmy. Pro lepší představivost nyní omezme pojem soudnictví na soudnictví v trestních věcech týkajících se vražd. Zkoumá se psychický stav pachatele, oběť mohla svého vraha dlouhodobě fyzicky i psychicky týrat, vrah nemusel být příčetný, polehčující okolnosti, přitěžující okolnosti, znalecké posudky a tak dále. To vše má vliv na výrok o vině a trestu a odůvodnění výroku. A soudce musí všechny tyto komponenty zohlednit a jakkoliv se dostane co nejblíže pravdě, tedy co nejblíže objektivitě, pořád je subjektivní a kdo pozorně četl shora uvedené nuance souhlasí, že – přes vědomí, že rozhodování člověka je subjektivní a jeho plodem může být nerozum – pouze člověk by měl v soudnictví rozhodovat o člověku.

Právo má téměř vždy zpoždění za realitou, např. od výskytu a konzumace nového typu škodlivé drogy až do jejího přidání na seznam zakázaných návykových látek. Ale než nám s AI a OI „ujede vlak“, zaručme ústavním právem, aby o člověku rozhodoval pouze člověk.

---

[1] https://insmart.cz/ai-ma-konkurenci-v-podobe-biologickych-pocitacu/