Umělá inteligence a informování spotřebitele

Čím dál častěji se bude jednat o produkty, které budou dostupné přímo spotřebiteli. Využití umělé inteligence v produktech určených spotřebiteli je žádoucí, protože přinese nové, inovativní výrobky a služby, které budou navíc přizpůsobeny konkrétnímu člověku a jeho zvyklostem a potřebám.

Informování spotřebitele v nových dokumentech EU

Umělá inteligence má kromě benefitů pro spotřebitele i rizika. To je důvodem, proč se umělou inteligencí ve vztahu ke spotřebitelům zabývá i Evropská unie. V roce 2020 byly přijaty dokumenty, které nastiňují další vývoj v právní úpravě umělé inteligence. V únoru 2020 byla Evropskou komisí přijata Bílá kniha o umělé inteligenci[2], která stanoví zvláštní požadavky na vysoce rizikovou umělou inteligenci, u níž existují podle Komise významná rizika mimo jiné z hlediska práv spotřebitelů. O vysoce rizikovou umělou inteligenci se jedná, pokud se aplikace umělé inteligence používá v odvětví, kde lze s ohledem na charakteristické rysy činností typicky očekávat významná rizika, např. zdravotnictví, a zároveň pokud se umělá inteligence v dotčeném odvětví používá takovým způsobem, že pravděpodobně hrozí značná rizika, například použití aplikací umělé inteligence, které mají právní nebo podobně významné účinky na práva jednotlivce nebo společnosti, které představují riziko zranění, smrti nebo významné újmy. Na vysoce rizikové aplikace umělé inteligence by měly být stanoveny zvláštní právní požadavky, např. požadavky na informování o schopnostech, účelu, podmínkách fungování a přesnosti, požadavek na určitou míru lidského dohledu nebo požadavek na předběžné posouzení shody.

V říjnu 2020 přijal Evropský parlament Rámec pro etické aspekty umělé inteligence, robotiky a souvisejících technologií.[3] Evropský parlament v tomto rámci uvádí, že stávající unijní předpisy v oblasti spotřebitelského práva, v oblasti ochrany údajů, bezpečnosti výrobků i antidiskriminačního práva nemusí být nadále vhodné k účinnému řešení rizik vyplývajících z umělé inteligence, robotiky a souvisejících technologií. Evropský parlament zdůrazňuje potřebu informovat spotřebitele o použití umělé inteligence a navrhuje vytvoření standardizovaných ikon. Tyto ikony by mohly být používány, pokud by systémy se zapojením umělé inteligence byly složité nebo mohly činit rozhodnutí, která mají významný dopad na život spotřebitelů.

Evropský rámec počítá s informováním spotřebitele o použití umělé inteligence ve výrobcích nebo službách pouze pokud bude mít umělá inteligence určité charakteristiky. Bude vysoce riziková nebo složitá nebo její rozhodnutí bude mít významný dopad na spotřebitele. Lze předpokládat, že se charakter produktu bude v průběhu používání měnit. Může se tak změnit rizikovost umělé inteligence pro spotřebitele nebo význam dopadu na jeho život. Spotřebitel by měl být proto informován o použití umělé inteligence v každém produktu, který si zakoupí.

Informace o umělé inteligenci a klamavé obchodní sdělení

Přestože v platném právu neexistuje výslovná povinnost informovat spotřebitele o umělé inteligenci, může být zatajení informace kvalifikováno jako klamavá obchodní praktika. Podle § 5 odst. 1 zákona č. 634/1992 Sb., o ochraně spotřebitele se obchodní praktika považuje za klamavou, pokud obsahuje věcně nesprávnou informaci a je tedy nepravdivá, což vede nebo může vést spotřebitele k rozhodnutí ohledně koupě, které by jinak neučinil. Také pravdivá informace může být klamavá, jestliže může vést spotřebitele k rozhodnutí ohledně koupě, které by jinak neučinil, pokud je tato informace způsobilá jej uvést v omyl ohledně skutečností uvedených v zákoně, například ohledně podstaty výrobku nebo služby, nebo hlavních znaků výrobku a služby jako je jejich provedení, způsobilost k účelu použití apod. Aby mohla být obchodní praktika klamavá, musela by být informace o využití umělé inteligence pro spotřebitele tak zásadní, že by ovlivnila spotřebitele ohledně koupě produktu.

Jelikož je umělá inteligence do určité míry módní, může být klamavé i tvrzení obchodníka, že umělou inteligenci v produktu používá, přestože toto tvrzení není pravdivé. Německé soudy shledaly v poslední době dvě taková tvrzení jako klamavá. V prvním, podle dostupných informací dosud nepravomocném případě, se jednalo o automobil Tesla, u kterého společnost Tesla Germany tvrdila, že má schopnost plně autonomního řízení.[4] Druhý případ se týkal generátoru dokumentů produktu Smartlaw od společnosti Wolters Kluwer.[5] Generátor dokumentů měl podle tvrzení společnosti vytvářet dokumenty v kvalitě jako od advokáta. Společnost dále uváděla, že používání softwaru připomíná rozhovor s advokátem, přestože se jednalo o software, který zpracovával schematicky předem určené rozhodovací struktury ano/ne.[6]

Závěr

Ve spotřebitelském právu neexistuje povinnost informovat spotřebitele o umělé inteligenci. Evropská unie se to snaží změnit. Evropská komise a Evropský parlament navrhují přijetí předpisů, které by zakotvily informační povinnosti vůči spotřebiteli, a to nikoliv obecně, ale ve specifických případech. Již nyní by se neposkytnutí informace o umělé inteligenci dalo považovat za protiprávní, pokud by ovšem naplňovalo podmínky klamavé obchodní praktiky. Klamavé je i tvrzení, že produkt prvky umělé inteligence obsahuje, přestože by tyto vlastnosti neměl.

---

[1] Jednotná definice umělé inteligence neexistuje. Definici umělé inteligence obsahuje např. Sdělení Komise Evropskému parlamentu, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů. Umělá inteligence pro Evropu COM(2018) 237 final, s. 1. Dostupné z: https://ec.europa.eu/transparency/regdoc/rep/1/2018/CS/COM-2018-237-F1-CS-MAIN-PART-1.PDF. „Za umělou inteligenci se považují systémy vykazující inteligentní chování v podobě vyhodnocování svého okolí a následného rozhodování či vykonávání kroků – s určitou mírou autonomie – k dosažení konkrétních cílů. Systémy využívající technologii umělé inteligence mohou být čistě softwarové, které působí jen ve virtuálním světě (např. hlasoví asistenti, program na analýzu snímků, vyhledávače, systémy rozpoznávání hlasu a obličeje), nebo mohou být zabudovány do technického vybavení (např. pokročilé roboty, autonomní vozidla, drony a různé formy využití internetu věcí).

[2] Bílá kniha o umělé inteligenci. Dostupné z: https://op.europa.eu/cs/publication-detail/-/publication/ac957f13-53c6-11ea-aece-01aa75ed71a1.

[3] Rámec pro etické aspekty umělé inteligence, robotiky a souvisejících technologií. Dostupné z: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_CS.html.

[4] Werbung mit Autopilot irreführend für Verbraucher, Dostupné z: https://www.justiz.bayern.de/gerichte-und-behoerden/landgericht/muenchen-1/presse/2020/7.php.

[5] Legal Tech - Vertragsgenerator “smartlaw” verstößt nicht gegen das Rechtsdienstleistungsgesetz. Medien, Internet und Recht. Dostupné z: https://medien-internet-und-recht.de/volltext.php?mir_dok_id=2992.

[6] Rozsudek Zemského soudu v Kolíně nad Rýnem ze dne 8. 10. 2019, sp. zn. 33 O 35/19. Dostupné z: https://www.justiz.nrw.de/nrwe/lgs/koeln/lg_koeln/j2019/33_O_35_19_Urteil_20191008.html a rozsudek Vyššího zemského soudu v Kolíně nad Rýnem ze dne 19. 6. 2020 sp. zn. 6 U 263/19. Dostupné z: https://www.justiz.nrw.de/nrwe/olgs/koeln/j2020/6_U_263_19_Urteil_20200619.html.