Spotřebitelské právo v éře umělé inteligence

Smluvní podmínky, které obchodník „nabízí“, totiž nemusí být stejné pro každého. Mohou být výsledkem sofistikované analýzy chování konkrétního uživatele, jeho předchozích nákupních vzorců, platební historie, demografických znaků nebo i psychologického profilu. Spotřebitel tak nevstupuje do smluvního vztahu jako rovný partner, ale jako objekt cílené datové strategie, jejíž logiku obvykle nemá šanci pochopit, natož ovlivnit.

Jako právník, ekonom i předseda spotřebitelské organizace nemohu ignorovat, že technologie přináší zcela nové výzvy, které zákonodárství zatím nedokáže dostatečně reflektovat. Osobně mne některé aspekty využívání umělé inteligence ve spotřebitelských vztazích zneklidňují. Ne snad proto, že bych věřil, že technologie jako taková je špatná – ale proto, že její využití se často děje bez jasných pravidel, demokratické kontroly a především bez účinné možnosti spotřebitele bránit se, pokud se stane obětí neférového algoritmického rozhodování. Spotřebitelé přitom nejsou naivní ani pasivní. Velmi často si uvědomují, že v digitálním prostředí se „platí daty“. Jenže vědomí obecné skutečnosti ještě neznamená, že mají reálnou kontrolu nad konkrétním použitím těchto dat ve smluvním procesu. A právě zde začíná problém, který je třeba nahlížet nejen právně, ale i eticky.

Personalizace sama o sobě není nezákonná, ba naopak – může přinášet výhody. Nabídka může být relevantnější, rozhodovací proces rychlejší, uživatelský zážitek pohodlnější. Ale stejně tak může být nástrojem diskriminace. Pokud dva spotřebitelé obdrží na stejnou službu rozdílnou cenu jen proto, že algoritmus vyhodnotil jejich ochotu zaplatit jinak, jde o formu nerovnosti, která je s tradičním pojetím spotřebitelského práva jen těžko slučitelná. Ještě problematičtější je situace, kdy algoritmus začne predikovat a zároveň formovat budoucí chování spotřebitele – například tím, že mu opakovaně nabízí jen určitý typ produktu, čímž se zužuje jeho schopnost výběru a vytváří se tzv. lock-in efekt. Spotřebitel se ocitá v informačním tunelu, kde algoritmus rozhoduje, co uvidí, co bude považovat za „výhodné“, a co mu zůstane skryto.

Evropská legislativa v posledních letech částečně reaguje na tyto trendy. Obecné nařízení o ochraně osobních údajů (GDPR) upravuje profilování a stanovuje právo nebýt předmětem výhradně automatizovaného rozhodování s právními účinky. Digital Services Act přináší určité povinnosti ohledně transparentnosti algoritmů a personalizované reklamy. Návrh nařízení o umělé inteligenci (tzv. AI Act) zavádí kategorii vysoce rizikových systémů, které podléhají zvláštní kontrole a regulaci. Přesto však současný právní rámec zatím neposkytuje dostatečně robustní ochranu spotřebitele v prostředí personalizovaných smluv. Problémem není pouze obsah regulace, ale především její praktická vymahatelnost a nízká míra povědomí mezi spotřebiteli. Většina z nich netuší, že vůbec byla profilována, natož že by mohla žádat vysvětlení nebo změnu způsobu zpracování dat. A nelze se jim divit – informační asymetrie mezi stranami je natolik zásadní, že jakýkoli pokus o „informovaný souhlas“ je spíše právní fikcí než reálnou ochranou.

Z ekonomického hlediska může personalizace zvýšit efektivitu trhu. Obchodníci optimalizují ceny, spotřebitelé teoreticky dostávají to, co odpovídá jejich preferencím. Jenže tato rovnice nepočítá s tím, že optimalizace z pohledu obchodníka neznamená vždy férovost z pohledu spotřebitele. Pokud nemá přístup ke standardní nabídce, nemůže srovnávat. Pokud neví, že je mu prezentována personalizovaná cena, nemůže se rozhodovat racionálně. A pokud se smluvní podmínky liší bez objektivního důvodu, nelze hovořit o rovnosti v právním smyslu. Trh sice může být „chytrý“, ale není nutně spravedlivý.

Z těchto důvodů považuji za nezbytné, aby se spotřebitelské právo začalo důsledněji zabývat algoritmickou personalizací jako samostatným jevem, nikoli jen jako technickým detailem smluvního procesu. Je třeba uvažovat o zavedení práva spotřebitele na standardní – tedy nepersonalizovanou – nabídku. Podobně jako má dnes právo nebýt sledován reklamními cookies, měl by mít právo obdržet smluvní návrh, který nevychází z jeho předchozího chování, ale je aplikován rovnoměrně na všechny zájemce. Stejně tak by měly být jasně definovány podmínky, za nichž je personalizace cen přípustná, a obchodníci by měli být povinni tyto praktiky označovat.

Ochrana spotřebitele v digitálním prostředí nemůže spočívat pouze ve formulářovém „souhlasu se zpracováním údajů“. Musí vycházet z reálné možnosti kontroly, vysvětlení a nápravy. Zvlášť důležitá je pak role veřejnoprávních institucí, které by měly mít možnost provádět audity algoritmických systémů podobně jako dnes kontrolují složení potravin či pravdivost reklamních tvrzení. Technologie sama o sobě není problémem. Problémem je její zneužití bez pravidel a bez zpětné vazby.

Závěrem lze říci, že personalizované smlouvy nejsou pouze technologickým vývojem, ale i právní výzvou. Spotřebitelské právo 21. století musí reflektovat novou realitu – realitu, v níž smluvní autonomie, rovnost a transparentnost nejsou samozřejmostí, ale hodnotami, o něž je třeba znovu a důsledně usilovat. Umělá inteligence může být spojencem spotřebitele – ale jen tehdy, pokud bude podléhat pravidlům, která zajišťují rovnováhu, informovanost a spravedlnost. Jinak hrozí, že smluvní vztah se stane jen iluzí svobody v prostředí algoritmicky řízené manipulace.