Brusel, 31. března 2022 - Zákaz využívání systémů pro rozpoznávání obličejů ve veřejných prostorech nebo zákaz užívání systému detekce emocí s výjimkou výzkumných a zdravotnických účelů. To dnes navrhl pirátský europoslanec Marcel Kolaja u právě vznikajícího aktu o umělé inteligenci. Ten Evropská komise vydala v dubnu 2021 a jeho cílem je stanovit harmonizovaná pravidla a zajistit bezpečné využívání systémů umělé inteligence uváděných na evropský trh.
Systémy na rozpoznání emocí jsou údajně na základě obličejové mimiky a fyziologických procesů schopny detekovat, jak se zrovna cítíte. Tyto systémy mají obrovský přínos například ve zdravotnictví, kde již efektivně pomáhají se sociální interakcí zejména autistům. Marcel Kolaja ale upozorňuje i na poněkud méně bohulibé užívání této technologie. Průmysloví giganti, marketingoví guru i maloobchodníci využívají tyto systémy k tomu, aby zjistili, jak zákazníci reagují na jejich produkty nebo reklamy. Firmy je rovněž využívají pro monitoring duševního stavu zaměstnanců.
„Snad nemusím vysvětlovat, že člověk, který se směje od ucha k uchu je nutně skutečně spokojený a šťastný. Nemůžeme vytvářet zkratky mezi naším projevem navenek a tím, co skutečně cítíme. Představte si třeba, že jdete na pracovní pohovor a systém na rozpoznání emocí označí, že lžete. Vy ale budete říkat pravdu, jenom se zkrátka v té situaci budete cítit pod tlakem. Ovšem systém vyhodnotí, že jste ve stresu z údajně lživé odpovědi. Musíme zabránit tomu, aby nám technologie diktovaly, které emoce jsou správné a které ne,” vysvětluje europoslanec a kvestor Evropského parlamentu Marcel Kolaja.
Technologie může představovat důležitou pomůcku především pro lidi s poruchou autistického spektra. Systém na rozpoznávání emocí byl například integrován do brýlí, které dětem s autismem pomáhají číst mimiku ostatních lidí. Marcel Kolaja proto navrhuje, aby užívání této technologie bylo zakázáno s výjimkou právě pro zdravotnické a výzkumné účely.
„Musíme zabránit tomu, aby systémy na detekci emocí byly přeprogramovány pro účely reklamy a marketingu. Nebo aby byly využívány například ve školách a na pracovištích. Pokud kývete hlavou na přednášejícího, neznamená to nutně, že tomu rozumíte. Stejně tak, když jste ve stresu z toho, že máte nemocnou maminku v nemocnici, neznamená to, že jste pod tlakem ze své práce a nezvládáte její objem. Informace, která se dostane na personální oddělení a k vedení firmy, by tak mohla být extrémně zkreslená. Kvůli takovému dohledu velkého bratra může docházet také k potlačování našich emocí. A to je cesta do záhuby,” doplňuje Kolaja.
Marcel Kolaja je zpravodajem stanoviska právě aktu o umělé inteligenci ve výboru pro kulturu a vzdělávání v Evropském parlamentu.