Hledáte práci? Hrozí vám diskriminace, upozorňuje na uniklý návrh Komise Kolaja

Hledáte práci? Hrozí vám diskriminace, upozorňuje na uniklý návrh Komise Kolaja
Hledáte práci? Hrozí vám diskriminace, upozorňuje na uniklý návrh Komise Kolaja

Brusel, 20. dubna 2021 – Objevují se případy, kdy za tříděním životopisů uchazečů stojí umělá inteligence. Například nástroj Amazonu takto v roce 2018 diskriminoval ženy. Ačkoliv Evropská komise označuje v uniklém návrhu takové hodnotící systémy umělé inteligence za vysoce rizikové, stále nechává prostor možné diskriminaci, upozorňuje místopředseda Evropského parlamentu Marcel Kolaja. Oficiální verzi návrhu Komise představí zítra.

„Tady se jedná o něco, co přímo ovlivňuje naše profesní i osobní životy. Nemůžeme dovolit, aby systémy umělé inteligence určovaly naši budoucnost a kohokoliv diskriminovaly. Musí zde být třetí strana, která nezávisle posoudí, zda systémy s vysokým rizikem odpovídají předpisům,” vysvětluje místopředseda Evropského parlamentu Marcel Kolaja.

Poskytovatelé takových systémů mají totiž podle návrhu ještě před uvedením na trh sami vyhodnocovat, zda nejsou v rozporu s předpisy. Podle Kolaji je ale taková kontrola nedostatečná a dává prostor diskriminovat uchazeče - ať už na základě pohlaví, národnosti, nebo věku. A to i nevědomky.

„Nejedná se jen o nástroje pro personalistiku. Jsou to i bankovní systémy, které hodnotí, zda jste schopni splatit půjčku. Může se tak stát, že nedostanete hypotéku, protože vyhodnocování vaší žádosti bylo ovlivněno automaticky nastavenými předsudky. A to je extrémně nebezpečné,” varuje Kolaja.

Zítra Komise představí oficiální návrh, který by měl stanovit právní rámec pro umělou inteligenci. Po oficiálním představení návrhu přejde legislativní štafeta na Evropský parlament a Radu.

„Jakmile návrh přijde na náš stůl, budu pracovat na tom, aby se do návrhu dostaly potřebné úpravy. Umělá inteligence musí lidem sloužit,” uzavírá Kolaja.

Sdílení je aktem lásky
Kam dále?
Navrhni úpravu