Někdy je lepší používání umělé inteligence ve firmě zcela zakázat, zejména pokud nevíte, jak přesně funguje, říká Ondřej Beneš

Nedbalé zpřístupnění citlivých dat umělé inteligenci v práci může způsobit problémy zaměstnavateli i někomu, kdo je s ním v kontaktu. „Pokud škoda vznikne v souvislosti s výkonem pracovních povinností, postupuje se podle zákoníku práce. To znamená, že zaměstnanec bude zaměstnavateli odpovídat do výše čtyřapůlnásobku svého průměrného měsíčního výdělku,“ popisuje Ondřej Beneš, expert na pracovní právo působící v pražské pobočce mezinárodní advokátní kanceláře Wolf Theiss.

Pamatuje právo na to, že využití AI může vést k propuštění zaměstnance?

Nesetkal jsem se se situací, že by pracovní pozice byla zrušena jen kvůli zavedení nástroje umělé inteligence. Zároveň je ale pravda, že už dnes je to jeden z více faktorů, které mohou ke zrušení místa vést. Zákoník práce na to pamatuje. Tím ale nemyslím, že by byla přijata speciální novela v návaznosti na rozšíření AI. Obecná úprava dnes říká, že zaměstnavatel může rozhodnout o zrušení pracovního místa v důsledku zavedení nového technického řešení, což je přesně případ umělé inteligence. V takovém případě může zaměstnanec dostat výpověď pro nadbytečnost, se kterou se pojí například nárok na odstupné.

Věnují se tomuto tématu odborové organizace při kolektivním vyjednávání?

Zákoník práce dnes říká, že některá opatření, včetně těch, která se dotýkají většího počtu zaměstnanců, musí zaměstnavatel projednat s odborovou organizací. Není to sice detailněji rozvinuto, ale plošné zavádění nějakého AI nástroje, který bude mít dopad na počet pracovních míst, by pod tento režim rozhodně patřilo. Zatím nevidíme, že by se o toto téma české odborové organizace nějak více zajímaly. S dalším rozvojem umělé inteligence se však dá předpokládat, že se to poměrně rychle změní.

Existují nějaké snahy o přijetí předpisů, které by zaměstnance chránily nad rámec obecného režimu?

Musím zmínit nařízení Evropské unie, takzvaný AI Act, jehož část nabývá účinnosti od letošního roku. V Polsku už se připravují navazující předpisy, u nás zatím ne. Z hlediska trhu práce je důležité, že unijní nařízení výslovně klasifikuje využití AI systému v oblasti zaměstnávání jako vysoce rizikové. Týká se to využívání umělé inteligence ve všech procesech, ať už jde o nábor, rozhodování o tom, který zaměstnanec bude povýšen a který naopak propuštěn, či hodnocení pracovních výsledků. Nařízení vlastně říká, že využití možné je, ale pouze při splnění přísných požadavků. 

Čeho se tyto požadavky týkají?

Zejména transparentnosti. To znamená, že zaměstnanec by měl vždy vědět, že je AI nástroj používán. Zároveň je nutné, aby tam byl vždy lidský prvek a nebyl to ryze automatizovaný proces. Dohled je důležitý, jelikož se například ukazuje, že nástroje umělé inteligence používané při náboru zaměstnanců mohou být často přednastavené tak, aby byly zaujaté. Tedy, aby diskriminovaly určité kategorie uchazečů o práci či naopak přistupovaly k některým skupinám pozitivněji. Může jít o rozdíly na základě pohlaví, věku, etnické příslušnosti a podobně.

Když bude mít uchazeč o práci pocit, že ho umělá inteligence znevýhodnila, čeho se může dovolávat? Napadá mě třeba požadovat, aby firma zveřejnila fungování daného algoritmu.

Pokud by takový spor vznikl, bude se postupovat podle českého antidiskriminačního zákona. To znamená, že zaměstnavatel bude muset prokazovat, že o diskriminaci nešlo. V souvislosti s použitím AI nástrojů to může být velmi problematické, jelikož když si společnost pořídí nějaký externí nástroj například pro nábor a další HR procesy, pravděpodobně nebude znát celý jeho algoritmus a nebude k němu mít přístup. Právě proto je důležitý lidský faktor. Když postup umělé inteligence kontroluje ještě zaměstnanec oddělení lidských zdrojů, je větší šance zachytit případné porušení antidiskriminačních či jiných pravidel.

A je tedy využívání externích nástrojů umělé inteligence, u nichž není algoritmus znám, ve firemní praxi vhodné?

U externích nástrojů je vždy určitá míra rizika. Když si firma vytvoří vlastní řešení, může většinu nebezpečí lépe hlídat. Nejde přitom jenom o ta diskriminační. Bavit se můžeme i o úniku obchodních tajemství, osobních údajů zaměstnanců a dalších citlivých informací, které se do toho nástroje nahrávají. Upravuje to i nařízení o ochraně osobních údajů GDPR, které říká, že každý subjekt údajů, což je v zásadě libovolný člověk, má právo na to, aby o něm nerozhodoval automatizovaný proces bez lidské kontroly. Na druhou stranu ale praxe ukazuje, že i při slabinách externích nástrojů někdy neexistuje jiná efektivní cesta. Většina zaměstnavatelů nemá kapacity na to, aby vyvíjela vlastní řešení. 

Je nějak vymezeno, co vše může zaměstnavatel umělé inteligenci o jednotlivci svěřit?

Zákoník práce stanovuje, jaké informace může zaměstnavatel o uchazečích o práci a svých zaměstnancích shromažďovat. To jsou základní limity, které platí nezávisle na zavádění umělé inteligence. U těch ale navíc platí, že pokud zaměstnavatel, a to třeba i prostřednictvím někoho, kdo má na starosti nábor, použije AI nástroj, u něhož by nebyla dostatečně zajištěna ochrana osobních údajů, riskuje pokuty a další sankce za porušení pravidel GDPR.

Trest tedy hrozí zaměstnavateli, ne dodavateli nedostatečně zabezpečeného zařízení?

Ano, odpovědnost za škodu či újmu, která vznikne třeba uchazeči o práci, obchodnímu partnerovi, zaměstnanci či klientovi, nese vždy zaměstnavatel. Nepřenáší se třeba na vývojáře nástroje. Jiná věc je, když někdo ve firmě použije neschválený AI nástroj v rozporu s firemními pravidly. V takovém případě by sice primární odpovědnost vůči třetí straně stále nesl zaměstnavatel, ale následně by na zaměstnanci mohl škodu vymáhat.

Jak?

Pokud škoda vznikne v souvislosti s výkonem pracovních povinností zaměstnance, bude se postupovat podle zákoníku práce. To znamená, že zaměstnanec bude zaměstnavateli odpovídat do výše čtyřapůlnásobku svého průměrného měsíčního výdělku. Limit by neplatil v případě, pokud by škoda byla způsobena úmyslně, ale to zrovna u těchto případů nebude úplně typické. Aby takový postih mohl zaměstnavatel uplatnit, musí mít dopředu jasně a přehledně stanovená pravidla, co se smí a nesmí používat, a musí v nich zaměstnance řádně proškolit. Pokud tak neučiní, pravděpodobně s nějakým disciplinárním opatřením a požadavkem na náhradu škody neuspěje.

Zní to tak, že nastavení vhodných pravidel je poměrně složité. Může si například zaměstnavatel zjednodušit život tím, že AI nástroje při práci plošně zakáže?

Může, je to čistě na jeho úvaze. Lidé využívají různé chatboty a další nástroje umělé inteligence v soukromém životě a mají tendenci je zapojovat i v práci. Často příliš nedbají na obezřetnost při nakládání s citlivými údaji a neuvědomují si, že mohou zaměstnavateli takto způsobit škodu. Zaměstnavatel s tím musí nějakým způsobem počítat a není vůbec žádný problém, když nějaký konkrétní nástroj zakáže. V souladu se zákonem by byl i plošný zákaz. Osobně si myslím, že je to vhodnější varianta ve všech případech, kdy si není jistý tím, jak daný nástroj funguje a zda pokrývá a eliminuje všechna rizika, o kterých jsme mluvili.

Bavili jsme se o tom, jak umělou inteligenci využívají soukromé společnosti. Jak jsou na tom státní orgány zaměřené na kontrolu plnění pracovních povinností?

Byť se to nabízí, zatím nemáme žádnou informaci o tom, že by Státní úřad inspekce práce například využíval umělou inteligenci k rychlejší analýze dat a vytipovávání zaměstnavatelů ke kontrole. Jednotlivé státní orgány přitom shromažďují mnoho dat, která by se dala takto využít. V některých skandinávských státech už se podobná praxe uplatňuje, u nás na institucionální úrovni nikoliv, byť je pravděpodobné, že jednotliví zaměstnanci neformálně externí nástroje využívají. Zajímavé je, že kdyby se stát v budoucnu rozhodl oficiálně umělou inteligenci nasadit, i na něj dopadnou povinnosti obsažené v AI Actu týkající se transparentnosti a lidské kontroly.