Ročně zahyne celosvětově při dopravních nehodách asi 1,3 milionu lidí. Je to číslo poměrně setrvalé. Sice by se mohlo snižovat díky tomu, že dnes jezdíme v mnohem bezpečnějších autech, ovšem to vyvažuje fakt, že aut jezdí rok od roku více, zejména v rozvojových zemích.

Experti se shodují, že se zavedením samořiditelných aut může počet obětí klesnout o 95, možná i 99 procent. Část smrtelných nehod se však nepodaří odvrátit nikdy. A tak kdykoliv na toto téma vznikne debata, dřív nebo později někdo přijde s již poměrně známým etickým dilematem.

Představme si, že vznikne situace, která má jen následující řešení: že auto srazí maminku s kočárkem, anebo postarší pár na chodníku. Anebo nabourá do stromu a pravděpodobně zemřou pasažéři na palubě. Jak se auto rozhodne?

My lidé řešíme tyto situace intuitivně a kombinujeme obvykle rychlý úsudek s emocemi. Je to něco, u čeho není čas to promyslet a nelze se na to dopředu připravit. A je to asi dobře, protože ono nic podobného ani promyslet nejde. Každé popsané rozhodnutí je špatné, a ať udělá řidič jakékoliv, s jeho důsledky se bude muset zpětně vyrovnávat.

To důležité slovo je ovšem ZPĚTNĚ. Dnes, kdy jsme na počátku éry samořiditelných aut, je nové to, že tuhle situaci musíme vyřešit DOPŘEDU. Bez ohledu na to, že taková hypotetická situace nemusí nikdy nastat. Přesto musí být to podstatné v algoritmech napsáno. A těžko to rozhodne programátor podle své momentální nálady či intuice.

Podvědomě se tomu vzpíráme a způsobuje nám to úzkost, jen když na to myslíme. Totiž že je třeba zkalkulovat hrozící ztráty. Ne finanční, to umíme dobře, ale lidské. Dát cenovku lidským životům a určit, zda tím hlavním kritériem je jen jejich počet, anebo také − například − věk, pohlaví nebo − a to se dostáváme na opravdu tenký led − povolání, společenský status, národnost, či dokonce rasa.

Není to úplně nové, s cenami lidských životů dnes musí pracovat například pojišťovny nebo soudy rozhodující o výši odškodného pro příbuzné obětí. A jsou lidé, jejichž bezpečí je chráněno na úkor ostatních. Určitě existují hollywoodské filmy, ve kterých se agenti chránící prezidenta rozhodují, zda je cennější jeho život, anebo životy stovek nevinných. Ale to jsou filmy, ne realita. Algoritmy samořiditelných aut budou potřebovat znát naše stanovisko už teď.

Jisté je to, že pak dokážou spočítat optimální řešení vždy přesně a bez zaváhání. I jeho realizace bude perfektní. Nic na tom nezmění emoce, únava ani žádné další faktory, které tak moc ovlivňují lidské řidiče. Ale nemusí to být vždy jen výhoda. Eliminuje to něco, čemu nepřesně říkáme zázrak. Řidič může udělat velmi riskantní, a tedy objektivně špatné rozhodnutí, ale třeba lidi na chodníku o pár centimetrů mine anebo ze srážky se stromem vyvázne bez škrábnutí. Dopadne to dobře. To počítače neumí. Jejich doménou je přesnost a dokonalost. Zázraky se dějí jenom nám, nedokonalým lidem.

S nadsázkou řečeno je zázrak projevem nedokonalosti. Chyba v matrixu, říkáme někdy. Na zázraky algoritmy nemáme. Avšak dokonalost je možná to, s čím se paradoxně při nástupu umělé inteligence a robotů budeme potýkat nejvíce.

Errare humanum est, říká rčení připisované Senecovi. Chybovat je lidské, o robotech ovšem ani zmínka. Mimochodem, zajímavé zjištění udělali výzkumníci v rakouském Centru pro interakci lidí a počítačů na univerzitě v Salcburku. Zkoumali, jak lidé reagují na zavádění robotů, například ve výrobě. A přišli na to, že je přijímají mnohem lépe, když roboti občas projeví drobnou nedokonalost. Například nerozumí příkazu nebo upustí nějaký předmět.

Chyby jsou žádoucí, i ty však budou muset do algoritmů napsat dopředu lidé. Jako by toho nebylo málo! Paradox strojového věku: námi vymyšlené chyby a nedokonalosti pak stroje provedou dokonale a bezchybně.

Související