Čeká lidstvo diktatura umělé inteligence? Ovládnou Zemi roboti, které nebudeme mít šanci porazit? To je hezký námět pro sci-fi román nebo film. Vlastně jich asi spousty byly napsány i natočeny. Ale máme se opravdu bát?

Před nebezpečím, které může přinést umělá inteligence, varoval nedávno zesnulý astrofyzik Stephen Hawking. Loni v červnu podepsaly tisíce vědců a expertů petici adresovanou OSN požadující zákaz vývoje umělé inteligence ve vojenském průmyslu. Jejím signatářem byl i šéf firem Tesla a SpaceX Elon Musk, dnes asi nejobdivovanější vizionář světového byznysu. Takže ještě jednou: Máme se bát?

Máme, zní odpověď filmu Věříte tomuto počítači?, který měl minulý čtvrtek premiéru v americkém Los Angeles. V hodinu a půl dlouhém dokumentu režiséra Chrise Paineho před superinteligentními stroji varuje opět Elon Musk. Podnikatel hrozbu bere víc než vážně. A tvrdí, že si ji musí uvědomit co nejvíc lidí, nikoli jen ti z technologické branže. Sáhl tedy do kapsy a zaplatil producentům, aby film dali na web až do minulé neděle ke zhlédnutí zdarma.

Otázku "Věříte tomuto počítači?" dostává každý z nás často, aniž si to uvědomuje. Objeví se například na displeji mobilního telefonu, když ho připojíme k počítači. Obvykle bezmyšlenkovitě klikáme na "Ano", ostatně je to podmínka, abychom v práci mohli pokračovat. A hlavní poselství filmu je podobné: možná dnes stejně bezmyšlenkovitě pracujeme na tom, aby stroje byly chytřejší než my, a ignorujeme možné konsekvence.

Ve filmu se dozvíme všechny ty skvělé možnosti, které umělá inteligence přináší nebo přinese. Samořiditelná auta, která už částečně existují a v horizontu několika let je čeká razantní nástup. Počítače dešifrující v řádu vteřin genetický kód či určující diagnózy. Nebo roboti provádějící náročné, na desetiny milimetrů přesné operace, a to lépe než lidé. "Dřív jsem dělal 150 hysterektomií ročně, dnes skoro všechny dělá laparoskopicky robot. Já operuju tak jednu pacientku ročně. A samozřejmě že se cítím nekomfortně, protože jsem už skoro zapomněl, jak se to dělá," říká ve filmu s nadsázkou chirurg Enrique Jacome.

A dozvíme se i to, jak ohromný pokrok se stal za posledních pár let a jak se tempo vývoje zrychluje. Stroje jsou už dnes lepší než lidé nejen v šachách nebo hře go (o té se říkávalo, že ji počítače nikdy nezvládnou), ale i v pokeru. A tam už nejde jen o logická, přísně racionální pravidla, nýbrž také o emoce a vyloženě "lidské" strategie jako třeba riskování nebo blafování.

Velkou pozornost věnuje film vojenskému použití umělé inteligence, proti kterému byla loňská petice vědců. Už dnes armády používají běžně drony ovládané na dálku lidmi. Nahradit piloty počítači je vlastně technická věc. Jen nasazení zbraní bude přesnější, důslednější a důkladnější. "Přežití lidí v jakémkoli konfliktu se samořiditelnými drony se bude počítat na vteřiny," zazní ve filmu.

Názory expertů se prolínají s odpověďmi běžných lidí na základní otázku, která je i v titulu filmu. Ne všichni odpovídají, že počítačům věří. Ale skoro všichni se shodují na tom, že se nám počítače nikdy nevyrovnají v tom podstatném. Že nebudou mít vědomí. Duši, chcete-li.

Možná ano, spíš ne. Ale je to vůbec důležité? Anebo naopak, není to vlastně ještě horší? Když diktátor v nějaké autoritativní zemi bude udržovat režim s pomocí umělé inteligence, nedá do pochodu něco, co pak už nepůjde zastavit? Ani po jeho smrti? Ani poté, co existenci takového státu už nikdo nebude chtít? Kromě… počítačů?

Já vím, zase sci-fi. Ale jak ve filmu zazní: "Když vymyslíme umělou inteligenci, která bude chytřejší než my, musíme být připraveni na to, že nad ní můžeme ztratit kontrolu," říká Elon Musk. A přidává metaforu o tom, co se stane, když stavbě dálnice stojí v cestě mraveniště. "Umělá inteligence nemusí být zlá, aby lidstvo zničila. Ale když bude mít nějaký cíl a my budeme v cestě, tak nás zničí bez přemýšlení. Nic osobního. My zničíme mraveniště, i když mravence máme rádi. Ale nepostavit kvůli nim dálnici?"

Je to silný, přesvědčivý film.

Související