Umělá inteligence může zmanipulovat masy podobně jako rozhlas za Hitlera, varuje filozof z Cambridge

Svět vstupuje do éry, kdy se hranice mezi lidmi a stroji stírá. Umělá inteligence už dnes dokáže řešit úkoly, které před pár lety připadaly jen lidem. Mnohdy nás překonává v rychlosti i přesnosti. To vede ke znepokojivým otázkám: nebudou se inteligentní stroje snažit lidstvo zotročit, jak to vykresluje například dystopický film Matrix?

Filozof z Cambridgeské univerzity Stephen Cave, který patřil k hlavním řečníkům letošního Týdne inovací, říká, že tyto obavy nejsou namístě. Pramení z dávné „koloniální“ myšlenky, že Evropané jsou nejinteligentnější, a proto mají právo ovládat ostatní kultury. „Ale pokud bude stroj chytřejší než my, proč by nás chtěl nutně zotročit,“ ptá se Cave. V rozhovoru mluví také o tom, co přinese prodlužování lidského života, jak umělá inteligence promění člověka či jak ji vnímají lidé z různých koutů světa.

Proč se lidé bojí smrti?

Je to výsledek evoluce. Představte si skupinu myší. Ty, které se smrti nebojí, riskují a rychle zahynou, takže své geny nepředají dál. Opatrnější jedinci přežívají a rozmnožují se. Stejně tak i my pocházíme z dlouhé řady tvorů, kteří se smrti obávali. Myši se bojí konkrétních hrozeb, třeba kočky nebo sovy, ale nerozumí smrti jako takové. My lidé díky velkému mozku dokážeme přemýšlet o budoucnosti a uvědomit si, že smrt čeká i nás. A to je děsivé. Znamená to konec všech našich plánů a snů.

Po staletí pomáhalo lidem zvládat strach ze smrti náboženství, které dává naději, že existuje něco i po „fyzickém“ životě na této planetě. Proč se od něj lidé odvracejí?

Lidé si odjakživa vyprávěli příběhy, které jim dávaly naději na život po smrti. Třeba náboženskou víru v duši nebo vzkříšení. Například ve starém Egyptě mumifikovali lidi a věřili, že jim tím zachovají věčný život. Ale v Evropě dnes počet věřících s náboženskou vírou klesá, takže lidé hledají nové příběhy a způsoby, jak čelit konečnosti. Jedním z nich je sláva a věhlas. Od antických hrdinů až po dnešní dobu internetu, kdy může být „nesmrtelný“ skoro každý, třeba díky virálním videím. Dalším zdrojem naděje jsou nové technologie a medicína, které slibují prodloužení života a nový způsob, jak vzdorovat smrti a nemocem.

Jsou technologie novým náboženstvím?

Pro mnoho lidí ano. Každý z nás žije neuvěřitelně bohatý a složitý život. Představa, že to skončí a že nadobro zmizíme, je pro mnohé nepřijatelná. Zdá se to příliš tragické a nemožné přijmout. Touha po „pokračování“ je proto hluboce lidská a pravděpodobně nikdy nezmizí.

Vaše kniha Nesmrtelnost vyšla před 13 lety. Co se od té doby změnilo s rozvojem umělé inteligence a technologií v každodenním životě?

V knize jsem byl k příběhům o nesmrtelnosti velmi skeptický. Považoval jsem je spíše za zbožná přání, včetně víry ve vědecké prodloužení života. Dnes si ale myslím, že s rozvojem AI a dalších technologií je významný pokrok skutečně možný. Průměrná délka života už dříve výrazně vzrostla díky pokroku v medicíně, která odhalila postupy, jak se vypořádat s vysokou dětskou úmrtností. Nyní se plíživě zvyšuje dál. Víme, že u opic lze život prodloužit až o 30 procent. Pokud se to podaří i u lidí, může se průměrný věk posunout nad 100 let. Takové vyhlídky stojí za to brát vážně.

Vidíte nějakou horní hranici, kam lze délku života posunout, třeba i pro jednotlivce?

Dnes limity existují. I při ideálním životním stylu, s dobrou výživou a bez infekcí, začnou lidé kolem 80 let trpět řadou chronických onemocnění. Čelí srdečním chorobám, rakovině či demenci. V tomto věku se v těle děje spousta věcí špatně. Jeden demograf spočítal, že i kdybychom dokázali vyléčit všechny druhy rakoviny, prodloužilo by to život jen asi o tři roky. Tělo se totiž v tom věku rozpadá na více frontách. Pokroky v medicíně hranice posouvají, ale pokud chceme jít dál, musíme změnit způsob, jakým stárnutí ovlivňuje naše tělo. Třeba omlazováním buněk nebo využitím kmenových buněk k „opravě“ těla. Je těžké říct, kam až to půjde, ale už dnes je reálné, že mnoho lidí se může dožít přes 90 nebo i 100 let. A pokud některé z těchto technologií uspějí, hranice se může ještě posunout.

Některé země se už nyní potýkají s klesající populací a modely ukazují, že celosvětově by tento trend mohl nastat za pár desítek let. Mohlo by prodlužování života jednou tomuto trendu zabránit? Nebo jen vytvoří nové problémy?

Na planetě žije asi osm miliard lidí, před sto lety to byla asi jedna miliarda. Otázka je, jaký je ideální počet lidí a podle čeho to měříte. Pro technologické inovace je skvělé mít hodně lidí, kteří chodí na univerzitu a přicházejí s novými nápady. Ale pro udržitelný život na planetě už těžko říct, jestli osm miliard není moc. Způsobujeme klimatické změny a ztrácíme biodiverzitu. Pokud by se nyní klesající porodnost kompenzovala tím, že lidé budou žít déle, mohlo by to zpočátku způsobit populační boom. V každém okamžiku by žilo více generací najednou. Těžko bychom to zvládali z hlediska bydlení, dostatku pracovních míst a životního prostředí. Ale pokud porodnost zůstane nízká, populace by začala opět klesat, jakmile by lidé začali umírat v onom novém, vyšším věku. Prodloužení průměrné délky života by tedy nejprve způsobilo populační boom, ale poté by se pokles vrátil.

Ještě nevíme přesně, o kolik dokáže věda prodloužit lidský život. Pokud by se to podařilo třeba o polovinu nebo i na dvojnásobek, měla by přijít nějaká regulace?

S dnešní strukturou společnosti by takový skok způsobil spoustu krizí. Ale omezení přístupu k prodloužení života by nebylo správným řešením. Obvykle si myslíme, že nějaký hrdina, hasič či lékařka, zachránil spoustu životů v ohrožení. Ale oni je nezachránili, ve skutečnosti jim jen umožnili žít déle. Většina z nás si života váží – já bych chtěl žít déle, vidět své děti a vnoučata, sledovat, jaký bude svět v roce 2100. Bylo by smutné říkat lidem: „Ne, to stačí, už vás nenecháme žít déle.“ V demokracii si navíc těžko představit, že by se hlasovalo pro nucenou eutanazii. Spíš než omezování délky bychom měli řešit problémy, které prodloužení života přinese.

Jaké konkrétně?

Jde hlavně o bydlení a vzdělávání. Lze vzdělávat lidi do 25 a očekávat, že budou žít dalších sto let? To nelze. Vzdělávání bude muset být cyklické, s opakovaným přeškolováním. Stejně tak zaměstnání a možná i rodinný život. Vydrží jedno manželství sto let? Bude třeba přemýšlet, jak přizpůsobit životní styl prodlouženému životu, aby to bylo spravedlivé a udržitelné. Vůči společnosti i životnímu prostředí.

Věnujete se i fenoménu umělé inteligence. Přinutí nás její vzestup přehodnotit, co znamená být člověkem?

Ano, ale není to poprvé. Lidé jsou hluboce technologické bytosti, přežíváme a vyvíjíme se díky technologiím. Vznik Homo sapiens byl spojený s rozvojem rukou, mozku a jazyka právě díky technologiím. Každá velká technologická vlna – oheň, zemědělství, pára, elektřina, internet – měnila, co znamená být člověkem. Když se podívám na své dospívající dcery s chytrými telefony, jejich pojetí lidství je jiné než před generací, natož před 100 tisíci lety. Neustále se měníme prostřednictvím technologií. Umělá inteligence je ale výjimečná v tom, že může myslet sama.

Skutečně už dnes AI opravdu myslí?

Před 30 lety se věřilo, že AI bude logicky naprogramovaná, takže budeme přesně chápat, co dělá. Ale skutečný průlom přineslo strojové učení. AI se učí sama – a ani programátoři plně nerozumějí, jak to dělá. Proto je těžké říct, jestli myslí. Výsledky jsou působivé, ale za nimi je spousta chytrých programátorů, algoritmů a čipů. Tuto nejistotu umocňuje i to, že tyto systémy mají předstírat, že jsou podobné lidem. Protože právě s takovými chtějí lidé komunikovat. Velké jazykové modely jako ChatGPT nebo Gemini jsou v tomto předstírání velmi dobré. Když nerozumíme, co se děje uvnitř, a ony tak dobře napodobují člověka, jak poznáme, že už myslí samy za sebe nebo mají vědomí? To je extrémně těžká otázka a zatím na ni nemáme odpověď.

Pokud člověka mění každá technologická změna, v čem konkrétně ho změní umělá inteligence?

Pokaždé je to jiné. Každá velká změna přináší spoustu obav i utopických nadějí. Jsou lidé, kteří se domnívají, že AI bude chytřejší než my a díky tomu vyřeší všechny naše problémy. Historie ale ukazuje, že ani katastrofické scénáře, ani extrémní naděje se nenaplní. Krátkodobě se život moc nezmění, ale dlouhodobě ano. Často způsoby, které nikdo nedokáže předvídat, protože nová technologie prostě splyne s infrastrukturou, s našimi životy. Když jsem vyrůstal, byly počítače tak trochu zvláštnost, drahá věc. Teď je AI pro mě zázrak, kterému se snažím porozumět. Ale moje dospívající dcery ji berou jako samozřejmost a učí mě s ní žít. Využívají ji k řešení stejných otázek, které řešila i moje generace. Jak se připravit na zkoušky, jak je udělat, jak změnit svět, jak přesvědčit kluka, který se jim líbí, aby jim věnoval pozornost. Umělá inteligence bude vždy součástí jejich života, a až vyrostou, uvidíme, jak změnila lidstvo.

Ovlivní AI lidskou inteligenci? Pozitivně, nebo negativně?

Rozhodně to ovlivní. Sokrates před dvěma a půl tisíci lety byl proti psaní. Byl zastáncem dialogu a myslel si, že lidé zleniví, když si začnou věci zapisovat. Že si nebudou muset nic pamatovat a nakonec ztratí intelekt. Trochu měl pravdu. Lidé tehdy asi opravdu měli lepší paměť. Ale učinilo psaní svět horším? V žádném případě. Naopak, zvýšilo to naši kolektivní inteligenci. Díky psaní, a dnes knihám, encyklopediím nebo Wikipedii jsme všichni chytřejší.

Bude mít AI negativní dopad na některé naše kognitivní schopnosti?

Asi ano, protože spoustu věcí bude dělat za nás. Ale zároveň může pozvednout naši kolektivní inteligenci. Umožní nám vidět dál, dělat víc a posunout hranice toho, co dokážeme. AI se už stává součástí toho, kým jsme. Vyvolává to přirozené obavy, podobné těm, které měl Sokrates. Budeme na AI příliš závislí? Možná. Ale je dobře, že tyto obavy máme, protože nás nutí přemýšlet, jak všechny dopady zvládnout. Trávím spoustu času přemýšlením o tom, co se může pokazit, a přesto jsem přesvědčený, že to dokážeme zvládnout.

To jsou dopady spíš na jednotlivce. Může AI měnit i celé společnosti, třeba i špatným směrem?

Může a bude. Hezký příklad je rozhlas. Když ho před sto lety vynalezli, optimisté říkali, že znemožní válku, protože konečně si budou moci všichni na celém světě navzájem naslouchat. Pak přišly první a druhá světová válka a spousta dalších konfliktů. Následně kritici začali tvrdit, že rozhlas je fašistická technologie, kde centrum řídí zprávy, a nejde o dialog. Rozhlas tedy zásadně změnil společnost, měl obrovský dopad, jak v dobrém, tak ve zlém, než se to ustálilo a stalo se to běžnou součástí života. Podobně knihtisk, televize nebo internet. Umělá inteligence také změní strukturu společnosti, způsob komunikace i získávání informací. Budeme muset najít nové způsoby, jak rozlišovat pravdu od lži. Z dlouhodobého hlediska jsem optimista, ale současně mě znepokojují tyto body nestability. Mění se mocenské vztahy. Než se vše ustálí, může to být nebezpečná doba.

Mohla by být umělá inteligence zneužita podobně jako rádio za Hitlera?

Nejspíš ne úplně stejným způsobem, technologie se liší, ale podobné účinky mít může. Co mě opravdu znepokojuje, jsou body zvratu. Vzpomeňte si třeba na nepokoje po Trumpově prohře s Joem Bidenem v lednu 2021. A teď si představte jiný scénář: v USA se rychle prosadí autonomní vozidla. Tři miliony řidičů kamionů a další tři miliony lidí z motelů a čerpacích stanic najednou přijdou o obživu. Přestože Amerika má stovky milionů obyvatel, taková masa může již sama o sobě vyvolat nepokoje, když se přidá k existující nestabilitě. Umělá inteligence může těmto lidem pomoci šířit jejich poselství mnohem rychleji. Zlomyslní aktéři by je mohli podněcovat k násilí. Stačí relativně malá skupina lidí, kteří se dokážou domluvit a mobilizovat. V mnoha částech světa dnes vidíme nestabilitu a zneužití AI nás může snadno „překlopit přes okraj“, podobně jako při vzestupu fašismu nebo komunistických revolucích před sto lety.

Můžeme s tím něco udělat, abychom tomu zabránili?

Musíme mít stále na paměti základní hodnoty. Především mír. Když se podíváme zpět na průmyslovou revoluci, přinesla sice obrovský blahobyt, ale i spoustu bolesti. Ty nejhorší chvíle byly války a násilné revoluce. Mír je křehký, a proto jsou řeči o závodech ve zbrojení mezi USA a Čínou velmi nebezpečné. Musíme zklidnit emoce a hledat spolupráci, i když máme různé hodnoty a kultury. Druhá věc je spravedlnost a férovost. Průmyslová revoluce ukázala, že hluboká nerovnost žene lidi do ulic. A třetí je udržitelnost. Nemůžeme znovu ničit planetu, jako během tehdejšího průmyslového vzestupu. Budoucnost je nepředvídatelná, ale způsob, jakým budeme technologie rozvíjet a nasazovat, musí vycházet právě z těchto základních hodnot.

Jak zajistit, aby z rychlého technologického pokroku měli prospěch všichni, nejen privilegovaní v bohatých zemích?

Tohle už jsme zažili, třeba během průmyslové revoluce. Podpořila imperialismus a vykořisťovatelské praktiky ze zemí, jako je ta moje. Současně přinesla obrovské zisky pro pár lidí, ale taky zničila tradiční způsoby života a přivedla miliony lidí do chudoby. Výsledkem byly revoluce, války a – minimálně v západní Evropě – nakonec kompromis: vznik sociálního státu. Tržní ekonomika zůstala, ale s přerozdělováním bohatství a základními službami pro všechny. Není to dokonalé, vždy se bude mluvit o tom, kdo má mít víc, kam budou směřovat sociální podpory. Ale rámec existuje. Problém je v tom, že AI je postavena na datech z historie, ne z budoucnosti. Takže hrozí, že zkopíruje stávající struktury nespravedlnosti.

Umělou inteligenci dnes ovládá hlavně pár mocných firem z USA a Číny. Co to znamená pro zbytek světa?

AI odráží hodnoty těchto firem a slouží jejich zájmům. V jednom projektu jsme zkoumali, jak ji vnímají různé kultury. Lidé v USA mají pocit, že jsou její součástí. Podobně i v Číně: AI vnímají jako způsob dohánění amerických konkurentů, ale zároveň cítí, že ji částečně ovládají. V Africe a částečně i v Evropě je ale situace jiná. Lidé ji vnímají jako něco, co se „dělá jim“ bez ohledu na jejich zájmy, ne „s nimi“. Jsou jen příjemci technologií, které nejsou vytvořeny pro ně. Nemají pocit, že by se mohli podílet na vytváření pozitivní vize budoucnosti prostřednictvím AI nebo mít z ní užitek. Dodávají data, vykonávají často těžkou práci, například kontrolují urážlivá videa, ale z toho nemají žádný přínos.

Vstupujeme do „postlidské“ éry, kde si budou lidé a stroje rovni, nebo nás mezi nimi čeká nějaký střet, jako ve filmu Matrix?

Termín posthumanismus moc nepoužívám, naznačuje, že technologie nás mění na něco jiného než člověka. Ale už jsme mluvili o tom, že technologie byly vždy součástí toho, kým jsme. Formovaly náš mozek, ruce, jazyk, umožnily nám přežít a vyvíjet se. S AI se můžeme obávat spousty věcí, ale střet s lidmi není na prvním místě. Tenhle scénář je hodně západní: historicky vznikl z myšlenky, že my, Evropané, jsme nejchytřejší, proto máme právo ovládat ostatní kultury. Tedy ve stylu, oni nevyužívají své země správně, a proto si je vezmeme. Nebo oni nepřidávají nic ke sdíleným vědomostem, takže jejich kultura je irelevantní. Z toho vznikla představa, že stroje by nás mohly chtít ovládnout stejně, jako jsme my ovládali jiné kultury. Ale nemusíme o inteligenci přemýšlet hierarchicky v „koloniálním“ smyslu, že nejinteligentnější lidé mají ovládat ostatní. V mnoha kulturách se inteligence spojuje s moudrostí a osvícením. Pokud bude stroj chytřejší než my, proč by nás chtěl zotročit? Možná si jen sedne pod strom a bude meditovat.

Jak vůbec můžeme měřit inteligenci lidí a strojů?

Neexistuje žádná obecně uznávaná definice inteligence. Samotný pojem se začal používat až koncem 19. století, a to hlavně ve spojení s testy, které měly spíš hodnotit lidi než popsat inteligenci jako takovou. Tyto testy byly kulturně zaujaté, měly potvrzovat tehdejší společenské hierarchie, například muži nad ženami nebo běloši nad ostatními. I dnes je testování inteligence velký byznys, ale vědci se dál přou, jestli má vůbec smysl mluvit o „inteligenci“ jako o jednom jasném pojmu. Možná bychom měli spíš mluvit o konkrétních schopnostech, dovednostech a cílech. Dříve jsme si mysleli, že být dobrý v matematice nebo v aritmetice a počítání, je známkou inteligence. Ale kapesní kalkulačky jsou v tom lepší než lidé už asi 60 let. Počet úloh, kde nás stroje porážejí, roste. Ale jde o úzce vymezené úkoly. S novými nástroji, jako jsou velké jazykové modely, je ten záběr širší, ale otázka není, jestli je to „inteligence“. Spíš potřebujeme nový slovník, který přesněji popíše, co stroje umí a jak se to liší od nás.

Když tedy někdo řekne: „Mám IQ 153“, co mu na to odpovíte?

Nejspíš bych se zeptal, proč nám to říká. Není to úplně bezvýznamné, ale mezi vysokým IQ a úspěchem v životě není taková korelace, jak by se mohlo zdát. Testuje jen úzký soubor dovedností, a ne moudrost, charisma, emoční inteligenci či dlouhodobé plánování. Testování IQ má navíc problematickou historii. Vymyslel ho sir Francis Galton, přesvědčený eugenik, aby mohl dokázat, že určité skupiny lidí jsou nadřazené ostatním. Až tehdy se vůbec začalo uvažovat, že lze inteligenci měřit na škále. Ale před 150 lety to nebylo samozřejmé. Například Galtonův bratranec Charles Darwin na to reagoval: „Nikdy mě nenapadlo, že se lidé liší v mentálních schopnostech.“ Když spolu mluvíme, nedává smysl říkat, kdo je „chytřejší“. Každý má jiné znalosti, dovednosti a zájmy. A představa, že se to dá vtěsnat do jednoho čísla, je absurdní.

Existují nyní formy inteligence, které dnes nerozpoznáváme nebo neměříme?

Ano, a to nejen u strojů, ale i u zvířat. Dlouho jsme si mysleli, že jsme nejchytřejší tvorové na planetě. Dnes víme, že i jiné druhy mají schopnosti, které nás v lecčem převyšují. Třeba ptáci se dokážou orientovat při migraci na obrovské vzdálenosti. Naše představa inteligence se tak rozšiřuje. Musíme brát vážně různé formy schopností. Ať už jde o výpočetní sílu strojů nebo navigaci ptáků. My lidé jsme působiví, ale máme i omezení. A budoucnost spočívá v tom, naučit se s těmito dalšími druhy inteligence spolupracovat, ne je přehlížet.