Umělá inteligence žere energii a jednou zavalí internet nesmysly, říká Ondřej Vlček

Když se řekne energeticky náročné odvětví, tak si většinou lidé představí hutě, slévárny či sklárny. Málokoho napadne IT. S nástupem umělé inteligence a potřeby většího výpočetního výkonu se ale právě tento sektor dostává do popředí. „Je reálné, že firmy jako Google, Microsoft, Amazon budou mít vlastní jaderné elektrárny,“ říká Ondřej Vlček prezident antivirové společnosti Gen Digital (dříve Avast). S Vlčkem jsme si mimo jiné povídali o hrozbách souvisejících s umělou inteligencí či o filantropii. V roce 2021 se svojí ženou založili Nadaci rodiny Vlčkových, do níž vložili 1,5 miliardy korun na pomoc rodinám zasaženým závažným onemocněním dětí.

Jak se po všeobecném rozšíření umělé inteligence změnily kyberútoky?

U chatbotů, jako je ChatGPT, došlo k největšímu zneužití v oblasti, kterou nazýváme sociální inženýrství. Klasickým příkladem je phishing, který má skrze e‑mailovou zprávu člověka zmást a přesvědčit. Všichni si určitě pamatují nesmyslné řetězové maily z 90. let od „nigerijského prince“, které byly psány lámanou češtinou. To příliš nefungovalo. V posledních 10 letech se to změnilo. Vůbec největší zlom přišel právě v posledním roce kvůli umělé inteligenci, kdy důvěryhodnost zpráv šla obrovsky nahoru.

Co ještě změnila?

Dnes stačí tři vteřiny záznamu vašeho hlasu pro vytvoření relativně slušného syntetického klonu, který je pak schopný přečíst jakýkoliv text. U videí je situace složitější. K vytvoření je třeba více fotek, úhlů či v minulosti natočených záběrů. U exponovaných osob – politiků či slavných osobností – je ale materiálu dost. V posledních měsících byl český internet plný podvodných investičních scamů s tvářemi lidí, jako je Andrej Babiš, moderátor Jakub Železný, Martin Veselovský, Kazma či zakladatel Avastu Pavel Baudiš, kdy jejich klony přesvědčovaly širokou veřejnost k investicím do nesmyslných produktů.

Jak se zvýšil počet útoků po zpřístupnění umělé inteligence široké veřejnosti?

V Česku to byl za loňský rok nárůst o 40 procent oproti předchozímu roku. Globálně to bylo za stejnou dobu o 49 procent.

Útočníci jsou zpravidla napřed před těmi, kdo data chrání. Zvětšila se tato mezera po nástupu umělé inteligence, nebo se naopak zmenšila?

Přesně to změřit nelze. Růst počtu útoků může znamenat, že se na tom podílí více lidí. Celosvětově je do kyberzločinu podle dat FBI namočených 10 milionů lidí. Paradoxní je, že část z nich si to neuvědomuje. Pracují pro nějaké počítačové firmy, většinou vzdáleně z domova, dělají na nějakých programových modulech či kusech kódu a nevědí, co ten výsledný produkt bude dělat. Nebo například spravují nějaké databáze, servery či cloudové služby, přes které se ovládají malwarem nakažené počítače a oni to vůbec nevědí.

Celosvětově je do kyberzločinu namočených 10 mi­lionů lidí. Paradoxní je, že část z nich si to ani neuvědomuje.

Využíváte umělou inteligenci pro odhalování útoků?

Určitě. Dlouhodobě využíváme analytickou AI, tedy strojové učení, která hledá anomálie. Víme, jak vypadá standardní chování nějakého zařízení či softwaru, a v tom hledáme odchylky. Tu používáme možná i deset let, protože nám pomáhá prohledat obří množství dat.

A generativní umělou inteligenci, která je schopna tvořit obsah a jež přišla teprve nedávno?

Ano, zejména jako pomůcku pro programátory. Nebavíme se tu jen o ChatGPT, hlavně využíváme GitHub Copilot od Microsoftu. To je nástroj, který lze využít například pro méně zábavné programování třeba generické části kódu.

Vy sám ji využíváte? Například pro psaní mailů?

Ne, na tohle vůbec. Rád si pořád procvičuji mysl. Teď jsem ale například s ChatGPT konzultoval plán na léto a itinerář cesty, například kolik času strávit v Ósace či Hirošimě.

Chystá Gen nějakou vlastní umělou inteligenci? Co by měla dělat?

Máme patentované něco, co má název HMIL. Když chcete hledat nějaké anomálie, tak musíte mít poměrně podrobné znalosti, jak to prostředí, v němž hledáte, funguje a jakou má strukturu. HMIL umožňuje hledat anomálie bez tak podrobné znalosti. Základní model se používá pro hledání virů a malwaru. Zároveň jsme ho nasadili do aplikace, která hledá anomálie na bankovních přenosech. Mohli jsme ji použít přímo bez toho, abychom ji museli učit, jak vypadá bankovní transakce, a dokáže sama rozpoznat, když se stane něco nestandardního, například když namísto pravidelných 10 dolarů za Netflix vám odejde platba 15 dolarů.

Ve chvíli, kdy lze syntetizovat jakýkoliv obsah, bude se na internetu objevovat neuvěřitelné množství nesmyslů.

Vývoj v oblasti umělé inteligence je velmi rychlý. Lze vůbec odhadnout, čeho se dočkáme za pět let?

Pět let neodhadne v této oblasti nikdo. Maximálně jsem schopen odhadnout, co uvidíme možná letos. Teď nastupuje trend takzvaných autonomních agentů, laicky řečeno osobních asistentů. Takovým příkladem je třeba krabička Rabbit, která teď byla představena na veletrhu CES. Ta umí s pomocí AI ovládat jednotlivé aplikace jen hlasem. Ano, máme tu Siri, Alexu a další, ale až teď díky AI se může z těchto asistentů stát něco velmi užitečného, co nám zásadně zlepší běžný život.

Jak moc je reálné, že umělá inteligence bude stále tak dostupná jako dnes, kdy stojí pár dolarů?

ChatGPT stojí měsíčně 20 dolarů. To je částka, kterou lidé platí za mnohem méně užitečné služby. Realita je, že náklady pod tím – na vývoj, energetická náročnost – jsou větší. Ekonomický model kolem AI je dosud nevyřešený problém. Jde jak o samotný hardware, tedy čipy, které jsou stále nedostatkovým zbožím, tak i množství elektřiny, které to celé spotřebuje. Přesto se domnívám, že pokud se to dostane mezi více lidí, tak tyto služby ještě zlevní.

Jak moc je IT energeticky náročné?

Když se dnes řekne energeticky náročné odvětví, tak si většina lidí představí staré výrobní továrny. Málokoho napadne IT. To se teď mění. Novým energeticky náročným sektorem bude právě náš sektor. Teď se například privatizovala jaderná elektrárna v Pensylvánii a už se u ní staví datové centrum. Je reálné, že firmy jako Google, Microsoft, Amazon budou mít vlastní jaderné elektrárny a dojde k vertikální integraci služeb, od výroby elektřiny přes poskytování služeb typu ChatGPT.

Nejsmysluplnější způsob zajištění se na budoucnost při naší velikosti jsou jednoznačně fúze a akvizice.

Značkování důvěryhodných webů

Je umělá inteligence spíše akcelerátor rozvoje společnosti, nebo naopak cesta k jejímu postupnému zakrnění?

Zakrnění je bezpochyby riziko. To je ale argument, který lze používat už od 60. let, kdy se začaly vyvíjet informační technologie. Mnohem více se obávám ztráty důvěry mezi lidmi a organizacemi. Ve chvíli, kdy lze syntetizovat jakýkoliv obsah, bude se na internetu objevovat neuvěřitelné množství nesmyslů. Už teď vidíme obří množství deepfake fotek a videí. U takového množství dat nebude v silách ověřovat, co je pravda a co ne. Vize je taková, že budeme obklopení informacemi a obsahem, ale nebudeme se schopni v tom orientovat. To zásadním způsobem podrývá společnost. Pokud důvěra ve virtuálním prostoru zmizí, budeme mít velký problém.

Ondřej Vlček, prezident antivirové společnosti Gen Digital

Foto: Libor Fojtík

Jste ohledně dalšího vývoje spíše optimista, nebo pesimista?

Jsem založením optimista. Zároveň se u nás ve firmě snažíme, aby to nešlo tím špatným směrem. U té důvěry jsem přesvědčený, že vše bude považováno automaticky za podvrh krom toho, co nebude mít nějaký „podpis“ či certifikát pravosti. Dnes máme spíše „blacklisty“ závadných webů. Do budoucna to bude spíše naopak a důvěryhodné věci, informace budou nějak označené.

V prosinci Evropská unie schválila regulaci umělé inteligence. Z vašeho povídání vyplývá, že nějaká pravidla jsou třeba. EU se ovšem dlouhodobě vyčítá, že právě kvůli přehnaně přísným pravidlům v technologiích oproti USA, ale i Asii zaostává.

Myslím, že v obecné rovině je to správný přístup. Zatím je to ale jen vodítko pro členské země, které to musí implementovat do vlastních zákonů. Uvidíme, jak to nakonec dopadne. Jsem přesvědčený, že taková regulace nemá vznikat ve vakuu, ale má jít o mezinárodní spolupráci. Takové náznaky vidíme mezi USA a Evropou. Riziko, že to Evropa přežene a trh přereguluje, určitě existuje. AI dominují americké firmy. Evropa má jen jednu takovou a tou je francouzský Mistral. V USA je takových firem minimálně deset v čele s OpenAI, Microsoftem a Googlem. Nejhorší, co se může stát, je, že Evropa nakonec schválí regulaci, která znemožní americkým firmám tady nabízet své produkty. Proto je důležitá spolupráce na regulaci.

Digitalizace evropských peněženek

Evropská unie chystá od roku 2026 takzvanou evropskou peněženku digitální identity. Co od ní čekáte vy osobně?

Před pár dny Česko spustilo s velkou slávou e‑doklady, což kvituji. Je to dobrý krok, ale lokální a nepůjde takto využít digitální doklady v cizině. Snahou EU je toto vše sjednotit, abyste mohl používat například občanku či jiný doklad v mobilu kdekoliv v Evropě. Hlubší diskuse probíhá kolem architektury evropského řešení. Jde o to, jestli má jít o centrální registr s daty 500 milionů občanů, anebo decentralizovaný systém. Jednotné místo má velké výhody, ale zároveň nese bezpečnostní riziko. V minulosti byly například v USA napadeny úvěrové registry a mělo to dalekosáhlé důsledky. Druhou variantou je decentralizovaný model, kdy data budou jen v samotné aplikaci ve vašem telefonu, a neexistoval by tedy žádný centrální systém, který by šlo napadnout.

Lidem, kteří chtějí vydělávat hodně peněz, se to často nepovede. Naopak lidé, pro které to není podstatné, jsou v tom často úspěšnější.

Společnost Gen je jeden ze čtyř hlavních zakládajících členů nadace OpenWallet Foundation, která má za cíl vytvořit otevřené standardy pro digitální peněženky. Co je špatného na stávávajících řešení od společností jako Google či Apple?

Mobilní peněženka je poměrně důležitou aplikací v mobilu a životě člověka. Google a Apple mají tendenci si držet tato řešení u sebe. Jde o klasický uzavřený ekosystém, kdy poskytovatel uzamkne zákazníka a činí ho závislým na svých produktech. Open Wallet Foundation, jejímiž zakladateli jsou kromě nás i Visa, Accenture, Futurewei a stojí za ní Linux Foundation, říká, že tento systém není správný. Tím, že jde o tak důležitou součást života lidí, tak by měli lidé mít možnost vybrat si, co budou používat.

Mohou za to jen výrobci?

Jednak výrobci, jednak regulátoři.

V září uplynul rok od spojení Avastu s NortonLifeLock a vzniku Genu. Jak tuto fúzi hodnotíte nyní?

Jednoznačně to bylo náročné. Spojení s americkou firmou bylo určitě náročnější, než když jsme před lety integrovali české AVG.

Jaké byly hlavní rozdíly, které jste museli vyřešit?

Avast byl určitě více technologická firma, ať už počtem vývojářů či nastavením lidí, kdy ve firmě panovala inženýrská kultura. Norton byl více vyladěný po marketingové stránce. To integraci částečně komplikovalo. Integrace se ale povedla a teď jsme v našem sektoru největší hráč na trhu. To má vždy výhody, pokud se trh mění jako dnes kvůli umělé inteligenci. Mít v takové situaci pozici, jakou máme, mít půl miliardy zákazníků, vlastnit nejsilnější značku na trhu, je obří devíza a konkurenční výhoda.

Znamená to, že budete dál nakupovat menší konkurenci?

Jsme velmi ziskoví. Ziskový byl už Avast i Norton. Nejsmysluplnější způsob zajištění se na budoucnost při velikosti firmy, jako je Gen, jsou jednoznačně fúze a akvizice. Takže ano.

Často se tvrdí, že Češi jsou v IT světová špička. Jsme skutečně ve srovnání s jinými státy na tom v této oblasti o tolik lépe?

Teď vás asi zklamu, ale tak super to u nás není. Já mám třeba rád Skandinávii. Česko a Slovensko lze počtem obyvatel přirovnat ke Švédsku a Finsku. Když se podívám na to, co se daří jim, tak prostě my tak dobří nejsme. Rozhodně neshazuji lokální úspěchy a máme dobrou startupovou scénu, ale objemem, počtem úspěšných firem nejsme nad průměrem. A to nás nesrovnávám například s Izraelem, který je nesmírně úspěšný. Říct, že by Praha byla velký technologický hub, nelze, zato města jako Stockholm, Amsterdam či Berlín jsou.

Co by to pomohlo změnit?

Nemyslím, že by to byla jedna věc, která by to mohla změnit. Pokud tu ale budou úspěšné příběhy, které inspirují další, tak se to může změnit. Sám bych si přál, aby se to rozjelo. Souvisí to i s financemi, kdy v posledním roce je globální útlum.

V Avastu jste byl jedním z prvních zaměstnanců. Neuvažoval jste rozjet ještě něco vlastního?

Dnes jsem v hierarchii firmy číslo dva. Samozřejmě jsem zvažoval různé věci. Pořád ale vidím, že je tu obrovská příležitost dělat velké věci, které mají i globální dopad. Ano, jsem tu od svých 18 let, kdy jsem byl sedmý zaměstnanec Avastu. Dnes je mi skoro 47 a pořád jsem relativně mladý a do důchodu mám daleko. Vím, že to tady nechci doklepat do penze, ale nikam se zrovna teď nechystám. Možná bych se jednou chtěl stát vinařem.

Ondřej Vlček (46)

V Avastu byl od roku 1995 a byl jeho sedmým zaměstnancem. Vypracoval se až na post CEO. Dnes je prezidentem společnosti Gen Digital (vznikla spojením Avastu a NortonLifeLock). Založil s manželkou Katarínou Nadaci rodiny Vlčkových, která pomáhá rodinám nemocných dětí.

Foto: Libor Fojtík

O vydělávání peněz jsem nikdy nepřemýšlel

Avast z vás udělal miliardáře. V roce 2021 jste společně s manželkou vložili 1,5 miliardy korun do Nadace rodiny Vlčkových. Koupili jste usedlost Cibulka, abyste tam vybudovali dětský hospic. Proč zrovna ten?

Tehdy jsme měli asi 23 milionů akcií Avastu. Vzali jsme deset milionů z nich a vložili je do nadace. Těch 40 procent nám přišlo zkrátka jako správné číslo, protože i když je to dost peněz, tak zároveň to z našeho pohledu nebylo tolik, protože to pořád byla menší část jmění. Naše filantropická činnost má dlouhodobější vývoj. Už v roce 2014 jsme založili organizaci Zlatá rybka, která plní přání vážně nemocným dětem, které mají například rakovinu, a na tu jsme dávali asi 30 milionů korun ročně. Pak jsme si uvědomili, že můžeme udělat ještě trochu víc. Zmapovali jsme si terén a tím, že moje manželka působí jako lékařka v Cestě domů, která se věnuje paliativní péči o dospělé, tak jsme věděli, že paliativní péče o děti se tu moc neřeší a že tu neexistuje žádný lůžkový hospic.

Kdy bude projekt dokončen? Už víte, co bude nadace dělat dál, až se Cibulka dokončí?

Vize nadace není zaměřená jen na paliativní péči, ale může dělat cokoliv, co pomůže dětem. Může tedy například i stavět dětské nemocnice. Při vkladu jsme řekli, že chceme, aby se naše nadace prvních 10 let, tedy do roku 2031, plně věnovala paliativní péči. Rádi bychom dosáhli toho, aby se Česko v této oblasti dostalo na světovou špičku. To znamená mít zde potřebná zařízení, systém financování či prosadit potřebné změny legislativy. Teď budeme mít možná nový zákon o zdravotních službách, momentálně je ve sněmovně a jsou v něm klauzule o paliativní péči. Potřeba těch dětí a jejich rodičů tu je a společnost od toho dlouho odvracela oči. Nikomu není příjemné slyšet slovní spojení dítě a rakovina či umírání, nikdo nad tím dlouho nechtěl přemýšlet či s tím něco dělat.

Co se tím zákonem v péči o umírající děti zlepší?

Pokud to projde parlamentem, tak by tu vznikla úplně nová služba s názvem Centrum komplexní péče. To je dost podobné tomu, co bude nabízet Cibulka. Jde o takzvané odlehčovací služby. Dneska je normální posílat nemocné dítě z nemocnice co nejrychleji domů. Pokud jdou třeba na radioterapii, tak jsou tam dvě hodiny a následně jdou domů. Rodiny se o ně starají 24/7 a nemají vůbec čas na odpočinek. Často jsou doma i zdraví sourozenci a rodiče nemají čas věnovat se i jim. Cílem je, aby bylo možné na nějaký čas umístit dítě do takového zařízení.

S rodinou máme nízké náklady na život. Prakticky neutrácíme, nemáme drahé koníčky, s výjimkou dětského hospicu na Cibulce.

Dosud to stát neřešil?

Ne, nedělal nic a teprve teď se rýsuje změna k lepšímu.

Uvažovali jste, že byste se i aktivně zapojili do řízení nadace či Cibulky a opustili jste stávající povolání?

Ne. Oba máme svou práci a ve vedení máme kvalitní management.

Co vás motivuje dál pracovat a vydělávat? Vaše práce pro Avast z vás udělala jednoho z nejbohatších Čechů, děláte filantropii, už teď byste mohl žít jen z kapitálových příjmů.

Upřímně, já vůbec nepřemýšlím o nějakém vydělávání a nikdy jsem to tak neměl. Lidem, kteří chtějí vydělávat hodně peněz, se to často nepovede. Naopak lidé, pro které to není podstatné, jsou v tom často úspěšnější. Já byl finančně nezávislý ve 20 letech. Věřte, že máme s rodinou dodnes nízké náklady na život. Prakticky neutrácíme, nemáme drahé koníčky, zkrátka nic, pokud tedy nebudete brát jako koníček hospic na Cibulce. Moje vlastní potřeby jsou ale minimální.