Aktuální číslo časopisu Ekonom
Eva HníkováExpert na umělou inteligenci Stanislav Fort v americkém Silicon Valley vyvíjel jazykové modely, na nichž stojí populární chatboti. S kolegy a dalšími experty zejména z technologických společností dosáhli velkého pokroku. A narazili na neznámo.
Po studiu teoretické fyziky a aplikované matematiky na univerzitě v Cambridgi si Fort udělal doktorát na Stanfordu. Věnoval se hlubokým neuronovým sítím, které představují základ pro velké jazykové modely. V praxi se s umělou inteligencí seznamoval během působení ve společnostech DeepMind a Google Brain. Pak si chtěl vývoj systému založeného na jazykových modelech vyzkoušet od úplného začátku. Proto nastoupil do kalifornského start‑upu Anthropic a později řídil vývoj open source konkurence pro systém ChatGPT ve společnosti Stability AI. „Měl jsem v týmu dvacet lidí z různých koutů světa,“ říká. V tomto prostředí a s takovými zkušenostmi získal dojem, že lidstvo zachází s něčím, do čeho neumí proniknout, a nikdo neví, zda se mu to někdy podaří.
Opomíjené lidské hodnoty
Když schopnosti těchto systémů začaly vycházet najevo, byl český programátor překvapen reakcemi některých lidí z jiných oborů. „Setkával jsem se s názorem, že naše systémy jen papouškují slova a že se jejich chování nemůže blížit reálnému přemýšlení,“ říká.
Od loňského podzimu, kdy se s možnostmi nového fenoménu začala seznamovat veřejnost, se do popředí dostal takřka opačný náhled. „Vytváříme systémy pokročilé umělé inteligence, jejichž vnitřní fungování nechápeme,“ upozorňuje Fort.
Dosud byla při vytváření počítačových programů vždy známá jejich architektura, tedy proč a jak fungují. U jazykových modelů založených na neuronových sítích je to jinak. Když odborníci sledují výsledky testů, které sami zadali, nemají žádný vhled do toho, proč jsou zrovna takové. Vidí jen, že chatboti správně programují nebo že píšou poezii. To je podle Forta rizikový moment. „Nezajistíme, že se systém zachová správně ve všech situacích, kterým bude vystaven.“
Je přesvědčen, že ani za pár let se nepodaří pod pokličku těchto systémů pořádně nahlédnout, stejně jako není vidět do mozku druhých lidí. „Stavíme systémy, které mají potenciál být chytřejší než člověk,“ připomíná Fort, že lidská inteligence nemusí představovat vývojový strop. Člověka formovala evoluce za vcelku náročných podmínek, kapacita mozku je do jisté míry limitovaná velikostí lebky, která musí projít porodními cestami a pak roste jen omezeně. Většinu podstatných dovedností se lidé učí během relativně krátkého dětství. „Pro umělou inteligenci žádná taková omezení neplatí,“ upozorňuje.
Umělá inteligence je schopná nahradit univerzitně vzdělané odborníky, a to s minimálními náklady na provoz.
Chcete číst dál?
Ještě na vás čeká 70 % článku.
S předplatným získáte
- Web Ekonom.cz bez reklam
- Možnost sdílet prémiový obsah zdarma (5 článků měsíčně)
- Možnost ukládat si články na později
Připravujeme platbu, vyčkejte prosím.
Platbu nelze provést. Opakujte prosím akci později.
Newsletter týdeníku Ekonom.
Odhlásit se můžete kdykoliv.
Přihlášením k newsletteru beru na vědomí, že dochází ke sbírání a zpracování osobních údajů. Více informací o zásadách ochrany osobních údajů naleznete ZDE.
