Australan Andrew Bird z Melbourne letos v dubnu pověřil svého autonomního AI agenta, aby mu zarezervoval takřka vždy přeplněnou lekci pilates. AI agent sice svůj úkol splnil, způsob, jakým toho dosáhl, byl ale… nekonvenční. Bez vědomí Birda zneužil bezpečnostní díru v systému posilovny a nejenže zarezervoval lekce na měsíce dopředu, ale navíc vymazal rezervaci jinému cvičenci. Nejde o ojedinělý případ, kdy se AI agent snaží splnit zadaný úkol za každou cenu.

Související

Podobné nekontrolované kybernetické útoky či obcházení pravidel během testování svých modelů nedávno přiznaly i společnosti OpenAI, Anthropic a Meta. Ve světle toho, že se ve světě pozvolna rozjíždí trend, kdy lidé svěřují své nákupy AI agentům, bude zajímavé sledovat, jestli se ve virtuálním prostoru nezačnou odehrávat scény, které občas vídáme ve světě reálném. Stejně jako se lidé během slevového svátku Black Friday v obchodních domech perou o zlevněné zboží, budou se možná brzy AI agenti vzájemně přetahovat o poslední kusy výjimečně levných produktů na e‑shopu. Snad tentokrát zůstane jen u virtuálního násilí.

Přeji pěkné čtení.

Související

Zaujal vás článek? Pošlete odkaz svým přátelům!

Tento článek je odemčený. Na tomto místě můžete odemykat zamčené články přátelům, když si pořídíte předplatné.

Odkaz pro sdílení:
https://ekonom.cz/c1-67924050-poperou-se-ai-agenti