ChatGPT začne doporučovat produkty ke koupi. Je to ještě nebezpečnější než to, co dělal Facebook zranitelným teenagerům

OpenAI má potenciální nový vedlejší zdroj příjmů. Všem uživatelům začíná nabízet pomoc s nákupy produktů. Pokud ChatGPT zaznamená, že se uživatel ptá na věci, které by si mohl chtít koupit, nabídne vlastní doporučení i s odkazem na konkrétní prodejce.

Umělá inteligence při doporučování zboží pracuje s informacemi, které má o uživateli uložené ve své trvalé paměti. OpenAI věří, že tím může usnadnit výběr vhodných produktů. Zároveň uvádí, že velké jazykové modely služby ChatGPT produkty vybírají nezávisle, nejde o reklamu. Alespoň zatím.

Nákupy s pomocí AI ale skrývají rizika. Nejlépe to ukazuje odhalená aféra s produktovou reklamou na Facebooku.

Nová funkce je dostupná jako součást vyhledávací služby ChatGPT Search a vizuálně trochu připomíná produktovou nabídku při vyhledávání na Googlu. Vybrané produkty se ukazují ve formě grafického pruhu s fotografiemi produktů. Proti Googlu ale chybí rychlé zobrazení ceny a informace o e-shopu. OpenAI ale počítá se zobrazováním sumářů recenzí konkrétních produktů.

Produktové vyhledávání ve službě ChatGPT v češtině

Foto: OpenAI, Otakar Schön

Výběr produktů probíhá na základě podobných parametrů jako u Googlu. Kromě klíčových slov přímo v dotazu rozhodují recenze, uživatelské i odborné, a informace o preferencích uživatelů, které si ChatGPT uchovává ve své paměti a přizpůsobuje jim styl a obsah komunikace s konkrétním uživatelem. Tato funkce spojená s pamětí ale kvůli ochraně osobních dat nebude dostupná v zemích EU.

Zásadní rozdíl mezi Googlem a OpenAI je zatím v absenci reklamních pozic a ovlivňování umístění produktů v nabídce na základě obchodních vztahů mezi poskytovatelem vyhledávání a online obchody nebo výrobci.

OpenAI v současnosti nezískává žádný příjem z doporučení zboží v případě, že si jej zákazník pořídí. To se ale může změnit. Podle informací serveru Wired OpenAI zvažuje různé varianty monetizace nové služby včetně klasických provizí.

Provizím z prodeje je nakloněný i Sam Altman, šéf OpenAI. Ten dlouhodobě odmítá zobrazování klasických reklam v rámci služby ChatGPT, ale v rozhovoru pro server Stratechery uvedl, že by mu přišlo fajn účtovat prodejcům například dvouprocentní provizi nebo podobný poplatek. Jako primární zdroj příjmů ale stále vidí prodej předplatného.

Problém s pravdou, penězi a psychikou

Velké jazykové modely nejen od OpenAI mohou pomoci s výběrem zboží, stejně jako pomáhají s psaním textů, počítačového kódu nebo hledáním zdravotní diagnózy. Využívají k tomu obrovskou databázi znalostí a ve vybraných případech, včetně nové služby od OpenAI, přístupu k internetu.

Princip fungování velkých jazykových modelů ale také říká, že ne všechny rady a doporučení budou správné, zejména v případě vyhledávání produktů s konkrétními parametry. V našem testu například ChatGPT Search špatně vyhodnocoval zvuk reprosoustav, k tvrzení o basově laděném zvuku mu stačilo, že reprosoustava má velký basový měnič, reálně ale Yamaha NS-344 basů moc nemá a navzdory masivnímu měniči nedokáže zahrát skutečně hluboké tóny.

Nepřesnosti ale nejsou hlavní problém spojený s umělou inteligencí ve vyhledávání a doporučování produktů. Větší riziko se skrývá v možné manipulaci s uživateli. ChatGPT se stal aktuálně terčem kritiky kvůli příliš pozitivnímu stylu komunikace, který se projevoval i u žádostí o vyhodnocení nápadů na podnikání nebo kvality textů. Bez přímé výzvy, aby byl systém kritický, byl ChatGPT schopný vychválit i zcela nesmyslné nápady. Při nákupech by tak mohl podporovat uživatele i v očividně špatných rozhodnutích.

Ještě závažnější následky může mít využívání informací o uživatelích, které ChatGPT získává z předchozích chatů. Umělou inteligenci spousta uživatelů používá jako „vrbu“ nebo psychologa. Systémy OpenAI tak o uživateli mohou vědět více než sociální sítě. V případě, že by se obchodní model OpenAI změnil a firma by se snažila maximalizovat zisky, například z provizí nebo reklamy, měla by silné nástroje na cílení reklamy a produktů.

Není to jen čistě hypotetické riziko. OpenAI nyní odmítá využívání reklamy, ale technologických firem s deklarovanými dobrými úmysly, které později nevyšly, je spousta. Typickým příkladem je Google nebo holding Meta Platforms, provozovatel Facebooku a Instagramu.

Odstrašující příklad z Facebooku

Největší sociální síť na světě údajně cílila reklamu na uživatele ve věku 13 až 17 let podle jejich psychického stavu. Tuto informaci zveřejnila bývalá ředitelka globální veřejné politiky pro Facebook Sarah Wynn-Williamsová ve své knize „Careless People“ o svém působení ve firmě. Stejnou informaci následně potvrdila pod přísahou před komisí v americkém Kongresu.

V reakci na dotaz senátorky Marshy Blackburnové Wynn-Williamsová přiznala, že Meta (tehdy známá jako Facebook) cíleně zaměřovala reklamy na 13- až 17leté uživatelky v době, kdy se cítily sklesle nebo depresivně. Jedním z ukazatelů špatného psychologického stavu bylo promazávání vlastních fotografií.

„Firma dokázala zjistit, kdy se cítí bezcenní, bezmocní a neúspěšní, a tyto informace předávala inzerentům,“ uvedla Wynn-Williamsová před senátory podvýboru pro trestnou činnost a terorismus při Justičním výboru. „Inzerenti totiž vědí, že když se lidé necítí dobře, je to často vhodná chvíle nabídnout jim produkt — je pak větší šance, že si něco koupí.“ Meta tato tvrzení odmítá a proti knize odhalující některá tajemství Facebooku bojuje i právními prostředky. Zabránila například autorce knihu propagovat formou rozhovorů pro média.