Zeď proti urážkám. Start‑up poráží webové trolly umělou inteligencí

Spíš brodění žumpou než kultivovanou diskusi připomínají mnohé komentářové sekce na sociálních sítích. Dominují jim „profesionální“ otravové a sprosťáci, jimž se přezdívá trollové. Mazat či skrývat vulgární a urážlivé komentáře na sociálních sítích je pro autora statusu otravné, kdežto pro firmy představuje daleko větší problém. Pokud nechtějí, aby jejich potenciální zákazníky odrazovaly verbální výměšky, musí si na moderování najmout a zaplatit specialistu.

Své o tom ví Tomáš Halász, který v minulosti pracoval mimo jiné jako manažer sociálních médií pro slovenského místopředsedu Evropského parlamentu Martina Hojsíka. „Měl jsem na starosti i diskuse na Facebooku a vždycky v nich bylo plno nenávistných komentářů. Já a moji kolegové jsme je museli odstraňovat ručně. Nenašli jsme na trhu vhodné řešení, které by to dělalo automaticky,“ vzpomíná Halász.

Když v roce 2022 přišla ruská invaze na Ukrajinu, vlna nenávisti vydatně přikrmovaná z moskevských trollích farem ještě zesílila. „Denně jsem musel mazat stovky komentářů. Měl jsem toho dost a oslovil jsem několik kamarádů, se kterými jsem v minulosti už spolupracoval na několika dobrovolnických IT projektech,“ vysvětluje Halász, jak vznikl nápad zapojit do obrany proti internetovým trollům počítačové modely, který start‑up TrollWall vynesl až do finálového kola soutěže Vodafone Nápad roku v konkurenci 137 inovativních firem.

Testování s prezidentem

Mezi čtveřicí zakladatelů byl i Tomáš Koctúr, datový specialista a expert na umělou inteligenci. A právě ta je hlavní zbraní modelu nazvaného TrollWall, tedy zeď proti trollům. „Jednou z našich hlavních konkurenčních výhod je, že si AI řešení děláme sami. Nejsme závislí na žádném dodavateli,“ vysvětluje Halász.

Uživatel si v systému vytvoří účet ve webové aplikaci a připojí k ní své profily na internetových platformách. Všechny komentáře od té chvíle Facebook, Instagram, YouTube nebo TikTok posílá do aplikace TrollWall. Umělá inteligence je třídí na seriózní a závadné. Pokud dospěje k závěru, že jde o druhou možnost, komentář sama skryje. Majitel účtu ve we­bovém rozhraní všechny příspěvky vidí a může případně verdikt AI změnit. Model se neustále zdokonaluje a učí; rozpozná nejen závadná slova, ale i urážky z kontextu v celých větách.

Start‑up zprvu fungoval v podobě volnočasové aktivity; zakladatelé se dál věnovali své práci. Už první verze ale fungovala natolik uspokojivě, že ji nabídli mimo jiné i týmu, který stál za kampaní dnešního českého prezidenta Petra Pavla. „Vyzkoušeli náš systém, dávali nám zpětnou vazbu a na základě toho jsme model průběžně zlepšovali. Používali ho až do konce kampaně,“ vzpomíná Halász. Pak podle něj vyvstala logická otázka: je už čas začít posílat také faktury?

V březnu 2023 autoři projektu založili firmu a hned získali několik dalších zajímavých klientů. Nový produkt využíval například slovenský Denník N, přišla také spolupráce se slovenskou prezidentkou Zuzanou Čaputovou a objevily se i první firmy, které „zeď proti trollům“ zaujala. Firma tak organicky rostla, až dospěla do stadia, kdy zaujala také investory. Na konci téhož roku jí poslal půl milionu eur fond CB Espri.

Ovládnout Evropu

Od ledna 2024 se zakladatelé TrollWall vrhli do podnikání naplno. Tým se rozšířil na devět lidí, čtveřici doplnili specialisté na marketing a prodej. „Také jsme rozšířili model ze dvou na šest jazyků, máme zákazníky také v Polsku nebo německy hovořících zemích,“ vypráví Halász.

Růst firmy díky tomu nabral na obrátkách. „Učíme umělou inteligenci na každý jazyk zvlášť. Většina konkurence používá jeden univerzální model naučený v angličtině a dál už jen překlady,“ říká Halász. Dělají to proto, že každá řeč má mnoho unikátních výrazů, při pouhém otrockém překladu nedávají smysl a umělá inteligence je kvůli tomu nedokáže zachytit. „Náš postup je finančně i časově náročnější, dosahujeme díky němu ale lepších výsledků,“ dodává jeden ze zakladatelů.

V Česku začaly TrollWall používat třeba armáda a policie, Česká spořitelna, mezi klienty patří i pořadatelé jarního mistrovství světa v ledním hokeji nebo neziskovky jako Post Bellum a Milion chvilek pro demokracii. V Polsku si službu platí třeba muzeum v Osvětimi, v dalších zemích TrollWall filtruje nenávistný obsah pro Greenpeace nebo Lékaře bez hranic. První klienty má díky španělské verzi také v Latinské Americe.

Tím ambice firmy nekončí. Úspěšné tažení zaujalo další investory, a tak by se mělo brzy uskutečnit druhé kolo jejich přijímání. S novými zdroji chtějí zakladatelé rozšířit TrollWall po celé Evropě. „Chceme pokrýt všechny evropské jazyky, hlavně ty méně využívané, protože tam nemáme prakticky žádnou konkurenci,“ naznačuje směr Halász. A co jeden z největších trhů světa – Spojené státy? „Je to výzva, ale zatím to nemáme v plánu. Jednak je vstup na americký trh velmi nákladný, jednak jsou tam lidé velmi citliví na svobodu slova a moderování internetových diskusí,“ uzavírá.

Denně jsem musel mazat stovky nenávistných komentářů. Měl jsem toho dost, a tak jsme s přáteli začali vyvíjet systém, který to umí automaticky.