Algoritmy umělé inteligence jsou zabudovávány téměř do všech aspektů zdravotní péče. Jsou integrovány do vyšetření rakoviny prsu, správy zdravotního pojištění nebo třeba do telefonních a počítačových aplikací, které přepisují rozhovory mezi lékařem a pacientem. Umělá inteligence evidentně promění medicínu a podle jejích zastánců ji především zefektivní, když sníží zátěž lékařů a dalších zdravotnických pracovníků.

Nástup AI do světa našeho zdraví ale přináší i mnohé otázky a obavy. Budou lidé skutečně ochotni spoléhat se na nástroje umělé inteligence, nebo budou dávat přednost živým odborníkům? Jak například nedávno doložil jeden průzkum, pacienti sice dávají přednost zprávám na zdravotním portále, které vytvořila umělá inteligence, před těmi, které napsali lékaři, ale jejich spokojenost rychle klesá, když se dozvědí, kdo je autorem těchto sdělení.

Související

Další obava je ještě závažnější. Objevují se první pochyby o tom, zda nástroje AI fungují tak dobře, jak jejich tvůrci tvrdí. Rozsáhlé jazykové modely, které se trénují na obrovském množství textových dat, jsou totiž jen tak dobré, jak dobré je jejich trénování a testování. Přehled studií hodnotících modely umělé inteligence ve zdravotnictví ale například zjistil, že pouze pět procent z nich používá skutečná data pacientů. Rizikem je však i to, že data, na nichž se tyto modely učí, mohou být zatížena systémovou chybou či předsudky. Jeden příklad za všechny: klinické testy při vývoji nových léků se kupříkladu před rokem 1990 v USA soustředily takřka výhradně na muže. Výsledkem bylo, že řada lékařských studií pohlížela na daný problém výhradně z mužské perspektivy. Obavy konečně panují i ohledně „halucinování“, kterého se někdy tyto nástroje dopouštějí. Někdy si prostě bohapustě vymýšlejí.

Přeji pěkné čtení.