Foto: Magnific

Automatické přepisy pomocí umělé inteligence se během posledních měsíců staly běžnou součástí ordinací v řadě zemí. Lékařům mají pomoci s administrativou tím, že během vyšetření zaznamenávají rozhovor s pacientem a následně vytvářejí zdravotnickou dokumentaci. Nová zpráva z Velké Británie však upozorňuje, že vedle úspory času přinášejí také rizika, která mohou mít přímý dopad na zdraví pacientů.

Pacienti objevili chyby, které mohly změnit léčbu

Na problém upozornila organizace Healthwatch England, nezávislá instituce zastupující zájmy pacientů v britském veřejném zdravotnictví. Podle jejích zjištění se v automaticky vytvořených záznamech objevují závažné nepřesnosti. V některých případech si jich všimli až samotní pacienti při kontrole své zdravotní dokumentace.

Jedním z nejvážnějších případů byla chybná interpretace výsledků magnetické rezonance. Přepis vytvořený umělou inteligencí uvedl, že pacient trpí demyelinizací, tedy poškozením ochranného obalu nervových vláken, které bývá spojováno například s roztroušenou sklerózou. Skutečný nález přitom uváděl opak a žádné známky demyelinizace nepotvrdil.

Objevily se také případy záměny podobně pojmenovaných léků nebo vynechání důležitých pokynů pro opakované předepisování medikace. Podle odborníků mohou podobné chyby způsobit, že se nesprávné informace dostanou do zdravotní dokumentace a budou se následně přenášet i do další péče.

Podobné obavy zaznívají i v dalších zemích

Británie není jedinou zemí, která před bezvýhradným spoléháním na AI přepisy varuje. Australské zdravotnické úřady v minulém měsíci doporučily lékařům, aby podobné nástroje používali s maximální opatrností. Vedle možných chyb v dokumentaci upozornily také na otázky ochrany osobních údajů a zabezpečení citlivých zdravotních informací.

Podle dostupných zpráv některé systémy dokážou vytvořit obsah, který během vyšetření vůbec nezazněl. V zahraničí byly popsány i situace, kdy se v záznamech objevily zmínky o psychiatrických lécích nebo jiných údajích, které pacient ani lékař během konzultace neřešili. Jde o známý problém generativní umělé inteligence označovaný jako halucinace, kdy model vytvoří věrohodně vypadající, ale nepravdivou informaci.

Situaci komplikuje také rozdílná regulace. Ve Spojených státech nejsou AI přepisovací nástroje ve většině případů považovány za zdravotnické prostředky. Nemusejí proto procházet stejným schvalovacím procesem jako software určený přímo pro diagnostiku nebo léčbu. Odpovědnost za kontrolu správnosti výstupů tak zůstává především na samotných zdravotnických zařízeních a lékařích.

Zdroj: DigitalTrends.com