Australská vláda varuje, že doktoři příliš používají AI. To může vést jak k nepřesnostem, tak i k problémům se ztrátou soukromí pacientů.
Nástroje pro psaní lékařských zpráv se staly populárními pomocníky lékařů po celém světě, ale jejich rychlý růst vyvolává otázky ohledně bezpečnosti a soukromí pacientů. V Austrálii např. používá tuto technologii 40 % lékařů, což je dvojnásobek oproti roku 2024, kdy to bylo jen 22 %. Tyto nástroje nahrávají, přepisují a shrnují rozhovory mezi lékaři a pacienty, čímž jimž ulehčují administrativní zátěž. Federální zdravotní úřad ale varuje před nedostatkem dohledu nad těmito systémy.
Problém spočívá např. v tom, že mnoho těchto AI nástrojů je na trhu bez dostatečné regulace. Některé firmy totiž tvrdí, že jejich aplikace nejsou “lékařskými zařízeními”, a tudíž nepodléhají tak striktním kontrolám, jakým by měly. To může vést k rizikům souvisejícím s ochranou osobních údajů, neboť některé systémy odesílají data pacientů na cloudové servery mimo Austrálii. Data pacientů tak mohou být vystavena bezpečnostním rizikům.
Další obavy se týkají přesnosti a spolehlivosti těchto nástrojů. AI nástroje pro psaní lékařských zpráv trpí na stejná omezení jako velké jazykové modely, což znamená, že mohou vytvářet chyby při přepisování nebo shrnování rozhovorů. V případě chyby při přepisu to může ovlivnit i zdraví pacientů. Nástroje jsou ale pro zdravotníky lákavé, slibují jim až o 30 % vyšší příjmy bez navýšení pracovních hodin.
Další oblastí, která je problematická, je informovaný souhlas Lékaři a kliniky se značně liší v tom, jak získávají souhlas pacientů před použitím těchto nástrojů, a někteří pacienti byli dokonce informováni, že pokud nesouhlasí s používáním těchto AI nástrojů, budou si muset hledat jiného doktora.
TGA (Therapeutic Goods Administration) nyní zkoumá, zda by měly být tyto nástroje klasifikovány jako ona “lékařská zařízení”, což by je podrobilo přísnějšímu dohledu. Výsledky tohoto šetření by měly být zveřejněny v blízké době. Nejde však o problém unikátní pro Austrálii a podobné potíže se řeší i v jiných zemích.
