Britské zdravotnictví řeší odpovědnost za chyby AI: Lékaři chtějí změnu zákonů pro bezpečnější budoucnost

Britské zdravotnictví, konkrétně Národní zdravotní služba (NHS), stále více využívá nástroje umělé inteligence (AI) pro různé účely, včetně analýzy skenů a rentgenových snímků, generování shrnutí rozhovorů s pacienty a přípravy dopisů.

Britské zdravotnictví, konkrétně Národní zdravotní služba (NHS), stále více využívá nástroje umělé inteligence (AI) pro různé účely, včetně analýzy skenů a rentgenových snímků, generování shrnutí rozhovorů s pacienty a přípravy dopisů. S rostoucím nasazením AI však vyvstává zásadní otázka: Kdo ponese odpovědnost za chyby, které tyto technologie mohou způsobit?

Podle současných britských zákonů mohou lékaři a samotná NHS čelit žalobám za lékařskou nedbalost, pokud pacienti utrpí újmu nebo zemřou v důsledku chyb způsobených AI. Medical Protection Society (MPS), organizace zastupující lékaře obviněné z pochybení, ve své zprávě upozorňuje, že lékaři by se mohli stát „cílem“ žalob za klinickou nedbalost, pokud zákony nebudou zásadně revidovány. Dr. Sarah Townley, zástupkyně lékařského ředitele MPS, zdůrazňuje, že zatímco se zákony vždy potýkaly s udržením kroku s technologickým pokrokem, rychlost vývoje AI vytváří mezi nimi „rozšiřující se propast“.

Jako příklad potenciálních rizik MPS uvádí situaci, kdy by AI mohla přehlédnout nádor na rentgenovém snímku plic, což by vedlo k chybné diagnóze a absenci léčby, s možnými fatálními následky. Podobně by chybné doporučení AI na zvýšení dávky léku na ředění krve mohlo způsobit vážné krvácení. V takových případech existuje reálná možnost, že by byla podána žaloba proti lékaři. MPS navrhuje, aby vláda překlasifikovala nástroje a systémy AI jako produkty, čímž by spadaly pod zákon o ochraně spotřebitele z roku 1987. To by pomohlo lékařům a NHS vyhnout se plné odpovědnosti za chyby způsobené technologií.

Lékaři ve Spojeném království jsou stále více znepokojeni možností, že by byli obviňováni z chyb AI. Obávají se, že bez jasných kroků k zajištění odpovědnosti vývojářů a výrobců AI by mohla klesnout důvěra veřejnosti v medicínu. Dr. Ragit Varia, prezident-elekt Society for Acute Medicine, zdůrazňuje, že inovace a bezpečnost pacientů by měly jít ruku v ruce. „Klinici by se neměli ocitnout v situaci, kdy drží horký brambor odpovědnosti, když jejich rozhodnutí byla ovlivněna systémy AI vyvinutými, dodanými a implementovanými jinými subjekty bez odpovídající struktury,“ dodává. NHS Resolution, která řeší žaloby za nedbalost proti nemocnicím v Anglii, již připravuje směrnice k odpovědnosti za AI. Ministerstvo zdravotnictví a sociální péče vítá zprávu MPS a přezkoumá její doporučení, aby zajistilo bezpečné a rychlé využívání AI ve zdravotnictví. Ahmed Binesmael z think-tanku Health Foundation dodává, že důvěra veřejnosti v AI závisí nejen na samotné technologii, ale i na doprovodných zárukách a dohledu.