Nový rámec SAFE AI zajistí etické využití umělé inteligence a rovnost pacientů ve zdravotnictví

Rámec SAFE AI integruje etické kontroly přímo do vývoje AI systémů. Pomáhá malým a středním firmám předcházet předsudkům a zajistit spravedlivou péči pro všechny pacienty, zejména v oblasti duševního zdraví.

Institut duševního zdraví Huntsman oznámil zveřejnění průkopnického rámce, jehož cílem je zajistit, aby systémy umělé inteligence (AI) používané ve zdravotnictví byly vyvíjeny a nasazovány eticky, transparentně a s důrazem na rovnost pacientů. Tento rámec, nazvaný Škálovatelný agilní rámec pro implementaci umělé inteligence (SAFE AI), byl publikován v Journal of Medical Internet Research (JMIR), předním recenzovaném akademickém časopise pro výzkum digitálního zdraví.

Rámec, vytvořený ve spolupráci s partnery v oblasti zdravotnické AI, poskytuje praktické pokyny pro malé a střední podniky vyvíjející lékařské AI technologie. Integruje etické kontrolní body přímo do standardních vývojových procesů, čímž pomáhá organizacím proaktivně identifikovat a zmírňovat potenciální předsudky dříve, než ovlivní péči o pacienty.

„Umělá inteligence stále více ovlivňuje, jak klinici rozhodují v péči o duševní zdraví, od třídění v krizových situacích až po doporučení léčby,“ uvedl Warren Pettine, MD, výzkumník institutu a hlavní autor publikace. „S rámcem SAFE AI poskytujeme návod, který zajišťuje, že tyto systémy jsou nejen efektivní, ale také spravedlivé, transparentní a průběžně monitorované. Každý pacient si zaslouží spravedlivou péči – zejména ti v citlivých oblastech péče o duševní zdraví.“