Terapeutka nahrávala sezení s AI: Pacientka ztratila důvěru a obává se o osud citlivých dat
InovaceDůvěra je základním pilířem terapie. Klienti se potřebují cítit bezpečně a otevřeně, aby mohli sdílet své nejniternější pocity.
Důvěra je základním pilířem terapie. Klienti se potřebují cítit bezpečně a otevřeně, aby mohli sdílet své nejniternější pocity. Proto byla jednatřicetiletá Molly Quinn zaskočená, když její terapeutka během sezení náhle vytáhla nástroj s umělou inteligencí, aby začala nahrávat jejich soukromé rozhovory, jak informuje NPR.
Quinn si uvědomila, že terapeutka si nedělá poznámky jako obvykle, ale místo toho měla před sebou postavený iPad. Okamžitě se jí v hlavě začaly honit otázky: Kam jsou její slova zpracovávána a ukládána? Mohou se jednoho dne stát tréninkovými daty pro AI? Tyto myšlenky ji zanechaly s nepříjemným pocitem. „Čím víc jsem o tom přemýšlela, tím víc se mi dělalo nevolno,“ řekla Quinn pro NPR. „Tato osoba, které jsem měla důvěřovat s velmi soukromými a intenzivními emocemi, naprosto ignorovala něco, s čím jsem se necítila komfortně. Cítila jsem se naprosto porušena.“ Ačkoli jí terapeutka nabídla, že přestane AI nástroj používat, Quinn s ní ukončila spolupráci a našla si jinou. „Důvěra byla pryč,“ dodala.
Podobně jako lékaři, i terapeuti po celé zemi zavádějí nástroje umělé inteligence pro psaní poznámek a generování přepisů. Společnosti nabízející tyto služby je prezentují jako způsob, jak snížit administrativní zátěž a uvolnit více času pro pacienty – což je častý argument v AI průmyslu: nechte nás dělat tu nudnou práci za vás. Spolehlivost AI nástrojů však zůstává poměrně nejistá. I když pomineme otázky halucinací, které se již objevují v klinických poznámkách, není jasné, zda jsou pacienti s touto technologií vůbec spokojeni. Průzkum YouGov, na který se odvolává NPR, ukázal, že pouze 11 procent Američanů by bylo otevřeno používání AI v péči o duševní zdraví. Ještě menší podíl, osm procent, by AI v tomto kontextu důvěřoval, zatímco 40 procent technologii vůbec nedůvěřuje.
„Už jen přítomnost AI mění terapeutický zážitek,“ uvedla pro NPR Marisa Cohen, terapeutka pro páry a sexuální terapii z New Yorku. „Klienti vědí nebo cítí, že je poslouchá něco jiného. Toto vědomí může jemně změnit jejich otevřenost.“ Cohen dodala, že „když zavedete něco, co je ukládáno elektronicky, vyvolává to další otázky ohledně důvěry a bezpečnosti. Je to v podstatě třetí strana.“ Tal Salman, generální ředitel populárního nástroje pro terapeuty Berries, trvá na tom, že nahrávky rozhovorů jsou okamžitě mazány a přepisy jsou ukládány na serverech kompatibilních s HIPAA v USA. I kdyby to byla pravda, pokud mají mít nástroje AI společností místo v soukromém prostředí duševního zdraví, potřebují důvěru pacientů – a tu si AI průmysl zatím zjevně nezískal. Molly Quinn se obává, že nahrávky z AI by jednoho dne mohly být odhaleny hackery. „Uvidíme úniky dat,“ řekla. „Možná ne zítra, možná ne příští týden. Ale za pár let? Myslím, že je uvidíme. A nechci, aby moje terapeutické sezení bylo součástí toho.“