Ochrana dětí na Novém Zélandu pod tlakem: Mohou prediktivní modely zlepšit rozhodování a snížit rizika?

Nový Zéland se dlouhodobě zabývá prediktivním modelováním a diskusemi o jeho využití. Před více než deseti lety patřil mezi první země, které vážně zkoumaly, jak by se prediktivní modely mohly uplatnit v ochraně dětí.

Nový Zéland se dlouhodobě zabývá prediktivním modelováním a diskusemi o jeho využití. Před více než deseti lety patřil mezi první země, které vážně zkoumaly, jak by se prediktivní modely mohly uplatnit v ochraně dětí. Práce vedená profesorkou Rhemou Vaithianathan a jejími kolegy z Auckland University of Technology ukázala, že integrovaná administrativní data dokážou identifikovat novorozence se zvýšeným rizikem pozdějšího zneužívání.

Agentury však byly záměrně opatrné v tom, jak by se tyto modely mohly používat. Ministerstvo sociálního rozvoje uvedlo, že by měly zlepšovat rozhodování při přijímání případů, podporovat spíše než nahrazovat profesionální úsudek a nejprve být testovány v simulovaném prostředí. Podobný názor vyjádřila i recenze Statistics New Zealand: model by měl spustit podrobnější posouzení, nikoli automatickou intervenci. Přesto se kroky k přechodu od výzkumu k praxi ukázaly jako kontroverzní. Navrhovaná observační studie z roku 2015, která by novorozencům přiřazovala rizikové skóre a sledovala výsledky, byla nakonec zastavena kvůli obavám o soukromí, předpojatost a roli státu.

Tyto obavy sice nezmizely, ale tlak na systém ochrany dětí na Novém Zélandu stále roste. Agentura Oranga Tamariki obdržela v druhé polovině roku 2024 více než 55 000 hlášení o obavách, což představuje výrazný nárůst oproti předchozímu roku. Nedávné interní průzkumy mezi zaměstnanci v první linii navíc poukazují na to, že případy jsou stále složitější a rozhodnutí se přijímají za nejistých podmínek. Prediktivní modelovací nástroje však tito pracovníci stále nepoužívají. Dosud bylo testování technologie pečlivě omezeno na historická, anonymizovaná data a probíhalo souběžně s rozsáhlými etickými, soukromými a maorskými revizemi.

Kde bylo prediktivní modelování pilotně zavedeno ve Spojených státech, následná hodnocení naznačují, že může pomoci, pokud je používáno opatrně. Například v pensylvánském okrese Allegheny vedl jeden pilotní program k menšímu počtu dětí odebraných z domovů. V Los Angeles byl zaznamenán pokles případů, kdy děti utrpěly život ohrožující újmu, o 23 %. To naznačuje, že modely mohou zásahům dodat větší přesnost. Ne vždy tomu tak ale bylo. Úřady v Illinois opustily jeden systém poté, co generoval příliš mnoho upozornění. Byl také kritizován za to, že přehlédl případy, které skončily tragédií, přestože děti byly již známy agenturám pro péči o děti. To ukázalo, že pokud model zahltí pracovníky daty, může spíše přidat zmatek než snížit újmu.

Dalším rizikem pro pracovníky v první linii jsou takzvané „falešné negativity“, jako jsou přehlédnuté případy, a „falešné pozitivity“, jako jsou neoprávněná obvinění. První jmenované mohou znamenat, že dítě zůstane v nebezpečí. Druhé mohou vést k zbytečnému odebrání dítěte s vážnými a trvalými následky. To zpochybňuje logiku pracovníků, kteří se při rozhodování „raději mýlí na straně opatrnosti“. Pokud opatrnost znamená reflexivní odebrání, může to způsobit jinou formu újmy.