Věda na rozcestí: Jak neprůhledné technologie ovlivňují důvěru ve vědecké objevy?

Vědci se stále více spoléhají na výkonné datové zdroje a nástroje, které často nemohou plně pochopit, prozkoumat ani ověřit.

Vědci se stále více spoléhají na výkonné datové zdroje a nástroje, které často nemohou plně pochopit, prozkoumat ani ověřit. Moderní technologie, jako je umělá inteligence (AI), satelitní snímky, online data a digitální senzory, sice revolučním způsobem mění studium přírodního světa, ale zároveň fungují jako vědecké „černé skříňky“, které stále více zpochybňují důvěru ve vědu.

Novou studii, která se zabývá problémy reprodukovatelnosti, důvěry a budoucnosti vědeckého výzkumu v éře, kdy kritické technologie mohou formovat vědu a ovlivňovat znalosti, aniž by byly plně otevřené kontrole, publikoval mezinárodní tým vědců v časopise BioScience. Tyto nástroje dokážou zpracovat obrovské množství informací, monitorovat biodiverzitu a hrozby napříč kontinenty a odhalovat vzorce, které byly dříve nedosažitelné.

„Mnoho z těchto nástrojů však představuje skutečné černé skříňky, protože procesy za těmito výsledky zůstávají z velké části skryté,“ uvedl Ivan Jarić, výzkumník z University of Paris-Saclay a hlavní autor studie. „Často jsou vlastněny soukromými společnostmi, které záměrně omezují přístup k informacím o tom, jak jejich systémy fungují nebo zpracovávají data, a to z důvodů vlastnických práv a komerčních cílů.“

Studie identifikuje několik typů neprůhledných technologií, které se široce používají v ekologii a ochraně přírody. Mezi nejvýznamnější příklady patří velké jazykové modely a další technologie umělé inteligence, které se stále častěji využívají k analýze rozsáhlých datových souborů, interpretaci satelitních snímků a modelování ekosystémů. Vědci však často mají jen omezený nebo žádný přístup k datům použitým k trénování těchto systémů, k základním algoritmům, k přímému testování systémů nebo k pochopení toho, jak a proč generují konkrétní výstupy. S rostoucími schopnostmi a autonomií AI tato nedostatečná transparentnost ztíží interpretaci a ověřování vědeckých zjištění.

Tento problém se netýká pouze umělé inteligence. Mnoho produktů dálkového průzkumu Země se spoléhá na proprietární zpracování, ke kterému vědci nemají plný přístup a nemohou ho ověřit. Podobně některá zařízení pro sledování divoké zvěře poskytují pouze zpracované lokace zvířat, zatímco základní surová data zadržují. Online platformy, jako jsou vyhledávače a sociální média, které se staly cennými zdroji pro studium biodiverzity a interakcí člověka s přírodou, jsou založeny na skrytých algoritmech a měnících se zásadách, které mohou do dat vnášet neznámé zkreslení. Podobné problémy ovlivňují i sociální průzkumy, kde se vědci stále více spoléhají na soukromé společnosti při náboru účastníků a správě průzkumů, často s omezenými informacemi o tom, jak jsou respondenti vybíráni, jak je udržována kvalita dat nebo zda odpovědi nebyly ovlivněny zásahy AI agentů. Identifikace těchto výzev je klíčová pro zajištění integrity a důvěryhodnosti vědeckého výzkumu do budoucna.