Emma Pierson z Berkeley: Proč je zpomalení vývoje AI klíčové pro společnost, i když oddálí léčbu nemocí

Emma Pierson, profesorka strojového učení na Kalifornské univerzitě v Berkeley, vyvolala rozsáhlou diskusi svou nedávnou esejí v The Atlantic, kde argumentuje pro zpomalení vývoje umělé inteligence (AI).

Emma Pierson, profesorka strojového učení na Kalifornské univerzitě v Berkeley, vyvolala rozsáhlou diskusi svou nedávnou esejí v The Atlantic, kde argumentuje pro zpomalení vývoje umělé inteligence (AI). Její osobní zkušenost s genovou mutací, která zvyšuje riziko rakoviny vaječníků a prsu, a preventivní odstranění vaječníků, jí dává jedinečný pohled na dilema mezi rychlým pokrokem a opatrností.

Pierson uznává, že AI má potenciál pomoci v boji proti nemocem, včetně rakoviny. Nicméně zdůrazňuje, že obrovské generalistické systémy AI, vyvíjené laboratořemi jako Anthropic, OpenAI a Google, s sebou nesou bezprostřední společenská rizika. Mezi ně patří masová nezaměstnanost, prohloubení nerovnosti, rozšířený dohled a vývoj zbraní. Proto je podle ní lepší přistupovat k tomuto novému světu opatrněji, i kdyby to znamenalo delší čekání na léčbu nemocí.

Její názor se střetl s ostrým nesouhlasem takzvaných AI akceleracionistů, kteří tvrdí, že jakékoli zpomalení vývoje AI je nehumánní, protože by mohlo miliony lidí připravit o šanci na vyléčení. Marc Andreessen, jeden z předních zastánců rychlého vývoje AI, dokonce označil zpomalení za „formu vraždy“. Pierson však namítá, že současné generalistické modely AI nejsou primárně navrženy k léčbě nemocí a zatím nepřinášejí zásadní zlepšení v péči o pacienty. Tato debata podtrhuje složitost a etické výzvy spojené s rychlým pokrokem v oblasti umělé inteligence.