Lidé netouží po automatizaci: Proč tech průmysl nechápe rostoucí odpor k umělé inteligenci?

Navzdory obrovskému nadšení technologického průmyslu z umělé inteligence (AI) a automatizace, většina lidí se k těmto technologiím staví s rostoucí nevolí. Průzkumy veřejného mínění ukazují silný negativní sentiment vůči AI, zejména u generace Z, která ji přitom nejvíce používá.

Navzdory obrovskému nadšení technologického průmyslu z umělé inteligence (AI) a automatizace, většina lidí se k těmto technologiím staví s rostoucí nevolí. Průzkumy veřejného mínění ukazují silný negativní sentiment vůči AI, zejména u generace Z, která ji přitom nejvíce používá. Například průzkum NBC News ukázal, že AI má horší popularitu než americká imigrační a celní služba (ICE) a jen o málo lepší než válka v Íránu. Více než polovina Američanů se domnívá, že AI způsobí více škody než užitku, a jen 35 % je z ní nadšeno. Hněv vůči AI mezi generací Z vzrostl z 22 % na 31 % během jednoho roku.

Technologičtí lídři si jsou vědomi nepopularity AI, ale často ji vnímají jako „marketingový problém“. Generální ředitel OpenAI Sam Altman explicitně uvedl, že by si přál lepší marketing pro AI, protože „kdyby AI byla politickým kandidátem, byla by nejméně populárním v historii“. Autor článku však tvrdí, že nejde o marketingový problém. Lidé se s nástroji AI setkávají denně – ať už jde o ChatGPT, přehledy AI ve vyhledávání Google nebo „balast“ v jejich online kanálech. Negativní zkušenosti nelze přebít reklamou.

Jádrem problému je podle autora „softwarové myšlení“ (software brain), které vidí svět jako soubor databází ovládaných strukturovaným jazykem a kódem. Tento způsob myšlení sice vytvořil moderní svět a je nesmírně efektivní v byznysu (např. Zillow jako databáze domů, Uber jako databáze aut a jezdců), ale má své limity. Databáze nejsou realitou a lidé nejsou počítače, jejichž životy by se daly zploštit do automatizovatelných smyček. Příkladem je neúspěch Elona Muska s DOGE vládními databázemi, který ukázal, že kontrola databází neznamená kontrolu reality. AI průmysl se snaží přimět lidi, aby se přizpůsobili databázím, místo aby se databáze přizpůsobily lidem.

Podobné paralely lze nalézt v právním systému, kde „právnické myšlení“ (lawyer brain) také používá strukturovaný jazyk (zákony, citace) k řízení složitých systémů. Avšak právo, stejně jako společnost, není deterministické a jeho podstatou je nejednoznačnost. Snaha aplikovat na společnost příkazy jako na počítač, který bude poslouchat instrukce, vede k frustraci. Někteří dokonce navrhují plně automatizované arbitrážní systémy AI, s argumentem, že lidé přijmou horší výsledek od automatizovaného systému jako spravedlivější, pokud se cítí být vyslyšeni. To je však čisté softwarové myšlení, které se snaží přinutit reálný svět, aby se choval jako počítač.

Problémem je, že ne všechno je byznys, ne všechno je smyčka a celá lidská zkušenost nemůže být zachycena v databázi. Lidé netouží po automatizaci, která je zplošťuje a nutí je přizpůsobovat se systémům. Velké společnosti jako Apple, Google a Amazon se již více než deset let snaží přimět lidi, aby se zajímali o automatizaci chytrých domácností, ale bez většího úspěchu. Lidé nechtějí být neustále sledováni a nechtějí, aby jejich životy byly kompletně digitalizovány a zpřístupněny AI, i když to někteří v Silicon Valley aktivně dělají ve snaze získat konkurenční výhodu. Tento přístup, kdy se lidé „zplošťují do databáze“, aby byli čitelnější pro AI, přináší značná rizika kybernetické bezpečnosti a prohlubuje pocit bezmoci. Tech průmysl a politici by měli zajistit, aby politický proces posiloval lidi, nikoli je činil bezmocnými, což je nihilismus, k němuž sami významně přispěli.