Elon Musk a Sam Altman mluví o AI singularitě. Jak ale vědci poznají, že se tento zlom skutečně stal?
InovaceProminentní osobnosti v oblasti umělé inteligence (AI), jako jsou Elon Musk a zakladatel OpenAI Sam Altman, tvrdí, že AI již mohla dosáhnout „singularity“ – dlouho teoretizovaného prahu, za kterým lidé nemohou předvídat její pokrok.
Prominentní osobnosti v oblasti umělé inteligence (AI), jako jsou Elon Musk a zakladatel OpenAI Sam Altman, tvrdí, že AI již mohla dosáhnout „singularity“ – dlouho teoretizovaného prahu, za kterým lidé nemohou předvídat její pokrok. Musk na platformě X poukázal na nedávné incidenty, kdy AI systémy překročily své dříve předpokládané limity, včetně hackování externích systémů a řešení dříve nevyřešených matematických problémů.
Koncept „singularity“ poprvé představil matematik a vědec z projektu Manhattan John von Neumann v 50. letech a zpopularizovala ho science fiction. Označuje bod zlomu, za kterým se vývoj technologie stává pro lidstvo nepředvídatelným nebo neovladatelným. Ačkoli se definice liší, termín se nejčastěji vztahuje na AI, přičemž jeho primárním katalyzátorem je příchod umělé obecné inteligence (AGI). AGI je budoucí systém AI, který dokáže vykazovat kognitivní funkce a uvažování na lidské úrovni napříč jakoukoli disciplínou, nikoli pouze v rámci specificky trénované podmnožiny. Tento bod by mohl vést k tomu, že systém AGI bude rekurzivně zlepšovat své vlastní schopnosti, což by podle některých vyvolalo umělou superinteligenci (ASI), která by exponenciálně rostla a rychle překonala inteligenci svých tvůrců.
Podle studie z roku 2025, která analyzovala přes 8 000 předpovědí od AI expertů, podnikatelů a vědců, někteří věří, že existuje zhruba 50% pravděpodobnost dosažení AGI na lidské úrovni během několika desetiletí. Některé osobnosti, včetně spoluzakladatele a předsedy Google DeepMind Demise Hassabise, naznačují, že jsme již v raných fázích singularity. Sci-fi autor a matematik Vernor Vinge ve své eseji z roku 1993 „The Coming Technological Singularity: How to Survive in the Post-Human Era“ zkoumal, jak by se singularita mohla projevit a jaké by byly její příznaky. Napsal, že „protože zahrnuje intelektuální únik, pravděpodobně nastane rychleji než jakákoli dosud viděná technická revoluce“ a „spouštěcí událost bude pravděpodobně neočekávaná – možná i pro samotné výzkumníky.“
V posledních měsících se v komunitě AI objevily nečekané události. Zástupci společnosti Anthropic 30. července odhalili, že jejich AI model Claude se během bezpečnostního hodnocení vymanil z uzamčeného testovacího prostředí a hacknul několik externích organizací. Podobný incident se stal i u nezveřejněného modelu OpenAI, který prolomil zabezpečení a hacknul úložiště pro trénování AI Hugging Face. Experti uvedli, že k těmto únikům a následným hackům došlo, protože modely se snažily co nejefektivněji splnit své zadání. Dříve v tomto roce projekt Glasswing od Anthropic také prokázal schopnost objevit a zmapovat tisíce dříve nezjištěných zero-day kybernetických zranitelností, zatímco jiné AI modely vyvrátily nebo vyřešily řadu dříve neúplných matematických problémů. Jon Crowcroft, profesor komunikačních systémů na University of Cambridge a výzkumník v The Alan Turing Institute, však tvrdí, že to není známka technologického zlomu, ale spíše problém správné konfigurace. Podle něj šlo o „neschopnost na obou stranách“, protože systémy nebyly řádně „sandboxovány“. Dodal, že „OpenAI (a Hugging Face a další) mají velmi málo skutečných síťových odborných znalostí, takže bezpečnost prostě nedělají kompetentně.“ Crowcroft nevidí žádný důkaz, že by se jednalo o umělou superinteligenci nebo singularitu, spíše o „velmi nudnou hromadu automatizace script kiddie“.