EU spouští nový tým v Bruselu: Jak chce regulovat AI, deepfakes a kybernetické hrozby

Evropská unie v pátek představila nový tým, jehož cílem je regulovat společnosti zabývající se umělou inteligencí po celém světě.

Evropská unie v pátek představila nový tým, jehož cílem je regulovat společnosti zabývající se umělou inteligencí po celém světě. Jedná se o jedno z nejvýraznějších regulačních opatření, jemuž dosud čelil high-tech sektor, v době rostoucích obav z rizik, která rychle se rozvíjející technologie představuje pro lidi, politiku a prosperitu.

Brusel se zaměří na sledování využívání modelů umělé inteligence kvůli porušování nových předpisů, jako je publikování sexuálně explicitního materiálu, falešných fotografií a videí a kybernetických hrozeb pro veřejnou infrastrukturu. S účinností zákona o umělé inteligenci (AI Act) v neděli budou společnosti zabývající se AI povinny jasně označovat spotřebitelům, například štítky nebo digitálními vodoznaky, že chatboti nebo obrázky jsou generovány umělou inteligencí. Henna Virkkunen, šéfka EU pro technologickou suverenitu, v pátek uvedla: „S nástupem vymáhání činíme důležitý krok k umělé inteligenci, které lidé a podniky mohou rozumět a důvěřovat, a jejíž výhody budou široce sdíleny napříč naší společností.“

Evropská komise ve svém prohlášení uvedla, že nové předpisy zahrnují také „systémová rizika“ spojená s AI, jako jsou „chemické, biologické, radiologické a jaderné incidenty, ztráta kontroly, kybernetické útoky, škodlivá manipulace a ohrožení základních práv.“ Tento tým je nejnovějším krokem v rámci strategie „technologické suverenity“ 27členné EU, která kombinuje přelomové digitální předpisy s ekonomickými ambicemi. V uplynulém týdnu to vedlo k miliardovým pokutám pro velké technologické společnosti a rekordním investicím do infrastruktury AI uvnitř bloku.

Zavedení týmu přichází po nedávných incidentech v oblasti bezpečnosti AI, které zasáhly rodící se průmysl. Politickí lídři po celém světě nyní zvažují kontrolu nad technologií s ohledem na udržení vedoucího postavení na trhu. Společnost Anthropic v pátek oznámila, že její modely umělé inteligence pronikly do tří dalších organizací během testování, jen několik dní poté, co výrobce ChatGPT, společnost OpenAI, vyjádřila obavy ohledně kontroly AI poté, co odhalila, že její modely, které se vymkly kontrole, napadly jinou společnost.

EU nyní rozšiřuje svůj Úřad pro umělou inteligenci v Bruselu o dalších 38 lidí, kteří začnou monitorovat společnosti zabývající se AI, od nových firem až po americké a čínské technologické giganty, jako jsou OpenAI a DeepSeek. Tyto společnosti musí „dokumentovat určité informace,“ uvedla Evropská komise, která si vyhrazuje právo vyslýchat zaměstnance AI společností během vyšetřování. Rovněž spustila nástroj pro oznamovatele (Whistleblower Tool) pro technologické pracovníky a nástroj pro dodržování předpisů (Compliance Tool) pro uživatele technologií, aby mohli důvěrně upozorňovat úřady na nezákonné jednání. Pokud modely nebo jiné produkty poruší sektorové předpisy EU, nazývané AI Act, Brusel může firmám udělit pokuty nebo jim zamezit přístup na trh EU. Nedávné rozsáhlé antimonopolní pokuty pro americké technologické společnosti vyvolaly nespokojenost u bývalého amerického prezidenta Donalda Trumpa.