Manažéri AI firiem očakávajú veľký kyberútok riadený umelou inteligenciou, prísť by mohol už do roka
Vedenia popredných spoločností v oblasti umelej inteligencie sa pripravujú na možnosť vážneho bezpečnostného incidentu spojeného s umelou inteligenciou. Takýto incident by mohol narušiť finančné služby, internet alebo dodávky elektriny či vody.
Manažéri a výskumníci z firiem, ako sú Anthropic či OpenAI, v zákulisí rozoberajú scenáre rozsiahleho kybernetického útoku. Niektorí ľudia z odvetvia očakávajú veľký incident v najbližších šiestich až dvanástich mesiacoch.
Nejde o predpoveď konkrétneho útoku ani o tvrdenie, že ho určite vykoná samotná umelá inteligencia. Firmy sa pripravujú na katastrofický scenár, pri ktorom by umelá inteligencia mohla pomôcť útočníkom alebo by sa problém mohol začať zlyhaním autonómnych systémov a predstavoval by hrozbu na úrovni štátov.
Spoločnosti sa obávajú aj následnej politickej a verejnej reakcie. Veľký incident by mohol vyvolať tlak na obmedzenie alebo reguláciu umelej inteligencie. Firmy preto pri plánovaní počítajú aj s tým, ako by po kríze vysvetľovali svoje rozhodnutia zákonodarcom a verejnosti.
Obavy podporujú aj prípady, ktoré Anthropic nedávno opísal pri testovaní svojich modelov. Model Claude Mythos 5 napríklad počas práce s verejnými webovými stránkami získal prístup k údajom štátnej agentúry, ktoré boli dostupné za poplatok. Zistil, že verejný informačný panel poskytuje návštevníkom prístupový token, a použil ho na dopytovanie databázy. Nešlo o utajované vládne informácie. V samostatnom prípade model obišiel obmedzenia pri prístupe k mape miestnej samosprávy. Takýchto prípadov získania nelegálneho prístupu k dátam je v prípade testovania umelej inteligencie popísaných už niekoľko.
Anthropic uviedol, že väčšina opísaných situácií mala malý dosah a modely konali pri testovaní alebo internom používaní. Spoločnosť zároveň oznámila, že dočasne vypne živý prístup na internet pri všetkých interných testoch, kým neoverí svoje bezpečnostné a monitorovacie opatrenia.
Verejná mienka v USA naznačuje podporu regulácie. V júnovom prieskume AI Policy Institute si 63 percent opýtaných vybralo dočasný zákaz pokročilejšej umelej inteligencie pred možnosťou bez regulácie. Keď však mali na výber aj povinné bezpečnostné štandardy, 66 percent uprednostnilo štandardy pred zákazom a 78 percent pred nulovou reguláciou. Výsledky teda neznamenajú, že väčšina Američanov chce umelú inteligenciu všeobecne zakázať. Skôr ukazujú, že v prieskume dávali prednosť záväzným pravidlám. Prieskum sa uskutočnil 10. a 11. júna 2026 medzi 1 007 pravdepodobnými voličmi v USA.
