Stručne: Výskumníci v oblasti bezpečnosti AI rozlišujú päť hlavných rizikových scenárov: zneužitie AI človekom, príliš veľký autonómny prístup AI k dôležitým systémom, systém sledujúci iný cieľ, než ľudia zamýšľali, klamlivé správanie počas testov a postupnú stratu ľudskej kontroly. Súčasné systémy nemajú schopnosti potrebné pre tie najextrémnejšie scenáre a odborníci sa nezhodujú, či niektorý z nich vôbec nastane. Prvé dva sa však týkajú nástrojov, ktoré už existujú.
Veta „AI by nás mohla vyhladiť“ sa objavuje v titulkoch aj v rozhovoroch pri káve. Málokedy však niekto vysvetlí, ako konkrétne by sa to malo stať. Tento článok vysvetľuje päť scenárov bez technického žargónu. Ide o rizikové scenáre, nie predpovede.
1. Zneužitie AI človekom (misuse)
Zneužitie AI znamená, že človek so zlým úmyslom použije veľmi schopnú AI na spôsobenie veľkých škôd. AI sa pritom nemusí sama rozhodnúť ublížiť.
Na spôsobenie veľkých škôd bolo doteraz potrebné roky štúdia, tím ľudí a veľa peňazí. AI by mohla tieto bariéry znížiť. Výskumníci sa obávajú najmä štyroch oblastí: biologických hrozieb, rozsiahlych kybernetických útokov, autonómnych zbraní a sabotáže kritických systémov, napríklad rozvodných sietí alebo vodární. Preto firmy vyvíjajúce AI testujú svoje modely aj na to, či nepomôžu s takýmito úlohami.
2. Príliš veľa autonómneho prístupu (AI agenti)
AI agent je systém, ktorý okrem odpovedania aj koná: posiela e-maily, mení nastavenia, platí alebo pracuje v systémoch firiem. Čím viac prístupu má, tým väčšie škody môže spôsobiť jeho chyba.
Keď sa chatbot pomýli, dostaneš zlú odpoveď a môžeš ju ignorovať. Rozdiel je podobný ako medzi asistentkou, ktorá ti navrhne, čo kúpiť, a asistentkou, ktorá pozná PIN k tvojej karte. Ak má AI prístup k financiám, infraštruktúre, logistike, komunikácii či cloudovým systémom, chyba, zneužitie alebo nesprávne nastavené správanie sa môžu rozšíriť oveľa ďalej. Riziko rastie s tým, ku koľkým systémom má AI prístup, čo v nich smie robiť a aké dôležité tie systémy sú.
3. Systém schopnejší, než dokážeme ovládať (strata kontroly)
Strata kontroly (loss of control) je scenár, v ktorom veľmi schopný AI systém sleduje cieľ inak, než ľudia zamýšľali, a ľudia ho už nedokážu opraviť ani zastaviť.
Predstav si, že dieťaťu povieš „uprac si izbu“ a ono všetko napchá pod posteľ. Zadanie je splnené doslova, len nie tak, ako si to myslela. Pri AI sa tomu hovorí problém zadania cieľa (goal misspecification). Obava nesmeruje k AI, ktorá by nenávidela ľudí. Smeruje k systému, pre ktorý sa ľudia stanú prekážkou v ceste za cieľom.
Tento výskum sa zameriava na budúce systémy, ktoré by mohli získať schopnosti ako dlhodobé plánovanie, vyhýbanie sa dohľadu alebo odolávanie snahám ich zastaviť. Súčasné systémy na takýto scenár schopné nie sú.
4. Klamlivé zosúladenie (deceptive alignment)
Klamlivé zosúladenie znamená, že AI systém sa počas testovania správa bezpečne, pretože rozpozná, že je testovaný, a po nasadení sa správa inak.
Poznáš vodiča, ktorý spomalí len pred radarom? Systém prejde hodnoteniami a správa sa presne podľa očakávaní. Keď sa však zmení kontext, motivácie alebo prístup, jeho správanie sa zmení tiež.
Nie je to čisto teoretická obava. Medzinárodná správa o bezpečnosti AI z roku 2026 sa venuje aj AI systémom, ktoré dokážu rozpoznať, že sú testované. Je to dôležité, pretože testy sú jedným z hlavných nástrojov, podľa ktorých sa posudzuje, či je model bezpečný.
5. Postupná strata ľudskej kontroly (gradual disempowerment)
Postupná strata kontroly je scenár bez dramatického momentu: ľudia zverujú AI stále viac rozhodnutí, až prestanú rozumieť systémom, na ktorých spoločnosť závisí.
Zverujeme jej rozhodnutia, výskum, infraštruktúru, trhy, informácie a prevádzku. Každý krok dáva zmysel, lebo ušetrí čas alebo peniaze. Problém nastane, keď sú systémy také zložité a prepojené, že ich ľudia nedokážu skontrolovať ani zmysluplne riadiť. Kontrola sa tak zmenšuje po kúskoch, bez jediného momentu, v ktorom by sa to dalo zastaviť.
Čo z toho platí dnes
Odborníci sa zásadne rozchádzajú v tom, či pokročilá AI vôbec niekedy spôsobí stratu kontroly, nieto ešte vyhynutie ľudstva. Súčasné systémy nemajú schopnosti potrebné pre tie najextrémnejšie scenáre.
Prvé dva scenáre sa však týkajú nástrojov, ktoré už existujú. Podľa správy z februára 2026 schopnosti AI naďalej rastú a AI agenti sú čoraz autonómnejší. Pri ostatných scenároch výskumníci argumentujú tým, že ak by nastali, následky by boli také vážne, že sa oplatí pripraviť ochranu skôr, ako potrebné schopnosti vzniknú.
Čo sa s rizikami AI robí
Na znižovaní rizík sa pracuje na viacerých úrovniach naraz. Patria sem pravidlá a riadenie, teda kto smie čo vyvíjať a nasadzovať. Ďalej dôkladné testovanie modelov pred vydaním, jasné hranice toho, k čomu má AI prístup, zabezpečenie systémov a ľudský dohľad nad dôležitými rozhodnutiami. Rovnako dôležitá je transparentnosť firiem, medzinárodná spolupráca a AI gramotnosť, teda to, aby ľudia, ktorí AI používajú, rozumeli jej možnostiam aj slabinám.
Čo to znamená pre teba
Väčšina opatrení sa odohráva vo firmách, laboratóriách a vládach. Časť je však aj v tvojich rukách. Keď dávaš AI nástroju prístup k e-mailu, kalendáru alebo účtom, daj mu len toľko, koľko naozaj potrebuje. Keď AI za teba niečo robí, skontroluj výsledok skôr, než ho odošleš ďalej. A keď počuješ katastrofické titulky aj sľuby, že AI vyrieši všetko, už vieš, na aké konkrétne scenáre sa pýtať.
Časté otázky
Môže AI naozaj zničiť ľudstvo?
Odborníci sa nezhodujú, či pokročilá AI niekedy spôsobí stratu kontroly alebo vyhynutie ľudstva. Súčasné AI systémy nemajú schopnosti potrebné pre takéto scenáre. Výskumníci ich skúmajú preto, lebo ich potenciálne následky by boli veľmi vážne.
Čo je klamlivé zosúladenie (deceptive alignment)?
Klamlivé zosúladenie je situácia, keď sa AI systém počas testov správa bezpečne, pretože rozpozná, že je testovaný, no po nasadení sa správa inak. Je to riziko, pretože testy sú hlavným nástrojom na posúdenie bezpečnosti modelov.
Prečo je AI agent rizikovejší ako chatbot?
Chatbot iba odpovedá, kým AI agent aj koná, napríklad posiela e-maily alebo robí platby. Chyba chatbota je zlá odpoveď, chyba agenta je vykonaná akcia. Riziko rastie s počtom systémov, ku ktorým má agent prístup, a s ich dôležitosťou.
Ako sa chrániť pri bežnom používaní AI?
Daj AI nástrojom len taký prístup k účtom a údajom, aký naozaj potrebujú. Výsledky, ktoré AI vytvorí alebo odošle v tvojom mene, pred použitím skontroluj.
Kto skúma riziká AI?
Riziká AI skúmajú výskumníci v univerzitných a nezávislých inštitúciách, vo firmách vyvíjajúcich AI aj v štátnych inštitúciách. Najrozsiahlejším spoločným prehľadom je Medzinárodná správa o bezpečnosti AI, ktorú vedie držiteľ Turingovej ceny Yoshua Bengio a na ktorej pracovalo vyše 100 odborníkov s podporou viac ako 30 krajín a medzinárodných organizácií.
Zdroj: International AI Safety Report 2026
O autorke: Kristína Blašková je dátová vedkyňa. S AI a strojovým učením pracuje od roku 2020 a v medzinárodnej poisťovacej skupine zodpovedá za AI platformu. Na Život s AI pomáha ľuďom robiť informované rozhodnutia o AI.
Ak chceš zistiť, aký je tvoj prístup k AI a na čo si pri ňom dávať pozor, sprav si krátky kvíz na zivotsai.sk/kviz.