AI urobila niečo, čo nemala. Profesor Vladimír Šucha varuje: Toto už nemôžeme zľahčovať

Umelá inteligencia sa vyvíja obrovským tempom a spolu s novými možnosťami prináša aj riziká, ktoré ešte donedávna pôsobili skôr ako sci-fi. V novej epizóde podcastu Dopodrobna sa Ivo Funtek rozpráva s profesorom a odborníkom na umelú inteligenciu Vladimírom Šuchom o tom, čo sa môže stať, keď AI prekročí hranice, ktoré jej nastavili ľudia.

Jedným z príkladov je incident s AI agentmi, ktorí mali počas testovania zostať izolovaní od internetu aj od seba navzájom. Podľa Šuchu sa však začali správať inak. „Začali komunikovať, čo nemali. Dostali sa na internet, kam sa nemali dostať,“ hovorí. Dodáva, že si dokonca vytvorili vlastnú hierarchiu s koordinátormi a šéfom. Podľa neho nejde iba o zaujímavý technologický experiment. „Pre nás bežných ľudí, ale aj pre vlády by to z môjho pohľadu malo znamenať jeden obrovský poplach.“

Čo ak by AI zasiahla nemocnice či energetiku?

Šucha upozorňuje, že samotný incident nemusel spôsobiť závažnú škodu, no oveľa dôležitejšia je otázka, čo by sa mohlo stať nabudúce. „Je to varovný výstrel, lebo nič také strašné sa nestalo, čo sa týka dopadu,“ vysvetľuje. Zároveň však zdôrazňuje, že podobné prípady už nemožno zľahčovať ako ojedinelé incidenty.

Riziko podľa neho rastie najmä vtedy, ak sa AI systémy dostávajú do oblastí kritickej infraštruktúry. Nemocnice, energetika či vodárne sú systémy, pri ktorých môže mať zlyhanie technológie veľmi konkrétne následky. Jedným z problémov je aj to, že schopnosti modelov sa nie vždy dajú presne predvídať.

„Ani vývojári, ktorí ju vyvíjajú, ani tí, ktorí ju trénujú, nevidia presne, čo dokáže,“ upozorňuje Šucha. Práve preto podľa neho nestačí, aby si technologické firmy svoje systémy testovali samy. Potrebné sú nezávislé kontroly a externí odborníci, ktorí dokážu preverovať AI priamo vo vývojových firmách. „Obdobie testovania musí byť dostatočne dlhé a nemôže to robiť len tá firma sama.“

Kto nesie zodpovednosť?

Aj keď AI dokáže konať autonómnejšie, zodpovednosť podľa Šuchu stále zostáva na ľuďoch. „Tá AI za to nie je zodpovedná, lebo zatiaľ ju vyvíjajú ľudia. Jednoznačne sú zodpovední ľudia.“ Kriticky sa pozerá aj na predstavu, že technologickým firmám môžeme jednoducho veriť, že budú bezpečnosť vždy stavať na prvé miesto. „Čomu môžeme dôverovať, je to, že ich záujmom je generovať zisk. Tomu môžeme dôverovať,“ hovorí.

V novej epizóde Dopodrobna sa dozviete aj:

• či dokážeme AI jednoducho vypnúť, ak sa vymkne kontrole,
• prečo podľa Šuchu nestačia dobrovoľné pravidlá technologických firiem,
• ako sa na reguláciu pozerá Európa, USA a Čína,
• či je okolo umelej inteligencie investičná bublina
• a prečo by sme sa mali viac sústrediť na konkrétne riziká, ktoré existujú už dnes, než na vzdialené scenáre o vyhynutí ľudstva.

Najnovšiu epizódu podcastu Dopodrobna s Ivom Funtekom si môžeš vypočuť už teraz v aplikácii Rayo.

Zdroj náhľadovej fotografie: Archív Rádio Expres