Čo je AI Act?

AI Act (Artificial Intelligence Act), v slovenčine známy ako nariadenie o umelej inteligencii, je prvý komplexný právny rámec Európskej únie špecificky zameraný na reguláciu systémov umelej inteligencie. Oficiálne označenie tohto právneho aktu je Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689. Nariadenie stanovuje harmonizované pravidlá pre vývoj, uvádzanie na trh a používanie AI systémov v rámci EÚ.

Klasifikácia rizík v AI Act

Jadrom regulačného prístupu EU AI Act je systém klasifikácie AI aplikácií podľa úrovne rizika, ktoré predstavujú pre základné práva a bezpečnosť. Nariadenie rozlišuje štyri kategórie:

• Zakázané AI praktiky predstavujú systémy s neprijateľným rizikom. Patria sem manipulatívne techniky podprahového ovplyvňovania, sociálne skórovanie zo strany verejných orgánov a real-time remote biometrická identifikácia vo verejne prístupných priestoroch (s výnimkami pre orgány činné v trestnom konaní).
• Vysokorizikové AI systémy podliehajú prísnym požiadavkám pred uvedením na trh. Zahŕňajú AI používanú v kritickej infraštruktúre, vzdelávaní, zamestnanosti, základných službách, presadzovaní práva a migrácii.
• Systémy s transparentným rizikom musia spĺňať transparentné povinnosti. Používatelia musia byť informovaní, že interagujú s AI systémom – typicky pri chatbotoch alebo generovanom obsahu.
• Systémy s minimálnym rizikom nepodliehajú špecifickým regulačným požiadavkám.

Časová os účinnosti

Nariadenie nadobudlo účinnosť 1. augusta 2024, pričom jednotlivé ustanovenia sa uplatňujú postupne. Zákazy neprijateľných AI praktík platia od februára 2025. Požiadavky na vysokorizikové systémy a povinnosti pre poskytovateľov všeobecných modelov AI sa uplatňujú od augusta 2025. Úplná účinnosť väčšiny ustanovení nastane v auguste 2026, s prechodnými obdobiami do 2027.

Príklady uplatnenia AI Act v praxi

V oblasti ľudských zdrojov klasifikuje nariadenie AI nástroje pre nábor a hodnotenie zamestnancov ako vysokorizikové. Organizácie využívajúce AI pri skríningu životopisov alebo automatizovanom hodnotení kandidátov musia zabezpečiť súlad s požiadavkami na transparentnosť, ľudský dohľad a nediskrimináciu.

Vo finančnom sektore spadajú medzi vysokorizikové aplikácie AI systémy pre hodnotenie kreditného rizika. Banky a poskytovatelia úverov musia dokumentovať rozhodovací proces a umožniť zmysluplné vysvetlenie automatizovaných rozhodnutí.

V zdravotníctve podliehajú diagnostické AI nástroje nielen tomuto nariadeniu, ale aj existujúcej regulácii zdravotníckych pomôcok. V praxi to znamená, že poskytovatelia riešení sa musia orientovať v niekoľkých regulačných vrstvách a zosúladiť sa s viacerými súbormi požiadaviek naraz.

Kľúčové požiadavky a sankcie

Poskytovatelia vysokorizikových AI systémov musia implementovať systém riadenia rizík, zabezpečiť kvalitu tréningových dát a viesť technickú dokumentáciu. Povinnosťou je tiež registrácia v databáze EÚ pre vysokorizikové systémy.

Sankcie za porušenie nariadenia môžu dosiahnuť až 35 miliónov EUR alebo 7 % obratu pre zakázané praktiky a porušenie povinností GPAI a 15 miliónov EUR alebo 3 % pre vysokorizikové systémy.

Zdroje a odkazy

Použité zdroje:

• European Commission – AI Act: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• Úplné znenie: Nariadenie (EÚ) 2024/1689: https://eur-lex.europa.eu/eli/reg/2024/1689/oj

Odporúčané zdroje:

• Stanford University Human-Centered Artificial Intelligence – AI Index Report: https://aiindex.stanford.edu