Čo je deepfake?

Deepfake je technológia využívajúca umelú inteligenciu na vytváranie syntetických médií, v ktorých je tvár alebo hlas osoby nahradený inou. Názov vznikol kombináciou slov „deep learning“ a „fake“. Technológia využíva neurónové siete, konkrétne generatívne adversariálne siete (GAN), na generovanie realisticky vyzerajúceho obsahu, ktorý môže byť prakticky nerozoznateľný od autentického materiálu.

Právny rámec deepfake v EÚ

Regulácia deepfake v Európskej únii spadá pod viaceré právne predpisy. Nariadenie (EÚ) 2024/1689 o umelej inteligencii (AI Act) klasifikuje systémy generujúce deepfake obsah ako AI systémy s obmedzeným rizikom. Tieto systémy podliehajú povinnostiam transparentnosti podľa článku 50 nariadenia.

Prevádzkovatelia AI systémov generujúcich syntetický obrazový, zvukový alebo video obsah musia zabezpečiť, aby výstupy boli označené ako umelo vytvorené alebo zmanipulované. Označenie musí byť strojovo čitateľné a detekovateľné. Výnimky z tejto povinnosti existujú pre umelecké, satirické alebo fiktívne diela, kde označenie nesmie obmedzovať zobrazenie alebo užívanie diela.

Okrem AI Act sa na deepfake vzťahuje aj Nariadenie (EÚ) 2016/679 (GDPR) v prípadoch, keď dochádza k spracúvaniu biometrických údajov bez súhlasu dotknutej osoby. Falošné video využívajúce podobizeň konkrétnej osoby môže predstavovať neoprávnené spracúvanie osobných údajov.

Deepfake v pracovnoprávnom kontexte

V oblasti ľudských zdrojov sa deepfake technológia stáva relevantnou z viacerých perspektív. Organizácie čelia riziku zneužitia identity zamestnancov alebo vedúcich pracovníkov prostredníctvom falošných videí alebo hlasových nahrávok. Takéto prípady sa objavujú v kontexte podvodov, keď útočníci využívajú technológiu face swap na napodobenie manažérov pri schvaľovaní finančných transakcií.

HR oddelenia implementujú overovanie identity kandidátov počas online pohovorov ako prevenciu proti zneužitiu. Niektoré organizácie využívajú detekčné nástroje na identifikáciu manipulovaného obsahu v rámci interných vyšetrovaní.

Sankcie a zodpovednosť

Porušenie povinností transparentnosti podľa AI Act môže viesť k pokutám až do výšky 15 miliónov EUR alebo 3 % celkového celosvetového ročného obratu za predchádzajúci účtovný rok, podľa toho, ktorá suma je vyššia. Pri porušení GDPR v súvislosti s neoprávneným spracúvaním biometrických údajov môžu sankcie dosiahnuť až 20 miliónov EUR alebo 4 % ročného obratu.

Vytvorenie a šírenie deepfake obsahu môže zakladať aj trestnoprávnu zodpovednosť podľa vnútroštátneho práva členských štátov, najmä v prípadoch ohovárania, vydierania alebo šírenia intímnych materiálov bez súhlasu.

Detekcia a prevencia

Technológie na detekciu deepfake obsahu analyzujú vizuálne artefakty, nekonzistencie v osvetlení, neprirodzenú mimiku alebo anomálie v zvukovej stope. Organizácie v regulovaných odvetviach ako finančné služby alebo zdravotníctvo čoraz častejšie implementujú tieto nástroje ako súčasť bezpečnostných protokolov.

Európska komisia podporuje výskum v oblasti detekcie syntetických médií prostredníctvom programu Horizont Európa, pričom dôraz kladie na vývoj nástrojov dostupných pre verejné orgány a súkromný sektor.

Zdroje a odkazy

Použité zdroje:

• European Commission – Artificial Intelligence Act: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• Úplné znenie: Nariadenie (EÚ) 2024/1689: https://eur-lex.europa.eu/eli/reg/2024/1689/oj

Odporúčané zdroje:

• European Union Agency for Fundamental Rights – AI and Fundamental Rights: https://fra.europa.eu