Čo je face recognition?

Face recognition (v slovenskom preklade rozpoznávanie tváre) je biometrická technológia umožňujúca automatickú identifikáciu alebo verifikáciu osôb na základe charakteristických čŕt tváre. V kontexte umelej inteligencie ide o systémy využívajúce algoritmy strojového učenia a neurónových sietí na analýzu obrazových dát. Táto technológia patrí medzi najregulovanejšie oblasti AI vzhľadom na jej potenciálny dosah na súkromie a základné práva jednotlivcov.

Právny rámec face recognition v EÚ

Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689, známe ako AI Act, stanovuje prísne pravidlá pre používanie systémov rozpoznávania tváre. Biometrická identifikácia v reálnom čase na verejne prístupných miestach je primárne zakázaná, s úzko vymedzenými výnimkami pre orgány činné v trestnom konaní. Tieto výnimky zahŕňajú situácie ako hľadanie nezvestných osôb, prevencia bezprostrednej teroristickej hrozby alebo lokalizácia podozrivých z presne vymedzených závažných trestných činov.

Systémy rozpoznávania tváre používané na iné účely spadajú do kategórie vysokorizikových AI systémov. To znamená povinnosť vykonať posúdenie zhody, zaviesť systém riadenia rizík a zabezpečiť ľudský dohľad nad fungovaním technológie. Prevádzkovatelia musia tiež informovať dotknuté osoby o tom, že sú vystavené biometrickej identifikácii.

Rozpoznávanie tváre a ochrana osobných údajov

Biometrické údaje vrátane údajov z Face ID patria podľa Nariadenia (EÚ) 2016/679 (GDPR) medzi osobitnú kategóriu osobných údajov. Ich spracúvanie je vo všeobecnosti zakázané s výnimkou situácií, keď dotknutá osoba udelí výslovný súhlas, spracúvanie je nevyhnutné na účely plnenia povinností v oblasti pracovného práva alebo existuje iný právny základ vymedzený v článku 9 GDPR.

Organizácie implementujúce technológie rozpoznávania tváre musia vykonať posúdenie vplyvu na ochranu údajov pred začatím spracúvania. Toto posúdenie má identifikovať riziká pre práva dotknutých osôb a definovať opatrenia na ich minimalizáciu.

Sankcie za porušenie pravidiel

AI Act zavádza odstupňovaný systém sankcií. Za používanie zakázaných praktík vrátane neoprávnenej biometrickej identifikácie v reálnom čase hrozia pokuty až do výšky 35 miliónov EUR alebo 7 % celosvetového ročného obratu. Pri porušení povinností pre vysokorizikové systémy môžu sankcie dosiahnuť 15 miliónov EUR alebo 3 % obratu. Mechanizmus výpočtu je podobný GDPR, avšak horné hranice sú vyššie.

Praktické aspekty implementácie

Organizácie zvažujúce nasadenie systémov rozpoznávania tváre by mali zohľadniť niekoľko faktorov. Prvým je určenie právneho základu spracúvania biometrických údajov. Druhým je klasifikácia systému podľa AI Act a splnenie príslušných požiadaviek. Tretím je zabezpečenie transparentnosti voči dotknutým osobám.

Technológia má dokumentované obmedzenia týkajúce sa presnosti pri rôznych demografických skupinách. Štúdie preukázali vyššiu mieru chybovosti pri identifikácii osôb s tmavšou pleťou a žien, čo môže viesť k diskriminačným dôsledkom.

Zdroje a odkazy

Použité zdroje:

• European Commission – Artificial Intelligence Act: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• Úplné znenie: Nariadenie (EÚ) 2024/1689: https://eur-lex.europa.eu/eli/reg/2024/1689/oj

Odporúčané zdroje:

• European Data Protection Board – Guidelines on facial recognition technology: https://www.edpb.europa.eu