AI Act byl definitivně schválen Evropským parlamentem

Dne 13.3.2024 Evropský parlament oficiálně přijal Zákon o umělé inteligenci (AI Act), který má jako první AI zákon na světě zajišťovat bezpečnost a dodržování základních práv a zároveň podporovat inovace v oblasti vývoje AI.

Nařízení, které bylo odsouhlaseno v rámci jednání s členskými státy v prosinci 2023, schválili poslanci 523 hlasy pro, 46 proti a 49 se zdrželo hlasování.

Cílem AI Actu je chránit základní práva, demokracii, právní stát a udržitelnost životního prostředí před vysoce rizikovou AI a zároveň podpořit inovace a vytvořit z Evropy lídra v této oblasti. Nařízení stanovuje povinnosti pro oblast AI na základě jejich potenciálních rizik a míry dopadu.

Zakázané aplikace

Nová pravidla zakazují některé aplikace AI, které ohrožují práva občanů, včetně biometrických kategorizačních systémů založených na citlivých charakteristikách a necíleného získávání obrázků obličejů z internetu nebo záznamů z průmyslových kamer za účelem vytváření databází pro rozpoznávání obličejů. 

Zakázáno bude rovněž rozpoznávání emocí na pracovišti a ve školách, sociální skórování, prediktivní policejní práce (pokud je založena výhradně na profilování osoby nebo vyhodnocování jejích charakteristik) a umělá inteligence, která manipuluje s lidským chováním nebo zneužívá zranitelnosti lidí.

Výjimky týkající se vymáhání práva

Používání biometrických identifikačních systémů (RBI) orgány činnými v trestním řízení je v zásadě zakázáno, s výjimkou taxativně vyjmenovaných a úzce vymezených situací. RBI „v reálném čase“ lze nasadit pouze za předpokladu, že jsou splněny přísné záruky, např. jeho použití je časově a geograficky omezeno a podléhá zvláštnímu předchozímu soudnímu nebo správnímu povolení.

Takové použití může zahrnovat například cílené pátrání po pohřešované osobě nebo prevenci teroristického útoku. Používání takových systémů post-facto („post-remote RBI“) je považováno za vysoce rizikový případ použití, který vyžaduje soudní povolení a je spojen s trestným činem.

Povinnosti pro vysoce rizikové systémy

Jasné povinnosti se předpokládají i pro další vysoce rizikové systémy AI (z důvodu jejich významného potenciálního poškození zdraví, bezpečnosti, základních práv, životního prostředí, demokracie a právního státu). 

Mezi příklady vysoce rizikových použití AI patří kritická infrastruktura, vzdělávání a odborná příprava, zaměstnanost, základní soukromé a veřejné služby (např. zdravotní péče, bankovnictví), některé systémy v oblasti vymáhání práva, migrace a správy hranic, justice a demokratické procesy (např. ovlivňování voleb). Tyto systémy musí vyhodnocovat a snižovat rizika, vést záznamy o používání, být transparentní a přesné a zajistit lidský dohled. 

Občané budou mít právo podávat stížnosti na systémy AI a obdržet vysvětlení ohledně rozhodnutí založených na vysoce rizikových systémech AI, která mají vliv na jejich práva.

Požadavky na transparentnost

Systémy AI pro všeobecné použití (GPAI) a modely GPAI, na nichž jsou založeny, musí splňovat určité požadavky na transparentnost, včetně dodržování autorského práva EU a zveřejňování podrobných shrnutí obsahu použitého pro školení. 

Na výkonnější modely GPAI, které by mohly představovat systémová rizika, se budou vztahovat další požadavky, včetně provádění hodnocení modelů, posuzování a zmírňování systémových rizik a podávání zpráv o incidentech.

Umělé nebo zmanipulované obrázky, zvukový nebo video obsah („deepfakes“) musí být navíc jako takové jasně označeny.

Opatření na podporu inovací a malých a středních podniků

Na vnitrostátní úrovni bude třeba zřídit regulační sandboxy a testování v reálném prostředí a zpřístupnit je malým a středním podnikům a startupům, aby mohly vyvíjet a trénovat inovativní umělou inteligenci před jejím uvedením na trh.

Další kroky

Nařízení stále podléhá závěrečné kontrole a očekává se, že bude definitivně přijato před koncem legislativního období. Zákon musí rovněž formálně schválit Rada.

AI Act vstoupí v platnost dvacet dní po zveřejnění v Úředním věstníku a bude plně uplatnitelný 24 měsíců po vstupu v platnost, s výjimkou:

• zákazů zakázaných praktik, které se uplatní šest měsíců po vstupu v platnost
• kodexů praxe (devět měsíců po vstupu v platnost)
• obecně platných pravidel AI včetně správy (12 měsíců po vstupu v platnost)
• a povinností pro vysoce rizikové systémy (36 měsíců).