Zákaz rizikové AI i výjimky pro biometrické sledování. EU našla shodu na regulaci AI

Regulace umělé inteligence v Evropě zdolala další krok ke svému schválení. Zástupci Evropské komise, Evropského parlamentu a Rady EU po asi 36 hodinách vyjednávání v tzv. trialogu schválili kompromisní znění nařízení nařízení o umělé inteligenci (AI Act). To má nastavit pravidla pro používání systémů využívajících AI technologie v Evropě. 

Výsledný text zatím není k dispozici, podle dostupných informací ale vyjednavači dospěli k řadě kompromisů. Systémy s AI se mají podle návrhu dělit podle potenciální rizikovosti do dvou kategorií. Regulace by neměla dopadat na ty méně rizikové (například spam filtry nebo systémy doporučující obsah). 

Naopak vysoce rizikové systémy mají mít podle návrhu řadu nových povinností, například zaznamenávat (logovat) svůj provoz, mít neustály lidský dohled nebo splňovat vysoké nároky na kybernetickou bezpečnost. K přísně regulovaným systémům mají patřit například AI systémy v rámci kritické infrastruktury (energetika, vodárenství, zdravotnictví, soudnictví, bezpečnost apod.).

Přečtěte si také:

Umělá inteligence po česku: Tady je osm tuzemských AI startupů, které stojí za to sledovat

Některé systémy mají být zcela zakázány. Podle návrhu má jít o systémy manipulující lidské jednání s cílem obejít svobodnou vůli uživatele, systémy pro tzv. sociální hodnocení (social scoring) nebo systémy pro prediktivní hodnocení lidí. 

K vysoce rizikovým mají patřit i systémy pro biometrické sledování lidí. Zakázáno má být například biometrické kategorizování lidí na základě citlivých charakteristik (rasa, sexuální orientace, politické či náboženské názory apod.). 

Do návrhu nakonec prošly kontroverzní výjimky pro biometrické sledování na veřejných místech pro účely vymáhání práva. Mají bezpečnostním složkám umožnit používat rozpoznávání tváří (po předchozím souhlasu soudu) v případech týkajících se předcházení teroristiskcým útokům, cíleného pátrání po obětech vážných zločinů nebo pro lokalizaci podezřelých ze spáchání některého z velmi vážných zločinů.

Vyjednaný návrh musí ještě projít finálním hlasováním v Evropském parlamentu a Radě EU. Pokud bude schválen, začne platit 20 dnů po zveřejnění v oficiálním evroském věstníku. Firmy a úřady pak budou mít dva roky na přípravu na okamžik, kdy nařízení začne být přímo závazné (některé části regulace ale mají začít být vymahatelné dříve). 

Dohodnutý kompromisní text teď prochází technickou revizí, jakmile bude k dispozici konečná verze, vrátíme se k němu podrobněji.