Umělá inteligence je již pevně ukotvena v naší profesní i osobní realitě. Využívají ji spotřebitelé, podnikatelé, korporace i orgány veřejné správy. V posledních letech se rozvíjí tak dynamicky, že Evropský parlament přistoupil ke schválení speciálního nařízení známého jako AI Act. Bylo by ale naivní si myslet, že tento předpis je jediným zdrojem pravidel pro využívání umělé inteligence. Mnohá už existují delší dobu a povinné subjekty by je měly dodržovat. „To však není vždy pravidlem,” upozorňuje Michal Nulíček z advokátní kanceláře ROWAN LEGAL.
Účinnost AI Act se rychle blíží. Pokud vše proběhne podle předpokladů, první povinnosti začnou v České republice platit již od února roku 2025. Další povinnosti budou postupně přibývat v horizontu následujících 30 měsíců. Samotný předpis byl zveřejněn v Úředním věstníku EU 12. července letošního roku a vyznačuje se rozsáhlou působností. Vztahuje se na subjekty z celého světa a všechny AI systémy a modely uváděné na evropský trh.
Přestože některá pravidla pro využívání umělé inteligence platí již nyní, jejich adresáti si toho mnohdy nejsou vědomi. „Firmám i podnikatelům bych vřele doporučil, aby s řešením právních otázek spojených s využíváním umělé inteligence neotáleli. Tato technologie není izolovaná od okolního světa, ani není regulována pouze specifickými pravidly pro AI. Již nyní se na ni vztahuje řada účinných právních předpisů. Nejvýznamnějším z nich je pravděpodobně GDPR,“ upozorňuje Michal Nulíček, partner advokátní kanceláře ROWAN LEGAL.
Možný střet s pravidly GDPR nastává například tehdy, když umělá inteligence pracuje s daty zákazníků nebo zaměstnanců. „Umělá inteligence se ale může stát předmětem sporů i v oblasti autorského práva. Pro její efektivní fungování je totiž potřeba velké množství dat a vstupů různé povahy i původu,” říká Nulíček. V regulovaných odvětvích, jako je bankovnictví nebo pojišťovnictví, je pak nutné zohlednit také požadavky na bezpečnost, obezřetnost či péči řádného hospodáře.
Právní experti ROWAN LEGAL mají bohaté zkušenosti s tzv. AML procesy, které se týkají opatření proti praní špinavých peněz a financování terorismu. Právě tato oblast podle Nulíčka dokazuje, že umělou inteligenci již aktivně sledují i ty orgány a instituce, které budou v budoucnu pravděpodobně sankcionovat její nesprávné využití. Například Česká národní banka (ČNB) již v červenci 2023 zveřejnila Dohledový benchmark s pravidly, která musí povinné osoby při používání AI dodržovat.
„ČNB v tomto dokumentu nijak neřeší evropské nařízení o umělé inteligenci. Povinnosti odvozuje z platné legislativy a vyžaduje především obezřetnost. To znamená ověřování vstupních dat, zajištění ověřitelnosti a rekonstruovatelnosti procesů i výstupů a prevenci tzv. AI bias neboli programové předpojatosti,“ zdůrazňuje Nulíček. Dodává, že tento nežádoucí jev může vzniknout, pokud nesprávná nebo nevyvážená vstupní data vedou k závěrům podporujícím předsudky.
ROWAN LEGAL již nyní klientům pomáhá zvládat výzvy spojené s umělou inteligencí. Tým specializovaný na GDPR a datovou regulaci a na IT právo například vytváří pravidla pro využívání AI nebo dohlíží na to, aby klienti dodržovali například pravidla pro online platformy v soukromém sektoru, nebo předpisy týkající se informačních a archivních systémů ve veřejné správě.
ČLÁNKY DO MAILU