AI Act - evropské nařízení o umělé inteligenci

Nové nařízení Evropské unie reguluje využívání systémů umělé inteligence.

Nařízení bylo publikováno 12. července 2024, je platné od 2. srpna 2024, jednotlivé části budou nabývat účinnosti postupně v letech 2025 a 2026.

Nařízení rozlišuje systémy umělé inteligence podle míry jejich rizika. Čím je systém rizikovější, tím více povinností bude nutné splnit.

Systémy s nepřijatelným rizikem (např. umožňující biometrickou identifikaci člověka v reálném čase, systémy manipulující s rozhodováním lidí) jsou zakázány. Několik málo výjimek z tohoto zákazu mají pouze orgány činné v trestním řízení.

Systémy s vysokým rizikem (biometrická identifikace nespadající mezi nepřijatelné systémy, systémy provádějící posuzování a nábor pracovníků, nebo systémy přístupu ke službám, např. v bankách nebo pojišťovnách) vyžadují, aby před jejich zavedením a v průběhu jejich používání došlo k vyhodnocení možných rizik. Pokud bude zjištěno, že systém představuje příliš velké riziko, je nutné jej upravit.

Systémy s omezeným rizikem (např. chatboti nebo voiceboti, systémy pro generování textu, zvuku, obrázků nebo videa) vyžadují transparentnost při jejich používání. Uživatel musí být upozorněn, že jedná se systémem umělé inteligence.

Systémy s minimálním rizikem (např. spamové filtry) nejsou nařízením regulovány, a v jejich používání se nic nemění.

Vyvíjíte systém umělé inteligence nebo chcete zavést již existující systém do Vaší činnosti? Nařízení po Vás mimo jiné požaduje, abyste školili své zaměstnance v oblasti AI gramotnosti.

Nejste si jisti, jak na Vás nařízení dopadne? Kontaktujte nás na info@stuchlikova.com nebo na +420 222 767 393 a my Vám pomůžeme nová pravidla správně implementovat