V červenci 2024 bylo po více než třech letech zveřejněno v Úředním věstníku Evropské unie (EU) nařízení 2024/1689 ze dne 13. června 2024, kterým se stanovují harmonizovaná pravidla pro umělou inteligenci (tzv. „Akt o umělé inteligenci“ neboli „AI act“). Jedná se o první komplexní právní regulaci umělé inteligence (AI) na světě, jež má potenciál výrazně ovlivnit nejen evropský, ale i globální technologický sektor.
V posledních letech se AI stala neodmyslitelnou součástí moderních technologií a její vliv proniká do stále širšího spektra oblastí – od průmyslové výroby a služeb až po veřejnou správu. Vzhledem k narůstajícímu významu AI a jejímu začlenění do každodenního života společností i jednotlivců bylo pro EU prioritou vytvořit právní rámec, který zajistí její bezpečné a etické využívání. Tato ambice se naplnila přijetím Aktu o umělé inteligenci.
Ačkoliv ustanovení tohoto nařízení vstoupí v platnost postupně, je nezbytné zahájit přípravy co nejdříve, aby se předešlo regulatorním komplikacím a možným sankcím. Proaktivní přístup Vám umožní usnadnit přechod na nové právní požadavky a zajistit plynulou implementaci. Níže uvádíme klíčová opatření, která lze přijmout již nyní pro minimalizaci regulatorních rizik:
1. Identifikace relevance Aktu o umělé inteligenci pro Váš případ použití
Proveďte inventarizaci systémů AI, abyste určili, zda se na ně nařízení vztahuje. Tento proces zahrnuje:
- identifikaci systémů, které vyvíjíte, používáte nebo distribuujete;
- analýzu, zda jsou systémy interně vyvinuté nebo dodané třetími stranami;
- určení jejich účelu, vstupních a výstupních dat a oblasti jejich použití.
2. Identifikace relevance Aktu o umělé inteligenci pro Váš případ použití
Zavedení systému pro řízení AI
Pokud se na Vás vztahují povinnosti dle Aktu o umělé inteligenci, doporučuje se vytvořit specializovaný tým pro řízení compliance a vybudovat sofistikovaný systém pro správu AI, kterou vyvíjíte či využíváte.
3. Implementace certifikačních standardů
Zvažte zavedení standardů podle ISO/IEC 42001, prvního mezinárodního standardu pro správu AI systémů, který stanovuje požadavky na zavedení, udržování a průběžné zlepšování AI procesů.
4. Úprava smluvních vztahů s dodavateli
Pokud využíváte AI systémy poskytované externími partnery, doporučuje se zahrnout do smluv povinnosti týkající se souladu systémů s požadavky Aktu o umělé inteligenci, aby odpovědnost za dodržování regulací nesli příslušní dodavatelé.
5. Pravidelné hodnocení a přizpůsobení systémů
V dlouhodobém horizontu je důležité pravidelně revidovat, jaké povinnosti na Vás Akt o umělé inteligenci klade, a to s ohledem na případné legislativní změny či technickou úpravu Vašich systémů.
Kontext implementace v České republice
V rámci implementace Aktu o umělé inteligenci v České republice bude nutné provést drobné úpravy v právních předpisech. Tyto změny se pravděpodobně dotknou zákonů upravujících činnost České národní banky, ochranu osobních údajů a elektronické komunikace, aby bylo možné řádně zřídit a definovat pravomoci orgánů dohledu nad trhem. V oblasti biometrické identifikace se očekává úprava zákona o Policii ČR, zatímco otázky pracovně-právních vztahů budou stručně řešeny v zákoníku práce.
Přípravy na tyto změny jsou nezbytné pro bezproblémovou adaptaci na nové regulatorní požadavky.
Nepropásněte žádné informace – sledujte náš web a buďte v obraze o vývoji „AI act“ a dalších klíčových aspektech kybernetické bezpečnosti! Kontaktujte nás v případě pomoci s přípravou na implementaci požadavků „AI act“.
