Používáte ve firmě nástroje založené na umělé inteligenci, nebo investujete do společností, které je vyvíjejí? V takovém případě se vás může týkat novela evropského AI Act, která upravuje některé povinnosti a odkládá část požadavků pro vysoce rizikové systémy. Změny mají snížit administrativní zátěž, odstranit nejasnosti a usnadnit praktické využívání AI bez oslabení ochrany uživatelů. Pro investory i podnikatele je důležité vědět, kde povinností ubývá a kde naopak vznikají nová omezení.
Proč se změna týká i běžných investorů
Mnoho lidí vnímá regulaci umělé inteligence jako téma pro technologické firmy. Ve skutečnosti se její dopady mohou promítnout i do hodnoty investic, fungování podniků nebo nákladů společností, jejichž akcie či fondy drží.
Při zavádění AI Act se ukázalo, že některé povinnosti nebyly dostatečně srozumitelné. Firmy často řešily, zda se na jejich software vztahují pravidla pro vysoce rizikové systémy, a současně musely plnit obdobné požadavky podle jiných evropských předpisů. Novela obsažená v https://eur-lex.europa.eu/nařízení (EU) 2026/1744 proto upravuje pravidla tak, aby se zbytečně nepřekrývala.
To může mít praktický dopad zejména na menší a střední firmy využívající AI při analýzách dat, automatizaci procesů nebo zákaznické komunikaci. Pokud se sníží regulatorní náklady, část prostředků může zůstat na další rozvoj produktů a služeb namísto administrativy.
Kde přibylo více jistoty
Jednou z nejdůležitějších změn je upřesnění definice bezpečnostní komponenty AI. V prvních měsících aplikace AI Act vznikaly spory, zda mezi vysoce rizikové systémy mohou spadat i nástroje, které pouze podporují rozhodování nebo optimalizují procesy.
Novela vyjasňuje, že za vysoce rizikové nemají být automaticky považovány systémy, které nevykonávají skutečnou bezpečnostní funkci. Pro firmy to znamená lepší předvídatelnost a menší riziko, že budou muset plnit náročné povinnosti u nástrojů, které k tomu nebyly původně určeny.
Významná je také změna týkající se AI gramotnosti. Původní pravidla vyvolávala otázky, jak přesně mají organizace prokazovat požadovanou úroveň znalostí zaměstnanců. Novela nahrazuje přísnější přístup povinností přijímat přiměřená opatření na podporu AI gramotnosti. Větší důraz má být kladen na metodickou podporu a sdílení dobré praxe.
„Největší přínos podobných úprav často nespočívá v menším počtu pravidel, ale v odstranění nejistoty, která brzdí rozhodování firem i investorů.“
Kde naopak regulace přitvrdila
Zjednodušení neznamená, že Evropská unie ustupuje od ochrany uživatelů. Novela současně rozšiřuje seznam zakázaných praktik AI.
Nově je výslovně zakázáno uvádění na trh nebo používání systémů určených k vytváření či manipulaci s intimními materiály bez souhlasu dotčených osob. Stejně tak se zpřesňují zákazy týkající se materiálů spojených se sexuálním zneužíváním dětí.
Pro investory je důležité sledovat, zda technologické společnosti, do nichž investují, mají nastavené procesy pro řízení podobných rizik. Nejde pouze o právní odpovědnost. Případná porušení mohou znamenat reputační škody, soudní spory i dodatečné náklady.
💡 TIP: Pokud vlastníte podíl ve firmě intenzivně využívající AI nebo investujete do technologických fondů, ověřte si ve výročních zprávách či investor relations materiálech, jak společnost přistupuje k řízení regulatorních rizik spojených s umělou inteligencí. Může to napovědět více než samotné marketingové prezentace AI strategií.
Co doporučujeme udělat
- Zjistit, zda firmy, do kterých investujete, využívají nebo vyvíjejí systémy spadající pod AI Act.
- Při hodnocení investic sledovat nejen technologický potenciál, ale také náklady na regulatorní soulad.
- U vlastního podnikání prověřit, zda používané AI nástroje skutečně spadají do kategorie vysoce rizikových systémů, nebo zda se na ně vztahují nově upřesněná pravidla.
FAQ
- Znamená novela, že AI Act bude méně přísný? Ne nutně. Některé povinnosti se zjednodušují nebo zpřesňují, ale současně přibývají konkrétní zákazy v oblastech považovaných za nejrizikovější.
- Týká se změna pouze technologických firem? Ne. Dopad může mít i na společnosti z finančního sektoru, služeb, průmyslu nebo zdravotnictví, pokud při své činnosti využívají systémy umělé inteligence.
- Proč by měl AI Act zajímat investora? Regulace může ovlivnit náklady podniků, rychlost zavádění nových produktů i právní rizika. To vše může mít dopad na hospodaření společnosti a nepřímo i na hodnotu investice.
- Co se změnilo u AI gramotnosti? Namísto důrazu na splnění konkrétní úrovně znalostí se nově požaduje přijímání opatření podporujících schopnost zaměstnanců pracovat s AI odpovědným způsobem.
- Jak poznám, že firma bere AI rizika vážně? Měla by transparentně popisovat správu technologických rizik, interní pravidla používání AI a postupy pro řešení etických či regulatorních problémů.
- Budou se nová pravidla týkat i běžných kancelářských AI nástrojů? Záleží na jejich účelu a způsobu použití. Právě nejasnosti kolem této otázky byly jedním z důvodů, proč novela některé definice zpřesňuje.
