Druhá vlna povinností dle Nařízení (EU) 2024/1689 (AI Akt) platí od 2. srpna 2025 a zásadně mění způsob, jakým technologické firmy, poskytovatelé AI systémů a regulační orgány fungují v celé EU. Nová pravidla se týkají zejména obecných modelů AI (GPAI), jejich transparentnosti, registrace a odpovědnosti. Zároveň vstupuje do platnosti systém sankcí, který může u některých porušení dosahovat desítek milionů eur, což znamená, že AI už není volnou disciplínou, ale právně vymahatelnou oblastí.
Pro investory, privátní klienty a podnikatele je zásadní rozlišit, zda technologie, kterou využívají, spadá pod GPAI model. Pokud ano, musí být k dispozici dokumentace o tréninkových datech, způsobu učení modelu, rizicích a možnostech jeho použití. Nedostatečná evidence či neplnění povinností může znamenat nejen právní riziko, ale i pokles tržní hodnoty firmy nebo ztrátu důvěry investorů.
Transparentnost a odpovědnost
Poskytovatelé GPAI modelů jsou povinni zajistit vysokou míru transparentnosti. To zahrnuje veřejné poskytnutí srozumitelných informací o tréninkových datech, včetně obsahu chráněného autorským právem, a vedení technické dokumentace popisující metodiku tréninku, použité výpočetní zdroje, schopnosti modelu a jeho rizika.
Pokud je GPAI model začleněn do vysoce rizikového AI systému (například ve zdravotnictví, bankovnictví nebo při rozhodování o úvěrech), poskytovatel musí spolupracovat s vývojářem systému, poskytovat technickou podporu, dokumentaci a podílet se na posuzování shody. GPAI modely se systémovým rizikem musí být navíc pravidelně testovány na robustnost, odolnost proti zneužití a hlásit všechny incidenty.
Sankce za porušení pravidel jsou výrazné: za zakázané praktiky AI, například manipulaci uživatele nebo zneužití jeho zranitelnosti, hrozí pokuta až 35 milionů eur nebo 7 % celosvětového obratu. U méně závažných porušení, jako je chybějící dokumentace či registrace, mohou pokuty dosahovat až 15 milionů eur nebo 3 % obratu. I pro malé a střední podniky to znamená, že AI compliance se stává klíčovým faktorem hodnocení firmy.
Český rámec a příležitosti
V Česku je Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ) oznamujícím orgánem, který registruje subjekty posuzující shodu. Firmy mohou využít regulatorní sandbox Českou agenturou pro standardizaci (ČAS) k testování GPAI modelů bez okamžitého rizika sankcí. Ministerstvo průmyslu a obchodu (MPO) připravuje národní legislativu, která pravidla upřesňuje a definuje povinnosti dozorových orgánů.
Pro privátní investory a expaty je klíčové, že při hodnocení firem musí nyní kromě finančních výsledků posuzovat i plnění AI Aktu. Firmy, které prokážou soulad s regulací, získávají konkurenční výhodu, nižší investiční riziko a vyšší důvěru trhu. Naopak nedodržení pravidel může znehodnotit investici.
Zajímavostí je, že Evropská komise vydala Pokyny k povinnostem poskytovatelů GPAI, které, ačkoli nejsou právně závazné, budou sloužit jako praktický základ pro audity a inspekce. Firmy, které tyto doporučení ignorují, se vystavují vyššímu riziku sankcí.
