AI Act v praxi: čo musí urobiť firma, ktorá používa ChatGPT a iné AI nástroje

Mnoho firiem žije v presvedčení, že nariadenie (EÚ) 2024/1689 – AI Act je téma pre technologických gigantov. V skutočnosti sa týka každej organizácie, ktorej zamestnanci používajú AI nástroje – od ChatGPT a Copilota cez prekladače až po AI funkcie v HR či účtovných systémoch.

Ste „nasadzujúci subjekt“

AI Act rozlišuje viacero rolí. Väčšina firiem je v pozícii nasadzujúceho subjektu (deployer) – teda organizácie, ktorá AI systém používa vo svojej činnosti. Rozsah povinností potom závisí najmä od toho, na čo AI používate.

Nariadenie pracuje s prístupom založeným na riziku:

• zakázané praktiky – napríklad manipulatívne techniky či rozpoznávanie emócií na pracovisku (s výnimkami),
• vysokorizikové systémy – napríklad AI pri nábore a hodnotení zamestnancov, v kritickej infraštruktúre alebo pri posudzovaní úveruschopnosti,
• systémy s povinnosťou transparentnosti – napríklad chatboty či generovaný obsah,
• ostatné použitia – bez osobitných povinností nad rámec všeobecných pravidiel.

Čo platí už teraz

Od 2. februára 2025 platí zákaz neprijateľných praktík a povinnosť AI gramotnosti podľa článku 4: firmy musia prijať opatrenia, aby ich zamestnanci, ktorí s AI pracujú, mali dostatočné znalosti a zručnosti. Prakticky to znamená školenie primerané ich roli a záznam o ňom.

Od 2. augusta 2025 platia pravidlá pre modely AI na všeobecné účely – tie sa týkajú najmä ich poskytovateľov. Od 2. augusta 2026 sa uplatňuje väčšina ostatných pravidiel vrátane povinností transparentnosti. Balík Digital Omnibus, prijatý v roku 2026, posunul povinnosti pre vysokorizikové systémy podľa prílohy III na 2. decembra 2027 a pre AI v regulovaných výrobkoch na 2. augusta 2028.

Najväčšie riziko nie je pokuta, ale únik dát

V praxi vidíme, že najväčším problémom nie je samotný AI Act, ale nekontrolované používanie AI: zamestnanci vkladajú do verejných nástrojov zmluvy, osobné údaje klientov či interné know-how. Tu sa AI Act prelína s GDPR, obchodným tajomstvom aj kybernetickou bezpečnosťou.

Prvé kroky pre bežnú firmu

1. Zmapujte, aké AI nástroje sa používajú – oficiálne aj neoficiálne.
2. Klasifikujte použitia podľa rizika – väčšina bude nízkoriziková, no niektoré (napríklad nábor) si vyžadujú pozornosť.
3. Prijmite internú smernicu – ktoré nástroje, s akými dátami a za akých podmienok.
4. Vyškoľte zamestnancov – a uchovajte záznam o školení.
5. Preverte zmluvy s dodávateľmi AI – kde sa spracúvajú dáta a či sa používajú na trénovanie modelov.

Pomôžeme vám nastaviť pravidlá tak, aby AI podporila váš biznis a zároveň bola bezpečná. Viac o službe AI governance.

Článok má informatívny charakter a nenahrádza právne posúdenie konkrétnej situácie.