AI Act: Pravidla pro využívání AI
AI Act dopadá na společnosti, které AI vyvíjejí, nasazují, prodávají nebo používají v interních procesech. Pomůžeme vám zmapovat používané AI nástroje, určit vaši roli podle nařízení AI Act, posoudit rizika a připravit pravidla, dokumentaci i proškolit zaměstnance v používání AI nástrojů.
Co přináší AI Act a koho se týká
The AI Act is a nařízení EU 2024/1689, které nastavuje pravidla pro vývoj, nákup, nasazení a používání umělé inteligence. Rozsah povinností záleží na tom, jakou roli máte u konkrétního AI systému a k čemu ho používáte. Jiná pravidla platí pro dodavatele vlastního AI řešení a jiná pro firmu, která používá chatbot, Copilot nebo AI nástroj v náboru.
Většina běžných nástrojů spadá do nízkého nebo minimálního rizika. Přísnější požadavky se týkají například systémů používaných v HR, vzdělávání, kritické infrastruktuře, poskytování některých služeb nebo rozhodování, které může významně ovlivnit člověka.
Povinnosti podle AI Act se neurčují obecně pro celou společnost. Záleží na konkrétním nástroji, způsobu jeho použití, roli organizace a míře rizika. Týkat se může například organizací, které:
- používají ChatGPT, Copilot nebo jiné AI nástroje při práci,
- nasazují AI v HR, náboru, zákaznické podpoře nebo rozhodování,
- nakupují systémy, které už AI funkce obsahují,
- vyvíjejí vlastní AI řešení pro zákazníky,
- upravují nebo dále prodávají AI produkty jiných dodavatelů.
S čím help
Pomůžeme vám nastavit používání AI ve společnosti tak, abyste měli jasná pravidla pro používání AI a splnili povinnosti podle AI Act. Zmapujeme používané AI nástroje, určíme vaši roli podle AI Act a vyhodnotíme, kde vznikají právní, bezpečnostní nebo provozní rizika. Připravíme pravidla, dokumentaci i školení zaměstnanců a propojíme AI Act s GDPR, kybernetickou bezpečností a interními procesy.
Evidence AI nástrojů
Zjistíme, jaké AI nástroje v organizaci používáte, kdo s nimi pracuje, k jakému účelu a jaká data se do AI nahrávají.
Role a klasifikace podle AI Act
U jednotlivých systémů určíme vaši roli a vyhodnotíme, zda jde o běžné použití, transparentní AI nebo vysoce rizikový systém.
Pravidla pro používání AI
Nastavíme pravidla pro schvalování nástrojů, práci s daty, ověřování výstupů, lidský dohled a používání AI v citlivých procesech.
Posouzení rizik a dodavatelů
Prověříme rizika konkrétních AI řešení a nastavíme proces ověřování dodavatelů AI před nákupem nebo nasazením.
AI dokumentace
Vypracujeme evidenci AI nástrojů, interní pravidla, checklisty, podklady k posouzení rizik a další podklady podle vaší role a rizikovosti systému.
Školení AI gramotnosti
Proškolíme vedení, odpovědné role i zaměstnance podle toho, jak s AI pracují a vysvětlíme, kde jsou praktické hranice používání AI.
WE WORK WITH ORGANISATIONS FROM INDUSTRY, IT, ENERGY AND OTHER SECTORS
How does the spolupráce probíhá
Nejdřív zjišťujeme, jak AI ve společnosti skutečně využíváte. Nejen jaké nástroje nakupuje IT, ale také kde si je lidé zapojují sami, k jakým úkolům a s jakými daty.
Jednotlivé způsoby používání AI pak posoudíme podle jejich rizika a vaší role podle AI Actu. Na základě toho nastavíme pravidla, odpovědnosti a kontrolní procesy tak, aby běžné používání AI zůstalo jednoduché a srozumitelné pro zaměstnance a citlivější případy dostaly potřebný dohled.
Zajištění souladu s AI Act nestavíme jako další izolovanou agendu. Propojíme ho s GDPR, informační bezpečností, řízením dodavatelů a pravidly, která už v organizaci máte.
- Pravidla pro používání AI nastavujeme podle konkrétních rizik, ne podle názvu nástroje.
- Navazujeme na to, co už v organizaci máte. Nezačínáme od nuly, pokud lze rozumně využít to, co už používáte.
- Zapojujeme lidi, kteří AI skutečně používají. Nejen IT, právní oddělení nebo bezpečnost.
- Nezakazujeme AI plošně. Pomáháme určit, kde dává smysl a kde už představuje nepřijatelné riziko.
Frequently asked questions
Týká se AI Act i firem, které AI pouze používají?
Ano. AI Act se netýká jen vývojářů a dodavatelů AI. Povinnosti mohou mít také společnosti, které AI používají ve svých procesech. Rozsah záleží na účelu systému, jeho rizikovosti a roli organizace. U běžných nástrojů půjde často hlavně o pravidla používání, AI gramotnost, práci s daty a odpovědnosti. U citlivějších scénářů může být potřeba podrobnější posouzení.
Kdy začínají povinnosti podle AI Act platit?
AI Act vstoupil v platnost 1. srpna 2024, ale jednotlivé povinnosti nabíhají postupně. Účinnost nařízení nabíhá postupně až do roku 2028. Novela AI Actu, tzv. Digital Omnibus, kterou EU schválila v červnu 2026, totiž odsunula termíny pro vysoce rizikové AI systémy.
- 2. února 2025: platí zákaz vybraných AI praktik a povinnost zajistit odpovídající AI gramotnost lidí, kteří s AI pracují.
- 2. srpna 2025: uplatňují se pravidla pro poskytovatele obecných AI modelů (typicky velké jazykové modely) a část pravidel pro dohled na úrovni EU.
- 2. srpna 2026: začínají platit pravidla transparentnosti. Organizace musí například informovat uživatele, že komunikují s AI (chatboty), a označovat obsah vytvořený umělou inteligencí, včetně deepfakes.
- 2. prosince 2027: odsunutý termín pro pravidla pro samostatné vysoce rizikové AI systémy v oblastech, kde AI ovlivňuje práva nebo bezpečnost lidí (HR, vzdělávání, přístup ke službám, biometrika, infrastruktura). Původní termín 2. srpna 2026 posunul Digital Omnibus.
- 2. srpna 2028: začínají platit pravidla pro rizikové AI systémy v regulovaných produktech, na které se vztahují další harmonizační předpisy EU (zdravotnické prostředky, hračky, automobily).
Musíme evidovat všechny používané AI nástroje?
AI Act neukládá všem organizacím stejnou plošnou evidenci každého nástroje. Formální registrace se týká hlavně vysoce rizikových systémů. Bez základního přehledu ale nezjistíte, kde se AI používá, s jakými daty pracuje a jestli některý scénář nespadá do přísnějšího režimu. Rozsah evidence nastavíme podle velikosti vaší společnosti a způsobu použití AI. U běžných nástrojů může být jednoduchá. U HR, rozhodování nebo citlivých dat bude potřeba více informací.
Co je vysoce rizikový AI systém?
Jde o systém, jehož použití může významně ovlivnit bezpečnost, zdraví nebo základní práva lidí. Typicky se může jednat o použití v HR, vzdělávání, přístupu ke službám, kritické infrastruktuře nebo některých regulovaných produktech. U těchto systémů jsou požadavky výrazně přísnější a řeší například řízení rizik, dokumentaci, kvalitu dat, logování, lidský dohled, přesnost a kybernetickou bezpečnost.
Jak AI Act souvisí s GDPR?
AI systémy často pracují s osobními údaji, takže GDPR zůstává stejně důležité i vedle AI Actu. U některých použití bude potřeba řešit právní základ, minimalizaci dat, informační povinnost, dobu uchování, posouzení dopadu nebo riziko automatizovaného rozhodování. AI Act GDPR nenahrazuje, spíš přidává další vrstvu pravidel.
Co znamená AI gramotnost zaměstnanců?
Lidé, kteří s AI pracují nebo rozhodují o jejím použití, musí rozumět jejím možnostem, omezením a rizikům. Neznamená to stejné školení pro všechny. Jiné znalosti potřebuje běžný uživatel generativní AI, jiné HR tým používající AI při náboru a jiné vedení, které schvaluje zavedení nového systému.
Jaké pokuty hrozí za porušení AI Actu?
Sankce se odvíjejí od závažnosti porušení. Za zakázané AI praktiky hrozí pokuta až 35 milionů eur or 7 % celosvětového ročního obratu, podle toho, co je vyšší. Za nesplnění povinností u vysoce rizikových systémů je strop 15 milionů eur nebo 3 % obratu, za zavádějící informace regulátorům 7,5 milionu eur nebo 1 %. U malých a středních podniků se uplatní nižší z obou částek. Vedle pokut hrozí i zákaz používání konkrétního AI systému a reputační dopady.
Potřebujete nastavit pravidla pro využívání AI?
Zmapujeme, jaké AI nástroje v organizaci používáte, k čemu a kde mohou vznikat rizika nebo povinnosti. Navrhneme další postup a pomůžeme vám nastavit pravidla, odpovědnosti i dokumentaci tak, aby AI nezůstávala šedou zónou mezi IT, právem, bezpečností a jednotlivými týmy.