Co to znamená v praxi
Představte si EU AI Act jako pravidla silničního provozu pro umělou inteligenci. Kolo (chatbot na sumarizaci textů) nepotřebuje složitou certifikaci, ale pokud chcete řídit kamion s nebezpečným nákladem (AI, která hodnotí úvěrové riziko v bance nebo čte rentgeny), musíte projít přísnými testy a mít na to speciální povolení. Zákon rozděluje AI aplikace do čtyř kategorií: od nepřijatelného rizika (úplně zakázané) až po minimální riziko (např. spam filtr, kde neplatí skoro žádná pravidla).
Proč to firmy musí znát
- Vysoké pokuty: Porušení pravidel může znamenat likvidační pokuty v milionech eur nebo až do výše určitého procenta z globálního obratu firmy.
- Transparentnost: Pokud na vašem e-shopu nebo infolince komunikuje se zákazníky AI chatbot, musíte zákazníkovi jasně přiznat, že nemluví s živým člověkem.
- Nové byrokratické povinnosti: Firmy, které vyvíjejí vlastní vysoce rizikové AI systémy (například software na hodnocení zaměstnanců), budou muset splňovat přísné standardy kvality dat a dokumentace.
- Ochrana před nekalou konkurencí: Zákon nastavuje mantinely, aby technologie nemohla být zneužívána k manipulaci zákazníků.
Příklad z praxe
Personální agentura chce nasadit AI nástroj, který by automaticky vyřazoval uchazeče o práci na základě analýzy jejich tváře během videopohovoru. Podle EU AI Act patří hodnocení emocí na pracovišti do kategorie zakázaných praktik (nepřijatelné riziko). Firma by takovým nasazením riskovala obrovské pokuty. Naopak, pokud použijí AI jen k tomu, aby zesumarizovala zápis z pohovoru, jde o minimální riziko bez složité byrokracie.
Na našich firemních AI trénincích ukazujeme, jak aplikovat umělou inteligenci do procesů firmy tak, abyste z ní vytěžili maximum a zároveň zůstali v souladu s platnou legislativou.