AI Act jako příležitost: Jak zavádět AI bezpečně a s jistotou

Používáte ve firmě ChatGPT, Microsoft Copilot nebo jiné AI nástroje? Pak je na místě otázka: Máte pro jejich využívání jasná pravidla? Právě s tím může organizacím pomoci AI Act.

Inspirace a aktuality

AI ve firmách už není experiment, často mu chybí jasná pravidla

Umělá inteligence se během několika let přesunula z pilotních projektů do běžné firemní praxe. Nástroje jako ChatGPT, Microsoft Copilot nebo jiní AI asistenti dnes pomáhají s tvorbou obsahu, analýzou dat, zákaznickou podporou i automatizací procesů. Mnoho organizací však zjišťuje, že samotné nasazení AI je ta jednodušší část. S rostoucím využíváním totiž přicházejí otázky, na které často neexistují jasné odpovědi. Jaká data mohou zaměstnanci do AI nástrojů zadávat? Kdo odpovídá za výstupy generované AI? Jak zajistit, aby nové AI scénáře nevytvářely bezpečnostní, právní nebo reputační rizika?
Bez společných pravidel vzniká prostředí, ve kterém jednotlivé týmy používají AI rozdílnými způsoby a vedení firmy ztrácí přehled o tom, kde všude umělá inteligence ovlivňuje rozhodování a procesy.

Právě proto se stále častěji mluví o AI governance, tedy o souboru pravidel, odpovědností a kontrol, které pomáhají využívat AI bezpečně a řízeně. A právě zde může být AI Act pro firmy překvapivě užitečným pomocníkem.

Co je AI Act a proč by měl zajímat i běžné firmy?

Když se řekne regulace, mnoho firem si představí další administrativní povinnost. AI Act ale nevznikl proto, aby brzdil využívání umělé inteligence. Jeho cílem je pomoci organizacím řídit rizika spojená s nasazením AI a zajistit její bezpečné a odpovědné používání.

Podobně jako GDPR nastavilo pravidla pro práci s osobními údaji, AI Act vytváří rámec pro využívání umělé inteligence. Neřeší samotnou technologii, ale způsob jejího použití a dopad na zaměstnance, zákazníky nebo obchodní partnery.

Pro většinu firem přitom nepředstavuje zákaz ani zásadní omezení. Naopak může sloužit jako praktický návod, jak AI zavádět transparentně, bezpečně a s jasně definovanou odpovědností.

Největší omyl: AI Act nezakazuje používat ChatGPT ani Copilot

Jednou z nejčastějších obav je představa, že AI Act výrazně omezí používání nástrojů, jako jsou ChatGPT, Microsoft Copilot nebo AI asistenti integrovaní do podnikových aplikací. Ve skutečnosti je situace mnohem jednodušší. AI Act pracuje s principem rizika. Čím větší dopad může mít AI na práva, bezpečnost nebo život lidí, tím přísnější pravidla se na ni vztahují. Většina běžných firemních scénářů, například práce s Copilotem, tvorba obsahu, sumarizace schůzek nebo analýza dokumentů, nespadá mezi zakázané instruktážní systémy ani do nejpřísněji regulované kategorie.

Pozornost je potřeba věnovat především případům, kdy AI ovlivňuje důležitá rozhodnutí. Typicky například při náboru zaměstnanců, hodnocení pracovníků, poskytování úvěrů nebo při práci s biometrickými údaji. Právě zde mohou vznikat požadavky na vyšší míru kontroly, dokumentace a lidského dohledu.

Pro většinu firem tak není klíčovou otázkou, zda umělou inteligenci používat, ale zda vědí, kde ji používají a jaká pravidla pro její využití platí.

AI Act není jen o technologiích. Klíčové jsou role a odpovědnost

Při diskusích o AI se často řeší samotné nástroje. AI Act se však dívá i na to, kdo za jejich používání odpovídá. Právě od role organizace se odvíjí většina povinností. Většina firem bude vystupovat jako "deployer", tedy subjekt, který AI využívá při své činnosti. Typickým příkladem je používání Microsoft Copilotu, ChatGPT nebo jiných AI nástrojů v každodenní práci.
Jiná situace nastává ve chvíli, kdy organizace vyvíjí vlastní AI řešení nebo významně upravuje existující modely pro své zákazníky. V takovém případě se může dostat do role providera, na kterou se vztahují širší požadavky na dokumentaci, řízení rizik nebo transparentnost.
Pro firmy je proto důležité vědět nejen jaké AI nástroje používají, ale také v jaké roli vůči nim vystupují. Bez této základní orientace se totiž jen obtížně nastavují pravidla, odpovědnosti nebo procesy kontroly.

Jak začít: 5 kroků k bezpečnému zavedení AI ve firmě

Dobrou zprávou je, že většina organizací nemusí budovat složitý compliance program ani vytvářet nové oddělení pro AI governance. Důležité je začít systematicky a mít přehled o tom, kde a jak AI ve firmě funguje.

AI Act není překážkou inovací. Je to příležitost získat náskok

Firmy, které dnes řeší pouze výběr AI nástrojů, často přehlížejí důležitější otázku: jak zajistit, aby jejich využívání bylo dlouhodobě bezpečné, transparentní a důvěryhodné.

AI Act není zákazem inovací. Naopak pomáhá vytvořit prostředí, ve kterém lze umělou inteligenci rozvíjet kontrolovaně a s jasně definovanou odpovědností. Organizace, které si nastaví základní pravidla včas, získají nejen lepší přehled o rizicích, ale také větší důvěru zákazníků, partnerů i zaměstnanců.

Úspěch v éře umělé inteligence nebude záviset pouze na tom, kdo nasadí nejvíce AI nástrojů. Rozhodující bude schopnost využívat je efektivně, bezpečně a v souladu s cíli organizace. A právě v tom může být AI Act pro firmy překvapivě užitečným pomocníkem.

FAQ / Časté dotazy a odpovědi

Co je AI Act?

AI Act (Akt o umělé inteligenci) je nařízení Evropské unie, které stanovuje pravidla pro vývoj, nasazování a používání systémů umělé inteligence. Jeho cílem je podpořit bezpečné a důvěryhodné využívání AI a současně chránit základní práva, bezpečnost a soukromí občanů.

Musí firma jmenovat odpovědnou osobu pro AI?

AI Act tuto povinnost neukládá. V praxi ovšem bývá vhodné určit garanta AI nebo odpovědnou osobu pro AI, která koordinuje pravidla, schvalování nových scénářů a řízení souvisejících rizik.

Jaké sankce hrozí za porušení AI Actu?

V závislosti na typu porušení mohou sankce dosahovat až 35 milionů EUR nebo 7 % celosvětového ročního obratu společnosti. Výše pokuty závisí na závažnosti porušení a typu povinnosti, která nebyla splněna.

Musí zaměstnanci absolvovat školení o AI?

AI Act zavádí požadavek na zajištění odpovídající AI gramotnosti osob, které s AI systémy pracují. Neznamená to povinné certifikace, ale organizace by měla zajistit, aby zaměstnanci rozuměli možnostem, omezením a rizikům používaných AI nástrojů.

Vztahuje se AI Act i na AI řešení vyvinutá mimo Evropskou unii?

Ano. AI Act se vztahuje také na systémy a služby poskytované mimo EU, pokud jsou využívány na evropském trhu nebo jejich výstupy ovlivňují osoby nacházející se v Evropské unii.

Vyžaduje se prokazování souladu s AI Actem?

U větších organizací a veřejného sektoru se to již začíná stávat běžnou součástí nákupních a výběrových procesů. Dodavatelé jsou stále častěji vyzýváni k doložení způsobu řízení AI rizik, bezpečnosti a souladu s regulatorními požadavky.

Jak poznám, že firma potřebuje AI governance?

Obvykle ve chvíli, kdy AI využívá více týmů, vznikají první AI asistenti nebo agenti, pracuje se s interními daty a vedení organizace potřebuje mít přehled o tom, kdo, jak a za jakým účelem umělou inteligenci používá.

Platí AI Act i pro interní firemní AI nástroje?

Ano, v určitých případech ano. AI Act se nezaměřuje pouze na produkty prodávané zákazníkům. Relevantní mohou být i interně používané AI systémy, zejména pokud ovlivňují rozhodování o zaměstnancích, zákaznících nebo jiných fyzických osobách. Proto je vhodné posuzovat nejen externí řešení, ale i interní AI projekty a automatizace.

Sdílejte

CHCETE MÍT AI POD KONTROLOU?

Ozvěte se nám. Pomůžeme vám zorientovat se v požadavcích, rizicích i příležitostech spojených s využíváním AI.