FAQ: Agentická AI ve firmách, AI agenti, řízení a automatizace

Agentická AI označuje přístup, při kterém je umělá inteligence navržena jako agent schopný samostatně pracovat s cíli, kontextem a dostupnými nástroji. AI agent na základě zadaného cíle plánuje postup, vykonává jednotlivé kroky a průběžně vyhodnocuje, zda směřuje k požadovanému výsledku.

Míra autonomie AI agenta není dána technologií samotnou, ale rozhodnutím organizace a nastavením řízení. Agent může pouze navrhovat další kroky, nebo naopak samostatně vykonávat celý proces, vždy však v mezích definovaných pravidel a oprávnění.

AI agent rozhoduje na základě cíle, dostupného kontextu a pravidel, která určují, jaké kroky smí provádět. Využívá přitom data, dokumenty a integrované systémy a podle výsledků jednotlivých kroků upravuje další postup.

AI agent není schopen nést odpovědnost ani chápat širší kontext mimo data a pravidla, která má k dispozici. Bez jasně definovaných mantinelů, kvalitních dat a průběžné kontroly může docházet k chybným nebo nevhodným rozhodnutím, proto je řízení agentické AI klíčové.

Agentická AI se nejčastěji zvažuje v oblastech, kde procesy propojují více systémů a rolí, například ve financích, nákupu, HR, IT službách nebo zákaznické podpoře. Uplatnění nachází také tam, kde je potřeba pracovat s dokumenty, schvalováním a výjimkami.

Agentická AI není vhodná pro procesy, které jsou jednoduché, plně deterministické a nemění se v čase. V těchto případech je zpravidla efektivnější použít klasickou automatizaci nebo workflow bez prvků autonomie.

Mezi hlavní rizika patří špatně definované cíle, nekvalitní data a nedostatečně nastavené řízení autonomie. Bez jasných pravidel a kontroly může agentická AI generovat nekonzistentní nebo obtížně vysvětlitelné kroky.

AI agent není schopen nést odpovědnost ani chápat širší kontext mimo data a pravidla, která má k dispozici. Bez jasně definovaných mantinelů, kvalitních dat a průběžné kontroly může docházet k chybným nebo nevhodným rozhodnutím, proto je řízení agentické AI klíčové.

AI agent se může napojovat na podnikové systémy dvěma základními způsoby. Buď je přímo součástí dané aplikace a pracuje v jejím nativním kontextu dat, oprávnění a procesní logiky, nebo funguje jako samostatná vrstva, která k systémům přistupuje prostřednictvím API a integračních služeb.

AI agent pracuje s daty tak, jak jsou dostupná v okamžiku jeho činnosti, a je plně závislý na kvalitě zdrojových systémů. Správnost a aktuálnost dat proto není vlastností samotného agenta, ale výsledkem správně nastavených integračních toků, datových zdrojů a pravidel aktualizace.

Ano, pokud je agent navržen jako orchestrace nad více systémy, dokáže koordinovat kroky napříč aplikacemi v rámci jednoho procesu. U agentů vestavěných přímo do konkrétní aplikace je tento rozsah omezen především na procesy a data daného systému.

Bezpečnost je zajištěna stejnými principy jako u ostatních systémových integrací, tedy řízením oprávnění, rolí a přístupových práv. AI agent nikdy nemá autonomní oprávnění sám o sobě, ale vždy jedná v rámci oprávnění, která mu byla explicitně nastavena v daném systému nebo integrační vrstvě.

Kontrola nad rozhodováním je zajištěna především nastavením cílů, pravidel a omezení, v jejichž rámci se AI agent může pohybovat. Organizace rozhoduje, ve kterých krocích může agent postupovat samostatně a kde je vyžadován lidský zásah nebo schválení.

U agentické AI je možné zaznamenávat jednotlivé kroky, které agent v procesu provedl, včetně vstupů a výsledků. Tyto záznamy umožňují zpětně dohledat průběh procesu a slouží jako podklad pro audit, kontrolu nebo řešení sporů.

Člověk zůstává odpovědný za návrh procesů, nastavení pravidel a dohled nad chováním AI agenta. V praxi je lidský zásah klíčový zejména při řešení výjimek, schvalování citlivých kroků nebo úpravách fungování agenta.

AI agent nemá vlastní „univerzální“ oprávnění, ale jedná v rámci přesně definovaných rolí a přístupů. Oprávnění jsou nastavena na úrovni aplikací, integračních vrstev nebo procesů a určují, jaké akce může agent vykonávat.

U správně navržené agentické AI je možné dohledat, jaké kroky agent provedl, s jakými vstupy pracoval a podle jakých pravidel postupoval. Důvěra v jeho chování vychází z transparentního nastavení procesů, auditních záznamů a průběžného dohledu nad jeho činností, nikoli z detailního popisu samotného modelu.

Implementace agentické AI zpravidla začíná výběrem konkrétního procesu a jasným vymezením cíle, který má agent plnit. Následuje návrh architektury, pilotní nasazení a postupné rozšíření do produkčního provozu podle dosažených výsledků.

Délka pilotu závisí na složitosti procesu, dostupnosti dat a míře integrací se stávajícími systémy. V praxi se pilotní fáze pohybuje v řádu týdnů až několika měsíců, přičemž cílem je ověřit funkčnost, přínos a rizika.

Před nasazením je nutné mít jasně popsaný proces, dostupná a kvalitní data a vyřešené napojení na relevantní systémy. Stejně důležité je stanovit odpovědnosti, schvalovací pravidla a způsob dohledu nad chováním agenta.

Provoz agentické AI vyžaduje průběžné sledování chování agenta, vyhodnocování výsledků a úpravy pravidel nebo scénářů. Změny procesů, dat nebo systémů se musí promítnout i do nastavení agenta, aby zůstal v souladu s aktuální realitou.

Na provozu se obvykle podílí kombinace IT, vlastníků procesů a bezpečnostních nebo compliance rolí. Každá z těchto rolí má jinou odpovědnost, od technického provozu přes obsah a pravidla až po dohled nad riziky.

Náklady zahrnují licenční nebo provozní poplatky za použitou platformu, práci spojenou s návrhem procesů a integracemi a následný provoz a dohled. Výše nákladů se výrazně liší podle zvolené architektury, míry autonomie a počtu zapojených systémů.

Agentická AI obvykle přináší zrychlení procesů, snížení manuální práce a lepší zvládání výjimek v komplexních scénářích. Přínosy se obvykle projevují spíše v kvalitě řízení a flexibility než pouze v přímé úspoře nákladů.

Návratnost se posuzuje porovnáním celkových nákladů s dosaženými úsporami času, snížením chybovosti nebo omezením provozních rizik. Důležité je hodnotit přínosy v delším časovém horizontu a v kontextu celého procesu, nikoli jednotlivých kroků.

Agentická AI nebývá automaticky levnější ani dražší než klasická automatizace. V jednodušších procesech může být zbytečně nákladná, zatímco u komplexních nebo často se měnících procesů může dlouhodobě vycházet efektivněji.

Rozhodnutí by mělo vycházet z analýzy konkrétních procesů, jejich složitosti a požadavků na flexibilitu a řízení. Vhodným prvním krokem je pilotní ověření na omezeném scénáři, které umožní posoudit přínosy i rizika před širším nasazením.