Shadow AI: Jak ve firmě získat kontrolu nad AI?

V květnu zaznívalo na konferenci Fortinet Accelerate 26 výrazné téma: generativní AI se do firem často nedostala shora, přes schválený projekt a bezpečnostní analýzu. Přišla zdola – přes prohlížeč zaměstnance, který chtěl mít práci rychleji hotovou - dříve než pro ni firmy stihly nastavit pravidla. Rozsah tohoto problému je přitom větší, než si většina IT manažerů uvědomuje. Podle odhadů Fortinetu z doby představení FortiOS 8.0 není přibližně 98 % generativních AI aplikací používaných v podnikovém prostředí formálně schváleno IT oddělením. Pro tento fenomén se vžil pojem Shadow AI.

Nejde nutně o sabotáž ani vědomé obcházení pravidel. Shadow AI představuje novou a rychle rostoucí útočnou plochu, kterou tradiční bezpečnostní nástroje často nevidí. Rychlý vývoj AI a její rostoucí schopnosti toto riziko dále umocňují. Řešením přitom není AI zakázat. Je potřeba ji vidět, řídit a nastavit pro ni odpovídající pravidla. Stejně jako každá technologie má totiž i AI dvě strany: přináší nová rizika, ale zároveň může výrazně pomoci firmám i jejich zaměstnancům.

Z manažerského pohledu lze hlavní rizika Shadow AI rozdělit do pěti oblastí:

• Únik dat do promptu - nejčastější a nejpodceňovanější scénář. Citlivá data mohou každý den opouštět organizaci v podobě textu, ale i screenshotů vložených do chatbotů – bez incidentu, který by zachytil klasický monitoring.
• Neschválené nástroje a kontrola nad daty - nabídka AI služeb rychle roste a ne u všech je jasné, kde se data zpracovávají, kdo k nim má přístup nebo zda se používají k trénování modelů. Bez potřebné viditelnosti navíc není snadné zjistit, jaké AI nástroje zaměstnanci používají a k jakému účelu.
• AI agenti a provoz mimo tradiční perimetr - AI se mění z chatovacího okna v aktivního účastníka provozu. Agenti mohou sami volat služby, pracovat s daty a komunikovat mezi sebou. Roste tak objem east-west a machine-to-machine provozu, kterému tradiční aplikační kontroly nemusí rozumět. Klíčová otázka zní: dokážete AI agenta odlišit od skutečného uživatele?
• Compliance a regulace - NIS2, DORA i AI Act kladou důraz na dohledatelnost a schopnost doložit, co se v organizaci děje. Konstatování, že „u nás AI nikdo nepoužívá“, při auditu nestačí. Potřebujete data a reporty, ne domněnky.
• AI na straně útočníka - útočníci využívají AI k tvorbě přesvědčivého phishingu, průzkumu i testování obrany ve velkém měřítku. Tempo automatizovaných útoků překonává možnosti čistě manuální reakce a vyžaduje nový přístup k obraně.

To podstatné: většinu funkcí potřebných ke kontrole Shadow AI nemusíte řešit jako nový samostatný projekt. Jsou součástí FortiOS 8.0 pro FortiGate, který už ve své síti pravděpodobně máte. Fortinet navíc AI využívá přímo v bezpečnostní inspekci – FortiOS 8.0 ji zapojuje do inspekčního řetězce, což umožňuje detekovat i typy provozu, na které tradiční signatury nestačí.

• Nejdřív vidět - FortiOS 8.0 přináší ve FortiView přehled AI útočné plochy a Shadow AI dashboard. Ukazuje, jaké AI aplikace a služby se v organizaci skutečně používají, a pomáhá odlišit schválené nástroje od těch, o kterých IT nemusí mít přehled.
• Pak řídit, ne zakazovat - Aplikační kontrola umožňuje pracovat s konkrétními AI službami i jejich funkcemi. Schválený nástroj tak nemusíte celý blokovat – můžete například povolit jeho používání a zároveň zabránit rizikovým akcím vedoucím k úniku citlivých dat. Identifikaci AI služeb podporuje průběžně aktualizovaná databáze FortiGuard.
• Ochránit data - FortiOS 8.0 využívá OCR k detekci citlivých údajů i v obrázcích a screenshotech. Obsah, který by jinak textová kontrola neodhalila, tak může být zachycen ještě před odesláním do AI služby.
• Vidět komunikaci mezi stroji - S rostoucím využitím AI agentů vzniká potřeba kontrolovat jejich vzájemnou komunikaci. FortiOS 8.0 přináší viditelnost do komunikace přes Model Context Protocol (MCP) i do interakcí mezi AI agenty.

AI není jen riziko, které je potřeba kontrolovat. Stejná technologie může výrazně usnadnit správu IT a bezpečnostní provoz – a pomoci řešit jeden z jeho největších problémů: nedostatek lidí. FortiAnalyzer 8.0 přináší Shadow-AI Report, který spojuje data z aplikační kontroly, prevence úniku dat, webového filtru a DNS do jednoho přehledu. Místo ručního skládání informací z logů tak vzniká podklad pro rozhodování vedení i audit. Součástí FortiAnalyzeru je také AI asistent, který umožňuje pracovat s vlastními bezpečnostními daty přirozeným jazykem. Dokáže interpretovat události, shrnout incident, připravit report nebo vytvořit dotaz či korelační pravidlo. FortiManager nabízí asistenta zaměřeného na správu a konfiguraci a AI funkce jsou dostupné i přímo ve FortiOS 8.0 na FortiGate.

Nejde přitom o nahrazení analytiků. AI může převzít rutinní a časově náročné úkoly, zatímco odborník se soustředí na rozhodování a složitější případy. Pokud se díky tomu podaří zkrátit reakci na incident z hodin na minuty, má taková automatizace nejen bezpečnostní, ale i ekonomický přínos.

Cesta ke kontrole nad Shadow AI nemusí znamenat velký projekt. Začít lze ve třech krocích: nejprve upgradovat FortiGate na FortiOS 8.0 a zapnout viditelnost AI provozu. Nic neblokujete – získáte přehled o tom, co se ve vaší síti skutečně používá.

Druhým krokem je FortiAnalyzer a Shadow-AI Report, který poskytne podklad pro rozhodnutí, které nástroje schválit, omezit nebo zablokovat. Teprve podle zjištěného stavu má smysl doplnit další prvky, například FortiManager, ochranu koncových stanic nebo FortiSASE pro distribuované prostředí. Výhodou je, že první kroky lze postavit na technologiích, které už organizace často používají. Získat větší kontrolu nad AI tak nemusí znamenat nový samostatný bezpečnostní projekt.

Pro Fortinet navíc hovoří dlouhodobé investice do AI i architektura celé platformy. Fortinet AI rozvíjí více než dvě desetiletí a využívá ji také ve vlastním provozu. Základem platformy je jednotný operační systém, centrální správa a společný agent pro koncová zařízení, propojené konceptem Security Fabric. V prostředí, kde bezpečnostní týmy řeší nedostatek lidí a rostoucí počet nástrojů, může taková konsolidace znamenat méně konzolí, jednodušší správu a menší prostor pro chyby.

Shadow AI se netýká jen některých organizací. Rozdíl je především v tom, zda o jejím používání IT ví a dokáže ho řídit. Rádi vám ukážeme, jak vypadá viditelnost AI provozu ve vaší vlastní síti, a pomůžeme navrhnout řešení odpovídající vašim potřebám a rozpočtu. Díky nejvyššímu partnerskému statusu u Fortinetu máme k dispozici potřebnou expertizu i možnosti přípravy konkurenceschopné nabídky. Naši specialisté pomohou s nasazením nových funkcí tak, aby proběhlo bez zbytečných komplikací a omezení uživatelů.

Pokud chcete zjistit, jak je na tom vaše organizace se Shadow AI, obraťte se na svého obchodníka nebo nejbližší regionální centrum.