Shadow AI: Ako vo firme získať kontrolu nad AI?

V máji zaznievala na konferencii Fortinet Accelerate 26 výrazná téma: generatívna AI sa do firiem často nedostala zhora, cez schválený projekt a bezpečnostnú analýzu. Prišla zdola – cez prehliadač zamestnanca, ktorý chcel mať prácu rýchlejšie hotovú – skôr, než pre ňu firmy stihli nastaviť pravidlá. Rozsah tohto problému je pritom väčší, než si väčšina IT manažérov uvedomuje. Podľa odhadov Fortinetu z obdobia predstavenia FortiOS 8.0 nie je približne 98 % generatívnych AI aplikácií používaných v podnikovom prostredí formálne schválených IT oddelením. Pre tento fenomén sa zaužíval pojem Shadow AI.
 

Nejde nevyhnutne o sabotáž ani vedomé obchádzanie pravidiel. Shadow AI predstavuje novú a rýchlo rastúcu útočnú plochu, ktorú tradičné bezpečnostné nástroje často nevidia. Rýchly vývoj AI a jej rastúce schopnosti toto riziko ďalej umocňujú. Riešením pritom nie je AI zakázať. Je potrebné mať o jej používaní prehľad, riadiť ho a nastaviť preň zodpovedajúce pravidlá. Rovnako ako každá technológia má totiž aj AI dve strany: prináša nové riziká, no zároveň môže výrazne pomôcť firmám aj ich zamestnancom.

Z manažérskeho pohľadu možno hlavné riziká Shadow AI rozdeliť do piatich oblastí:

• Únik dát do promptu – najčastejší a najviac podceňovaný scenár. Citlivé dáta môžu každý deň opúšťať organizáciu v podobe textu, ale aj snímok obrazovky vložených do chatbotov – bez incidentu, ktorý by zachytil klasický monitoring.
• Neschválené nástroje a kontrola nad dátami – ponuka AI služieb rýchlo rastie a nie pri všetkých je jasné, kde sa dáta spracúvajú, kto k nim má prístup alebo či sa používajú na trénovanie modelov. Bez potrebného prehľadu navyše nie je jednoduché zistiť, aké AI nástroje zamestnanci používajú a na aký účel.
• AI agenti a prevádzka mimo tradičného perimetra – AI sa mení z chatovacieho okna na aktívneho účastníka prevádzky. Agenti môžu sami volať služby, pracovať s dátami a komunikovať medzi sebou. Rastie tak objem east-west a machine-to-machine prevádzky, ktorej tradičné aplikačné kontroly nemusia rozumieť. Kľúčová otázka znie: dokážete AI agenta odlíšiť od skutočného používateľa?
• Compliance a regulácia – NIS2, DORA aj AI Act kladú dôraz na dohľadateľnosť a schopnosť doložiť, čo sa v organizácii deje. Konštatovanie, že „u nás AI nikto nepoužíva“, pri audite nestačí. Potrebujete dáta a reporty, nie domnienky.
• AI na strane útočníka – útočníci využívajú AI na tvorbu presvedčivého phishingu, prieskum aj testovanie obrany vo veľkom rozsahu. Tempo automatizovaných útokov prekonáva možnosti čisto manuálnej reakcie a vyžaduje si nový prístup k obrane.

To podstatné: väčšinu funkcií potrebných na kontrolu Shadow AI nemusíte riešiť ako nový samostatný projekt. Sú súčasťou FortiOS 8.0 pre FortiGate, ktorý už vo svojej sieti pravdepodobne máte. Fortinet navyše využíva AI priamo v bezpečnostnej inšpekcii – FortiOS 8.0 ju zapája do inšpekčného reťazca, čo umožňuje odhaliť aj typy prevádzky, na ktoré tradičné signatúry nestačia.

• Najskôr vidieť – FortiOS 8.0 prináša vo FortiView prehľad útočnej plochy AI a dashboard Shadow AI. Ukazuje, aké AI aplikácie a služby sa v organizácii skutočne používajú, a pomáha odlíšiť schválené nástroje od tých, o ktorých IT nemusí mať prehľad.
• Potom riadiť, nie zakazovať – Aplikačná kontrola umožňuje pracovať s konkrétnymi AI službami aj ich funkciami. Schválený nástroj tak nemusíte celý blokovať – môžete napríklad povoliť jeho používanie a zároveň zabrániť rizikovým akciám vedúcim k úniku citlivých dát. Identifikáciu AI služieb podporuje priebežne aktualizovaná databáza FortiGuard.
• Chrániť dáta – FortiOS 8.0 využíva OCR na detekciu citlivých údajov aj v obrázkoch a snímkach obrazovky. Obsah, ktorý by inak textová kontrola neodhalila, tak môže byť zachytený ešte pred odoslaním do AI služby.
• Vidieť komunikáciu medzi strojmi – S rastúcim využívaním AI agentov vzniká potreba kontrolovať ich vzájomnú komunikáciu. FortiOS 8.0 prináša prehľad o komunikácii cez Model Context Protocol (MCP) aj o interakciách medzi AI agentmi.

AI nie je len riziko, ktoré je potrebné kontrolovať. Rovnaká technológia môže výrazne uľahčiť správu IT a bezpečnostnú prevádzku – a pomôcť riešiť jeden z jej najväčších problémov: nedostatok ľudí. FortiAnalyzer 8.0 prináša Shadow-AI Report, ktorý spája dáta z aplikačnej kontroly, prevencie úniku dát, webového filtra a DNS do jedného prehľadu. Namiesto ručného skladania informácií z logov tak vzniká podklad na rozhodovanie vedenia aj audit. Súčasťou FortiAnalyzeru je aj AI asistent, ktorý umožňuje pracovať s vlastnými bezpečnostnými dátami v prirodzenom jazyku. Dokáže interpretovať udalosti, zhrnúť incident, pripraviť report alebo vytvoriť dopyt či korelačné pravidlo. FortiManager ponúka asistenta zameraného na správu a konfiguráciu a AI funkcie sú dostupné aj priamo vo FortiOS 8.0 na FortiGate.
 

Nejde pritom o nahradenie analytikov. AI môže prevziať rutinné a časovo náročné úlohy, zatiaľ čo odborník sa sústredí na rozhodovanie a zložitejšie prípady. Ak sa vďaka tomu podarí skrátiť reakciu na incident z hodín na minúty, má takáto automatizácia nielen bezpečnostný, ale aj ekonomický prínos.

Cesta ku kontrole nad Shadow AI nemusí znamenať veľký projekt. Začať možno v troch krokoch: najprv aktualizovať FortiGate na FortiOS 8.0 a zapnúť sledovanie AI prevádzky. Nič neblokujete – získate prehľad o tom, čo sa vo vašej sieti skutočne používa.
 

Druhým krokom je FortiAnalyzer a Shadow-AI Report, ktorý poskytne podklad na rozhodnutie, ktoré nástroje schváliť, obmedziť alebo zablokovať. Až podľa zisteného stavu má zmysel doplniť ďalšie prvky, napríklad FortiManager, ochranu koncových staníc alebo FortiSASE pre distribuované prostredie. Výhodou je, že prvé kroky možno postaviť na technológiách, ktoré už organizácie často používajú. Získať väčšiu kontrolu nad AI tak nemusí znamenať nový samostatný bezpečnostný projekt.
 

V prospech Fortinetu navyše hovoria dlhodobé investície do AI aj architektúra celej platformy. Fortinet rozvíja AI viac než dve desaťročia a využíva ju aj vo vlastnej prevádzke. Základom platformy je jednotný operačný systém, centrálna správa a spoločný agent pre koncové zariadenia, prepojené konceptom Security Fabric. V prostredí, kde bezpečnostné tímy riešia nedostatok ľudí a rastúci počet nástrojov, môže takáto konsolidácia znamenať menej konzol, jednoduchšiu správu a menší priestor na chyby.

Shadow AI sa netýka len niektorých organizácií. Rozdiel je predovšetkým v tom, či o jej používaní IT vie a dokáže ho riadiť. Radi vám ukážeme, ako získať prehľad o AI prevádzke vo vašej vlastnej sieti, a pomôžeme navrhnúť riešenie zodpovedajúce vašim potrebám a rozpočtu. Vďaka najvyššiemu partnerskému statusu u Fortinetu máme k dispozícii potrebné odborné znalosti aj možnosti na prípravu konkurencieschopnej ponuky. Naši špecialisti pomôžu s nasadením nových funkcií tak, aby prebehlo bez zbytočných komplikácií a obmedzení používateľov.
 

Ak chcete zistiť, ako je na tom vaša organizácia so Shadow AI, obráťte sa na svojho obchodníka alebo najbližšie regionálne centrum.