FAQ: AI asistenti vo firmách, bezpečnosť, dáta a riadenie

Zavedenie AI asistentov vo firmách prináša nové otázky okolo bezpečnosti, dát, governance aj zodpovednosti. Pripravili sme prehľad najčastejších otázok, s ktorými sa stretávame u CIO, CISO aj manažmentu.

Kontaktujte nás

Čo robíme Podnikové aplikácie AI asistenti pre firemné aplikácie

Pri zavádzaní AI asistentov sa často ukazuje, že kľúčové otázky nesmerujú k technológii samotnej, ale k jej vplyvu na riadenie firmy, prácu s dátami a zodpovednosť rolí. Nasledujúce odpovede vychádzajú z reálnych projektov a skúseností s firmami, ktoré AI zvažujú alebo ju už využívajú. Pomôžu vám lepšie sa pripraviť a pristupovať k zavedeniu AI s rozvahou a kontrolou.

Bezpečnosť a dáta

Bezpečnosť dát patrí pri zavádzaní AI asistentov k najcitlivejším témam. Firmy potrebujú mať istotu, že ich dáta zostávajú pod kontrolou, nie sú využívané na trénovanie verejných modelov a že AI rešpektuje existujúce oprávnenia aj bezpečnostné pravidlá. Nasledujúce otázky ukazujú, ako k ochrane dát pristupovať v enterprise prostredí.

Používajú AI asistenti naše firemné dáta na trénovanie modelov?

Nie, enterprise AI asistenti sú navrhnutí tak, aby s firemnými dátami pracovali oddelene od tréningu základných modelov. Dáta z dokumentov, systémov alebo dopytov používateľov slúžia len na vytvorenie odpovede v danom okamihu a nie sú využívané na ďalšie učenie modelu.

Kde sa ukladajú dopyty a odpovede používateľov?

Spôsob ukladania dopytov a odpovedí závisí od konkrétnej platformy a nastavenia organizácie. V enterprise scenároch sú tieto informácie ukladané riadene, typicky na účely auditu, monitoringu alebo zlepšovania služby, a vždy v súlade s bezpečnostnými a legislatívnymi požiadavkami.

Čo sa stane, keď používateľ zadá citlivé alebo dôverné informácie?

V enterprise prostredí je možné využiť ochranné mechanizmy, ako je klasifikácia dát, detekcia citlivého obsahu alebo obmedzenie práce s vybranými typmi informácií. Tieto prvky pomáhajú minimalizovať riziko nechceného zdieľania alebo zneužitia citlivých dát.

Ako sa rieši riziko úniku dát pri používaní generatívnej AI?

Riziko úniku dát sa rieši kombináciou technických opatrení, nastavenia pravidiel používania a školenia používateľov. Kľúčová je práca v riadenom prostredí, kde má organizácia prehľad o tom, ako a na čo je AI využívaná.

Ako nastaviť pravidlá pre bezpečné používanie AI asistentov vo firme?

Základom je definovať jasné pravidlá, kto a na aké účely môže AI asistentov používať. Súčasťou governance by mala byť interná AI politika, ktorá vymedzuje povolené scenáre, prácu s dátami, zodpovednosť jednotlivých rolí a spôsob kontroly využívania AI.

Ako zabezpečiť auditnú stopu pri používaní AI asistentov?

Enterprise AI riešenia umožňujú zaznamenávať kľúčové informácie o používaní AI, napríklad kto zadal dopyt, nad akými dátami a s akým výsledkom. Tieto záznamy slúžia na interný audit, bezpečnostný dohľad aj prípadné regulačné kontroly.

Ako sa AI asistenti vzťahujú k EU AI Act?

AI asistenti používaní vo firmách zvyčajne spadajú do kategórie nízkeho alebo obmedzeného rizika, napriek tomu je potrebné zabezpečiť transparentnosť ich používania a dohľad nad výstupmi. Governance rámec pomáha organizáciám splniť požiadavky na zodpovedné používanie AI a pripraviť sa na budúce regulačné nároky.

Ako riešiť compliance v regulovaných odvetviach?

V regulovaných odvetviach, ako sú financie, zdravotníctvo alebo verejná správa, je kľúčové, aby AI asistenti pracovali v riadenom prostredí s jasne definovanými pravidlami. Dôraz sa kladie na dohľad nad dátami, auditovateľnosť a možnosť vysvetliť, z akých podkladov AI pri odpovedi vychádzala.

Kto nesie zodpovednosť za výstupy AI asistenta?

AI asistent slúži ako podporný nástroj, nie ako samostatný rozhodovateľ. Zodpovednosť za finálne rozhodnutie a jeho dopady vždy zostáva na človeku, ktorý výstupy AI využíva.

Aká technológia alebo platforma je pre AI asistenta vo firme najvhodnejšia?

Neexistuje univerzálna platforma vhodná pre všetky firmy. Voľba AI asistenta závisí od používaného ekosystému, dát a scenárov, kde má AI priniesť najväčší prínos.

V prostredí Microsoft 365 a Dynamics 365 dáva zmysel Microsoft Copilot, v organizáciách postavených na SAP potom SAP Joule. Pre komplexnú orchestráciu, agentické scenáre a riadenie AI v enterprise meradle sa uplatňuje IBM watsonx. Ak je kľúčovým zdrojom hodnoty firemný obsah v ECM/DMS systémoch, prirodzenou voľbou je OpenText Content Aviator.

V praxi sa často kombinuje viacero platforiem. Kľúčové je správne vyhodnotiť scenáre, dáta a ciele organizácie a podľa toho zvoliť alebo prepojiť vhodné technológie.

Aké systémy má zmysel napojiť na AI asistentov ako prvé?

Najväčší prínos prináša napojenie na systémy, kde sa koncentruje znalosť a dokumentácia – typicky DMS/ECM, ERP, CRM alebo ITSM. Práve tu AI asistenti najrýchlejšie skracujú čas hľadania informácií a podporujú každodennú prácu používateľov.

Ako funguje práca AI asistenta s internými dokumentmi a dátami?

AI asistenti pracujú s interným obsahom prostredníctvom riadeného prístupu k dátovým zdrojom a dokumentom. Odpovede sú generované na základe konkrétnych firemných podkladov, nie z verejného internetu, a sú vždy obmedzené oprávneniami používateľa.

Aký je rozdiel medzi AI asistentom, AI agentom a automatizáciou workflow?

AI asistent typicky pomáha používateľovi porozumieť informáciám a poskytuje odpovede či zhrnutia. AI agent ide o krok ďalej a dokáže vykonávať konkrétne kroky v systémoch, zatiaľ čo automatizácia workflow rieši vopred definované procesy bez kontextového porozumenia obsahu.

Cloud, hybrid alebo on-premise, akú variantu zvoliť?

Voľba závisí od bezpečnostných požiadaviek, regulácie a existujúcej architektúry organizácie. Mnohé firmy volia hybridný prístup, keď AI beží v cloude, ale pracuje s obsahom uloženým v interných systémoch bez nutnosti migrácie dát.

Aké sú nároky na identitu a správu prístupov?

AI asistenti sa napájajú na existujúce identity a prístupové mechanizmy organizácie, napríklad adresárové služby alebo single sign-on. Vďaka tomu nie je potrebné zavádzať nové používateľské účty a zachováva sa jednotný spôsob riadenia prístupov.

Ako rýchlo je možné AI asistentov vo firme nasadiť?

Základné scenáre je zvyčajne možné spustiť v priebehu týždňov, najmä ak organizácia už využíva systémy, na ktoré sa AI asistenti napájajú. Kľúčové je začať s obmedzeným počtom use-cases a postupne riešenie rozširovať.

Ako pripraviť používateľov na prácu s AI asistentmi?

Dôležitá je kombinácia krátkeho zaškolenia, praktických ukážok a jasných odporúčaní, ako AI používať v konkrétnych situáciách. Používatelia by mali chápať, že AI je podporný nástroj, nie náhrada ich odbornosti.

Ako zabrániť tomu, aby AI asistenti zhoršili kvalitu práce?

Kvalitu výstupov je potrebné priebežne sledovať a jasne definovať, kde je nutná ľudská kontrola. AI asistenti by mali podporovať rozhodovanie a prácu s informáciami, nie automaticky nahrádzať zodpovednosť používateľov.

Kto by mal mať AI asistentov vo firme na starosti?

V praxi sa osvedčuje zapojenie viacerých rolí: IT pre technológiu, bezpečnosť pre dohľad nad dátami, biznis pre definíciu scenárov a HR pre adopciu a školenia. Jasné rozdelenie zodpovedností je kľúčové pre dlhodobý úspech.

Ako riešiť rozvoj a zlepšovanie AI asistentov v čase?

AI asistenti by mali byť pravidelne vyhodnocovaní z pohľadu prínosov, kvality výstupov a spätnej väzby používateľov. Na základe týchto poznatkov je možné postupne pridávať nové scenáre a upravovať existujúce využitie.

Kde prinášajú AI asistenti najrýchlejšiu návratnosť?

Nejrychlejší prínos sa zvyčajne prejavuje v oblastiach s vysokým objemom rutinných činností pri práci s informáciami a dokumentmi. Typicky ide o HR, financie, nákup, právnu agendu alebo IT podporu, kde AI asistenti výrazne skracujú čas potrebný na vyhľadávanie a spracovanie podkladov.

Aké prínosy možno pri AI asistentoch realisticky očakávať?

Firmy najčastejšie zaznamenávajú úsporu času zamestnancov, rýchlejšiu reakčnú dobu, lepšiu dostupnosť informácií a vyššiu konzistentnosť výstupov. Nepriamym prínosom je aj zníženie chybovosti a lepšia podpora rozhodovania manažmentu.

Ako merať prínosy AI asistentov v praxi?

Prínosy možno merať pomocou konkrétnych ukazovateľov, ako je čas strávený vyhľadávaním informácií, počet vyriešených požiadaviek, skrátenie času spracovania agendy alebo spokojnosť používateľov. Dôležité je stanoviť si východiskový stav a sledovať zmeny v čase.

Ako vypočítať business case pre zavedenie AI asistentov?

Business case by mal vychádzať z konkrétnych scenárov využitia a ich dopadu na prácu zamestnancov. Okrem priamych úspor je vhodné zohľadniť aj kvalitatívne prínosy, ako je vyššia kontrola nad informáciami alebo lepšie dodržiavanie pravidiel a compliance.

Ako sa vyhnúť pilotom bez reálneho dopadu?

Kľúčom je zamerať sa na scenáre s jasnou zodpovednosťou a merateľným prínosom. Pilot by mal mať vopred definované ciele, metriky úspechu a plán ďalšieho rozvoja, aby sa z experimentu stal skutočný prínos pre firmu.

Nahrádzajú AI asistenti prácu zamestnancov?

AI asistenti nie sú náhradou ľudí, ale nástrojom, ktorý im pomáha pracovať efektívnejšie. Podporujú zamestnancov pri práci s informáciami, zrýchľujú rutinné činnosti a umožňujú sústrediť sa na odbornejšie a hodnotnejšie úlohy.

Kto zodpovedá za rozhodnutia urobené na základe výstupov AI?

Zodpovednosť za finálne rozhodnutie vždy zostáva na človeku. AI asistent poskytuje podklady, zhrnutia alebo odporúčania, ale nenesie zodpovednosť za ich použitie v praxi.

Ako nastaviť správne očakávania u používateľov?

Je dôležité používateľom jasne vysvetliť, na čo je AI asistent určený a kde sú jeho limity. AI by mala byť vnímaná ako podpora rozhodovania a práce s informáciami, nie ako autorita alebo zdroj neomylných odpovedí.

Aké roly by mali byť zapojené do riadenia AI asistentov?

Úspešné zavedenie AI vyžaduje spoluprácu IT, bezpečnosti, businessu a HR. Každá z týchto rolí prispieva k tomu, aby AI asistenti dávali zmysel technologicky, bezpečnostne aj z pohľadu používateľov.

Ako podporiť dlhodobú adopciu AI asistentov?

Kľúčom je priebežná práca s používateľmi, zber spätnej väzby a postupné rozširovanie scenárov. AI asistenti by sa mali vyvíjať spolu s potrebami organizácie, nie byť jednorazovým projektom.

Zdieľať

Tlač do PDF

NEVÁHAJTE NÁS
KONTAKTOVAŤ

Máte záujem o ďalšie informácie alebo ponuku pre vašu konkrétnu situáciu?