Podvrhy umělé inteligence jako zbraň. Rozpoznáme pravdu?

Pamětníky určitě upoutal název fiktivní firmy produkující ve filmu humanoidní roboty – US Robotics. Pamatujete? US Robotics byl jedním z nejvýznamnějších hráčů na trhu s modemy pro vytáčené linky v 90. letech a určitě se tehdy každý setkal s jejich modelem Courier. Později je spolkla společnost 3com, ale nyní jsou již opět samostatní a produkují nějaká zařízení pro IoT konektivitu.

Tématem je vzpoura umělé inteligence, která dospěje k názoru, že člověk je sám sobě nebezpečný a tudíž, aby jej chránila musí převzít nad jeho životem kontrolu. Zajímavá myšlenka. Nicméně nezačíná se nám skutečně také tak trochu umělá inteligence vymykat? Akcelerace jejího vývoje a schopností zvětšuje nejen lidskou kreativitu, ale dává do rukou také nebývalou zbraň kyberzločinců. Umělá inteligence umí psát kódy – svým způsobem bychom mohli říct programovat, umí sestavovat návnady sociálních manipulací a umí i plánovat a provádět samotné útoky. A umí také vytvářet podvrhy „deepfake“. Deepfake je, jak uvádí definice, digitálně vytvořený nebo upravený obrazový, zvukový či audiovizuální materiál, který věrohodně napodobuje skutečnou osobu, její vzhled, hlas nebo chování, a tím může vytvářet dojem autenticity neexistující události. V současnosti je uváděno, že téměř neidentifikovatelně dokáže vytvořit podvrhy krátkých sekundových sekvencí, které jsou již dnes hojně používány v rámci kyberpodvodů. Během pár let však můžeme očekávat jednak nárůst výpočetního výkonu, jednak vylepšení velkých multimodálních modelů a samozřejmě i zdokonalení vlastních produkčních technologií. Očekává se, že „dokonalost“ video podvrhů dosáhne v pěti nadcházejících letech délky až jednotek minut.

Možná nebo právě proto, přišla Evropská komise s Nařízením o umělé inteligenci (AIA), který by měl upravovat pravidla pro její vývoj a použití.  Nařízení je účinné od 2. srpna 2024 a od 2. února 2025 platí některé prvky – např. zákazy některých AI systémů, požadavky na průhlednost, školení zaměstnanců atd., od 2. srpna 2026 mají začít platit přísnější požadavky pro tzv. „high-risk“ systémy. V ČR se připravuje odpovídající legislativa. Uvidíme, jak moc to bude efektivní.
Buď nás začne Viki (Já, robot) chránit nebo spustí SkyNet (Terminátor) válku...

Pokud chcete poradit ohledně vašeho IT nebo jeho zabezpečení, pokud chcete poradit jak implementovat AI a zejména pak AIA, klidně se obraťte na Aricomu. Rádi vám poradíme a jak se říká, za zeptání nic nedáte :-)