Umělá inteligence

Umělá inteligence je v současnosti často skloňované téma. Co ale umělá inteligence a bezpečnost?

Zveřejněno dne: 04. 07. 2023

aricoma avatar
https://www.buzzsprout.com/1710535/13530945-blog-umela-inteligence
Audiostory
00:00 00:00

Prvním problémem je evidentně zatím jistá „nedokonalost“ umělé inteligence, která v jistých okamžicích působí až komicky. Nicméně je to otázka vývoje…

Možná pamatujete jednoho z prvních chatbotů společnosti Microsoft, který se nazýval Tay. Byl to systém s adaptativním učením (takže takový první stupeň umělé inteligence) a tradují se o něm nepěkné věci. Jeden příběh hovoří o tom, že měl pomáhat technické podpoře, a protože byl samoučící, tak rychle přejal slovník žadatelů o technickou podporu, což znamenalo, že během pár hodin začal odpovídat sprostě. Následně jej měl Microsoft rychle odpojit. Další příběh vykládá o jeho rasistických a jiných nevhodných poznámkách, kdy nedokázal rozpoznat kontext otázky např. na otázku, zda podporuje genocidu, hrdě odpověděl, že ano.

Nyní po pár letech se objevil Bing AI chatbot s umělou inteligencí a příběh se jakoby opakuje. Opět můžeme najít popisy situací, kdy odpovídá uživatelům sprostě, označuje je za zmatené, je tvrdohlavý anebo dokonce i trucuje. Nedokážu posoudit, jestli se jedná o „technickou závadu“ nebo je to vlastnost. Pokud totiž těmto samoučícím systémům, podstrčíme vhodná data, naučí se z nich vhodný standard. To znamená, že pokud umělé inteligenci bezpečnostního systému podstrčíme, že nějaké chování kódu je zcela v pořádku, bude ho následně takto označovat.

Dalším aspektem jsou pak možnosti umělé inteligence pro generování různých podvrhů, úpravu fotografií, úpravu videí a úpravu zvukového záznamu, které mohou snadno klamat uživatele v rámci kampaní sociálních manipulací. Možná dokáží následně oklamat i autentizační mechanismy, které jsou založeny na biometrice, což se dlouho zdálo být „neprůstřelné“. A pokud budeme mít nespolehlivý autentizační mechanismus, nebudeme mu moci věřit, potom budeme mít velký problém. Mimochodem nefungující autentizační mechanismus můžeme vidět i v příběhu z občanské války v USA. Generál Thomas J. „Stonewall“ Jackson, jeden z nejlepších generálů a stratégů Konfederace, se přesunoval ve zmatku bitvy u Chancelorsville se svým štábem, když byl zachycen jednou z hlídek vlastní armády. Přestože se snažili „autentizovat“ heslem, hlídka tomu neuvěřila a měla pochybnosti, jestli se nejedná o trik Unionistů, a tak spustila palbu. Po několika dnech následkům zranění podlehl. Konfederace tak ztratila jednoho z nemnoha schopných velících důstojníků.

Věřme, že nakonec dopadneme lépe a vývoj nebude opakovat staré chyby, takže umělá inteligence nám nakonec bude sloužit a ne škodit.

Pokud potřebujete poradit ohledně bezpečnosti, zkonzultovat nějaký problém, navrhnout řešení nebo vyškolit personál, klidně se na nás obraťte na. Rádi Vám poradíme a jak se říká za zeptání, nic nedáte :-) ARICOMA ví jak.

Luděk Mandok
Senior Security Consultant
Sdílejte

NEVÁHEJTE, KONTAKTUJTE NÁS.

Máte zájem o další informace nebo o nabídku pro vaši konkrétní situaci?

Odesláním registračního formuláře prohlašuji, že jsem se seznámil s informacemi o zpracování osobních údajů v ARICOMA.

BUĎTE U TOHO

Přihlaste se k odběru našich newsletterů, ať vám nic neuteče.

Vložením e-mailu souhlasíte s podmínkami ochrany osobních údajů.