Role AI v kybernetické bezpečnosti

Role AI v kybernetické bezpečnosti – perfektní nástroj, nebo dvousečná zbraň?

Umělá inteligence (AI) – perfektní nástroj, nebo dvousečná zbraň? 

Stejně jako každý moderní obor, i oblast kybernetické bezpečnosti musí nevyhnutelně „jít s dobou“ – a jedním z největších trendů posledních měsíců je právě umělá inteligence, její využití a zpřístupnění veřejnosti. Například populární ChatGPT týden od spuštění 30.11.2022 vyzkoušelo více jak 1 milion uživatelů a tento počet vzrostl do ledna 2023 více než stonásobně. Jak se ale raketový vzestup umělé inteligence promítá do světa bezpečnostních rizik?   

Podívejme se nejdřív na světlou stránku věci. Různé schopnosti AI, jako například „machine learning“ (vytvoření modelu na základě vzorových dat a jeho využití k utváření předpovědí nebo rozhodnutí) nám dnes dávají možnost pracovat s kvanty dat, jejichž analýza by lidem zabrala neúměrné množství času. Umělá inteligence tedy dokáže nejen odhalit neobvyklé vzorce chování nebo slabiny velkých sítí, ale i předpovídat potenciální hrozby ještě před tím, než dojde ke skutečnému útoku. AI může také pomoci vytvořit zabezpečené systémy s inteligentními bezpečnostními pravidly, která jsou schopna automaticky reagovat na nové hrozby. S takovými systémy lze pak snadno provádět bezpečnostní audity a monitorovat síťovou aktivitu. (více informací jak lze využít machine learning například v tomto článku)  

Umělá inteligence může být velmi dobrým pomocníkem i při „obyčejné“ automatizaci určitých úkolů, a šetří tak čas a zdroje. Podle analýzy společnosti IBM bezpečností týmy, které v roce 2021 využívaly AI, potřebovaly k detekci, odpovědi a „zotavení se“ z kybernetického útoku až o téměř 14 týdnů (99 dní) méně než týmy, které AI nepoužívaly.  

Bohužel ale není všechno zlato, co se třpytí – a stejně tak není každý aspekt AI jen pozitivní a ohledně kyberbezpečnosti to platí dvojnásob. Naneštěstí existuje mnoho způsobů, jak může být AI zneužita k útokům na zabezpečené systémy. 

Snadným způsobem, jak lze umělou inteligenci zneužít, je nechat ji vytvářet DeepFake videa pro šíření dezinformací či Phishing. Skvělým – a odstrašujícím příkladem – je situace, kdy hackeři vylákali z CEO britské energetické firmy 220.000 liber pomocí DeepFake hlasové zprávy od jeho „nadřízeného“ (celý příběh je popsaný zde. I využití výše zmíněného Chat GPT je v tomto oboru velice oblíbené. Pomocí tohoto nástroje lze vytvářet emailové zprávy používané pro Phishing –  a to velice efektivně a s minimální námahou. Stejně tak pomocí AI mohou být vytvářeny falešné profily a účty, které se snaží získat citlivé informace od uživatelů nebo je podvést. 

Dalším příkladem je Malware využívající umělou inteligenci. Takový Malware je schopný „naučit se myslet sám za sebe“, tedy přizpůsobit svůj postup situaci a zaměřit se individuálně na systémy svých cílových obětí, na rozdíl od „běžného“ malwaru, který se zaměřuje na velké množství lidí s úmyslem úspěšně napadnout malé procento z nich. Společnost IBM byla schopna již v roce 2018 vytvořit Malware s názvem „DeepLocker“ za účelem demonstrace existence takové hrozby. (více o DeepLockeru například zde)  

V neposlední řadě i schopnost „machine learningu“ může být snadno změněna v bezpečnostní riziko. AI díky možnosti analyzovat velké množství dat může odhalit bezpečnostní chyby v systému. Pokud ji tedy použije útočník, může být naučena, jak prolomit zabezpečení a způsobit škodu. 

Většina funkcí AI, které nám mohou usnadňovat každodenní život, může být tedy stejně dobře využita proti nám. Celkově lze říci, že umělá inteligence představuje výzvu pro kybernetickou bezpečnost a musí tak s ní být i zacházeno – jako s ostrým nožem, kterým si nejen snadno ukrojíte, ale stejně tak se s ním snadno pořežete.  

Další články

V době, kdy kyberhrozby stále více ohrožují finanční sektor, přichází DORA – regulace, která má změnit způsob, jakým finanční instituce řídí především digitální rizika.  Nařízení o digitální provozní odolnosti (Digital Operational...
Bezpečnější digitální produkty díky novému nařízení EU Cyber Resilience Act. Kybernetická bezpečnost se stává stále naléhavějším tématem nejen v pracovním prostředí, ale i v domácnostech. V reakci na tyto hrozby...
Umělá inteligence (AI) – perfektní nástroj, nebo dvousečná zbraň?  Stejně jako každý moderní obor, i oblast kybernetické bezpečnosti musí nevyhnutelně „jít s dobou“ – a jedním z největších trendů posledních měsíců je...

Newsletter

Chcete mít jistotu, že Vaše firma je chráněna před kybernetickými hrozbami a zároveň být v souladu s platnou legislativou? Přihlaste se k odběru newsletteru a získejte praktické rady od našich konzultantů s právním vzděláním.

EMAIL