Ako hackeri zneužívajú umelú inteligenciu a dá sa proti tomu brániť rovnakou zbraňou?

Už od začiatku sú systémy umelej inteligencie navrhnuté tak, aby boli schopné spracovávať obrovské množstvo dát v reálnom čase. A hoci môže umelá inteligencia v rôznych oblastiach pomáhať, dá sa aj zneužiť, ak sa dostane do zlých rúk.

„Komerčná verzia umelej inteligencie má implementované bezpečnostné a etické protokoly. Dá sa však replikovať. A tým vzniká jej úplne nová identita, kde sa následne nahrávajú údaje, ktoré dokážu šíriť nepravdivé texty, dokážu vytvárať fragmenty kódu alebo aj celé kódy, ktoré sú potom použité na hackerské útoky,“ vysvetľuje Marián Čupka, Digmia.

Jednou z najčastejších hrozieb v súčasnosti je podľa odborníkov z Digmie takzvaný phising. Útočníci pri ňom používajú e-maily s odkazmi na falošné webové stránky. Od používateľov tak môžu získať prihlasovacie údaje alebo im dokonca, bez ich vedomia, nainštalujú do počítača škodlivý softvér.

„Dokážu získať prístup do vášho prostredia, do organizácie a následne ukradnúť údaje alebo poškodiť údaje. Často sa vyskytujú aj vo forme takzvaného ransomvéru, kedy daný script zakryptuje vaše údaje a je veľmi problematické sa dostať k tým údajom naspäť,“ dodáva Marián Čupka, Digmia.

Aj vďaka divne napísanému textu a obsahu sa ešte donedávna dali podvodné e-maily ľahšie odhaliť. No v súčasnosti začínajú byť na tento účel zneužívané systémy umelej inteligencie. Texty sú tak spisovné a vyzerajú ako by ich písal človek. Príkladom môže byť aj známy chatbot ChatGPT.

„Dokáže písať dokonca vedecké abstrakty, kde samotní vedci mali problém odhaliť, či sa jedná o človeka alebo o písaný text umelou inteligenciou. A tento chatbot dokáže písať štruktúrované maily. Dokáže to písať aj v slovenskom jazyku a práve tuto sa stretávame s možnosťami, ktoré sa teraz hackerom naskytli. A to je v slovenskom jazyku napísať štruktúrovaný mail, ktorý bude už bez gramatických chýb,“ hovorí Tibor Kluknavský, Digmia.

Firmy by teda mali zavádzať technologické opatrenia, ktoré im odhalia zraniteľnosť v ich počítačovej infraštruktúre. A to nielen zvonka, ale aj zvnútra, z prostredia firmy. Môžu to byť rôzne skenovacie nástroje, ktoré odkryjú hrozby v aplikáciách, detegujú škodlivých botnetov v sieti, či identifikujú phisingové útoky. Aby však boli bezpečnostné riešenia účinné aj proti umelej inteligencii, musí aj na druhej strane pomáhať opäť umelá inteligencia.

„Je aj dobré využívať viacero bezpečnostných prvkov na ochranu siete. Napríklad mailová brána, mail gateway. Tieto maily, ktoré prichádzajú cez mailovú bránu, sú overované umelou inteligenciou, či sa nejedná o phising. A práve tá jedna vec je databáza, ktorou disponuje mailová brána. Druhá vec je, že dokáže sa učiť na týchto phisingových mailoch a dokáže používať umelú inteligenciu práve na odhalenie mailov, ktoré už človek v podstate má problém odhaliť.“

Na ochranu počítačov a údajov odporúčajú aj odborníci z Digmie nasadiť i takzvaný firewall novej generácie.

„V prípade, že už človek aj klikne na ten link, ho vie zablokovať. Prípadne ak ho nezablokuje, a je to Zero Day útok, dokáže ho aj spätne vyhľadať a na ďalší deň daný počítač vie dať do karantény. S tým, že dá informáciu IT administrátorovi, že tento človek už bol na tej stránke, ktorá môže byť zavírená, a treba spustiť antivírový test.“

Aby sa zabránilo rozsiahlejšiemu kybernetickému útoku, je tiež vhodné oddeľovať servery s dôležitými údajmi od používateľských počítačov. No samozrejme netreba zabúdať ani na pravidelnú aktualizáciu všetkých zariadení, či na ochranu pred záškodnými zamestnancami.

„Na toto sa práve využívajú systémy, ako je CM, ktoré monitorujú neustále všetky dáta vo firme, od siete, až po aplikačné vrstvy. A v prípade nejakej nežiaducej aktivity na sieti, ak zamestnanec začne v noci sťahovať obrovské množstvá dát, vedia upozorniť na to IT administrátora, ktorý už môže zasiahnuť,“ dopĺňa Tibor Kluknavský, Digmia.

No keď už by aj nastal nejaký bezpečnostný problém, všetko môže ešte zachrániť pravidelné zálohovanie údajov.

„Zálohy sú vo forme ako kópie dát, produkčných dát, na externé úložisko, ktoré môže byť umiestnené na inom hardvéri alebo v inej lokalite, prípadne v cloude. Zálohy sa vytvárajú spôsobom, kde prebehne exaktná kópia dát a následne sa robí diferenciálna záloha,“ uzatvára Marián Čupka, Digmia.

Aby mali firmy šancu sa v mnohých prípadoch ubrániť proti sofistikovaným kybernetickým útokom, s využitím umelej inteligencie, je rozumné využiť aj pomoc od špecialistov. Práve tí totiž najskôr zanalyzujú prostredie, a potom, na základe výsledkov aj určia konkrétne kroky zavedenia bezpečnostných aplikácií a nástrojov. No a v neposlednom rade i nastavia najdôležitejšiu, zálohovaciu politiku, presne podľa požiadaviek danej spoločnosti. Len takto komplexne zabezpečený firemný systém si potom zvyšuje šance na prežitie.