Zabudnuté heslo?
Prihlásenie

Úskalia sociálnej robotiky: Ako veľmi dôverujeme robotom?

Úskalia sociálnej robotiky: Ako veľmi dôverujeme robotom?
Autor:
Roman Mališka
Zverejnené:
16. 10. 2019
Hodnotenie:
Už ste hlasovali.

Sociálny vplyv robotov na ľudí a neistoty, ktoré môže priniesť, by sa nemali podceňovať. Výskum realizovaný spoločnosťou Kaspersky v spolupráci s Univerzitou v Gente odhalil, že roboty dokážu účinným spôsobom získať citlivé informácie od ľudí, ktorí im dôverujú tým, že ich presvedčia, aby podnikli nebezpečné kroky. V určitých situáciách môže mať prítomnosť robota veľký vplyv na ochotu ľudí poskytnúť napríklad prístup do zabezpečenej budovy.

Svet veľmi rýchlo napreduje smerom k digitalizácii a mobilite služieb, pričom mnohé priemyselné odvetvia a domácnosti sa vo veľkej miere spoliehajú na automatizáciu a využívanie robotických systémov. Podľa niektorých odhadov sa tento prienik robotických systémov stane štandardom v bohatých domácnostiach už do roku 2040.

V súčasnosti je väčšina týchto robotických systémov vo fáze akademického výskumu a je preto príliš skoro na to diskutovať o začlenení opatrení týkajúcich sa kybernetickej bezpečnosti. Avšak výskum spoločnosti Kaspersky a Univerzity v Gente odhalil a priniesol nový a neočakávaný rozmer rizika v súvislosti s robotikou. V prvom rade ide o sociálny dopad a vplyv na správanie ľudí, v druhom rade ide o potenciálne nebezpečenstvo a nové možnosti útoku, ktoré so sebou robotika prináša.

Výskum bol zameraný na vplyv špecifického sociálneho robota – ktorý bol navrhnutý a naprogramovaný na vzájomnú interakciu s človekom s využitím ľudských komunikačných prvkov ako sú reč alebo neverbálna komunikácia, na počte približne 50 účastníkov. Za predpokladu, že sociálne roboty môžu byť napadnuté hackermi, a že útočník v tomto prípade prevzal nad robotom kontrolu, výskum odhalil potenciálne bezpečnostné riziká súvisiace s týmto robotom, ktorý aktívne ovplyvňuje používateľov, aby podnikli určité kroky, vrátane:

• Sprístupnenia priestorov, ktoré sú v režime obmedzeného prístupu. Robot bol umiestnený v blízkosti zabezpečeného vchodu do multifunkčnej budovy v centre belgického mesta Gent, pričom žiadal zamestnancov, aby ich mohol nasledovať cez vchodové dvere. Za normálnych okolností je prístup do týchto priestorov možný len priložením karty na prístupovú čítačku pri dverách.

Počas experimentu síce nie všetci pracovníci vyhoveli požiadavke robota, ale až 40 % z nich robotovi dvere otvorilo a umožnilo mu vstúpiť do zabezpečeného priestoru. Keď však robot vystupoval ako poslíček pre donášku pizze, pričom držal krabicu od medzinárodne známej donáškovej služby, personál pohotovo úlohu robota prijal a zdalo sa, že aj v menšej miere spochybňoval jeho prítomnosť či dôvody na vstup do zabezpečeného priestoru.

• Získavania citlivých informácií. Druhá časť štúdie bola zameraná na získanie osobných údajov, ktoré by sa štandardne používali na obnovu hesla (vrátane dátumu narodenia, značky prvého vlastného auta či obľúbenej farby, atď.). Opäť bol použitý sociálny robot, ktorý v tomto prípade pozval ľudí na priateľskú konverzáciu. Od všetkých účastníkov, s výnimkou jedného, sa robotovi podarilo získať osobné údaje rýchlosťou približne jeden údaj za minútu.

„V úvode výskumu sme naše bádanie zamerali na softvér, ktorý sa využíva na vývoj robotických systémov. Zaujímavým zistením bolo, že dizajnéri sa vedome rozhodli vylúčiť bezpečnostné mechanizmy a namiesto toho sa zamerali na rozvoj pohodlia a efektívnosti. Ako však ukazujú výsledky nášho experimentu, vývojári by určite nemali zabudnúť na zabezpečenie po ukončení výskumnej fázy. Pokiaľ ide o zabezpečenie robotických systémov, okrem technických záležitostí je dôležité zvážiť aj iné kľúčové aspekty. Veríme, že náš spoločný projekt a prienik do robotiky z pohľadu kybernetickej bezpečnosti s kolegami z Univerzity v Gente povzbudia ostatných, aby nasledovali náš príklad a zvyšovali povedomie verejnosti a komunity o tejto otázke,“ uviedol na margo výsledkov pokusu Dmitrij Galov, bezpečnostný výskumník spoločnosti Kaspersky.

„Odborná literatúra naznačuje, že dôvera v roboty a najmä v sociálne roboty je skutočná a môže byť použitá na prehovorenie ľudí, aby konali určitým spôsobom alebo aby prezradili určité informácie. Všeobecne platí, že čím viac je daný robot „ľudský“, tým má väčšiu šancu niekoho prehovoriť či presvedčiť. Náš experiment ukázal, že by to mohlo mať za následok značné bezpečnostné riziká: ľudia majú tendenciu ich nezohľadňovať za predpokladu, že je robot zhovievavý a dôveryhodný. Z tohto dôvodu to môže potenciálne viesť k škodlivým útokom a tri prípadové štúdie popísané v správe sú iba zlomkom bezpečnostných rizík spojených so sociálnymi robotmi. Preto je dôležité spolupracovať už teraz, aby sme pochopili a riešili vznikajúce riziká a zraniteľné miesta – v budúcnosti to istotne oceníme,“ dodáva Tony Belpaeme, profesor Umelej inteligencie a robotiky na Univerzite v Gente.

Výsledky prieskumu realizovaného spoločnosťou Kaspersky a Univerzitou v Gente boli prezentované na konferencii Kaspersky NEXT, ktorá sa konala v uplynulých dňoch v portugalskom Lisabone.

Celá správa pod názvom „Potenciál sociálnych robotov pri presviedčaní a manipulácii: dôkaz koncepčnej štúdie“ je k dispozícii na stránke Securelist.

Video, ktoré nastoľuje základné otázky týkajúce sa kyberbezpečnosti sociálnych robotov, nájdete na tomto odkaze.

Ilustračný obrázok (Zdroj: Kaspersky).

(Zdroj: Tlačová správa Kaspersky)

Podobné články