top of page

Umetna inteligenca

Public·7 members

Temna stran umetne inteligence: Veliki jezikovni model za kriminalce


24UR.COM

Ljubljana, 29.07.2023

AVTOR: Miha Kranjc


Dobrodošli pri WormGPT, največjemu sovražniku priljubljenega ChatGPT, je zapisal avtor programa. Sistem nima etičnih zadržkov ali omejitev kot drugi klepetalniki. Na spletnih forumih tako imenovanega temnega medmrežja (angl. dark web) mu naglo narašča priljubljenost, kibernetski kriminalci pa dobivajo dodatno pomoč pri 'phishing napadih' prek elektronske pošte.


WormGPT ni prvi poskus, je pa za zdaj, kot kaže, med najuspešnejšimi projekti, zasnovanimi posebej za zlonamerna opravila, kot sta izdelava zlonamerne programske kode in izkoriščanje ranljivosti uporabnikov. To omogoča krajo osebnih podatkov, bančnih računov in drugih kaznivih dejanj. Za 60 dolarjev na mesec. "Tovrstni modeli že prispevajo k povečanju različnih napadov. Kriminalci hitreje uporabljajo nove rešitve z vseh področij. Tudi virov za financiranje takšnih stvari jim ne zmanjka. Lahko rečemo da so s takšnimi modeli 'phishing napadi' postali precej boljši od prevoda na Googlu, kar seveda vodi k večji uspešnosti takšnih napadov," pravi strokovnjak kibernetske varnosti Milan Gabor.


Milan Gabor je direktor podjetja za kibernetsko varnost VirisFOTO: Milan Gabor

 

Medtem ko sta Googlov Bard ali ChatGPT trenirana in omejena v svojih odgovorih na način, da ne škodujeta ali pomagata pri kriminalnih dejanjih, pri WormGPT ni etičnih parametrov, ki bi mu običajno preprečili odgovore na škodljive zahteve.


Običajni odgovor ChatGPT na zlonameren ukaz

 

Spretna uporaba jezikovnih veščin – pomanjkljivost hekerjev – je z zlonamernim jezikovnim modelom postala dodatna prednost. S tem lahko izvajajo še bolj dovršene in prepričljive napade socialnega inženiringa, kot jih doslej še nismo videli. To vključuje širjenje lažnih informacij, izvajanje kampanj z izsiljevalsko programsko opremo ali vdor v varna omrežja.


Običajni odgovor ChatGPT na zlonameren ukazFOTO: ChatGPT

 

Vsaka nova tehnologija, vključno z jezikovnimi modeli, kot je GPT-4, potencialno lahko služi kot orodje za kibernetske kriminalce. "Kriminalci seveda ne bodo imeli težav ali zadržkov z zlorabljanjem novih tehnologij, če jim bo to prineslo koristi in olajšalo njihovo delo."


Največ kibernetskih kriminalnih aktivnosti še vedno izvira iz Rusije


Za zdaj, kot pravi Gabor, še ni opaziti posebnega povečanja kriminalnih aktivnosti. Na prvem mestu so hekerji iz Rusije, sledijo ZDA, Indija, presenetljivo Bolgarija in Kitajska. "Seveda je treba izvore na internetu jemati z rezervo, saj se lahko napadalci skrivajo za različnimi vmesnimi strežniki," dodaja.


Aktivnosti na tem področju že spremljajo, saj kriminalci tehnologijo aktivno osvajajo in jo tudi uporabljajo. "Glede na zgodovino razvoja kriminalnih aktivnosti in glede na uporabo novih tehnologij menim, da bodo zagotovo našli kreativne načine, kako tehnologijo uporabiti, da bodo povečali svoj izplen. To je resna grožnja informacijskemu ekosistemu, ki jo bo treba upoštevati."


Odprtokodni ali zaprtokodni sistemi?


Medtem ko ChatGPT podjetja OpenAI ostaja zaprtokodni sistem, se je Mark Zuckerberg pri Llama 2 odločil, da ne bodo skrivali zasnove svojega velikega jezikovnega modela. Ko je govora o zlonamernih programih, imata oba sistema svoje prednosti in slabosti, meni Gabor. "Odprtokodni sistemi omogočajo, da lahko kdor koli preveri, kako sistem deluje, in ugotovi, ali so bile vgrajene kakšne neprimerne lastnosti in ali se sistem zlorablja ali kaj podobnega. Vsekakor pa z odprtokodnimi LLM-ji dobijo napadalci te sisteme zastonj in jih lahko spremenijo ali dopolnijo, da še bolj usmerjeno služijo njihovim aktivnostim. Ampak tako je pri vsaki novi tehnologiji – lahko prinese slabe in dobre strani."


Dodaja, da tudi v njegovem podjetju ChatGPT že uporabljajo, kot enega največjih izzivov pa izpostavlja, kako ugotoviti, kaj je bilo napisano z umetno inteligenco in kaj je napisal človek.




Humanitarno društvo StanislaV
STANISLAV VALENTINČIČ

About

Dobrodošli v skupini! Lahko se povežete z drugimi člani, pre...

Members

bottom of page