Torek, 23. 1. 2024, 21.50
10 mesecev, 1 teden
Nevaren posnetek Pirc Musarjeve: govori, a to niso njene besede #video
Termometer prikazuje, kako vroč je članek.
Termometer prikaže, kako vroč je članek.
5,53
Neznanci so na družbenem omrežju Facebook zagnali oglaševalsko kampanjo, s katero so želeli slovenske uporabnice in uporabnike prepričati, da se ločijo od svojega denarja. Za promocijo so izrabili gostovanje Nataše Pirc Musar v eni od oddaj na TV Slovenija, ki so ga predelali z uporabo umetne inteligence in predsednici države v usta polagali besede, ki jih ni izrekla.
Več kot 50.000-krat je bil slovenskim uporabnicam in uporabnikom med 15. in 18. januarjem na družbenem omrežju Facebook prikazan oglas, v katerem je predsednica države Nataša Pirc Musar na TV Slovenija domnevno predstavljala novo platformo za pasivne prihodke, ki bi državljanom vsak mesec omogočila zaslužke v višini od štiri tisoč evrov mesečno, če bi v nov projekt vložili samo 200 evrov.
Objavi z videoposnetkom je bila priložena povezava, ki je vodila na spletno stran, ki si je grafično podobo izposodila od trgovca z energenti MOL Slovenija. Obiskovalca je spletna stran poskusila prepričati, da je dejansko na uradnem spletišču MOL Slovenija.
Kdor je pozorno poslušal predsednico, je morda, čeprav je v videoposnetku res njen glas in usta približno pravilno odpira ob vsaki izrečeni besedi, zaslutil, da je nekaj narobe. Pirc Musarjeva je namreč govorila z naglasom, prav tako je bilo mogoče opaziti napačno izgovarjavo določenih besed in slovnične napake v priloženih podnapisih.
Videoposnetek Pirc Musarjeve je sicer kot oglas na Facebooku delila stran z imenom Ciptakerja, katere zadnja objava sicer sega v daljni januar 2021. Gre za stran, ki je objavljala aktualne novice iz Indonezije, tudi vsi zapisi so v indonezijskem jeziku. Strani sicer ne upravlja več nihče iz Indonezije – orodje Preglednost strani namreč razkriva, da do strani dostopajo trije uporabniki iz Kanade in Kitajske.
Več oglasov, ki jih je plačala stran Ciptakerja na Facebooku, je preseglo deset tisoč prikazov slovenskim uporabnikom. Največ prikazov oglasov je bilo v starostnih skupinah od 44 do 65+ let.
Facebookovo orodje za preglednost oglasov nadalje razkriva, da je stran Ciptakerja Facebooku plačala že za 47 oglaševalskih kampanj, od katerih jih bilo 46 aktivnih od septembra lani – najverjetneje je stran takrat dobila novega lastnika. Vseh omenjenih 46 oglaševalskih kampanj je uporabnike tako ali drugače poskusilo prepričati, naj svoj denar vložijo v novo poslovno priložnost.
Kaj se v resnici dogaja in kaj je v ozadju?
Kot so v ponedeljek opozorili na portalu Varni na internetu, ki deluje pod okriljem nacionalnega odzivnega centra za obravnavo incidentov s področja varnosti elektronskih omrežij in informacij SI-CERT, gre v primeru videoposnetka Pirc Musarjeve za tako imenovano deepfake montažo.
Zaznavamo vedno več deepfake videov, ki zlorabljajo ideniteto znanih Slovencev za promocijo različnih kripto shem. V zadnjem primeru gre za računalniško obdelano izjavo predsednice dr. Pirc Musar, kjer goljufi združijo obstoječi video posnetek z računalniško obdelanim govorom. pic.twitter.com/ePpht4hD7M
— Varni na internetu (@varninanetu) January 22, 2024
To pomeni, da je s pomočjo orodij za obdelavo grafike in zvoka, ki temeljijo na umetni inteligenci, resnični videoposnetek predsednice predelan tako, da Pirc Musarjeva govori tisto, kar želijo ustvarjalci videa.
Videoposnetek Pirc Musarjeve sicer ni edini tako imenovani deepfake, ki ga je stran Ciptakerja na Facebooku uporabila za prepričevanje uporabnic in uporabnikov družbenega omrežja v vprašljive naložbe. Med drugim so podobno predelali intervju milijarderja Elona Muska za britanski BBC ter z njim prepričevali Dance, Fince in Špance, razkriva Facebookovo orodje za preglednost oglasov.
Ameriški preiskovalni urad FBI je marca 2021 izdal uradno opozorilo zaradi grožnje tehnologije deepfake, s katero je med drugim mogoče ustvarjati prepričljive replike resničnih oseb ali pa iz nič narediti nove ljudi. FBI je že takrat napovedal, da se bo v letu 2022 začela poplava tako imenovanih sintetičnih vsebin, katerih namen bosta predvsem manipuliranje z javnim mnenjem v politične namene in spletne goljufije.
Kaj bi se zgodilo Slovenki ali Slovencu, ki bi verjel računalniško predelani predsednici in sledil navodilom za naložbo v domnevno novo platformo?
V nasprotju z obljubami na spletni strani, na kateri bi se znašla ali znašel po kliku na videoposnetku priloženo povezavo, jima nihče ne bo prodal delnic družbe MOL Slovenija, s katerimi bi lahko vsak mesec ustvarila od štiri do šest tisoč evrov dobička, kot zagotavljajo celo lažna izjava predsednice uprave družbe MOL Slovenija Valerije Glavač.
Namesto tega bodo po vpisu osebnih podatkov, to so ime, priimek, e-pošta in telefonska številka, prejeli klic osebe, ki se bo predstavila ali v angleščini ali v polomljeni slovenščini in jih poskusila napeljati k registraciji na eni od naložbenih platform, ki ponujajo ali trgovanje z valutami (forex) ali kriptovalutami.
Spletna stran, na kateri so se znašli tisti, ki so sledili povezavi pod videoposnetkom lažnih besed predsednice.
V tako rekoč vseh primerih gre sicer za Ponzijeve sheme in neresnične platforme, pri katerih lažni naložbeni svetovalci, ki bodo neutrudni klicali vsakogar, ki je ob registraciji vpisal svojo telefonsko številko, od žrtev zahtevajo več in več denarja, najsi gre za plemenitenje naložbe ali stroške za izplačilo dobička, kar je praktično nemogoče. Redki so namreč že primeri, ko prevarani uporabniki dobijo povrnjeno vsaj svojo prvotno naložbo.
Pri Nacionalnem odzivnem centru za obravnavo omrežnih incidentov SI-CERT so za Siol.net že pred časom pojasnili, da v teh primerih najverjetneje ne gre za posamične goljufije, ampak za organizirano delovanje, goljufi pa izvirajo iz držav, v katerih je sprožitev uradnega kazenskega pregona zoper njih tako rekoč nemogoča.
Če sponzoriranih objav s povezavami na goljufive članke ne želite več videvati na Facebooku oziroma če želite zmanjšati pogostost njihovega pojavljanja ter hkrati prispevati k onemogočanju prevarantov, lahko objave prijavite.
To storite tako, da v zgornjem desnem kotu objave kliknete na tri pike (1), ki odprejo meni, in izberete možnost Prijavi oglas (2) ter nato še Vsebina je zavajajoča ali pa gre za prevaro (3) in prijavo nato s klikom na gumb Pošlji (4) posredujete Facebooku.
