Deepfake: Kā atšķirt patiesību no meliem digitālajā laikmetā?

Digitālo tehnoloģiju straujā attīstība ir devusi milzīgu pozitīvu ietekmi mūsu ikdienā, taču līdz ar šīm iespējām ir nākuši arī jauni draudi, no kuriem viens ir deepfake tehnoloģija. Deepfake ļauj radīt ļoti reālistiskus, bet pilnībā viltotus video, audio un attēlus, kuros cilvēku sejas, balsis un ķermeņa kustības tiek mākslīgi manipulētas. Šī tehnoloģija ir ne tikai apbrīnojama, bet arī potenciāli ļoti bīstama, jo to arvien biežāk izmanto dezinformācijas, krāpniecības un citu nelegālu darbību īstenošanai. Viena no bīstamākajām deepfake sekām ir grūtības atšķirt patiesību no meliem – kas ir kritiski svarīgi šajā digitālajā laikmetā.

Šajā rakstā aplūkosim, kas ir deepfake, kā tas darbojas, kā tas tiek izmantots krāpniecībā un dezinformācijā, un kā mēs varam mācīties atšķirt patiesus materiālus no viltotiem. Apskatīsim arī reālu piemēru no 2024. gada, kad deepfake tehnoloģija tika izmantota 25 miljonu ASV dolāru izkrāpšanai.

Kas ir deepfake un kā tas darbojas?

Deepfake ir tehnoloģija, kas izmanto mākslīgo intelektu (MI), lai veidotu nepatiesus video un audio materiālus, kuros cilvēku sejas vai balsis tiek mainītas vai pārveidotas. Pateicoties algoritmiem, piemēram, Generative Adversarial Networks – GAN, mākslīgais intelekts analizē un apgūst simtiem vai tūkstošiem attēlu un skaņu paraugu, lai varētu radīt reālistiskus viltotus materiālus. Šī tehnoloģija sākotnēji tika izmantota radošiem nolūkiem, piemēram, filmās un video spēlēs, lai radītu reālistiskus tēlus. Tomēr pēdējā laikā deepfake arvien biežāk izmanto krāpniecībai un dezinformācijas izplatīšanai.

Bīstamība un ietekme uz sabiedrību

Deepfake tehnoloģija var radīt lielu apdraudējumu sabiedrībai vairākos veidos:

• Politiskā dezinformācija: Politiķu balsu vai seju viltošana var novest pie sabiedrības maldināšanas vai uzticības zuduma valsts pārvaldei.
• Krāpniecība: Deepfake tehnoloģiju var izmantot, lai apkrāptu cilvēkus vai uzņēmumus, radot nepatiesus materiālus, kas šķietami nāk no uzticamiem avotiem.
• Kompromitējošu materiālu radīšana: Individuālas personas var tikt pakļautas šantāžai vai kaitīgām apsūdzībām, ja tiek izveidoti deepfake video, kuros viņi parādās kompromitējošās situācijās.

Reāls piemērs: 25 miljonu ASV dolāru krāpšana

Deepfake tehnoloģija tiek izmantota ne tikai politiskajā dezinformācijā, bet arī finansiālajā krāpniecībā. Viens no šokējošākajiem pēdējā laika piemēriem ir gadījums no 2024. gada, kad Hongkongā strādājošs finanšu nozares darbinieks tika apkrāpts, pārskaitot vairāk nekā 25 miljonus ASV dolāru. Kā ziņoja CNN, krāpnieki izmantoja deepfake tehnoloģiju, lai video zvanā izliktos par uzņēmuma finanšu direktoru.

Krāpšana notika video konferences laikā, kurā darbinieks domāja, ka sarunājas ar vairākiem kolēģiem, tostarp uzņēmuma finanšu direktoru. Visi cilvēki video izskatījās un skanēja kā īsti kolēģi, taču tie visi bija deepfake radījumi. Lai gan sākotnēji darbinieks bija piesardzīgs pēc tam, kad saņēma aizdomīgu e-pastu par slepenu finanšu darījumu, viņa šaubas izzuda pēc video zvana, jo šķita, ka visi citi zvana dalībnieki ir īsti uzņēmuma darbinieki.

Finanšu darbinieks uzskatīja, ka saruna ir autentiska, un piekrita pārskaitīt 200 miljonus Honkongas dolāru (aptuveni 25,6 miljonus ASV dolāru), uzskatot, ka tas ir nepieciešams darījums. Tikai vēlāk, pārbaudot informāciju ar uzņēmuma galveno mītni, darbinieks saprata, ka ir kļuvis par krāpšanas upuri. Šis gadījums ir tikai viens no vairākiem piemēriem, kad deepfake tehnoloģija tiek izmantota, lai izkrāptu milzīgas naudas summas.

Hongkongas policija norādīja, ka šajā gadījumā bija iesaistīti vairāki noziedznieki, un notikušas vairākas aizturēšanas saistībā ar līdzīgiem noziegumiem. Tas uzsver, cik bīstami deepfake var būt finansiālā un juridiskā kontekstā, jo pat profesionāļiem var būt ļoti grūti atšķirt viltotus materiālus no īstiem.

Nesen TikTok platformā izplatījās video, kurā šķietami Īlons Masks sola dalīties savā bagātībā, piedāvājot katram sekotājam bitkoinus 1000 dolāru vērtībā. Lai saņemtu šo "dāvanu", lietotāji tiek aicināti apmeklēt saiti un reģistrēties maksājumam. Lietotāji, uzķeroties uz šo triku, tiek novirzīti uz viltotām vietnēm, kur tiek lūgta viņu personiskā informācija vai pat pieprasīta iemaksa kriptovalūtā kā "reģistrācijas" maksa. Krāpnieki izmanto psiholoģisku manipulāciju, radot steidzamības sajūtu, kas liek cilvēkiem neapdomīgi pieņemt lēmumus, piemēram, reģistrēties vai veikt maksājumus. Tas ir klasisks phishing un krāpšanas piemērs, kur deepfake un viltotas vietnes kombinācija rada bīstamu ilūziju, kas var novest pie finansiāliem zaudējumiem un datu zādzības.

Kā atpazīt deepfake?

Lai gan deepfake tehnoloģija kļūst arvien precīzāka, joprojām ir iespējams atklāt dažus pavedienus, kas var liecināt par viltotu saturu:

1. Acis un acu kustības: Cilvēka acis ir viena no sarežģītākajām sejas daļām, ko reproducēt ar deepfake tehnoloģiju. Bieži vien viltotos video acu kustības šķiet nedabiskas vai skatās nepareizā virzienā.
2. Nereālas sejas izteiksmes: Dažreiz dziļās viltošanas tehnoloģijas nespēj precīzi atveidot sejas muskuļu kustības vai izteiksmes.
3. Apgaismojuma un ēnu nesakritība: Ja gaisma uz sejas šķiet nepārliecinoša vai ēnas izskatās nepareizas, tas var norādīt uz manipulāciju.
4. Audio nesakritība: Lai gan deepfake vilto balsi, nereti runas tonis vai intonācija var būt nepareiza vai nesinhronizēta ar runātāja kustībām.
5. Mīmika un žesti: Ja cilvēka kustības vai izteiksmes šķiet mehāniskas vai neparastas, tas var būt signāls, ka materiāls ir viltots.

Kā pasargāties no dezinformācijas?

Ir vairāki veidi, kā pasargāties no deepfake krāpniecības un dezinformācijas:

1. Pārbaudiet avotus: Ja rodas šaubas par video vai attēla autentiskumu, pārbaudiet avotu un meklējiet citas uzticamas liecības.
2. Izmantojiet faktu pārbaudes rīkus: Ir pieejami rīki, kas palīdz analizēt, vai attēls vai video ir viltots, piemēram, Deepfake Detection vai Resemble AI.
3. Sekojiet līdzi ziņu avotiem: Uzticami ziņu mediji bieži ziņo par dezinformācijas un deepfake gadījumiem, palīdzot atšķirt patiesību no meliem.
4. Attīstiet kritisko domāšanu: Šajā tehnoloģiju laikmetā ir svarīgi būt skeptiskam pret to, ko redzam, īpaši ja tas šķiet pārāk šokējoši vai neparasti.

Deepfake tehnoloģija ir jauns izaicinājums sabiedrībai, īpaši tādēļ, ka tā kļūst arvien grūtāk atpazīstama. Lai gan tā piedāvā lielas iespējas radošām nozarēm, tās ļaunprātīga izmantošana, piemēram, politiskajā dezinformācijā vai krāpniecībā, rada ievērojamus riskus. Gadījumi, piemēram, 25 miljonu ASV dolāru krāpšana Hongkongā, parāda, cik bīstama var būt šī tehnoloģija.

Tādēļ ir nepieciešams ne tikai sekot līdzi jaunākajām tehnoloģijām, bet arī attīstīt sabiedrības izpratni un kritisko domāšanu, lai mēs varētu pasargāt sevi un citus no deepfake radītajiem draudiem.