Miljoniem cilvēku izmanto ļaunprātīgus AI "Nudify" botus Telegram platformā

Telegram ziņojumapmaiņas platformā strauji izplatās boti, kas, izmantojot mākslīgo intelektu (MI), ģenerē kailfoto un pornogrāfiskas bildes no ikdienišķām fotogrāfijām bez cilvēku piekrišanas. Šāda tehnoloģija rada nopietnas bažas par MI ļaunprātīgu izmantošanu, un eksperti brīdina, ka šāda rīcība rada "ļoti murgainu situāciju", īpaši jaunām meitenēm un sievietēm.

2020. gada sākumā dziļviltojumu (deepfake) eksperts Henrijs Aidžers atklāja vienu no pirmajiem Telegram botiem, kas ar MI palīdzību "izģērba" sieviešu fotogrāfijas. Šis bots jau tad bija radījis vairāk nekā 100 000 nepiedienīgu attēlu, tostarp bērnu bildes. Tas iezīmēja jaunu posmu dziļviltojumu radīto draudu attīstībā. Kopš tā laika šī tehnoloģija ir kļuvusi vēl izplatītāka un kaitīgāka, padarot neētisku attēlu ģenerēšanu par globālu problēmu.

Pēc WIRED izpētes Telegram platformā identificēti vismaz 50 boti, kas rada kailfoto vai videoklipus ar pornogrāfisku saturu, bieži vien vien pāris klikšķu attālumā. Šie boti piedāvā dažādas iespējas, tostarp “noņemt apģērbu” no fotogrāfijām vai pat radīt attēlus, kas attēlo cilvēkus nepiedienīgās darbībās. Šie boti apkalpo vairāk nekā 4 miljonus lietotāju katru mēnesi. Lai gan šie skaitļi ir satraucoši, tie, iespējams, atspoguļo tikai nelielu daļu no kopējā šādu botu apjoma Telegram platformā.

Henrijs Aidžers norāda, ka lietotāju skaits, kas izmanto šos botus, lai radītu dziļviltojumus, ir pieaudzis līdz neticamām proporcijām. "Šie rīki, kas būtiski sabojā dzīves, rada ļoti murgainu situāciju, jo īpaši jaunām meitenēm un sievietēm. Satraucoši, ka šie rīki ir tik viegli pieejami vienā no pasaules lielākajām lietotnēm," viņš teica.

Telegram boti darbojas kā mazas lietotnes platformā, un tie bieži vien ir saistīti ar kanāliem, kur cilvēki var saņemt paziņojumus par jauniem botu piedāvājumiem un funkcijām. Lai radītu attēlus, lietotājiem parasti jāpērk “žetoni”, un bieži vien boti piedāvā jaunas saites, ja kāds no tiem tiek izņemts no platformas. Pēc tam, kad WIRED kontaktējās ar Telegram par šiem botu darbības jautājumiem, uzņēmums izdzēsa 75 botus un kanālus, kas tika identificēti. Tomēr dažu kanālu īpašnieki nekavējoties paziņoja, ka nākamajā dienā radīs jaunus botus.

Kā ziņo WIRED, vairāki šie boti ar viegli uztveramiem nosaukumiem un aprakstiem reklamē kailfoto ģenerēšanas iespējas. Šie boti arī piesaista milzīgu lietotāju skaitu, solot ātru un efektīvu rezultātu. Eksperti brīdina, ka šāda veida attēli var radīt smagu psiholoģisku traumu, pazemojuma, bailes un kauna sajūtu. "Šis vardarbības veids ir ļoti izplatīts, un pārkāpēji reti tiek saukti pie atbildības," norāda Emma Pikerina, Apvienotās Karalistes organizācijas "Refuge" tehnoloģiju vardarbības un ekonomiskās tiesības nodaļas vadītāja.

Dziļviltojumu popularitātes pieaugums lielā mērā ir saistīts ar mākslīgā intelekta tehnoloģiju attīstību. Telegram platformā, kur ir iespējams veidot botus, šī problēma īpaši izceļas. “Telegram nodrošina meklēšanas funkcionalitāti, kas ļauj viegli atrast šīs kopienas un botus, un tajā ir arī rīki, kas ļauj šos attēlus izplatīt un izmantot,” paskaidro Aidžers. Daudzos gadījumos boti ir izstrādāti tā, lai pelnītu naudu, jo lietotāji maksā par piekļuvi.

Telegram, kas jau iepriekš kritizēta par satura kontroles trūkumu un nevēlēšanos sadarboties ar tiesībsargājošajām iestādēm, saskaras ar pieaugošu spiedienu. Lai gan uzņēmums ir dzēsis dažus no šiem botiem, eksperti uzskata, ka platformai būtu jādara vairāk, lai proaktīvi filtrētu ļaunprātīgo saturu.

Kopumā šī situācija norāda uz to, cik viegli pieejami ir rīki, kas ļauj radīt dziļviltojumus un izplatīt tos, radot neatgriezenisku kaitējumu tūkstošiem sieviešu un meiteņu visā pasaulē.