Pasargājiet savus bērnus, sievas un Elonu Masku – neviens nav drošs no mākslīgā intelekta radītajiem viltus video.
ASV Senāts otrdien rīkos uzklausīšanu par likumprojektu, kas aizsargātu visu cilvēku balss un vizuālo līdzību no neatļautas atveidošanas ar ģeneratīvā mākslīgā intelekta palīdzību. Likumprojekts paredzētu atbildību uzņemties personām vai uzņēmumiem, kas ražo neatļautus viltus video, kā arī platformām, kas apzināti izvieto šos viltus video, izņemot noteiktus digitālos atveidojumus, kas balstīti uz atzītām Pirmā grozījuma aizsardzībām.
Divi augsta profila piemēri no 2023. gada – AI ģenerēta Drake un The Weeknd dziesma “Heart on My Sleeve” un zobu plāna reklāma ar viltus Tomu Hanksu.
Kopš likumprojekta publicēšanas, viltus video ir kļuvuši vēl attīstītāki un grūtāk atpazīstami. Viltus video lietotņu pieejamība ir ļāvusi vidusmēra cilvēkam izmantot tehnoloģiju, lai veiktu virālas krāpniecības un pat piecu ciparu romantiskas krāpšanas.
AI Tupac un Snoop Dogg
Reperis Drake, kura balss tika klonēta virālajā dziesmā “Heart on My Sleeve”, nonāca karstumā par savu paša radītu viltus video. 19. aprīlī Drake izlaida disstraku pret mūziķi Kendrick Lamar, kurā izmantotas AI ģenerētas Snoop Dogg un mirušā Tupac Shakur balsis – divi Lamar idoli.
Dziesmā AI ģenerētais Tupac izaicina Lamar un mudina viņu atbildēt uz Drake iepriekšējo disstraku. “Tu šķiet nedaudz nervozs par visu publicitāti,” raps AI Tupac balss.
Pagājušajā trešdienā Shakur mantojuma pārstāvji paziņoja, ka “Taylor Made” ir “acīmredzama viena no lielākajiem hip-hop māksliniekiem visu laiku mantojuma izmantošana.” Mantojums teica, ka nekad nav un nekad nebūtu apstiprinājis Tupac balsij izmantošanu, un mudināja Drake dziesmu noņemt 24 stundu laikā.
“Taylor Made” tika noņemts no Drake sociālajiem medijiem piektdien. Pirms dažiem mēnešiem reperis ierakstīja “this is the final straw AI” Instagram, reaģējot uz AI viltus video par sevi, kurā raps Ice Spice dziesmu.
$50,000 zaudēti Elon Musk romantiskajā krāpšanā
Slavenību viltus video tiek izmantoti krāpnieciskos nolūkos – izkrāpjot cilvēkiem desmitiem tūkstošu dolāru. Dienvidkorejas sieviete zaudēja $50,770 romantiskajā krāpšanā pēc tam, kad iemīlējusies viltus versijā Elon Musk, saskaņā ar 19. aprīļa raidījumu KBS.
Raidījumā sieviete, kuru sauca pseidonīmā Jeong Ji-sun, teica, ka Tesla vadītājs viņu pievienoja kā draugu Instagram pagājušajā gadā.
“Lai gan es biju liels Musk fane pēc viņa autobiogrāfijas izlasīšanas, sākumā šaubījos,” viņa teica KBS.
Krāpnieks pārliecināja Jeong, sūtot viņai Musk ID fotogrāfijas un viņu darbā. Viņš rakstīja viņai par saviem bērniem un lidojumu ar helikopteru uz darbu un teica, ka bieži nejauši sazinās ar faniem. Jeong pat teica, ka viņa runājusi ar “Musk” video zvanos, kur viņš teicis: “Es tevi mīlu, tu to zini?”
Viltus Musk tad apsolīja ieguldīt Jeong naudu un palīdzēt viņai kļūt bagātai. Viņš pārliecināja viņu iemaksāt 70 miljonus Korejas vonu ($50,770) bankas kontā – tad pazuda bez pēdām.
Vidusskolas direktora viltus video kļūst virāls
Indignacija skāra Baltimoras priekšpilsētas janvārī, kad ieraksts ar vietējā vidusskolas direktoru šķietami izsakot rasistiskus un antisemītiskus komentārus kļuva virāls.
Direktors Ēriks Eisverts no Pikesville vidusskolas tika atstādināts no amata. Ieraksts tika nosūtīts nacionālajiem medijiem un NAACP, kamēr Eisverts saņēma vardarbības draudus.
Tikai pagājušajā ceturtdienā vietējās varas iestādes apstiprināja to, ko Eisverts zināja jau no paša sākuma – ka ieraksts bija AI ģenerēts. Ierakstu izveidoja Dazhon Darien, skolas sporta direktors, kurš bija konfliktējis ar Eisvertu.
Policijas ziņojumi saka, ka Eisverts pērn decembrī izmeklēja Darien par iespējamu $2,000 skolas līdzekļu nepareizu izmantošanu. Pirms decembra direktors jau bija runājis ar Darien par līguma neatsaucamību darba snieguma problēmu dēļ un bija lūdzis administratoriem cieši uzraudzīt Darien darbību.
Ar kriminoloģisko ekspertu palīdzību, ieskaitot FBI līgumdarbinieku, Baltimoras policija secināja, ka ieraksts “satur AI ģenerēta satura pēdas” un “ir manipulēts”. Darien tika aizturēts ceturtdien par apsūdzībām, tostarp traucējumi skolas darbībai.
“Mums ir atvieglojums saņemt dažas atbildes par šī audio izcelsmi,” preses konferencē ceturtdien teica Baltimoras apgabala izpilddirektors Džonijs Olszevskis. “Tomēr ir skaidrs, ka mēs ieejam jaunā, dziļi satraucoša robeža.”
