Video: Savršene lažne videozapise prepoznat će umjetna inteligencija
2024 Autor: Richard Flannagan | [email protected]. Zadnja promjena: 2023-12-16 00:07
Prije godinu dana, Stanfordova Manish Agrawala pomogla je u razvoju tehnologije sinkronizacije usana koja je omogućila video urednicima da gotovo neprimjetno promijene riječi govornika. Alat može lako umetnuti riječi koje osoba nikada nije izgovorila, čak ni usred rečenice, ili izbrisati riječi koje je izgovorila. Sve će golim okom pa čak i mnogim računalnim sustavima izgledati realno.
Ovaj alat je uvelike olakšao ispravljanje grešaka bez ponovnog snimanja cijelih scena, a također je prilagodio TV emisije ili filmove za različitu publiku na različitim mjestima. No, ta je tehnologija također stvorila uznemirujuće nove mogućnosti za teško pronaći lažne videozapise, s jasnom namjerom iskrivljavanja istine. Na primjer, nedavni republikanski video zapis koristio je grublju tehniku za intervju s Joeom Bidenom.
Ovog ljeta, Agrawala i kolege sa Stanforda i UC Berkeley predstavili su pristup tehnologiji sinkronizacije usana zasnovanoj na umjetnoj inteligenciji. Novi program točno otkriva više od 80 posto krivotvorina, prepoznajući i najmanje razlike između zvukova ljudi i oblika njihovih usta.
No Agrawala, ravnatelj Stanfordskog instituta za medijske inovacije i profesor računalstva u Forest Baskettu, koji je također povezan sa Stanfordskim institutom za umjetnu inteligenciju usmjerenu na čovjeka, upozorava da ne postoji dugoročno tehničko rješenje za duboke lažne.
Kako lažni djeluju
Postoje legitimni razlozi za manipulaciju videom. Na primjer, svatko tko snima izmišljenu TV emisiju, film ili reklamu može uštedjeti vrijeme i novac korištenjem digitalnih alata za ispravljanje grešaka ili prilagođavanje scenarija.
Problem nastaje kada se ti alati namjerno koriste za širenje lažnih informacija. I mnoge su tehnike prosječnom gledatelju nevidljive.
Mnogi duboki lažni videozapisi oslanjaju se na zamjenu lica, doslovno nanoseći lice jedne osobe na videozapis druge osobe. No, iako alati za promjenu lica mogu biti uvjerljivi, relativno su grubi i obično ostavljaju digitalne ili vizualne artefakte koje računalo može otkriti.
S druge strane, tehnologije sinkronizacije usana manje su vidljive i stoga ih je teže otkriti. Oni manipuliraju mnogo manjim dijelom slike, a zatim sintetiziraju pokrete usana koji se točno podudaraju s načinom na koji bi se usta zapravo kretala da je izgovorila određene riječi. Prema Agrawalu, s obzirom na dovoljno uzoraka slike i glasa osobe, lažni producent može natjerati osobu da "kaže" bilo što.
Otkrivanje krivotvorina
Zabrinut zbog neetičke uporabe takve tehnologije, Agrawala je radio s Ohad Freedom, doktorandom na Stanfordu, na razvoju alata za otkrivanje; Hani Farid, profesorica na Kalifornijskom sveučilištu, Berkeley School of Information; i Shruti Agarwal, doktorandica na Berkeleyu.
U početku su istraživači eksperimentirali s čisto ručnom tehnikom u kojoj su promatrači proučavali video zapise. Djelovao je dobro, ali u praksi je bio naporan i dugotrajan.
Znanstvenici su zatim testirali neuronsku mrežu temeljenu na umjetnoj inteligenciji koja bi bila mnogo brža za napraviti istu analizu nakon treninga na videu s bivšim predsjednikom Barackom Obamom. Neuronska mreža otkrila je više od 90 posto Obamine vlastite sinkronizacije usana, iako je točnost ostalih govornika pala na oko 81 posto.
Prava provjera istine
Istraživači kažu da je njihov pristup samo dio igre mačke i miša. Kako se tehnike dubokog krivotvorenja poboljšavaju, ostavit će još manje ključeva.
U konačnici, kaže Agrawala, pravi problem nije toliko borba protiv duboko lažnih video zapisa koliko borba protiv dezinformacija. Zapravo, napominje, velik dio dezinformacija proizlazi iz iskrivljavanja značenja onoga što su ljudi zapravo rekli.
"Da bismo smanjili dezinformacije, moramo poboljšati medijsku pismenost i razviti sustave odgovornosti", kaže on. "To može značiti zakone koji zabranjuju namjerno stvaranje dezinformacija i posljedice njihova kršenja, kao i mehanizme za uklanjanje nastale štete."
Preporučeni:
Kako bi izgledale Marilyn Monroe, Elvis i drugi u starosti: Umjetna inteligencija ostarila je idole koji su rano otišli
Marilyn Monroe jako se bojala starosti, ali ni smrt sa 36 godina nije je spasila od te perspektive. Jedan je novinar odlučio, radi interesa, vidjeti kako bi izgledale svjetske zvijezde koje su napustile ovaj svijet u mladosti da su preživjele do danas. Koristeći jednostavan računalni program, ostario je ne samo Marilyn, već i druge poznate glumce i glazbenike, a rezultat svog eksperimenta objavio je na Instagramu
Umjetna inteligencija "oživjela" je heroje poznatih slika, crtića i predsjednika iz novčanica
Jedan grafičar odlučio je modernom tehnologijom vidjeti kako bi mogli izgledati likovi velikih platna, ali i drugi nacrtani junaci da su odjednom oživjeli i ostavili slike, televizijske ekrane, novčanice … Ime ovog eksperimentatora je Nathan Shipley i on živi u San Franciscu. Rezultati umjetnikova rada, točnije umjetne inteligencije koju kontrolira, impresivni su. Mona Lisa, likovi popularnih crtića, politička
Kao umjetnik prepoznat kao "mentalno retardiran", 60 godina slikao je djevojke ratnice: Nestvarno kraljevstvo Henryja Dargera
1972. fotograf Nathan Lerner odlučio je srediti sobu svog bolesnog podstanara - usamljenog starca koji je cijeli život radio kao domar u jednoj čikaškoj bolnici. Među smećem - brojnim kutijama, pletenicama od kanapa, staklenim kuglicama i časopisima - pronašao je nekoliko rukopisnih knjiga i više od tristo ilustracija za njih. Sadržaj knjige bio je neobičan. Autor se zvao Henry Darger, a tijekom života stvarao je priču o ratu djece protiv odraslih
Posebno razdoblje: kreativna inteligencija i sovjetska vlast od 1917. do 1938. godine
Boljševička revolucija 1917. izazvala je vrlo miješanu reakciju ruske inteligencije. Neki su predstavnike nove vlasti vidjeli kao uzurpatore, drugi - ljude potpuno lišene kreativne originalnosti. No bilo je onih koji su odmah izjavili svoju podršku boljševicima, iako je među predstavnicima ruske inteligencije to bio, prema statistikama, jedan dvadeseti. Ali njihova podrška nije bila samo moralna, već se i počela utjelovljivati u konkretnim djelima. Naš pregled sadrži jedinstvene fotografije
Papa Karlo XXI stoljeće. Anatomski savršene skulpture Brune Walpotha
Stari mlinar za orgulje Carlo izrezao je svog vrckavog sina iz dnevnika kako bi imao nekoga tko bi mogao provesti vrijeme bez patnje od usamljenosti. Talijanski kipar Bruno Walpoth ima veliku obitelj, ali on, ipak, "oživljava" stablo, klesajući skulpture ljudi od balvana, upečatljiv u njihovoj anatomskoj ispravnosti. Stoga se Walpot naziva modernim papom Karlom, a njegove izložbe realističnih drvenih skulptura uvijek su prepune