DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja
Dodaj Novosti kao svoj Google izvor
NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.
Foto Shutterstock
Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.
Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.
Metodologija istraživanja
Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.
Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.
Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.
Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.
Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.
Integracija podataka
Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.
Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.
Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.
(b92)
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Pročitajte više
Ovo se 140 godina nije desilo na Vračaru
VREMENA se menjaju i to neverovatno brzo.
01. 07. 2026. u 22:06
ČUDO: Pogledali u gnezdo roda i nisu mogli da veruju šta vide - Srbija to ne pamti (VIDEO)
"DEO su porodice i tradicija je da dolaze tu kod nas."
01. 07. 2026. u 20:11
MAJKA PITALA PAVLA DA ODRŽI OPELO NjENOM SINU KOJI SE UBIO: Patrijarh izustio samo ove tri reči
BLAGE, ali britke misli patrijarha Pavla i danas odjekuju...
02. 07. 2026. u 09:28
"BILI SMO BLISKI, VODILI SMO DUGE RAZGOVORE": Boba Živojinović otkrio detalje odnosa sa princezom Dajanom
SLOBODAN Boba Živojinović se jednom prilikom za Kurir prisetio svog odnoda sa Lejdi Di, pa otkrio detalje.
02. 07. 2026. u 10:50
BILjANA JEVTIĆ O RAZVODU: "Bolje bolan kraj nego bol bez kraja - kada nešto ne ide, ne treba siliti"
"AKO nešto ne može i ne ide, ne bi trebalo forsirati na silu..."
02. 07. 2026. u 10:24
"Ko potpiše taj ugovor, prodao je dušu - daješ im procente doživotno! Najstrašnije što sam videla u životu"
"ONI PO tom ugovoru imaju kreativnu kontrolu nad celom tvojom karijerom i daješ im procenat zauvek."
01. 07. 2026. u 21:48
KLANICA U KONSTANTINOVKI: Ukrajinci beže, Rusi jurišaju sa isukanim bajonetima
KOMANDANT bataljona je izjavio da ukrajinske oružane snage izbegavaju borbu lakog oružja u Konstantinovki. Prema njegovim rečima, tokom čišćenja naselja, ukrajinski vojnici pokušavaju da izbegnu blisku borbu, jer su inferiorni u odnosu na ruske jedinice u vatrenim obračunima.
01. 07. 2026. u 15:48 >> 15:55
ZELENSKI ODLAZI U ISTORIJU? Ovaj čovek ulazi u trku za predsednika Ukrajine
VALERIJ Zalužni, bivši vrhovni komandant i trenutni ukrajinski ambasador u Ujedinjenom Kraljevstvu, rekao je sadašnjem predsedniku zemlje, Volodimiru Zelenskom, da namerava da postane novi predsednik Ukrajine.
01. 07. 2026. u 15:45
JEZIV SNIMAK IZ HRVATSKE, DEVOJKE VIKALE: "Ne u autobus, ne!"
DRUŠTVENIM mrežama kruži snimak koji prikazuje zabrinjavajuću vožnju vozača kamiona.
30. 06. 2026. u 11:05
Najnovije iz rubrike
ZAŠTO JE ŠAKIRA SVOJIM SINOVIMA DALA SRPSKA IMENA MILAN I SAŠA? Razlog je totalno neočekivan! (FOTO)
PIKE i Šakira imaju dva sina, a o njihovim imenima se i te kako pričalo na ovim prostorima, s obzirom na to da su oba i te kako česta u Srbiji.
02. 07. 2026. u 11:17
PREŽIVEO POŽAR, RAT I DVA PADA AVIONA, PA PRESUDIO SEBI: Životna priča slavnog pisca i danas šokira
NA današnji dan, 2. jula 1961. godine, preminuo je Ernest Hemingvej, jedan od najznačajnijih pisaca svih vremena.
02. 07. 2026. u 11:10
MAJKA PITALA PAVLA DA ODRŽI OPELO NJENOM SINU KOJI SE UBIO: Patrijarh izustio samo ove tri reči
BLAGE, ali britke misli patrijarha Pavla i danas odjekuju...
02. 07. 2026. u 09:28
PROBLEMI U VAZDUŠNOM SAOBRAĆAJU, OPREZNO SA UGOVORIMA Astro savet za četvrtak, 2. jul: Ovi znaci su pod uticajem izazovnih aspekatA
MESEC, simbol emocija, raspoloženja, privatnog života, dnevnog prometa, u Vodoliji, danas pravi više prijateljskih aspekata sa tranzitnim planetama, osim inkonjunkcije sa Suncem.
02. 07. 2026. u 07:00
Zašto je opasno tuširati kad grmi - pravilo "30 minuta" i da li su ljudi u velikim zgradama bezbedniji
MUNjA može da udari u zatvorenom prostoru, čak i u objektima sa modernim plastičnim vodovodnim instalacijama - a to uključuje i tuš kabinu koja tokom oluje postaje jedno od najkritičnijih mesta u kući.
01. 07. 2026. u 22:47
Komentari (0)