DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja
NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.
Foto Shutterstock
Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.
Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.
Metodologija istraživanja
Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.
Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.
Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.
Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.
Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.
Integracija podataka
Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.
Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.
Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.
(b92)
Preporučujemo
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
POVUKLA SE IZ JAVNOSTI: Milica Todorović se oglasila pred porođaj - "Budite okruženi ljubavlju"
PEVAČICA uživa u blagoslovenom stanju.
25. 12. 2025. u 09:20
VESNA U KAFANI PAR DANA NAKON OPERACIJE: "Lekari mi ne daju da pevam, pušim, ali ja ne mogu"
VESNA ZMIJANAC prvi put u javnosti nakon bolničkih dana, otkrila kako se oseća
26. 12. 2025. u 07:51
"ISMEJAVA NAŠE SVETINjE!": Narod ne prašta njene javne ispade - BiH traži ZABRANU za Severinu
NASTUP hrvatske zvezde treba da se održi 29. decembra, ali stanovnici ovog grada u Bosni i Hercegovini protive se tome zbog javnih ispada pevačice iz prethodnog perioda.
26. 12. 2025. u 08:37
DAN MIRA I MEĐUSOBNOG UVAŽAVANjA: Šta pravoslavci treba da urade za katolički Božić?
REČI "Srećan Božić" smatraju se znakom poštovanja i dobre volje, a ne odstupanjem od sopstvene vere.
25. 12. 2025. u 08:45
"NE MOGU DA MIRUJEM": Vesna Zmijanac otkrila detalje svog zdravstvenog stanja posle operacije
VESNA Zmijanac prvi put u javnosti nakon bolničkih dana, otkrila kako se oseća.
26. 12. 2025. u 09:40
"TO MI JE MNOGO SMETALO": Bekvalčeva otkrila istinu o odnosu sa Vladom Georgievim
PEVAČICA Nataša Bekvalac nastupila je tokom prethodne noći u Beogradu, a za Blic je otkrila šta će sebi poželeti u Novoj Godini, dok se dotakla i kolega.
25. 12. 2025. u 12:30
TRAMP DONEO ODLUKU: Povlači ambasadore i diplomate iz okruženja Srbije
ADMINISTRACIJA američkog predsednika Donalda Trampa povlači skoro 30 karijernih diplomata sa ambasadorskih i drugih visokih pozicija u diplomatskim predstavništvima SAD u svetu.
22. 12. 2025. u 10:32
RUSI ĆE NAPASTI EU MNOGO RANIJE: Veliko upozorenje iz Ukrajine, poznata godina i glavna meta
RUSIJA je pomerila svoje planove za direktnu agresiju sa 2030. na 2027. godinu, a Evropa je sve glasnija o riziku od direktnog sukoba, u kojem bi se baltičke države mogle naći pod okupacijom.
20. 12. 2025. u 09:41
"SAD JE TITO ODJEDNOM POBIO JADNE HRVATE..." Vedrana o bivšoj državi: "Sve sam više Jugoslovenka kako vreme odmiče!"
VEDRANA ne bira reči kada govori o vremenu Jugoslavije...
24. 12. 2025. u 09:52
Najnovije iz rubrike
ČITAJTE PAŽLJIVO SITNA SLOVA NA UGOVORIMA I DOKUMENTIMA Astro savet za petak, 26. decembar: Ovi znaci treba da obrate najviše pažnje
JUPITER, planeta blagostanja, putovanja i obrazovanja, u znaku svoje egzaltacije gde je izuzetno jak, predveče ulazi u trigon s Mesecom u Ribama, što donosi novčane dobitke i uspeh preko saradnje sa strancima, na putovanjima, na ispitima, kao i preko pravnih poslova.
26. 12. 2025. u 07:00
ČESTO NAM NEDOSTAJE KONCENTRACIJA, A NE PAMĆENJE: Naučnici otkrili neočekivan uzrok zaboravnosti
SVIMA se ponekad desi da zaborave nešto, ali kod pojedinih ljudi ta zaboravnost deluje beskrajno - ne pamtimo kada treba da stignemo na neku proslavu, zaboravljamo dogovore i pozive, izostajemo sa sastanaka, iako smo pročitali podsetnik.
25. 12. 2025. u 23:45
TURSKI ARHEOLOZI Veliko otkriće na lokalitetu tvrđave Rabat
ARHEOLOZI su započeli iskopavanja na lokalitetu tvrđave Rabat u oblasti Mardin, u jugoistočnoj Turskoj, gde su otkrili ruševine stare oko 2.000 godina, prenela je danas agencija Anadolija.
25. 12. 2025. u 23:00
NJIH ČEKA SUDBINSKA ISPLATA U 2026. GODINI: Za ova 4 horoskopska znaka više ne postoje prepreke
ZA 4 znaka 2026. godina postaje trenutak kada stiže sudbinska isplata i blagostanje koje niko ne može da zaustavi. Vaš red je konačno došao.
25. 12. 2025. u 22:12
PODVODNI ROBOTI OTKRILI: Šta topi Antarktik odozdo
NOVO istraživanje naglašava da se Antarktik ne topi samo odozgo, pod uticajem zagrevanja atmosfere, već i odozdo, u kontaktu sa toplom dubokom morskom vodom.
25. 12. 2025. u 22:00
Komentari (0)