DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja
NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.
Foto Shutterstock
Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.
Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.
Metodologija istraživanja
Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.
Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.
Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.
Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.
Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.
Integracija podataka
Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.
Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.
Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.
(b92)
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
"SA LjUBAVLjU": Princ i lepa Grkinja zajedno - uslikani u restoranu (FOTO)
STEFAN Zdravković, poznatiji kao princ od Vranje će uskoro predstaviti Srbiju na Evroviziji u Bazelu. Prvo polufinalno veče je sutra, a mladi pevač veruje da će svojom pesmom "Mila" sledeće godine dovesti prestižno muzičko takmičenje u Srbiju.
12. 05. 2025. u 17:50
SUZANA PROVELA NOĆ POD OSTROGOM: Sašina udovica spavala u konaku, osetila posebnu magiju
UDOVICA Saše Popovića je u manastiru boravila s prijateljicom, a u njemu je, kako kaže osetila posebnu energiju.
12. 05. 2025. u 11:34
"OSUĐIVALI SU ME JER NEMAM DECU" Naša glumica (49) doživela veliku neprijatnost
"NISAM iskusila direktan pritisak, ali više jesam osude zbog toga što nemam decu."
13. 05. 2025. u 20:39
POSLEDNjI POZDRAV PESMOM: Aljoša Vučković posle dugo vremena u javnosti - rasplakao sve kolege Kadićevim stihovima
"MISLIM da je ta pesma i sada najbolji način da se od njega rastanemo"
12. 05. 2025. u 19:18
"MAJKO, IZDRŽI!" U momentu najveće sreće desila se Veričina bolest - operisala je karcinom, Marija priznala: "Ona je moj najveći strah"
"VERICA je moj najveći strah..."
12. 05. 2025. u 13:58
"HODAO SAM PO ŽICI": Petostruki olimpijski šampion progovorio o zavisnosti od narkotika
Bivši pobednik Tur de Fransa i petostruki olimpijski šampion u biciklizmu Britanac Bredlli Vigins priznao je u intervjuu za Observer da je godinama posle završetka karijere bio zavisnik o kokainu.
13. 05. 2025. u 18:20
NUKLEARNE SILE BILE NA IVICI RATA, A ONDA JE USLEDIO OBRT: "Ključan je bio poziv jednog čoveka"
U DRAMI koja je privukla pažnju svetske javnosti, američki predsednik Donald Tramp juče je na društvenim mrežama objavio da su Indija i Pakistan, nakon četiri dana žestokih sukoba duž granice, pristali na „potpuni i trenutni prekid vatre“.
11. 05. 2025. u 10:48
PANIKA U UKRAJINI: Da li je ovo znak da Putin sprema novi napad "orešnikom"?
RUSIJA će 12. i 13. maja privremeno zatvoriti vazdušni prostor iznad vojnog poligona i kompleksa za lansiranje raketa Kapustin Jar, prenosi ukrajinski odbrambeni portal Militarnyi 10. maja, navodeći mogućnost testiranja balističke rakete srednjeg dometa.
10. 05. 2025. u 12:06
"DA LI SE MAKRON DROGIRA?" Jovanino pitanje izazvalo smeh u studiju: "Kako da se nose s tolikom problemima..."
VODITELjKA Jovana Joksimović u jutarnjem programu na televiziji K1 dotakla se teme Emanuela Makrona i sporne situacije sa maramicom i sumnjom o upotrebi opijata, koja se proširila društvenim mrežama.
13. 05. 2025. u 16:57
Najnovije iz rubrike
DNEVNI HOROSKOP ZA SREDU 14. MAJ: Rak sumnja u partnera, Vaga ulazi u tajnu romansu, Jarac rešava krizne situacije
SAZNAJTE šta vas u sredu 14. maja očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
13. 05. 2025. u 20:00
NA METI KRITIKA - ZBOG PESME: Kako je Trampova unuka proslavila 18. rođendan (VIDEO)
KAI Madison Tramp, ćerka Donalda Trampa mlađeg i njegove bivše supruge Vanese Tramp, koja je s njim bila u braku od 2005. do 2018. godine, u ponedeljak je proslavila svoj 18. rođendan. Tim je povodom na TikToku objavila video u kojem sa svoje tri prijateljice pleše na pesmu "Promiscuous" (Promiskuitetna) kanadske pevačice Neli Furtado. - Poslednji dan moje 17. godine - napisala je Kai uz objavljeni video.
13. 05. 2025. u 19:01
"NOĆIMA SAM SANJAO SVECA" Kako je američki senator ozdravio nad moštima Svetog Vasilija na Ostrogu
NAD moštima Svetog Vasilija Ostroškog mole se i katolici i muslimani, jednako kao i pravoslavci. Međutim, za nas je svaki put kao malo čudo kada ipak upoznamo osobu druge vere koja dolazi na poklonjenje Svetom Vasiliju na Ostrog.
13. 05. 2025. u 15:36
NAJSKUPLJE NA SVETU - 500DIN KOMAD Srbin "plače" zbog cene jagoda, ali tvrdi: "Nikad bolje!"
CENA za 12 jagoda "prava sitnica" - oko 47 evra.
13. 05. 2025. u 14:17
TITOVA OMILJENA PEVAČICA: Slao luksuzna kola po nju, pevala mu je preko 30 puta i uvek je govorio da je ona najlepša
DANjU je radila kao voditeljka na TV Novi Sad, dok je uveče pevala, a jedan od nezaobilaznih gostiju bio je Josip Broz Tito.
13. 05. 2025. u 09:28
Komentari (0)