DIPFEJK DETEKTORI PALI NA TESTU: Istraživači pozivaju na hitna poboljšanja
NIJEDAN od 16 vodećih detektora ne može pouzdano da identifikuje lažne fotografije u stvarnom svetu, otkrili su australijski i južnokorejski istraživači.
Foto Shutterstock
Nedavno objavljeni rad na portalu arXiv, koji su zajednički izradili australijska nacionalna naučna agencija CSIRO i južnokorejski Univerzitet Sungkjunkvan, otkrio je ozbiljne ranjivosti u postojećim dipfejk (deepfake) detektorima.
Istraživanje je procenilo 16 vodećih detektora i pokazalo da nijedan od njih nije u stanju da pouzdano identifikuje deepfake u stvarnim uslovima.
Metodologija istraživanja
Istraživači su razvili okvir u pet koraka za procenu alata koji uključuje tip dipfejka, metodu detekcije, pripremu podataka, obuku modela i validaciju.
Pritom su identifikovali i 18 faktora koji utiču na tačnost detektora koji su testirani u različitim scenarijima, uključujući crnu, belu i sivu kutiju.
Postojeći detektori pokazuju ozbiljne slabosti, posebno kada se suočavaju s radovima koji se ne nalaze u njihovim treniranim podacima, zapažaju istraživači.
Na primer ICT (Identity Consistent Transformer), detektor treniran na licima poznatih osoba, nije bio efikasan u detekciji dipfejka s nepoznatim osobama.
Detektori su pali na ispitu, nebitno da li je u pitanju "synthesis deepfake" koji generiše potpuno nova sintetička lica, "faceswap deepfake" radovima u kojima se lice jedne osobe zamenjuje drugim ili " reeanactment deepfake" u kojem se zadržavaju crte lica neke osobe, ali se menjaju njeni izrazi.
Integracija podataka
Istraživači pozivaju na hitna poboljšanja, predlažu razvoj više detektora i korišćenje različitih izvora podataka kako bi se poboljšala tačnost detekcije.
Naglašavaju i potrebu integracije audio, tekstualnih i meta podataka u modele za detekciju, kao i primenu strategija poput fingerprintinga, odnosno ugradnje veštačkih i GAN otisaka u slike i video snimke kako bi se bolje pratilo poreklo dipfejka.
Prva metoda uključuje ugradnju jedinstvenih oznaka u trening podatke generativnih modela koji se prepoznaju u generisanim dipfejk radovima, a druga na prirodne oznake koje generativni modeli ostavljaju u generisanim sadržajima.
(b92)
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
Ivana Mihić prodala 10 veš-mašina da ISPLATI DUGOVE kolegama
"FABRIKE su se zatvarale, a ljudi gubili posao ili živeli na minimalcima."
27. 06. 2025. u 16:05
ŠOK VEST IZ EU: "Mrtav Hrvat" nađen živ posle 30 godina! Borisa proglasili pokojnim - neverovatno šta mu se desilo
HRVATSKI državljanin, koji je pre više od tri decenije nestao u Nemačkoj i proglašen mrtvim, pronađen je u Francuskoj, gde živi sa promenjenim identitetom i drugom porodicom
27. 06. 2025. u 12:22
U SUZAMA Jovana o ocu - juče je umro: "Znao je da odlazi, plašio se za moju budućnost"
U PODKASTU "Može i lično sa Aleksom" voditeljka Jovana Jeremić poslednji put je govorila o ocu Miodragu koji je juče preminuo, a danas je sahranjen u Beogradu.
27. 06. 2025. u 18:39 >> 18:42
ŽIKA JOŠ U BOLNICI Oglasila se Suzana: "Nismo bili u kontaktu"
ŽIKA Jakšić hitno je hospitalizovan prošlog petka zbog problema sa krvnim sudovima. On je zadržan u bolnici na daljim ispitivanjima i lečelju.
27. 06. 2025. u 14:00
Džezverska - kafa koja okuplja
Znaš ono kad neko u kancelariji pita: “Kuvam kafu – hoće neko?"
23. 04. 2025. u 12:40
"IVANKA, ZAŠTO?" Prati je tajna služba - Trampova ćerka nepromišljenim potezom ugrozila svoju bezbednost na Bezosovoj svadbi
IVANKA Tramp boravi u Veneciji sa suprugom Džaredom Kušnerom i njihovo troje dece, Arabelom, Džozefom i Tiodorom, zbog venčanja Loren Sančez i Džefa Bezosa koji su sinoć priredili zabavu dobrodošlice za svoje goste, među kojima su brojne poznate ličnosti. Saznaje se da je par već u braku, što je dočekano kao veliki šok. Ali, i predsednikova ćerka je priredila šokantno iznenađenje.
27. 06. 2025. u 11:02
DOGOVORENO PRIMIRJE IRANA I IZRAELA: Tramp - Kraj rata; Bombe SAD nisu uništile nuklearna postrojenja? (FOTO/VIDEO)
RAT Izraela i Irana - 11. dan.
23. 06. 2025. u 08:17 >> 00:53
HAMNEI PREVARIO TRAMPA: Amerika gađala prazno nuklearno postrojenje?
VISOKI iranski izvori rekli su Reutersu da je većina visoko obogaćenog uranijuma na lokaciji Fordo uklonjena pre američkog napada.
22. 06. 2025. u 10:37
SLIKA IZ SRBIJE KOJA SLAMA SRCE: Tragičan razlog zašto roda 2 dana ne napušta zgarište - izgorelo 2 hektara žita
SVAKE godine, uprkos molbama i apelima, veliki broj ljudi pali strljiku i na taj način dolazi do požara u kojima stradaju tuđi usevi, ali nažalost i životi nevinih bića.
27. 06. 2025. u 16:50
Najnovije iz rubrike
KINESKI NAUČNICI: Otkrili genetski prekidač za regeneraciju tkiva kod sisara
KINESKI naučnici postigli su veliki napredak u regenerativnoj medicini otkrićem genetskog prekidača koji može da obnovi sposobnost lečenja kod sisara, što bi moglo da predstavlja revoluciju u lečenju oštećenja organa i povreda.
28. 06. 2025. u 00:33
ZVUČI KAO NAUČNA FANTASTIKA ALI NIJE: Morski puž krade delove tela iz plena i dobija njegove moći
MOŽDA izgleda kao nešto čemu je mesto u naučnofantastičnim stripovima, ali jedan neobičan morski puž zapravo može da krade delove tela od drugih organizama i koristi njihove sposobnosti za sebe.
28. 06. 2025. u 00:00
NAUČNO OTKRIĆE: Evo gde se nalaze najstarije stene na Zemlji
UZ istočnu obalu Hadsonovog zaliva u severoistočnoj kanadskoj pokrajini Kvebek, u blizini inuitskog naselja Inukjuak, nalazi se pojas vulkanskih stena mešavine tamnozelenih i svetlozelenih boja, sa flekama ružičaste i crne, za koje je novo istraživanje pokazalo da su najstarije poznate stene na Zemlji.
27. 06. 2025. u 23:10
Svi to radimo leti, a nismo svesni da UNIŠTAVAMO auto
IPAK, iako auto-klima zaista pruža snažno osveženje i efikasnije hladi od otvorenih prozora, njen pogrešan rad može izazvati više štete nego koristi.
27. 06. 2025. u 21:54
DNEVNI HOROSKOP ZA SUBOTU 28. JUN: Ovan čeka rasplet nekog događaja, Lav da pazi na troškove, Strelac se prilagođava mlađem članu porodice
SAZNAJTE šta vas u subotu, 28. juna, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
27. 06. 2025. u 20:00
Komentari (0)