ДИПФЕЈК ДЕТЕКТОРИ ПАЛИ НА ТЕСТУ: Истраживачи позивају на хитна побољшања
НИЈЕДАН од 16 водећих детектора не може поуздано да идентификује лажне фотографије у стварном свету, открили су аустралијски и јужнокорејски истраживачи.
Фото Shutterstock
Недавно објављени рад на порталу arXiv, који су заједнички израдили аустралијска национална научна агенција ЦСИРО и јужнокорејски Универзитет Сунгкјункван, открио је озбиљне рањивости у постојећим дипфејк (deepfake) детекторима.
Истраживање је проценило 16 водећих детектора и показало да ниједан од њих није у стању да поуздано идентификује deepfake у стварним условима.
Методологија истраживања
Истраживачи су развили оквир у пет корака за процену алата који укључује тип дипфејка, методу детекције, припрему података, обуку модела и валидацију.
Притом су идентификовали и 18 фактора који утичу на тачност детектора који су тестирани у различитим сценаријима, укључујући црну, белу и сиву кутију.
Постојећи детектори показују озбиљне слабости, посебно када се суочавају с радовима који се не налазе у њиховим тренираним подацима, запажају истраживачи.
На пример ИЦТ (Identity Consistent Transformer), детектор трениран на лицима познатих особа, није био ефикасан у детекцији дипфејка с непознатим особама.
Детектори су пали на испиту, небитно да ли је у питању "synthesis deepfake" који генерише потпуно нова синтетичка лица, "faceswap deepfake" радовима у којима се лице једне особе замењује другим или " reeanactment deepfake" у којем се задржавају црте лица неке особе, али се мењају њени изрази.
Интеграција података
Истраживачи позивају на хитна побољшања, предлажу развој више детектора и коришћење различитих извора података како би се побољшала тачност детекције.
Наглашавају и потребу интеграције аудио, текстуалних и мета података у моделе за детекцију, као и примену стратегија попут фингерпринтинга, односно уградње вештачких и ГАН отисака у слике и видео снимке како би се боље пратило порекло дипфејка.
Прва метода укључује уградњу јединствених ознака у тренинг податке генеративних модела који се препознају у генерисаним дипфејк радовима, а друга на природне ознаке које генеративни модели остављају у генерисаним садржајима.
(б92)
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ПОГИНУО РАМОС: Шпански фудбал тугује због трагичне саобраћајне несреће
Спорт је задесила трагедија.
26. 06. 2025. у 19:11
ИЗНЕНАЂЕЊЕ? Цео дан су провели под климом, ево шта им се десило са телом
СТУДИЈА је спроведена на испитаницима од којих је половина живела у зградама са клима уређајем, а друга половина у зградама без ње.
26. 06. 2025. у 21:00
(не)COOLTURNI ОСВОЈИЛИ КУЛТУРОМ: Овације за Бојана Маровића и Банета Томашевића на Дорћолу
ОЧАРАЛИ публику наступом у Фондацији Mozzart
25. 06. 2025. у 13:00
КО ЈЕ ДРУГА ЖЕНА МУСТАФЕ САНДАЛА? Развео се од Емине, а сад љуби згодну плавушу - две деценије млађу (ФОТО)
НОВА изабраница млађа је две деценије млађа од Мустафе...
26. 06. 2025. у 17:37
КАКО ЈЕ СРБИН ИЗ ЛЕСКОВЦА ПОСТАО СЛАВНИ ИНДИЈАНСКИ ПОГЛАВИЦА? Увршћен на листу 300 најбитнијих личности у историји
ДАЛЕКИ и егзотични свет Индијанаца захватио је као манија средином прошлог века Европљане. Свако се трудио да у свој живот унесе део легендарног Дивљег запада, одушевљавајући се индијанским филмским причама.
26. 06. 2025. у 19:32
ЈЕЛЕНА ДОКИЋ СЕ ОГЛАСИЛА НАКОН СМРТИ ОЦА Није се појавила на сахрани, а сада поручила: "Изгледа да људима никада ништа није довољно добро"
ПРОШЛО је нешто више од месец дана од његове смрти...
26. 06. 2025. у 16:07
ДОГОВОРЕНО ПРИМИРЈЕ ИРАНА И ИЗРАЕЛА: Трамп - Крај рата; Бомбе САД нису уништиле нуклеарна постројења? (ФОТО/ВИДЕО)
РАТ Израела и Ирана - 11. дан.
23. 06. 2025. у 08:17 >> 00:53
ХАМНЕИ ПРЕВАРИО ТРАМПА: Америка гађала празно нуклеарно постројење?
ВИСОКИ ирански извори рекли су Реутерсу да је већина високо обогаћеног уранијума на локацији Фордо уклоњена пре америчког напада.
22. 06. 2025. у 10:37
ИСТИНА О БЕБЕКОВОМ ПОРЕКЛУ: Демантовао погрешне информације
ПЕВАЧ Жељко Бебек прославио се у бенду Бијело дугме, а онда је низао успехе и у соло каријери. Он је деценијама на јавној сцени, а мало ко зна да његово име није Жељко.
25. 06. 2025. у 16:30
Најновије из рубрике
КРАДЕ ДЕЛОВЕ ТЕЛА И ДОБИЈА ЊЕГОВЕ МОЋИ Невероватно: Ово се не дешава у филму, већ - у морима (ФОТО/ВИДЕО)
Можда изгледа као нешто чему је место у научнофантастичним стриповима, али један необичан морски пуж заправо може да краде делове тела од других организама и користи њихове способности за себе.
27. 06. 2025. у 00:22
СИНТЕТИЧКИ ГЕНОМ: Научници раде на изградњи дугачких делова људског ДНК у лабораторији
Научници на пројекту Синтетички људски геном (СyнХГ) провешће наредних пет година развијајући алате и знање за изградњу дугачких делова људског генетског кода у лабораторији, који ће бити уметнути у живе ћелије како би се разумело како генетски код функционише, преноси данас Гардијан.
26. 06. 2025. у 23:58
ИЗНЕНАЂЕЊЕ? Цео дан су провели под климом, ево шта им се десило са телом
СТУДИЈА је спроведена на испитаницима од којих је половина живела у зградама са клима уређајем, а друга половина у зградама без ње.
26. 06. 2025. у 21:00
ДНЕВНИ ХОРОСКОП ЗА ПЕТАК 27. ЈУН: Бика очекује сусрет са харизматичном особом, Лав остварује свој план, Стрелца обузимају јаке емоције
САЗНАЈТЕ шта вас у петак, 27. јуна, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
26. 06. 2025. у 20:00
КАКО ЈЕ СРБИН ИЗ ЛЕСКОВЦА ПОСТАО СЛАВНИ ИНДИЈАНСКИ ПОГЛАВИЦА? Увршћен на листу 300 најбитнијих личности у историји
ДАЛЕКИ и егзотични свет Индијанаца захватио је као манија средином прошлог века Европљане. Свако се трудио да у свој живот унесе део легендарног Дивљег запада, одушевљавајући се индијанским филмским причама.
26. 06. 2025. у 19:32
Коментари (0)