KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
MIRKA O BRAKU I PORODICI: "Nekada treba ćutati, a nekada vrištati!"
"SREĆNO provodimo praznike zato što smo na okupu i imamo vreme jedni za druge jer u današnje vreme svima nam fali još ono malo!"
06. 01. 2025. u 17:40
BIVŠA SUPRUGA PEMINULOG TRAGAČA: Glumicu gledamo u popularnoj seriji, a ovako je govorila o razvodu
REDITELj, scenarista i tragač popularne "Potere" Milorad Milinković Debeli preminuo je sinoć, saznaje Informer. On je preminuo u 60. godini.
07. 01. 2025. u 12:16
PANIKA U PRIŠTINI: Kikl dobio mandat za formiranje nove austrijske vlade, za njega Kosovo nije država
LIDER krajnje desničarske Slobodarske partije Austrije (FPO) Herbert Kikl dobio je danas mandat za formiranje nove austrijske vlade, a njegova stranka uputila je prošle godine predlog rezolucije austrijskoj Skupštini kojom zahteva da se parlament izjasni protiv priznanja tzv. Kosova.
06. 01. 2025. u 19:41
KAKO JE MOGUĆE? Otkriveno zašto je Cetinje čuvalo samo 9 policajaca u noći masakra
"U BIVŠEM sistemu su birali podobne, mi sada moramo da radimo po pravilima."
06. 01. 2025. u 11:08
ZA MLAĐEG FUDBALERA: I bivša Kebinog sina se udala u tajnosti - glumica raskinula sa Igorem tik pred venčanje
"JEDNOSTAVNO, nismo se poklopili."
06. 01. 2025. u 10:42
TUGA! Preminuo legendarni fudbaler Crvene zvezde
Nekadašnji fudbaler Crvene zvezde Dušan Maravić preminuo je u 85. godini, saopštio je klub.
07. 01. 2025. u 14:13
PANIKA U PRIŠTINI: Kikl dobio mandat za formiranje nove austrijske vlade, za njega Kosovo nije država
LIDER krajnje desničarske Slobodarske partije Austrije (FPO) Herbert Kikl dobio je danas mandat za formiranje nove austrijske vlade, a njegova stranka uputila je prošle godine predlog rezolucije austrijskoj Skupštini kojom zahteva da se parlament izjasni protiv priznanja tzv. Kosova.
06. 01. 2025. u 19:41
"OSVETA MAĐARSKOJ ZBOG PODRŠKE DONALDU TRAMPU" Sijarto oštro o sankcijama SAD-a Orbanovom šefu kabineta
MINISTAR spoljnih poslova Mađarske Peter Sijarto danas je kritikovao odluku Vašingtona da uvede sankcije šefu kabineta mađarskog premijera Viktora Orbana, Antalu Roganu, zbog sumnje da je umešan u korupciju u Mađarskoj.
07. 01. 2025. u 18:12
NIJE NI SLUTIO TRAGIČNU VEST: Memedović podelio sliku sa Miloradom dan pre njegove smrti (FOTO)
MILINKOVIĆ je otišao u crkvu na liturgiju gde mu je iznenada pozlilo.
07. 01. 2025. u 13:21
Najnovije iz rubrike
TRAMP NE ODUSTAJE: Učinimo Grenland ponovo velikim!
IZABRANI predsednik SAD Donald Tramp ponovo je govorio o Grenlandu, navodeći da treba da dođe do sporazuma o pripajanju arktičkog ostrva Sjedinjenim Državama, čemu se kategorički protivi danska vlada.
07. 01. 2025. u 18:25
"OSVETA MAĐARSKOJ ZBOG PODRŠKE DONALDU TRAMPU" Sijarto oštro o sankcijama SAD-a Orbanovom šefu kabineta
MINISTAR spoljnih poslova Mađarske Peter Sijarto danas je kritikovao odluku Vašingtona da uvede sankcije šefu kabineta mađarskog premijera Viktora Orbana, Antalu Roganu, zbog sumnje da je umešan u korupciju u Mađarskoj.
07. 01. 2025. u 18:12
KOMANDANT GLAVNE IRANSKE BAZE PVO: Novi sistemi protivvazdušne odbrane stacionirani na osetljivim lokacijama
KOMANDANT baze protivvazdušne odbrane Hatam al-Anbia – centralnog štaba iranske protivvazdušne odbrane – rekao je da je niz novih i tajnih sistema protivvazdušne odbrane instaliran u blizini osetljivih lokacija u zemlji.
07. 01. 2025. u 18:11
BAJDENOVE SANKCIJE ZA ORBANOVOG BEZBEDNJAKA: Amerika uvela sankcije protiv Antala Rogana
AMERIČKO Ministarstvo finansija danas je saopštilo da je uvelo sankcije šefu kabineta mađarskog premijera Viktora Orbana, Antalu Roganu, zbog sumnje da je umešan u korupciju u Mađarskoj.
07. 01. 2025. u 17:45
OTKRIVENA TELA SLEPIH PUTNIKA: Ovo je smrtonosan način za šverc
DVA tela pronađena su u stajnom trapu aviona američke avio-kompanije JetBlue na aerodromu u južnoj Floridi, saopštila je kompanija.
07. 01. 2025. u 17:31
Komentari (0)