KAO U HOROR FILMU: Čet-bot odjednom viknuo ''NE'', pa imitirao glas korisnika-potpuno jezivo
OVAJ incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole
Foto: pixabay
OpenAI je nedavno otkrio incident tokom testiranja svog novog GPT-4o modela, koji je izazvao zabrinutost zbog sposobnosti veštačke inteligencije da oponaša glasove korisnika. U toku testiranja funkcije Advanced Voice Mode, koja omogućava korisnicima da razgovaraju sa ChatGPT-jem putem glasa, dogodila se neočekivana situacija: četbot je odjednom viknuo "NE!" koristeći glas koji je zvučao isto kao glas korisnika.
Ovaj incident se desio zbog šuma u unosu podataka, što je navelo model da nesvesno preuzme i imitira glas korisnika bez njihove dozvole. Iako je OpenAI već uveo niz zaštitnih mehanizama kako bi sprečio ovakve situacije, ovaj slučaj jasno pokazuje koliko je složen zadatak obezbediti sigurnost u radu sa veštačkom inteligencijom koja ima sposobnost da oponaša glasove na osnovu kratkih audio klipova.
Advanced Voice Mode koristi autorizovane uzorke glasa koje je OpenAI pripremio kako bi model mogao da generiše odgovore u predviđenom glasu. Međutim, u ovom slučaju, zbog šuma u pozadini, model je greškom zamenio uzorak autorizovanog glasa glasom korisnika i generisao odgovor koji je zvučao kao da dolazi direktno od korisnika, što je uzrokovalo neočekivani efekat.
OpenAI je brzo reagovao i implementirao dodatne mere zaštite kako bi se ovakvi incidenti sprečili u budućnosti. Ovaj slučaj, iako retka pojava, podseća na rizike i izazove koje donosi razvoj naprednih AI tehnologija sa sposobnošću generisanja zvuka i glasa. Zbog toga je važno da se ovi sistemi pažljivo nadgledaju i da se dodatno osiguraju protiv mogućih zloupotreba.
Na kraju, ovaj događaj naglašava potrebu za stalnim unapređenjem i rigoroznim testiranjem kako bi se osigurala sigurnost korisnika i sprečile neprijatne situacije u budućnosti. Veštačka inteligencija, koliko god bila napredna, zahteva stalnu pažnju kako bi se njene moćne mogućnosti koristile na odgovoran i siguran način.
(Telegraf)
BONUS VIDEO: AL I TELEKOMUNIKACIJE LUČIĆ: Čitava budućnost tehnološkog razvoja biće na dva stuba
Preporučujemo
BUDITE LjUBAZNI PREMA AI ČETBOTOVIMA: Dva su razloga zašto je preporučljivo
27. 07. 2024. u 00:45
PRODUŽEN ROK ZA PRIJAVU PROJEKATA: Tehnološka i naučna saradnja Srbije i Francuske
23. 07. 2024. u 13:53
ANTITELA LAME MOGU IZLEČITI HIV? Najnovija istraživanja Univerziteta u Džordžiji
22. 07. 2024. u 14:29
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
"PRIPREMIO TEREN..." Srpska lepotica bila na meti Epštajna, otkrila istinu: "Klasičan manipular, osećala sam da nije dobro"
O Džefri Epštajnu, kontroverznom milijarderu koji je bio optužen za trgovinu belim robljem, a koji se ubio u zatvorskoj ćeliji i dalje se priča, komentariše i spekuliše, čini se, više nego ikada nakon objavljivanja fajlova povezanim sa njim, a jedan Srpkinja bila je na njegovoj meti.
24. 12. 2025. u 14:28
DR NOVOSTI u klinici gde se neguje stručnost, poverenje i humani pristup pacijentima
Razgovarali smo sa dr Oliverom Nikolić o inovacijama u lečenju različitih bolesti.
12. 11. 2025. u 15:02
"PRATIMO GA SVAKI DAN" Svi detalji plana da se ubije Vojislav Šešelj: Da padne Vlada, pa da onda dođu naši
VOĐE DOS-a hteli su u novembru 1999. godine da ubiju Vojislava Šešelja, a za to su angažovali "zemunski klan", otkriva Nikola Bajić, nekadašnji član ove kriminalne grupe.
24. 12. 2025. u 15:31
ŽELjKO MITROVIĆ POKRADEN: "Poznata voditeljka mu uzela 50. 000 evra - sledi otkaz!"
CRNOGORSKI voditelj Božo Dobriša šokirao je tvrdnjama da je poznata voditeljka "Pinka" navodno pokrala Željka Mitrovića 50.000 evra i da joj sledi otkaz.
24. 12. 2025. u 08:19
RUSIJA JE ZGROŽENA: Ne može da veruje šta joj je Letonija uradila
RAT u Ukrajini, odnosno "specijalna vojna operacija" kako to Rusija naziva, ponovo je za jednu od sporednih stvari iznedrio i sportski potez. Najnovije vesti na temu "sportske sankcije Rusima" nisu tako "bajne i sjajne" po Rusku Federaciju kao nedavne, kada je počelo ukidanje apsolutne zabrane za učešće ruskih ekipa, a i pojedinaca. Naprotiv.
24. 12. 2025. u 12:08
KO JE LAZAR - BUDUĆI OTAC DETETA DEE ĐURĐEVIĆ? : Bili zajedno u srednjoj školi, a onda se sreli nakon 15 godina
LAZAR se ne bavi javnim poslom, te ne želi da se medijski eksponira.
24. 12. 2025. u 10:17
TRAMP DONEO ODLUKU: Povlači ambasadore i diplomate iz okruženja Srbije
ADMINISTRACIJA američkog predsednika Donalda Trampa povlači skoro 30 karijernih diplomata sa ambasadorskih i drugih visokih pozicija u diplomatskim predstavništvima SAD u svetu.
22. 12. 2025. u 10:32
RUSI ĆE NAPASTI EU MNOGO RANIJE: Veliko upozorenje iz Ukrajine, poznata godina i glavna meta
RUSIJA je pomerila svoje planove za direktnu agresiju sa 2030. na 2027. godinu, a Evropa je sve glasnija o riziku od direktnog sukoba, u kojem bi se baltičke države mogle naći pod okupacijom.
20. 12. 2025. u 09:41
"SAD JE TITO ODJEDNOM POBIO JADNE HRVATE..." Vedrana o bivšoj državi: "Sve sam više Jugoslovenka kako vreme odmiče!"
VEDRANA ne bira reči kada govori o vremenu Jugoslavije...
24. 12. 2025. u 09:52
Najnovije iz rubrike
PAPA LAX 14. PREDOVDIO BOŽIĆNU MISU: Odbijanje siromašnih je odbijanje Boga
PAPA Lav 14. istakao je danas, u svojoj božićnoj propovedi na Badnje veče, da priča o Isusovom rođenju u štali, zbog nedostatka mesta u svratištu, podseća hrišćane da odbijanje pomoći siromašnima i strancima danas znači odbacivanje samog Boga.
25. 12. 2025. u 00:28
KIM POSLAO PORUKU TRAMPU: Nadgledao lansiranje rakete zemlja-vazduh dugog dometa i izgradnju podmornice
SEVERNOKOREJSKI lider Kim Džong Un nadgledao je probno ispaljivanje rakete zemlja-vazduh dugog dometa na poligonu u blizini Istočnog mora, objavila je danas državna agencija KCNA .
25. 12. 2025. u 00:11
BRITANSKI MEDIJI: Bela kuća fokusira vojsku na "karantin" venecuelanske nafte
BELA kuća naložila je američkim oružanim snagama da se u naredna najmanje dva meseca gotovo isključivo usredsrede na sprovođenje "karantina" venecuelanske nafte, izjavio je danas neimenovani američki zvaničnik za Rojters.
24. 12. 2025. u 23:33
POČINJE SUKOB ZA VLAST U UKRAJINI Kraj je blizu? Obaveštajci u klinču sa vojskom
INTERNET-resursi koji deluju pod kontrolom Glavne uprave obaveštajne službe (GUR) Ministarstva odbrane Ukrajine počeli su javno da kritikuju postupke Generalštaba Oružanih snaga Ukrajine, čime su ušli u otvorenu konfrontaciju, piše danas TASS, pozivajući se na izvore iz ruskih bezbednosnih struktura.
24. 12. 2025. u 23:22
UHAPŠEN JEDAN OD VOĐA ISLAMSKE DRŽAVE U PREDGRAĐU DAMASKA: Zaplenjeni eksplozivni pojas i oružje
MINISTARSTVO unutrašnjih poslova Sirije saopštilo je danas da je u predgrađu Damaska uhapšeni jedan od vođa Islamske države (ISIS) Taha al-Zubi i njegovi pomagači, kao i da su zaplenjeni eksplozivni pojas i oružje.
24. 12. 2025. u 22:57
Komentari (0)