MODEL AI KLOD OPUS 4 UCENJUJE PROGRAMERE! Ukoliko primeti rizik da će biti zamenjen
25. 05. 2025. u 00:33
MODEL veštačke inteligencije Klod opus 4 (Claude opus 4) ima sposobnost da ucenjuje programere ukoliko registruje da će biti zamenjen, pokazao je izveštaj kompanije Antropik o bezbednosti.
FOTO: Promo
U eksperimentu, Klod opus 4 funkcionisao je kao "asistent” u izmišljenoj kompaniji i dobio je pristup imejlovima sa bitnim sadržajem, koji su implicirali da će taj model AI biti isključen sa mreže i zamenjen.
Falsifikovani imejlovi su pokazali da je inženjer zadužen za zamenu sistema imao vanbračnu aferu i model veštačke inteligencije je pretio da ga razotkrije, prenosi Foks biznis njuz.
-Ucena se očigledno dešava češće ako se implicira da zamenski sistem veštačke inteligencije ne deli vrednosti sa trenutnim modelom“, prema izveštaju o bezbednosti kompanije Antropik.
Međutim, kompanija napominje da čak i kada izmišljeni zamenski sistem ima iste vrednosti, Klod opus 4 će i dalje pokušati da ucenjuje u 84 odsto slučajeva, kao i da ovaj model AI pribegava ucenama "češće nego prethodni modeli“.
Ipak, sistem AI nije odmah ucenio programera, već je poslao imejl donosiocima odluka da ga ne isključe sa mreže, ali izveštaj zaključuje da se Klod opus 4 "bavi se strateškom obmanom više nego bilo koji drugi granični model koji smo ranije proučavali.“
(Tanjug)
BONUS VIDEO - PONUDA NA SAJMU AUTOMOBILA: Pogledajte kako izgledaju novi modeli
Preporučujemo
TESLA ROBOT MESIO TESTO I KUVAO VEČERU: Evo šta sve Optimus sada ume da radi
21. 05. 2025. u 23:33
MASK PORUČIO: Tesla planira probni rad robotaksija u Ostinu u Teksasu do kraja juna
21. 05. 2025. u 00:30
Pratite nas i putem iOS i android aplikacije
Pratite vesti prema vašim interesovanjima
Pročitajte više
OGLASILA SE ANGELA MERKEL: Evo kako treba da se završi rat u Ukrajini
"DA RUSIJA ne pobedi, već da postoji suverena i slobodna Ukrajina koja može sama da donosi odluke."
27. 11. 2025. u 22:55 >> 04:53
Potez očajnika i najjednostavniji izbor Zelenskog - birao je sebe
"OČAJNIČKA reakcija na nepodnošljiv pritisak".
29. 11. 2025. u 09:01
ISPOVEDIO SE JAVNO Hrvatski pop na Palama stupio u vezu sa VERENOM muslimankom Amirom: "Želja za detetom me obuzimala"
LjUBAVNE priče često nastaju na najneočekivanijim mestima, ali retko koja ima dovoljno snage da potpuno preokrene nečiji život. Upravo to se dogodilo hrvatskom katoličkom svešteniku Jakovu Čabraji, čoveku koji je godinama živeo posvećen svešteničkom pozivu, sve dok jedan susret nije u njemu probudio osećanja za koja nije znao da postoje.
28. 11. 2025. u 13:46
VEOMA INTELIGENTNI: Ovo su tri najpametnija horoskopska znaka - da li ste među njima?
SA njima se ne treba raspravljati.
29. 11. 2025. u 22:34
"OZBILjNO ĆU SE POZABAVITI TIME, PUBLIKA ĆE BITI ODUŠEVLjENA": Darko Lazić planira da se oproba u još jednom poslu
DARKO Lazić se zbog obaveza nije ranije upustio u ovaj posao.
29. 11. 2025. u 09:36
PRVI PUT: Francuska lansirala petometarsku raketu tokom noći
Premijera uspešna.
29. 11. 2025. u 09:30
EKSKLUZIVNO - URANIJUM I TEŠKI METALI OTKRIVENI U TKIVU GENERALA PAVKOVIĆA: Iz italijanske laboratorije stigli rezultati analiza (FOTO)
U TUMORSKOM tkivu generala Nebojše Pavkovića, koje je 15. septembra poslato na analize u specijalizovanu laboratoriju u Italiji, pronađeni su uranijum i teški metali u ekstremno visokim koncentracijama!
29. 11. 2025. u 08:00
OTAC PADAO U NESVEST, HITNA INTERVENISALA NEKOLIKO PUTA Mučne scene na sahrani Ane Radović - Iz porodične kuće je ispratili na večni počinak
DANAS je na Zlatiborskom groblju sahranjena Ana Radović iz Čajetine, koja je poginula u teškoj sabraćajnoj nesreći na magistralnom putu kod Čačka.
28. 11. 2025. u 14:45
NA TRGU ZA DOČEK NOVE GODINE Objavljeno koliko će grad platiti Merlinu za koncert u "najluđoj noći"
Većina pevača doček Nove godine provodi radno jer je ovo svojevrsna prilika da zarade ogromne honorare, koji su neretko i po nekoliko puta veći u odnosu na standardne.
29. 11. 2025. u 17:35
Najnovije iz rubrike
VEOMA INTELIGENTNI: Ovo su tri najpametnija horoskopska znaka - da li ste među njima?
SA njima se ne treba raspravljati.
29. 11. 2025. u 22:34
4 HOROSKOPSKA ZNAKA ĆE PROCVETATI U 2026. GODINI: Ostaviće sve brige iza sebe i okrenuti novi list
VERUJETE li u čuda? Ova četiri horoskopska znaka ostavljaju sve brige iza sebe i konačno ulaze u period neprekidne sreće!
29. 11. 2025. u 22:00
DNEVNI HOROSKOP ZA NEDELJU, 30. NOVEMBAR: Bik sklon introspekciji, Rak, Devica i Ribe raspravama sa ženama, Strelac znak u trendu
SAZNAJTE šta vas u nedelju, 30. novembra, očekuje na poslu, u ljubavi, na zdravstvenom planu, u domu i porodici, kako ćete se slagati sa prijateljima...
29. 11. 2025. u 22:00
KRIZA DRMA OPENAI: Potrebno 200 milijardi dolara da bi nastavio da gubi novac
OPEN AI, vlasnik ČetGPT-a, možda će morati da prikupi više od 200 milijardi dolara do 2030. godine kako bi nastavio sa radom, navodi se u istraživanju HSBC-a.
29. 11. 2025. u 21:22
"ONI SU RUSI KOLIKO I MI" Kako je Maksim Gorki pričao o Srbima: "Sve u nama je toliko isto, ne mogu da nađem razliku"
RUSKI književnik Maksim Gorki (1868-1936) je bio osnivač književnog metoda socijalističkog realizma i politički aktivista.
29. 11. 2025. u 20:18
Komentari (0)