КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ПОСЛЕ ТРАЧА ДА ЈЕ МИЛИЦА ТРУДНА СА ЈУГОСЛАВОМ КАРИЋЕМ Његова сестра честитала и поручује: "Чуо је, није фер да се шире лажи"
ПЕВАЧИЦА Милица Тооровић ужива у трудноћи, а многи су се шокирали када су чули трач како је Југослав Карић отац Миличиног детета, што је он врло брзо демантовао.
02. 10. 2025. у 18:44 >> 18:51
НАШ ГЛУМАЦ (64) ОЖЕНИО 32 ЛЕТА МЛАЂУ КОЛЕГИНИЦУ: Ухваћени заједно у проводу, она никад провокативнија (ФОТО)
СВЕ је почело од семинарског рада...
02. 10. 2025. у 10:19
БОДИРОГА ЈЕ ТРУДНА: Скај Виклер чека дете - после ћерке Стреле, стиже још једна девојчица (ФОТО)
НАСТАСИЈА је поделила снимак на ком позира и свиленој хаљини у којој се истиче труднички стомак.
02. 10. 2025. у 18:22
ЗБОГ ПЉУВАЧКЕ СВОГ ДЕДЕ ЗАРАДИО МИЛИОНЕ: Пратили га данима, чекали да пљуне
ДЕТЕКТИВИ су почели да прате његовог деду по оцу, све док се наизглед тривијални чин – буквално пљување на улици – није претворио у јединствену прилику.
02. 10. 2025. у 17:10
ДРЕВНИ ТУРСКИ СПЕЦИЈАЛИТЕТ СА НЕКОЛИКО РАЗЛИЧИТИХ НАДЕВА: Савршено јело за доручак, вечеру или као предјело
АКО СТЕ љубитељ теста и с времена на време пожелите нешто мало другачије – на правом сте месту.
02. 10. 2025. у 19:28
ТУРСКИ ПОПИС НА КиМ ИЗ 1455: Хиљаде СРПСКИХ кућа, албанских - 46
ПРЕМА последњем попису становништа на територији АП Косово и Метохија који је спроведен почетком априла 2011. године, тамо је живјело 1,7 милиона људи.
02. 10. 2025. у 11:14
"НА СТОЛУ СУ РАТНИ ПРЕДЛОЗИ, БРИСЕЛ ХОЋЕ РАТ!" Орбан се хитно јавио из Копенхагена
МАЂАРСКИ премијер Виктор Орбан навео је из Копенхагена, где учествује на самиту Европске политичке заједнице, да је ситуација озбиљна и да се на столу налазе, "отворени, ратно оријентисани предлози".
02. 10. 2025. у 08:59
(МАПЕ) ОВАКО ЋЕ СЕ КРЕТАТИ НЕВРЕМЕ У СРБИЈИ: Погледајте из часа у час, стижу снег и киша (ФОТО)
ПОГЛЕДАЈТЕ како ће се ледени облак кретати над Србијом и које крајеве кад погађа невреме. Данас и сутра облачно са кишом и хладно, осим на северозападу Војводине где ће се задржати суво време, најавио је РХМЗ.
02. 10. 2025. у 10:47
ВЕДРАНА ОГОРЧЕНА: "Пилић је био хришћанин! Срамота за Сплит, само мртав Пилић може бити - велики Пилић"
ХРВАТСКИ тениски ас Никола Пилић преминуо је у 87. години живота у Ријеци, а сахрањен је протеклог викенда у Опатији, граду у којем је провео последње дане живота.
02. 10. 2025. у 07:20
Најновије из рубрике
(ВИДЕО) "БОГ ТЕ БЛАГОСЛОВИО БОБИ!": Кенеди кинуо усред конференције, Трамп забринут: "Надам се да се нисам заразио ковидом?"
ГЕНЕРАЛНИ директор компаније Фајзер, Алберт Бурла, такође је био присутан на конференцији за новинаре. Трамп се окренуо ка њему и рекао: „Има Паксловид, дајте ми Паксловид одмах!“ Мислио је на антивирусни лек који се користи за лечење симптома Ковида-19.
03. 10. 2025. у 09:30
ПРИНЦ ВИЛИЈАМ ДАО НАЈЛИЧНИЈИ ИНТЕРВЈУ ИКАДА: Искрено о Чарлсу и Дајани, здрављу Кејт Мидлтон и будућности круне
ПРИНЦ Вилијам, наследник британске круне, изненадио је јавност интервјуом какав до сада није давао
03. 10. 2025. у 09:14
ДОБИТНИЦИ НОБЕЛОВЕ НАГРАДЕ БИЋЕ ПОЗНАТИ СЛЕДЕЋЕ НЕДЕЉЕ: Познато шта све добијају лауреати
ДОБИТНИЦИ овогодишњих Нобелових награда биће проглашени следеће недеље.
03. 10. 2025. у 08:48
"ТО ЈЕ ЊИХОВА КРИВИЦА" Трамп: Могла би да уследе отпуштања и смањења пројеката
АМЕРИЧКИ председник Доналд Трамп изјавио је данас да би могло да дође до отпуштања државних службеника и смањења пројеката ако се федерална влада поново не отвори.
03. 10. 2025. у 08:29
ЗЕМЉОТРЕС ПОГОДИО БИХ: Тресло се код Бугојна
ЗЕМЉОТРЕС јачине 3,5 степени по Рихтеровој скали погодио је синоћ подручје Бугојна у Босни и Херцеговини.
03. 10. 2025. у 08:21
Коментари (0)