КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ЗАШТО ЈЕ ИЗГОРЕО СИМБОЛ ЗАГРЕБА? Нови детаљи пожара у згради Вјесника, све почело због Тик Тока? Двојица тинејџера завршили у полицији
ДВОЈИЦА осамнаестогодишњака осумњичена су за подметање пожара у згради Вјесника. Ово је саопштила загребачка полиција, која је навела да је завршила кривичну истрагу против двојице осамнаестогодишњака јер се сумњиче за тешка дела против јавне безбедности и опште опасно дело.
21. 11. 2025. у 15:20
РУСКЕ ВОЈНИКЕ ОД СМРТИ СПАСИЛА - СВИЊА: Погледајте драматичан снимак са украјинског ратишта (ВИДЕО)
ДВА руска војника су спасена од дизања у ваздух након што је свиња стала на противпешадијску мину коју су оставиле украјинске трупе у повлачењу.
21. 11. 2025. у 20:45
ПАТРИЈАРХ ПАВЛЕ: "Срби несвесно праве ову грешку за Аранђеловдан..."
СРПСКА православна црква и њени верници сутра обележавају славу Аранђеловдан за коју се везују бројни обичаји, а нарочито су људи у дилеми да ли се спрема жито, јер се Свети Архангел Михаило сматра "живим свецем".
21. 11. 2025. у 16:43
ЊЕГОВУ СМРТ НИКАДА НИЈЕ ПРЕЖАЛИЛА: Чкаљина унука лудо волела овог глумца (ФОТО)
ЈОВАНА је лудо волела свог колегу...
21. 11. 2025. у 18:20
АЛКАРАЗ КАО ПРАВИ СРБИН: Погледајте шта му стоји крај ТВ-а - балканска естетика
КАРЛОС АЛКАРАЗ је на друштвеним мрежама објавио слику из дневне собе, а оно што је привукло пажњу српске публике није био он, већ окружење у којем се налази.
21. 11. 2025. у 22:45
ВОДИТЕЉ "ПИНКА" ДАО ОТКАЗ У ПРОГРАМУ УЖИВО Усред Националног дневника поручио: "Видимо се на неком другом месту"
"НАКОН пуних осам година, више нисам део ружичасте телевизије..."
21. 11. 2025. у 15:59
ТРАМПОВ ПЛАН САДРЖИ ДО САДА НЕВИЂЕНО ОБЕЋАЊЕ: "Велика победа за Зеленског и дугорочну безбедност Украјине"
МИРОВНИ план председника САД-а Доналда Трампа за Украјину садржи модел безбедносних гаранција налик члану 5 НАТО-а, што би обавезало САД и европске савезнике да напад на Украјину третирају као напад на целу „трансатлантску заједницу“, према нацрту који је објавио Axios.
21. 11. 2025. у 07:56
НАЈВЕЋА СИЛА ЕВРОПЕ РЕАГОВАЛА НА ТРАМПОВ ПЛАН: "У принципу подржавамо"
НЕМАЧКА влада саопштила је да "у принципу" подржава план Сједињених Америчких Држава за окончање рата у Украјини, али да остаје посвећена заштити украјинског суверенитета и обезбеђивању безбедносних гаранција за земљу.
21. 11. 2025. у 12:37
СВЕШТЕНИК ШОКИРАО ХРВАТСКУ: Иза олтара скривао мрачну тајну
У МАЛОМ месту крај Бенковца у Хрватској жупљане је најпре шокирало привођење жупника, а онда и неправомоћна пресуда за више казнених дела из домене дечје порнографије и сексуалног искоришћавања малолетника.
21. 11. 2025. у 13:24
Најновије из рубрике
ТРАМП НАРЕЂУЈЕ КИЈЕВУ: Зеленски мора да прихвати план, а ако му се не свиђа...
АМЕРИЧКИ председник Доналд Трамп је говорио о украјинском сукобу у Белој кући.
21. 11. 2025. у 23:23
ДЕТЕ ПОГИНУЛО У ПОЖАРУ: Троје малишана хоспитализовано
ЈЕДНО дете је погинуло, а троје је повређено у пожару у кући у Ингушетији.
21. 11. 2025. у 22:55
ЧОВИЋ: БиХ може напредовати само уз три ентитета
ПРЕДСЕДНИК ХДЗ-а Драган Човић истакао је да само кроз равнотежу између три ентитета, БиХ ће моћи напредовати и пружити једнакост свим народима.
21. 11. 2025. у 21:52
НОВИ РУСКИ АДУТ: Како је "орешник" уздрмао НАТО и Украјину
ПРЕ тачно годину дана, 21. новембра 2024. године, током комбинованог удара по украјинској војно-индустријској инфраструктури – по први пут употребљена је руска ракета средњег домета "орешник".
21. 11. 2025. у 21:33
(МАПА) ОВО ЈЕ НАЈКОНТРОВЕРЗНИЈА ТАЧКА ТРАМПОВОГ МИРОВНОГ ПЛАНА Све иде на руку Русије: Украјина губи територију величине 10 Косова!
ДЕТАЉИ мировног плана од 28 тачака америчког председника Доналда Трампа, који је јуче у Кијеву предат украјинском лидеру Владимиру Зеленском, сада су откривени.
21. 11. 2025. у 21:27
Коментари (0)