КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ПРВИ ПОПИС У СРБИЈИ У 19. ВЕКУ: Београд НИЈЕ био најбројнији
ПРВИ детаљан попис становништва у Кнежевини Србији је онај из 1834. године, према коме је у њој тада живело преко 650.000 људи.
28. 07. 2025. у 21:06
"КО ГУБИ, ИМА ПРАВО ДА СЕ ЉУДИ!" Карлеуша о Душковим увредљивим коментарима
ПЕВАЧИЦА Јелена Карлеуша отворено је говорила о односу са бившим супругом Душком Тошићем, као и о спекулацијама да је у вези са кошаркашем Николом Јовановићем.
28. 07. 2025. у 15:17
АНГЕЛА МЕРКЕЛ У ЈАВНОСТИ СА МУЖЕМ: Повукла се из политике, а улаже богатство у свој изглед – сви коментаришу једно (ФОТО)
ОНА се веома ретко појављује у јавности, али је сада направила изузетак...
28. 07. 2025. у 11:32
ШОК ЗА ПРАТИОЦЕ: Мелинина прва фотка после развода - "Њеном бившем супругу неће бити добро када је види"
МОДНА креаторка Мелина Џиновић изненадила је пратиоце фотографијом после развода.
28. 07. 2025. у 16:26
"СТРЕС, ПАНИКА, НЕМОЋ" Драгана доживела хорор у Црној Гори, хитно се огласила (ФОТО)
"СТРЕС, паника, немоћ..."
27. 07. 2025. у 13:38
"ВОЛИ ДА ИЗГЛЕДА ПРЕПЛАНУЛО": Трамп бет трунке пудера - како заиста изгледа лице америчког председника?
У ПЕТАК увече Доналд Трамп стигао је у Шкотску, а како је реч о приватној посети, прво што је урадио у преподневним часовима наредног дана био је обилазак голф терена у луксузном одмаралишту које је купио пре 11 година. За такву прилику нису му били потребни ни одело, ни пудер због које често праве шале на његов рачун, већ само омиљени асесоар - качкет.
27. 07. 2025. у 09:30
ЦЕО ШИД ТУГУЈЕ ЗА ЛЕПОМ МИЛАНОМ: Девојка (26) трагично преминула, данима се опраштају од ње на друштвеним мрежама
ДЕВОЈКА Милана Мишић (26) из Шида трагично је преминула 15. јула, а на вечни починак испраћена је два дана касније у пратњи неутешне породице, пријатеља, рођака и многобројних суграђани који се данима од ње опраштају на друштвеним мрежама.
27. 07. 2025. у 08:48
ЕКСКЛУЗИВНИ СНИМЦИ ХАПШЕЊА ШИПТАРСКОГ ТЕРОРИСТЕ: Овако је пао бивши припадник ОВК у Свилајнцу, ево за шта се сумњичи (ВИДЕО)
ШИПТАРСКИ терориста и бивши истакнути припадник терористичке ОВК Халили Лулзин, ухапшен је данас у Свилајнцу, у заједничкој акцији Безбедносно-информативне агенције, Службе за откривање ратних злочина УКП МУП-а Републике Србије, а у сарадњи са Тужилаштвом за ратне злочине.
22. 07. 2025. у 20:54
"ЖИВЕЛА САМ У АРКАНОВОМ СТАНУ" Карлеуша годинама ћутала, сада открила ТАЈНУ из прошлости: "Његова деца су ме дочекала!"
СЕЋАМ се, отворили су ми врата његови синови..."
28. 07. 2025. у 13:26
Најновије из рубрике
ОДМАХ УХАПШЕН: Таксиста силовао девојку
ТАКСИСТА је силовао девојку у Москви и приведен је, саопштио је Истражни комитет престонице.
28. 07. 2025. у 21:48
У ПУЦЊАВИ У КАЗИНУ: Убијене две особе, има и рањених
У ПУЦЊАВИ у казину у Рину, у америчкој савезној држави Невада, рано јутрос по локалном времену убијене су две особе а најмање три су повређене, јавља ЦНН позивајући се на локалну здравствену службу.
28. 07. 2025. у 21:22
КИНЕЗИ СУ УСПЕЛИ ОНО ШТО АМЕРИКАНЦИ НИСУ: Решен проблем због кога су Сједињене Државе отказале стелт дрон X‑47B (ВИДЕО)
КИНЕСКИ инжењери објавили су да су развили револуционарни софтверски алат који решава кључни проблем у дизајну стелт летелица — проблем који је, према њиховим тврдњама, довео до неуспеха америчког програма X‑47B, првог правог борбеног стеалтх дрона америчке морнарице.
28. 07. 2025. у 21:00
АКО ВАМ АУТОМОБИЛ НЕ БАЦЕ У МОРЕ... Ригорозне казне за возаче у Хрватској, свака грешка се скупо плаћа
НА снази у Хрватској су строге казне које возаче могу скупо коштати.
28. 07. 2025. у 20:49
ХУТИ ЗАРОБИЛИ РУСКОГ МОРНАРА
ХУТИ су објавили видео на којем се, наводно, налази Рус који је био на броду Eternity C, који су они потопили.
28. 07. 2025. у 20:43
Коментари (0)