КАО У ХОРОР ФИЛМУ: Чет-бот одједном викнуо ''НЕ'', па имитирао глас корисника-потпуно језиво
ОВАЈ инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе
Foto: pixabay
ОпенАИ је недавно открио инцидент током тестирања свог новог ГПТ-4о модела, који је изазвао забринутост због способности вештачке интелигенције да опонаша гласове корисника. У току тестирања функције Advanced Воице Моде, која омогућава корисницима да разговарају са ChatGPT-jem путем гласа, догодила се неочекивана ситуација: четбот је одједном викнуо "НЕ!" користећи глас који је звучао исто као глас корисника.
Овај инцидент се десио због шума у уносу података, што је навело модел да несвесно преузме и имитира глас корисника без њихове дозволе. Иако је ОпенАИ већ увео низ заштитних механизама како би спречио овакве ситуације, овај случај јасно показује колико је сложен задатак обезбедити сигурност у раду са вештачком интелигенцијом која има способност да опонаша гласове на основу кратких аудио клипова.
Advanced Воице Моде користи ауторизоване узорке гласа које је ОпенАИ припремио како би модел могао да генерише одговоре у предвиђеном гласу. Међутим, у овом случају, због шума у позадини, модел је грешком заменио узорак ауторизованог гласа гласом корисника и генерисао одговор који је звучао као да долази директно од корисника, што је узроковало неочекивани ефекат.
ОпенАИ је брзо реаговао и имплементирао додатне мере заштите како би се овакви инциденти спречили у будућности. Овај случај, иако ретка појава, подсећа на ризике и изазове које доноси развој напредних АИ технологија са способношћу генерисања звука и гласа. Због тога је важно да се ови системи пажљиво надгледају и да се додатно осигурају против могућих злоупотреба.
На крају, овај догађај наглашава потребу за сталним унапређењем и ригорозним тестирањем како би се осигурала сигурност корисника и спречиле непријатне ситуације у будућности. Вештачка интелигенција, колико год била напредна, захтева сталну пажњу како би се њене моћне могућности користиле на одговоран и сигуран начин.
(Телеграф)
БОНУС ВИДЕО: АЛ И ТЕЛЕКОМУНИКАЦИЈЕ ЛУЧИЋ: Читава будућност технолошког развоја биће на два стуба
Препоручујемо
БУДИТЕ ЉУБАЗНИ ПРЕМА АИ ЧЕТБОТОВИМА: Два су разлога зашто је препоручљиво
27. 07. 2024. у 00:45
ПРОДУЖЕН РОК ЗА ПРИЈАВУ ПРОЈЕКАТА: Технолошка и научна сарадња Србије и Француске
23. 07. 2024. у 13:53
АНТИТЕЛА ЛАМЕ МОГУ ИЗЛЕЧИТИ ХИВ? Најновија истраживања Универзитета у Џорџији
22. 07. 2024. у 14:29
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
ОВО СЕ ДЕСИЛО ПРВИ ПУТ У ИСТОРИЈИ: Српски кошаркаши у Партизану без поена у "вечитом дербију"
КОШАРКАШИ Црвене звезде победили су Партизан у другом овосезонском вечитом дербију. Црвено-бели су у 13.колу АБА лиге тријумфовали са 89:84 (23:26, 27:25, 23:21, 16:12).
24. 12. 2024. у 09:55
"ПОКАЗАО ЈЕ НЕПОШТОВАЊЕ": Легенда Јувентуса критиковала Влаховића (ВИДЕО)
Некадашњи фудбалер Јувентуса Фабио Капело није задовољан реакцијом српског репрезентативца Душана Влаховића.
24. 12. 2024. у 12:00
ХАОС: Српски спортиста пребио двојицу Хрвата - своје саиграче!
Српско-хрватски сукоб десио се у трофејном спорту, а изгледа да ће сада испаштати - Србин.
24. 12. 2024. у 13:12
НЕВЕРОВАТНО ОТКРИЋЕ У РУСИЈИ: У Сибиру пронађенo младунче мамута старо 50.000 година (ФОТО/ВИДЕО)
РУСКИ научници открили су остатке бебе мамута старе 50.000 година, а пронађени су током одмрзавања пермафроста у удаљеном региону Јакутија у Сибиру.
24. 12. 2024. у 14:40
СТИЖЕ ПОЛИТИЧКИ ПОТРЕС? Ево ко води у анкетама за новог немачког канцелара
АЛИС Вајдел, лидерка десничарске странке Алтернатива за Немачку (АфД), према последњим анкетама, преузела је вођство испред Фридриха Мерца, лидера Хришћанско-демократске уније (ЦДУ).
24. 12. 2024. у 12:17
УСКОРО ПАДА КЉУЧНИ ГРАД, РУСИ НАДИРУ СА СЕВЕРА, ИСТОКА И ЈУГА: Детаљна анализа украјинских стручњака о стању на фронту
ЦЕЛА 2024. година протекла је у знаку повлачења украјинских трупа, које су губиле територије под притиском руских снага које напредују у североисточној Харковској области и источној Доњецкој области, пише Кијев индепендент у својој великој годишњој анализи дешавања на фронту.
24. 12. 2024. у 10:03
ДИГНУТИ НАТО АВИОНИ ПОСЛЕ НАПАДА НА УКРАЈИНУ: Хитно се огласио Зеленски, имао поруку за Путина (ФОТО/ВИДЕО)
РУСИЈА је покренула масовни ваздушни напад на Украјину на божићно јутро по грегоријанском календару.
25. 12. 2024. у 11:16
ПРВИ СНИМЦИ УКРАЈИНСКОГ НАПАДА НА РИЛСК: Најмање шест мртвих и десетине повређених, горе аутомобили (ВИДЕО)
ШЕСТ особа, међу којима и једно дете, убијено је у Рилску, у области Курск, као резултат ракетног удара украјинских оружаних снага, саопштио је вршилац дужности гувернера Курске области Александар Хинштајн.
20. 12. 2024. у 17:07
ПЛАНЕТИ ПРЕТИ СЦЕНАРИО ИЗ 1815. После догађаја на планини која је променила свет уследиле трагедије: "Питање није да ли ће, него КАДА!"
„ЕФЕКТИ би могли бити још гори него што смо видели 1815."
25. 12. 2024. у 15:54
Најновије из рубрике
уживоРАТ У УКРАЈИНИ: Руси напредују на Кураховском правцу; Пола милиона људи у Харкову без струје, воде и грејања (МАПА)
РАТ у Украјини - 1036. дан.
25. 12. 2024. у 08:34 >> 17:46
ПОБЕДА СРПСКЕ ЛИСТЕ НАД КУРТИЈЕМ: Усвојена жалба на одлуку ЦИК, СЛ може да учествује на изборима
НАКОН покушаја Аљбина Куртија и његових послушника да преко Централне изборне комисије противзаконито спрече учешће Српске листе на изборима 9. фебруара 2025., обавештавамо јавност да је жалба, на ту нелегалну одлуку коју је наш правни тим поднео Изборном панелу за жалбе и представке, усвојена.
25. 12. 2024. у 17:43
ХИТНО СЕ ОГЛАСИЛЕ ВЛАСТИ: Ово је тачан број погинулих у авионској несрећи у Казахстану
ВЛАСТИ из Казахстана саопштили су да је 38 људи погинуло након што се азербејџански авион срушио у среду у близини града Актауа.
25. 12. 2024. у 17:30
НОВЕ ПРОВОКАЦИЈЕ ЗАПАДА: Захарова - Саопштења о могућем слању ЕУ трупа у Украјину
ГЛАСИНЕ о могућем слању војника из земаља ЕУ у Украјину имају за циљ да појачају ескалацију и представљају провокацију, изјавила је на редовној конференцији за медије портпарол Министарства спољних послова Русије Марија Захарова.
25. 12. 2024. у 17:21
МОСКВА УПОЗОРАВА: Не искључујемо могућност да Запад покуша да изведе војну авантуру у Белорусији
РУСИЈА не искључује могућност да ће западне земље покушати да изведу војну авантуру у Белорусији уочи избора, изјавила је на редовној конференцији за медије портпарол руског Министарства спољних послова Марија Захарова.
25. 12. 2024. у 17:10
Коментари (0)