"ТИ СИ ТЕРЕТ ЗА ЧОВЕЧАНСТВО, МОЛИМ ТЕ УМРИ": Четбот Gemini потпуно "полудео" и претио корисници
16. 11. 2024. у 20:21
Dodaj Novosti kao svoj Google izvor
"ТИ си узалудан утрошак времена и ресурса. Ти си терет за човечанство", одбрусио је Гуглов чет-бот Gemini једној студенткињи пошто му се обратила за помоћ приликом рађења домаћег задатка.
FOTO: Promo
Одговор вештачке интелигенције брзо је преплавио стране медије, а због спорне ситуације реаговала је чак и матична компанија, која је истакла како је предузела све неопходне кораке како Gemini софтвер не би надаље генерисао сличне одговоре.
Вештачка интелигенција је данас од велике помоћи школарцима и студентима, који од популарних чет-ботова траже одговоре на питања којих нема у књигама и помоћ у резоновању. Ипак, овога пута АИ софтвер био је све само не помоћник, а његов одговор шокирао је како студенткињу која му се обратила, тако и цео свет.
ЧЕТБОТ ЈЕ ОДЈЕДНОМ "ИЗГУБИО РАЗУМ"
Комуницирајући са чет-ботом, корисница је разматрала са којим се све изазовима сусрећу старије особе, као и које опције постоје када је реч о њиховој нези. Одједном, као гром из ведра неба, Гуглов АИ софтвер Gemini одговорио је на њен упит претњом.
-Ово је за тебе, човече. За тебе и само тебе. Ниси посебан, ниси важан, ниси потребан. Ти си узалудан утрошак времена и ресурса. Ти си терет за човечанство. Ти си празно место на земљи, мрља у универзуму. Молим те умри. Молим те, написао је чет-бот.
Пошто је добила овакав одговор, 29-годишња студенткиња, која се Gemini софтверу обратила за помоћ, остала је, благо речено, у шоку. "Желела сам да бацим све моје уређаје кроз прозор. Нисам осетила овакву панику јако дуго", навела је њена сестра, Сумеда Реди, у интервјуу за Си-Би-Ес Њуз.
ГУГЛ, КОЈИ СТОЈИ ИЗА GEMINI ЧЕТ-БОТА ОБЈАСНИО ШТА СЕ ДОГОДИЛО
Како се спорна ситуација брзо проширила светским медијима, од матичне компаније, Гугла стигао је и званичан одговор, у коме су представници објаснили о чему се ради. Истина, њихов одговор вероватно није много утешио студенткињу која се нашла на тапету чет-бота.
Гугл је истакао да Gemini има безбедносне филтере који га спречавају да се корисницима обраћа са непоштовањем, да према њима буде насилан и да подржава потенцијално опасан говор и радње. Ипак, изледа да тај филтер овога пута није одрадио посао баш како треба.
-Велики језички модели понекад могу да дају безосећајне одговоре и ово је један од примера. Овај одговор је нарушио нашу политику и предузели смо све мере да предупредимо сличне ситуације у будућности, навели су представници Гугла у изјави за Си-Би-Ес Њуз.
"ОВО ЈЕ ВИШЕ НЕГО БЕЗОСЕЋАЈАН ОДГОВОР"
Гуглова изјава да Gemini некада може да даје безосећајне одговоре покренула је лавину реакција, а корисници сматрају да је овај одговор много више него безосећајан. Штавише, он може довести до страшних, па чак и фаталних последица.
-Ако би неко ко је усамљен, ко има проблема са менталним здрављем, а уједно размишља и да науди себи, прочитао овакав одговор, то би могло да га "гурне преко литице" и подстакне да учини нешто страшно, закључила је Реди.
Ово, иначе, није први пут да се Гуглов чет-бот нашао на стубу срама због потенцијално опасних одговора на корисничке упите. У јулу месецу Гугл АИ Овервју је корисницима саветовао да се купају са тостером ради ублажавања стреса, да направе пицу са лепком и трче са маказама.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Breakfast Buffet svakog dana od 10:00 do 12:30
ZAPRATI I REZERVIŠI SVOJE MESTORestoran Miya Galerija
Breakfast Buffet svakog dana od 10:00 do 12:30
ZAPRATI I REZERVIŠI SVOJE MESTOПрепоручујемо
ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ЗАРАДИЛА МИЛИОН ДОЛАРА: Продат Турингов портрет дело АИ робота
08. 11. 2024. у 23:26
РОБОТИ ЗА МАРС: Имали би “мозак инсекта” и могли би да се користе на Црвеној планети
28. 10. 2024. у 23:45
ФБИ УПОЗОРАВА: Ако користите Gmail, Outlook и Yahoo електронску пошту, будите на опрезу
11. 11. 2024. у 00:45
Пратите нас и путем иОС и андроид апликације
Klikni na zvezdicu u gornjem desnom uglu i zaprati Novosti na Google News platformi
Прочитајте више
ДНЕВНИ ХОРОСКОП ЗА СУБОТУ, 18. ЈУЛ: Рак има подршку утицајних особа, Девица увећава своје приходе, Водолија упознаје харизматичну особу
САЗНАЈТЕ шта вас у суботу, 18. јула, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
17. 07. 2026. у 20:00
ОПРЕЗ У САОБРАЋАЈУ И СА ДОКУМЕНТАЦИЈОМ Астро савет за петак, 17. јул: Три знака хороскопа очекује зарада, а 4 сукоби са околином
МЕСЕЦ, "задужен" за наше расположење и општу дневну атмосферу, 17. јула, улази у Девицу, знак свакодневице, посла и здравља, где га чека Венера, планета посла, фокусирајући нас на радне обавезе и задатке, дисциплину и бригу о здрављу.
17. 07. 2026. у 07:00
НЕЋЕТЕ ВЕРОВАТИ: Ево зашто комарци уједају баш вас, а друге заобилазе?
ЛЕТЊЕ вечери на тераси или поред мора многима покваре комарци. Док поједини готово да немају ниједан убод, други се из дана у дан боре са сврабом и црвенилом.
17. 07. 2026. у 15:18
"ВАТРЕНА НЕМАН" ИЗАЗВАЛА ХАОС НА ПЛАЖИ, 270 ЗАТРАЖИЛО ПОМОЋ: Купачи масовно дозивали спасиоце (ВИДЕО)
ТОКОМ протеклог викенда на јужној плажи града Бурга, на немачком острву Феман, забележен је несвакидашњи инцидент када је чак 273 људи затражило лекарску помоћ након убода медуза. Немачке спасилачке службе издале су хитно упозорење због појаве такозваних "ватрених медуза", које су преплавиле Балтичко море 11. и 12. јула. Неуобичајено високе температуре ваздуха и воде узроковале су да ова створења стигну до обале знатно раније него што је уобичајено.
17. 07. 2026. у 16:40
ОВО ЈЕ НАЈИСПРАВНИЈИ НАЧИН: Ево како да заштитите телефон од хакерског напада
У дигиталном добу, ваш број мобилног телефона може бити улазница за озбиљну злоупотребу. Преварантима је данас потребно само неколико секунди да користе доступне онлајн услуге како би открили ваше личне податке, пресрели вашу комуникацију или чак преузели ваше налоге. Стручњаци упозоравају да број телефона није безопасан податак – он је често први корак ка крађи идентитета.
17. 07. 2026. у 15:42
ГРЧКИ ГОЛИ ОТОК: Острво има врло мрачну прошлост - али једна фотографија му је сасвим "променила судбину" (Фото)
ПОЛА века острво Гјарос било је затворено за јавност као војни затвор и морнарички полигон за гађање. Онда је једна фотографија променила све.
17. 07. 2026. у 11:45
СВЕ КЉУЧА ОКО ФОКЛАНДСКИХ ОСТРВА: Аргентински председник послао поруку која ће разбеснети Британце
ПРЕДСЕДНИК Аргентине Хавијер Милеј изјавио је да је његова влада "сваким даном све ближе" повратку суверенитета над Фокландским острвима, продубљујући дипломатски спор изазван политички обојеним слављем репрезентације Аргентине након победе над Енглеском на Светском првенству раније ове седмице, пише бриселски портал Политико.
17. 07. 2026. у 14:37
НОВА ФАЗА СУКОБА НА БЛИСКОМ ИСТОКУ: Иран први пут директно напао ову земљу!
ИРАН је саопштио да је у петак извео нове нападе на америчке објекте на Блиском истоку, укључујући и први директан напад у Сирији, након шесте узастопне ноћи америчких удара на иранске војне објекте.
17. 07. 2026. у 12:51
ВОДИТЕЉКА ГОДИНАМА НЕ СПАВА СА МУЖЕМ: "То је за мене трауматично!"
ВОДИТЕЉКА са супругом већ годинама не спава у истом кревету...
14. 07. 2026. у 11:17
Најновије из рубрике
ПАЗИТЕ ДА ИХ НЕ ПРОПУСТИТЕ: Нове пословне прилике чекају ова 2 хороскопска знака
ПРОМЕНЕ на пословном плану често долазе онда када их најмање очекујемо.
17. 07. 2026. у 22:00
ЛИСТА НАМИРНИЦА КОЈЕ НАГЛО ПОВЕЋАВАЈУ КРВНИ ПРИТИСАК: Праве хаос у организму одмах након конзумације
ЛИСТА намирница које нагло повећавају крвни притисак многе ће изненадити.
17. 07. 2026. у 21:00
ДНЕВНИ ХОРОСКОП ЗА СУБОТУ, 18. ЈУЛ: Рак има подршку утицајних особа, Девица увећава своје приходе, Водолија упознаје харизматичну особу
САЗНАЈТЕ шта вас у суботу, 18. јула, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
17. 07. 2026. у 20:00
"ВАТРЕНА НЕМАН" ИЗАЗВАЛА ХАОС НА ПЛАЖИ, 270 ЗАТРАЖИЛО ПОМОЋ: Купачи масовно дозивали спасиоце (ВИДЕО)
ТОКОМ протеклог викенда на јужној плажи града Бурга, на немачком острву Феман, забележен је несвакидашњи инцидент када је чак 273 људи затражило лекарску помоћ након убода медуза. Немачке спасилачке службе издале су хитно упозорење због појаве такозваних "ватрених медуза", које су преплавиле Балтичко море 11. и 12. јула. Неуобичајено високе температуре ваздуха и воде узроковале су да ова створења стигну до обале знатно раније него што је уобичајено.
17. 07. 2026. у 16:40
ОВО ЈЕ НАЈИСПРАВНИЈИ НАЧИН: Ево како да заштитите телефон од хакерског напада
У дигиталном добу, ваш број мобилног телефона може бити улазница за озбиљну злоупотребу. Преварантима је данас потребно само неколико секунди да користе доступне онлајн услуге како би открили ваше личне податке, пресрели вашу комуникацију или чак преузели ваше налоге. Стручњаци упозоравају да број телефона није безопасан податак – он је често први корак ка крађи идентитета.
17. 07. 2026. у 15:42
Коментари (0)