ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
Верујете ли КОЛИКО кошта ручак за 4 особе у Зимбабвеу? Иличић отишао у Африку и само за услугу искеширао 20 $ (ФОТО)
ШТА ви кажете? Скупо или оправдано?
21. 10. 2025. у 19:44
ОБОРЕН РЕКОРД: Имамо најбржи воз на свету - невероватно колико је јурио (ВИДЕО)
БРЗИ воз достиже убрзање од 350 километара на сат за само четири минута и 40 секунди.
21. 10. 2025. у 18:41
НОВИ ЖИВОТ РОМАНА АБРАМОВИЧА: Ћерка му напала Путина, преживео покушај тровања, сад почиње мега-повратак у фудбал!
Рат у Украјини довео је до бројних санкција Русији и Русима, а чувени богаташ и донедавно власник фудбалског клуба Челси, Роман Абрамович, није изузет из њих. Ипак, фудбалу се враћа на велика врата, ако је веровати најновијим вестима.
21. 10. 2025. у 20:18
"Недавно сам ослепела - буквално не видим! Уплашила сам се"
"БУКВАЛНО сам оћоравила, ја не видим. До скора сам имала око соколово."
21. 10. 2025. у 14:26
ЂОКОВИЋ ДОНЕО ШОК ОДЛУКУ: Ово је мало ко очекивао пред крај сезоне
Новак Ђоковић једонео одлуку која ће многе разочарати.
21. 10. 2025. у 20:03 >> 21:47
Како су кажњени Немци који су починили масакр у Крагујевцу '41? Стрељали више него што је требало
ДАНА 21. октобра 1941. године, од седам ујутру до 14 часова, у Крагујевцу догодио се један од најкрвавијих злочина које наш народ памти – масакр неколико хиљада ђака, професора, Јевреја, комуниста, обичних грађана у Шумарицама.
21. 10. 2025. у 21:01 >> 21:03
"ТО ЛИЦЕ, ТЕ УСНЕ..." Трамп поново изазвао пажњу коментаром о својој портпаролки Каролин Левит (28)
АМЕРИЧКИ председник Доналд Трамп поново је доспео у жижу јавности због необичног коментара о изгледу портпаролке Беле куће Каролин Левит.
14. 10. 2025. у 14:48
"ПЉЕСКАЛА РУКАМА И СЛАВИЛА УБИСТВО" Лавров: Сви се сећамо како је смрт Гадафија одушевила Хилари Клинтон
РУСКИ министар спољних послова Сергеј Лавров рекао је да памти како је бивша америчка државна секретарка Хилари Клинтон пљескала рукама и славила убиство либијског лидера Моамера Гадафија 2011. године и алудирао да бивши сиријски председник Башар ел Асад тренутно живи у Москви, јер су њему и његовој породици прећени сличним физичким уништењем у Сирији.
14. 10. 2025. у 13:06
"ПАЦОВИ ПОБЕГЛИ" Како је Павковић говорио после хапшења у Сабљи: "Најстрашнији је затвор у отаџбини! Војска са атентатом на Вука нема ништа"
НЕКАДАШЊИ начелник Генералштаба Војске Југославије генерал Небојша Павковић преминуо је данас у Београду, у 79. години.
20. 10. 2025. у 18:59
Најновије из рубрике
ЕВО ЗАШТО ЈЕ "ДУБАИ ЧОКОЛАДА" ПОСТАЛА ГЛОБАЛНИ ХИТ: Није због укуса
ЗВЕЗДА интернета мећу посластицама у 2025. години дефинитивно је била "Дубаи чоколада".
21. 10. 2025. у 23:00
САМО ОВА ТРИ ЗНАКА ДОБИЈАЈУ ШАНСУ ЗА НОВУ ЉУБАВ: Напокон улазе у период када се срце отвара, а прошлост коначно затвара врата!
ТРИ знака отварају срце за нову љубав — остали још траже одговоре у прошлости.
21. 10. 2025. у 22:00
ВЕЛИКО ОТКРИЋЕ: Кинези открили ретки метеорит богат водом на Месецу
КИНЕСКИ научници открили су фрагменте изузетно ретког метеорита богатог водом у узорцима месечеве прашине прикупљеним мисијом "Chang'e-6", саопштио је данас часопис "Science Alert".
21. 10. 2025. у 21:33
ОВО ЈЕ НАЈЗДРАВИЈИ НАЧИН ПРИПРЕМЕ ЦРВЕНОГ МЕСА: У супротном губи важне нутријенте
ОВА врста меса је значајна и тешко замењива у исхрани
21. 10. 2025. у 20:00
ДНЕВНИ ХОРОСКОП ЗА СРЕДУ, 22. ОКТОБАР: Бик се враћа старом плану, Лав да пази на финансије, Шкорпија све креативнија, Водолија враћа дугове
САЗНАЈТЕ шта вас у среду, 22. октобра, очекује на послу, у љубави, на здравственом плану, у дому и породици, како ћете се слагати са пријатељима...
21. 10. 2025. у 20:00
Коментари (0)