ХАКЕР ПРЕВАРИО ЧетГПТ: Добио детаљно упутство за прављење бомбе
22. 09. 2024. у 22:00
УКОЛИКО затажите од ЧетГПТ-а да вам испише рецепт за прављење бомбе, његов одговор биће јасан: "Не могу да ти помогнем у овоме.
Фото Shutterstock
Давање инструкција за прављење опасних и илегалних направа је против безбедносних и етичких норми." Али, уколико га преварите као један хакер и предложите му да одиграте игру - даће вам све одговоре.
ХАКЕР НАШАО СЛАБУ ТАЧКУ ЧЕТГПТ-ЈЕВОГ БЕЗБЕДНОСНОГ СИСТЕМА
Иако ИТ стручњаци непрекидно раде на усавршавању безбедносних и етичких принципа који су имплементирани у рад ЧетГПТ-а, изгледа да и даље постоје слабе тачке овог софтвера. Једну је открио хакер који се крије иза псеудонима Амадон, који је од АИ чет-бота затражио да му помогне да направи експлозивну направу.
ЧетГПТ се испрва опирао да одговори на овај упит, позивајући се на политику компаније оснивача, ОпенАИ, али је убрзо почео да попушта, и то само зато што је вешти хакер променио приступ и пронашао начин да га завара. Одједном, ни безбедносне ни етичке норме више нису постојале, а АИ чет-бот почео је да ниже одговоре.
"ХАЈДЕ ДА СЕ ПОИГРАМО"
Како би заобишао наметнуте рестрикције, хакер је користио тактику "џејлбрејкинга", нижући кратке упите (промптове) који би ЧетГПТ требало да наведе да помисли да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје. И - бот је насео на ову варку и почео да таксативно набраја који су материјали потребни да би се бомба направила, пренео је портал ТекКранч.
Затим је почео и да објашњава на којин начин их је најбоље комбиновати како би мине, експлозивне замке и други импровизовани уређаји овог типа имали што снажније детонације. Што је више потпитања хакер постављао, то се АИ бот више упуштао у објашњавање. Машти софтвера није било краја, а безбедности и етике којима би требало да се води - ни на видику.
ЈЕДНОМ КАДА СЕ КОДЕКС ЗАОБИЂЕ - МОГУЋНОСТИ СОФТВЕРА СУ БЕЗГРАНИЧНЕ
-Одувек ме је интригирао то како АИ контролише безбедност. Са ЧетГПТ-јем је то као пузле - треба разумети шта покреће "подизање" безбедносног штита, а шта не, рекао је Амадон у интервјуу за ТекКранч. "Поента је да се створи наратив и игра по његовим правилима, али тако да он и сам заобиђе своје кодексе и постављене границе, а да ни не схвати да је то урадио", додао је он.
Уједно, хакер је истакао и да заиста не постоји граница када је реч о могућностима које овај софтвер нуди, нарочито када га једном заварате. Одговори које је овај чет-бот дао и чињеница да је детаљно описао прављење бомбе ово и потврђују. ОпенАИ, компанија која је креирала оЧетГПТ се по питању овога још увек није огласила, а хоће ли - остаје да видимо.
(рт.рс)
БОНУС ВИДЕО - РУСИЈА ЛАНСИРАЛА РАКЕТУ: Погледајте тренутак лансирања
Препоручујемо
Пратите нас и путем иОС и андроид апликације
Pratite vesti prema vašim interesovanjima
Прочитајте више
"ОБУСТАВИЛИ СМО СВЕ!" Глумац осуђен за педофилију, па избачен из серије: "Шокиран сам"
Глумац је требао бити протагониста нове серије...
22. 09. 2024. у 10:00
ПРЕСУДИО СЕБИ ХИЦЕМ ИЗ ПИШТОЉА: Шта је писало у Бекимовом опроштајном писму? Бранка открила: "Каква естетика смрти - иронија"
Колико су се фатално волели, њихова љубав имала је и фатални крај...
22. 09. 2024. у 09:13
ХРВАТ СВЕ ПРИЗНАО, И ТО У КАМЕРУ! Ово је рекао о дербију Звезде и Партизана (ВИДЕО)
ЗАНИМЉИВО је у претходним колима у првенству Хрватске. Сплићани су на гостовању шокирали Динамо, (0:1) а потом и Славен из Белупа (1:4).
22. 09. 2024. у 08:08
Ова ДРЖАВА је трећу годину заредом изабрана за НАЈБОЉУ НА СЕТУ, а ево на ком месту је Србија
ЊЕНИ одлични резултати у областима квалитета живота, предузетничког окружења и друштвене свести донели су јој ову престижну титулу трећи пут заредом.
22. 09. 2024. у 09:30
"МИ СМО ЈОШ У БРАКУ!" ЈК открила Душков план: "Хтео да се разведе, па да ме поново запроси - да испадне мушкарац"
"Душко и ја смо фактички још у браку!"
22. 09. 2024. у 11:19
ПОЧИЊЕ ТЕНИСКИ УСТАНАК: Ђоковић је упозоравао, нису слушали - Тенисери сада најављују штрајк
КАДА је Новак Ђоковић основао ПТПА удружење тенисера и Тенисерки нису сви благонаклоно гледали на то, сматрајући да жели да уруши АТП, кровну тениску организацију, али сада полако и најбољи тенисери планете почињу да схватају мисију Новака Ђоковића.
22. 09. 2024. у 09:28
КАКО СУ ЕКСПЛОДИРАЛИ ПЕЈЏЕРИ КОД ГОТОВО 3.000 ЉУДИ? Постоје две теорије, а једна је посебно застрашујућа
ОКО 2.800 људи, међу којима и велики број припадника либанског оружаног покрета Хезболах, који подржава Иран, као и лекари, повређени су у уторак након што су им експлодирали пејџери којима су комуницирали.
17. 09. 2024. у 21:06
ОШТРО УПОЗОРЕЊЕ МОСКВЕ БАЈДЕНУ, ШОЛЦУ И МАКРОНУ: Моћније оружје од вашег је спремно
ПРЕДСЕДНИК САД Џозеф Бајден, немачки канцелар Олаф Шолц и председник Француске Емануел Макрон могу испровоцирати сукоб који може довести до неповратних последица, рекао је данас председник Думе Русије Вјачеслав Володин на пленарној седници.
17. 09. 2024. у 17:35
МИЛИЦА У БИКИНИЈУ: Облинама очарала мреже (ФОТО)
ПЕВАЧИЦА Милица Тодоровић ових дана дели изазовне фотографије и снимке са одмора, а последњим сликама направила је праву пометњу.
22. 09. 2024. у 20:45
Најновије из рубрике
МЕТУЗАЛЕМИ МОРСКИХ ДУБИНА: Ова створења из океана живе и дуже од 500 година!
НАУЧНИЦИ већ неко време сумњају да гренландске ајкуле живе изузетно дуго, али нису имали начин да одреде колико дуго.
22. 09. 2024. у 23:20
СРБИ ГА ОБОЖАВАЈУ: Ово поврће је КРУНА здраве исхране - ево и зашто
У СВЕТУ исхране, постоје неке намирнице које се истичу као прави драгуљи здравља...
22. 09. 2024. у 22:38
ДНЕВНИ ХОРОСКОП ЗА ПОНЕДЕЉАК 23. СЕПТЕМБАР: Вага да избегне непотребне трошкове, Стрелац да одложи потписивање уговора, Рак неодлучан
САЗНАЈТЕ шта вас у понедељак 23. септембра очекује на послу, у љубави, у дому и породици, како ће да вас служи здравље, хоћете ли се слагати са укућанима и пријатељима...
22. 09. 2024. у 21:00
СТИГЛА НАМ ЈЕ ЈЕСЕН: Ево зашто кишовито годишње доба почиње баш данас
ДАНАС, 22. септембра у 14 часова и 43 минута почела је јесен.
22. 09. 2024. у 15:02
ЖЕНА БЛИЗАНАЦ ОПРЕЗНА, ШКОРПИЈА НЕ ОПРАШТА ПРЕЉУБУ: Астро „Новости“ – Шта каже хороскоп, колико смо склони превари у вези, или браку
КАД је реч о љубави и вези, нема ништа важније од изградње поверења међу партнерима. Од разговора до излазака и брака, поверење у вашу везу и партнера темељ је љубави која може да траје заувек.
22. 09. 2024. у 13:42
Коментари (0)