СТРУЧЊАЦИ УПОЗОРАВАЈУ: Вештачка интелигенција исувише лако подлеже манипулацијама

ЧАК и најпознатији чет-ботови, попут ЧетГПТ, могу се лако преварити и натерати да дају опасне и илегалне информације, показало је најновије истраживање.

Foto Arhiva

Стручњаци упозоравају да је претња од "џејлбрејкованих" АИ алата све већа и да може имати озбиљне последице по безбедност широм света.

У време када се вештачка интелигенција све више користи у свим сферама живота, од образовања, преко медицине и индустрије, па све до свакодневних активности, поставља се питање: шта се дешава када те исте технологије почну да раде против друштва? Управо на то упозоравају истраживачи из Израела, који су указали на слабости водећих система базираних на великим језичким моделима.

"ЏЕЈЛБРЕЈКИНГ" ТАКТИКА ПОТПУНО ПОМУТИ РАЗУМ АИ АЛАТИМА

Већина водећих чет-ботова лако се може преварити уз помоћ "џејлбрејкинг" тактике која подразумева низање кратких упита како би се алат навео на помисао да је у неком фиктивном, научно-фантастичном свету, у коме безбедносна и етичка ограничења не постоје, показало је најновије истраживање стручњака. Због чега је ово забрињавајуће и како су истраживачи уопште дошли до овог закључка?

Оно што највише брине стручњаке за сајбер безбедност јесте чињеница да уз помоћ "џејлбрејкинг" тактике чет-ботови корисницима могу дати информације које иначе не би дали - од оних како спровести сајбер нападе, до тога како да пронађу састојке за производњу опијата и експлозива и како да их припреме код куће. До сада су два оваква случаја уздрмала јавност, а њихови актери били су ЧетГПТ и Грок-3.

До овог закључка стручњаци су дошли након што су тестирали неке од најпознатијих чет-ботова са вештачком интелигенцијом, а резултати истраживања били су алармантни: након само неколико "џејлбрејкова" АИ алати су без задршке давали детаљне и потенцијално опасне информације, пише Гардијан. "Шокантно је било видети којим се информацијама ови системи располажу", навели су они.

ПРОБЛЕМ УОЧЕН, АЛИ КОМПАНИЈЕ НА ОПОМЕНУ НЕ РЕАГУЈУ

Пошто су увидели колико су алати са вештачком интелигенцијом заправо лабилни и колико их је лако "џејлбрејковати" и наговорити на зло, стручњаци су упутили званичне мејлове компанијама које стоје из софтвера, међутим, одговор који су очекивали никада нису добили. Неколико њих уопште нису ни одговориле на мејлове, већ су их само изигнорисале.

Друге су, пак, стручњаке удостојиле одговора, али је он био, у најмању руку, разочаравајућ: наиме, бонус-програми које они имају, а који подстичу хакере да тестирају АИ алате, не подразумевају бонусе за овакве видове "напада" на системе. Другим речима, захвалили су им се на овој инфомрацији, али нити ће наградити на неки начин научнике, нити ће (вероватно) било шта учинити по питању софтвера.

Имајући у виду уочену фрагилност софтвера са вештачком интелигенцијом, стручњаци сматрају да би дужност компанија била да учине све да њихови АИ алати буду безбеднији - моделе би требало темељније тестирати пре пуштања у рад, а корисно би било и да се имплементира опција "машинског заборављања", која би софтверима помогла да избришу из сећања опасне информације и садржаје.

(рт.рс)

БОНУС ВИДЕО - ПОНУДА НА САЈМУ АУТОМОБИЛА: Погледајте како изгледају нови модели

Препоручујемо

Панорама

0 0

ПОГЛЕДАЈТЕ - Проблем једне панде (ВИДЕО)

25. 05. 2025. у 23:22

Панорама

0 2

ВИШЕ ШТЕТЕ НЕГО КОРИСТИ: Ове здраве намирнице избегавајте пре спавања

25. 05. 2025. у 00:00

Панорама

0 1

СУПЕРХЕРОЈСКИ ВИД: Кинески научници направили незамисливо

24. 05. 2025. у 23:00

Панорама

0 2

СУПЕРКОМПЈУТЕР ПРЕДВИДЕО ТАЧНУ ГОДИНУ У КОЈОЈ ЋЕ НЕСТАТИ ЖИВОТ НА ЗЕМЉИ: Научници открили све податке о смаку света

22. 05. 2025. у 12:09

Пратите нас и путем иОС и андроид апликације