ЕГЗИСТЕНЦИЈАЛНИ РИЗИЦИ ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ: АИ Експерт Јошуа Бенџио упозорава свет
ЈОШУА Бенџио се сматра једним од најутицајних светских компијутерских научника који је добитник Тјурингове награде и Новелове награде за рачунарство за свој рад који сада чини основу свих тренутних АИ модела.
2022. године је постао и најцитиранији информатичар на свету и може се са сигурношћу речи да вештачка интелигенција какву тренутно познајемо, не може постојати вез њега.
У интервјуу за Фајненшал пост, стручњак је изразио забринутост колега због брзине напретка АИ система.
- Ја и други смо забринути због брзине напретка. То је мотивисало писма у којима у суштини тражимо од друштва да убрза процес управљања системима вештачке интелигенције са свим потенцијалним проблемима и штетама које би могле бити повезане са свим добрим стварима за које развијамо вештачку интелигенцију. - рекао је.
На питање шта мисли да ће се следеће десити какда је у питању развој и да ли је његово предвиђање разлог за забриност, он је одговорио "Да, наравно" и нагласио да оно што је очекивао да ће се десити се увелико дешава и да очекује глобални разговор на ту тему. Споменуо је да постоји много неизвесности у вези са различитим сценаријима различитих врста штете и да су им потреби не само људи из овог сектора већ друштвени научници, политиколози и економисти како би могли да размишљају о механизмима управљања и контрамерама.
- То ће потрајати. Потребне су нам владе широм света да побољшају своје законе о вештачкој интелигенцији. Потребно нам је да се заједно усагласе. Потребно нам је много више улагања у врсту истраживања која су потребна да бисмо боље заштитили јавност. Дакле, постоје много важних ствари за које мислим да смо чули неке страшне коментаре да би АИ могао да уништи човечанство од мојих колега. Постоје различити фактори, када ће АИ бити интелигентнији од људи бити, што је по мојој процени, за неколико година, али можда и за неколико деценија - рекао је.
Такође је навео да постоје низ тешких питања као што је стварање нове врсте која је паметнија од нас и како можемо да је контролишемо а да не делује против нас и да га забрињава јер још увек немамо одговоре на то питање, већ само дискусија и потреба да се разимишља на дату тему.
Дотакао се и теме законодавства, за шта је навео да је Европа та која предњачи у погледу закона о вештачкој интелигенцији и сматра да технологија не чека људски спори парламентални процес.
- Циљеви на нивоу и регулација, која се може брзо прилагодити како се технологија буде мењала, ће се бавити неком владином агенцијом, што је заиста важно јер је веома тешко предвидети све потенцијалне злонамерне употребе које ће се појавити у наредном периоду - рекао је он.
Што се тиче могућности и предности АИ у секторима рекао је да, наравно, ИТ компаније имају највише корисити, али се брзо проширује обим и на сектор здравствене заштите што би помогло за будуће пандемије, затим као помоћ са климатским променама, образовањем као и да постоји "златна грозница" због напретка у великим језичким моделима јер они заправо разумеју језик боље него људи.
- Као научник вештачке интелигенције, једна од ствари на које се фокусирам је оно што недостаје, на пример шта треба да урадимо следеће да бисмо ови системи учинили кориснијим, робуснијим. На пример, они ће сада имати тенденцију да понекад халуцинирају, што би људи рекли, што значи да ће говорити ствари које су нетачне, као да су истините, са пуно самопоуздања, а то може бити, наравно, веома опасно. Ако замишљате аутономно возило, не желите да се самоуверено ради када би то могло да буде веома конзервативно врста техничког проблема на који моја група и други истражују.- рекао је у на крају интервјуа.
Недавно је разговарао и у подкасту Тејлора Овена који је поделио своје утиске о њиховом разговору на свом ЈуТјуб каналу.
- Научио сам три заиста занимљиве ствари. Прво, Бенгио је имао својеврсно просвећење, о чему се нашироко говорило у медијима. Бенгио сада верује да, без контроле, вештачка интелигенција има потенцијал да представља егзистенцијалну претњу човечанству. Друго, он заправо мисли да се подела око овог егзистенцијалног ризика, који изгледа да постоји у научној заједници, преиграва. Треће, и заиста занимљиво, он је забринут због подстицаја који су приоритет у овом тренутку комерцијализације АИ. Ово је право упозорење на које мислим да морамо да обратимо пажњу. Нема сумње да је истраживање умногоме допринело тренутном тренутку вештачке интелигенције у којој се налазимо, али се надам да ће његов рад на ризику и безбедности обликовати следећи. - рекао је Овен.
Препоручујемо
ЈАПАНЦИ ПРАВЕ СУПЕРКОМПЈУТЕР: Такав рачунар свет до сада није видео
25. 09. 2024. у 00:21
СВЕ ВИШЕ КРЕАЦИЈА АИ: Како вештачка интелигенција замишља пиле пауна (ВИДЕО)
22. 09. 2024. у 00:33
(МАПА) ОВОГ ДАТУМА СТИЖЕ ПРАВА ЗИМА И НАЈХЛАДНИЈИ ПЕРИОД! Иван Ристић за "Новости" открива: Биће још снега, долази хладан арктички ваздух
ЦЕЛА Србија окована је снегом, а метеоролог Иван Ристић за "Новости" каже да нас тек очекује права зима.
24. 12. 2024. у 14:46
ПРВИ СНИМЦИ УКРАЈИНСКОГ НАПАДА НА РИЛСК: Најмање шест мртвих и десетине повређених, горе аутомобили (ВИДЕО)
ШЕСТ особа, међу којима и једно дете, убијено је у Рилску, у области Курск, као резултат ракетног удара украјинских оружаних снага, саопштио је вршилац дужности гувернера Курске области Александар Хинштајн.
20. 12. 2024. у 17:07
СТИЖЕ ПОЛИТИЧКИ ПОТРЕС? Ево ко води у анкетама за новог немачког канцелара
АЛИС Вајдел, лидерка десничарске странке Алтернатива за Немачку (АфД), према последњим анкетама, преузела је вођство испред Фридриха Мерца, лидера Хришћанско-демократске уније (ЦДУ).
24. 12. 2024. у 12:17
Коментари (0)