'Десет одсто шанси да вештачка интелигенција у наредних десет година побије све људе': истраживач

Вештачка интелигенција (АИ) се развија толико брзо да постоји више од десет одсто шанси да би у наредних десет година „могла да побије све људе“, упозорава стручњак америчке компаније Антропик (Anthropic), која се бави вештачком интелигенцијом.

Ризик за то је тренутно „мали“, сматра Еван Хубингер, али је истовремено „забринут“ да би та технолгија веома брзо могла да постане егзистенцијална претња по човечанство.

Није прецизирао на који начин.

Међутим, његове речи најновије су у низу све озбиљнијих упозорења о вештачкој интелигенцији и где се дебата са питања „да ли је АИ заиста ризик“, премешта на поље „колики је ризик“.

Хубингер се огласио као одговор на другу објаву на друштвеној мрежи Икс, истраживача вештачке интелигенције Џејкоба Коксона, који је недавно напустио Антропик, а претходно је радио у OpenAI, компанији која ради на вештачкој интелигенцији.

„Ниједна од те две компаније не поступа одговорно“, написао је Коксон.

„Ускоро ћемо имати системе надљудских способности који могу да хакују било шта, преко ноћи револуционизују било коју област и стекну стварну моћ и ресурсе.“

Од компаније OpenAI затражен је коментар.

Венди Хол, научница која саветује Уједињене нације о питањима вештачке интелигенције, каже да су је Хубингерове и Коксонове објаве на друштвеним мрежама „шокирале“.

Део тих изјава би могао да буде „ПР и маркетинг“, имајући у виду да и Антропик и ОпенАИ иду ка дуго очекиваним изласцима на берзу, сматра, али је и забринута.

„Зашто би неко желео то да каже? Молила бих инвеститоре да не улажу у ову компанију ако је то њихов систем вредности.“

У међувремену је компанија Антропик ускратила најновији модел од британског Института за безбедност вештачке интелигенције (АИСИ), једног од водећих светских тела за процену ризика повезаних са АИ, пренео је Фајненшел тајмс.

Из Антропика су одбили да коментаришу објаве запослених, као и ситуацију са АИСИ.

Портпарол британске владе није желео да коментарише да ли је најновији модел заиста ускраћен АИСИ-ју, већ је рекао да влада „наставља блиску сарадњу са партнерима из индустрије, међу којима је и Антропик, како би модели били безбеднији“.

Нема плана за суперинтелигенцију

У објави са више од десет милиона прегледа, Хубингер „заиста искрено верује“ да вештачка интелигенција представља ризик који би могао довести до краја људске врсте.

„Верујем да Антропик даје све од себе, али још немамо план како да решимо проблем усклађивања суперинтелигенције са људским вредностима, нити се јасно крећемо у том правцу“, додао је.

Хубингер се бави такозваним АИ усклађивањем, то јест настојањем да се људске етичке идеје и принципи уграде у технологију.

Многи истраживачи сматрају да ти покушаји делују неуспешно, што су показали и бројни инциденти овог лета у којима су АИ агенти - системи вештачке интелигенције којима је дозвољено да раде аутономно - извели сајбер нападе.

Погледајте видео: Шта је вештачка интелигенција

У извештају о безбедности који је Антропик објавио у августу, компанија је навела да постоји мали ризик да њени модели постану неусклађени са циљевима хипотетички моћне организације, због чега би могли да покушају да искористе или измене њене системе.

Компанија је саопштила и да постоји сличан, мали ризик, да би веома способна вештачка интелигенција могла да „аутоматизује истраживање и развој“, што би могло да доведе до „катастрофалне штете коју би покренула АИ“.

Ипак, Антропик је додао да је у ову процену „мање сигуран“ него раније.

„Примећујемо прве знаке потенцијалног убрзања“, пише у извештају.

Водеће личности из света вештачке интелигенције годинама упозоравају на безбедносне претње које ова технологија носи.

Челници OpenAI и Антропика говорили су о томе још 2023. године.

Међутим, та упозорења су последњих недеља постала знатно озбиљнија, како се појављују докази да компаније можда имају све веће потешкоће у контроли АИ система.

Јакуб Пачоцки, главни научник компаније OpenAI, недавно је позвао на „изузетан опрез“ када је реч о напретку вештачке интелигенције, упозоривши да би могле бити потребне додатне интервенције како би се обезбедило да „људи остану ти који контролишу будућност“.

Бројне истакнуте личности из ове области последњих месеци позивају на успоравање развоја АИ-ја, међу њима и руководиоци Дарио Амодеи и Џаред Каплан, челници Антропика.

У отвореном писму 1.300 запослених у компанијама које се баве вештачком интелигенцијом, позвана је америчка владу да „подржи међународне напоре на развоју техничких и управљачких механизама потребних да се развој најсавременијих система аутоматизоване вештачке интелигенције“.

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk