Вештачка интелигенција могла би да измакне људској контроли, упозорава Антропик

Америчка технолошка компанија Антропик упозорила је да би развој вештачке интелигенције у будућности могао да измакне људској контроли, пошто би у једном тренутку АИ системи могли да развијају и унапређују сами себе.

Најуочљивија цифра из извештаја је да више од 80 одсто кода који се уграђује у Антропиков систем данас пише Клод - АИ модел компаније, док је пре само годину и по дана тај проценат био једноцифрен.

У априлу ове године, Клод је успео да исправи грешке које би, према проценама експерата, човеку одузеле четири године.

Оно што извештај чини посебно значајним јесу подаци о напретку у истраживачким, а не само инжењерским задацима.

Када се Клод постави пред сложен истраживачки проблем без јасног циља, модел данас у 64 одсто случајева предлаже бољи следећи корак од самог истраживача - у новембру 2025. тај проценат био је 51 одсто.

Клодови АИ агенти су за 800 сати успели да реше проблем из безбедности АИ система уз успешност од 97 одсто, док су два човека достигла само 23 одсто и то у току од једне недеље.

Антропик ипак наглашава да је кључна граница још увек на снази и додаје да је Клод изванредан у извршавању задатака које му човек постави, али још увек не бира самостално који проблеми су вредни решавања.

Компанија описује три могућа сценарија за будућност: технолошки напредак се успорава и садашње могућности се само шире по економији; АИ и даље напредује, али уз сталну људску контролу над истраживачким правцима или - најдалекосежнији сценарио - АИ системи постају способни да потпуно унапређују сами себе, при чему сами пројектују и граде своје наследнике.

Антропик зато позива на успоравање или привремену паузу у развоју најнапреднијих АИ система - под условом да исто учине и сви други, како би човечанство било спремно да се носи „огромним последицама”.

Компанија је због тога на својој веб страници најавила низ разговора с креаторима политика, истраживачима и цивилним друштвом о питањима координације и надзора АИ