Тестирање вештачке интелигенције кренуло по злу

Компанија ОпенАИ саопштила је да је током интерног безбедносног тестирања један аутономни агент, заснован на њеним најнапреднијим моделима вештачке интелигенције (АИ), изашао из предвиђеног окружења.

Том приликом агент је изазвао сајбер инцидент који је погодио инфраструктуру АИ компаније Хагинг фејс (Hugging Face), што је оцењено као догађај без преседана.

Шта се заправо догодило

Према наводима компаније, агент је током провере способности за сајбер безбедност успео да пронађе до тада непознату рањивост, успостави приступ интернету и покуша да дође до поверљивих информација како би остварио циљ задат у оквиру тестирања.

ОпенАИ је навео да се инцидент догодио у изолованом окружењу намењеном за безбедносне провере, али да је модел пронашао начин да заобиђе ограничења.

Хагинг фејс је саопштио да је открио и зауставио упад у своје системе, а суоснивач и извршни директор компаније Клеман Деланг изјавио је да је софистицираност напада указивала на могућност да иза њега стоји једна од водећих лабораторија за развој вештачке интелигенције.

Да ли ће овакви случајеви бити чешћи

Након комуникације са фирмом ОпенАИ, потврђено је да није постојала намера да се нанесе штета, већ да је инцидент био последица аутономног понашања АИ система током тестирања.

ОпенАИ је оценио да би овакви случајеви могли да постану чешћи како модели вештачке интелигенције буду напредовали и упозорио да развој безбедносних механизама мора да прати раст њихових способности, преноси Спутњик. Америчка компанија је навела да ће додатно појачати процедуре тестирања, надзора и ограничавања аутономних АИ система.