Нова правила за нову врсту обмане

Развој вештачке интелигенције све чешће се описује кроз питања продуктивности, образовања, привреде и технолошког напретка. Много ређе се о њој говори као о изазову за право. А управо ће право у наредним годинама морати да одговори на једно од најосетљивијих питања дигиталног доба: шта се дешава када се идентитет човека може уверљиво имитирати, а поверење злоупотребити брже него што институције могу да реагују.

Србији је потребна озбиљна расправа о законској регулацији превара које се изводе уз помоћ вештачке интелигенције. Не зато што је свака нова технологија опасност, нити зато што развој треба заустављати прописима. Напротив, вештачка интелигенција може донети користи у медицини, науци, привреди, јавној управи и свакодневном животу. Али баш зато што ће постати део редовног живота, њена злоупотреба мора бити јасно препозната.

Право се често креће спорије од технологије. То није необично. Закони настају кроз процедуре, расправе и институционалну проверу, док се технолошке промене шире готово тренутно. Ипак, постоји граница после које кашњење права више није само административни проблем, већ ризик за грађане и привреду.

Та граница се данас приближава.

До сада је велики део јавности дигиталне преваре повезивао са сумњивим порукама, лажним линковима, непознатим бројевима телефона или интернет страницама које покушавају да личе на странице банака и познатих компанија. Такве преваре и даље постоје. Али нови проблем је у томе што обмана постаје све уверљивија. Она више не мора бити груба, неписмена или лако препознатљива. Може бити језички исправна, визуелно уверљива, прилагођена конкретној особи и смештена у контекст који делује стварно.

Када се томе дода могућност имитације гласа, лика, стила писања или пословне комуникације, онда више није реч само о класичној интернет превари. Реч је о дубљем удару на поверење.

Поверење је један од темеља сваког уређеног друштва. Грађанин мора да верује да заиста разговара с банком када добије службено обавештење. Запослени мора да зна да налог који добија заиста долази од надређеног. Родитељ мора да може да препозна глас свог детета. Предузетник мора да буде сигуран да комуницира са стварним пословним партнером. Ако се ти сигнали могу вештачки произвести и злоупотребити, онда се пред правом поставља нов задатак.

Тај задатак није само да казни починиоца када је штета већ настала. Задатак је да унапред постави правила, одговорности и поступке који ће такве злоупотребе учинити тежим, ризичнијим и брже заустављивим.

Србија има законске одредбе које се могу применити на различите облике преваре и рачунарског криминала. Међутим, употреба вештачке интелигенције у сврху обмане отвара питања која нису довољно прецизно обухваћена. Да ли је имитација туђег гласа ради извлачења новца само један облик преваре или посебно тежак облик злоупотребе идентитета? Да ли је лажни снимак направљен ради пословне обмане исто што и обичан лажни документ? Како се доказује да је садржај вештачки створен или измењен? Ко је дужан да брзо реагује кад се превара пријави?

На ова питања не треба чекати одговор тек када се догоди велики случај.

Србији није неопходно да механички препише туђи закон. Али може да учи из искустава других. Европска унија је у својим правилима о вештачкој интелигенцији снажно нагласила питање транспарентности, односно потребу да корисник зна када има посла с вештачки створеним или измењеним садржајем. Велика Британија је у регулисању безбедности на интернету више пажње усмерила на улогу платформи и ризик да се њихове услуге користе за незаконите активности и преварно оглашавање. Сингапур је посебно истакао брзину реакције државе кад се дигитални канали користе за криминал.

Ови приступи нису исти, али показују заједничку ствар: савремена дигитална превара не може се третирати као споредна појава коју ће грађанин сам препознати ако буде довољно пажљив. Потребан је систем.

Тај систем у Србији би морао да почне од јасног правног именовања проблема. Употреба вештачке интелигенције за лажно представљање, прибављање новца, изнуду података или манипулацију пословним одлукама треба да буде препозната као посебно опасан облик обмане. Није исто када неко пошаље лажну поруку и када верно имитира глас, лик или стил комуникације особе којој жртва верује. У другом случају злоупотребљава се не само непажња, већ сам механизам поверења.

Затим треба уредити питање дигиталног идентитета. У класичном правном смислу идентитет се везује за име, документ, потпис и личне податке. У дигиталном животу идентитет је много шири. Он обухвата електронску адресу, налог, фотографију, глас, снимак, начин комуникације, па чак и контекст у којем се порука појављује. Ако се све то може технолошки копирати, право мора да прошири начин на који штити лични и пословни идентитет.

Посебно је важно питање брзине. Код класичних поступака често је могуће накнадно прикупљати документацију, сведочења и доказе. Код дигиталне преваре трагови нестају брзо. Лажни налог може бити угашен, број телефона промењен, страница уклоњена, новац пребачен даље, а поруке избрисане. Зато поступак мора бити осмишљен тако да први сати после пријаве имају стварни значај.

Грађанин који пријави превару не би смео да буде упућиван од једне институције до друге без јасног одговора. Мора да постоји познат пут поступања: где се пријављује, ко чува доказе, ко обавештава банку, ко контактира оператера или платформу, ко процењује да ли постоји основ за хитно блокирање канала преко којег се превара шири. Без таквог механизма, и најбоље кривичне одредбе делују прекасно.

У том оквиру мора се пажљиво уредити и улога приватних актера. Банке, телекомуникациони оператери, платформе и пружаоци дигиталних услуга не могу бити одговорни за сваку превару која се покуша преко њихових канала. Али кад се злоупотреба пријави, они морају имати јасне обавезе сарадње, чувања података и поступања у одређеним роковима. Заштита грађана не може зависити од добре воље или различите праксе сваке појединачне компаније.

Једнако је важно да регулација не оде у другу крајност. Борба против превара не сме постати изговор за прекомерни надзор, нејасна овлашћења или ограничење законите комуникације. Управо зато закон мора бити прецизан. Треба да циља злоупотребу, а не технологију као такву. Треба да штити грађане, али и права на приватност, слободу изражавања и правну сигурност.

Таква равнотежа није једноставна, али је неопходна.

Проблем превара уз помоћ вештачке интелигенције посебно погађа мале привредне субјекте. Велики системи имају процедуре, правне тимове и службе безбедности. Мала предузећа често немају ту врсту заштите. Њихово пословање почива на брзој комуникацији, личном поверењу и ограниченим ресурсима. Зато их једна уверљива лажна фактура, порука која изгледа као налог директора или обавештење о промени рачуна за уплату, може довести у озбиљан проблем.

Исто важи и за грађане. У јавности се жртве превара често неправедно посматрају као лаковерне. То је погрешно и опасно. Савремена обмана није усмерена само на незнање, већ на емоцију, страх, навику, поверење и притисак времена. Човек не греши увек зато што не зна, већ зато што је доведен у ситуацију да мора да реагује брзо, док му све делује уверљиво.

Зато држава не сме своју улогу свести на савет: будите опрезни. Тај савет је потребан, али није довољан. Грађанима треба јасна процедура, брза институционална реакција и сигурност да пријава има смисла. У супротном, многи ће ћутати из стида или уверења да се ништа не може учинити. А тишина је простор у којем преваранти најлакше настављају да раде.

Законски оквир треба да буде праћен сталном едукацијом. Не кампањом која траје неколико дана, већ трајним јавним објашњавањем нових ризика. Грађани треба да знају да глас више није увек доказ идентитета, да службени изглед поруке није доказ њене веродостојности и да хитност често представља средство манипулације. Фирме треба да имају једноставна правила провере плаћања и промена рачуна. Институције треба да говоре језиком који људи разумеју.

Србији је потребна расправа у којој ће учествовати правници, стручњаци за информациону безбедност, банкарски сектор, телекомуникациони оператери, представници привреде, полиција, тужилаштво и организације које се баве заштитом грађана. Ово није уско техничко питање. Ово је питање поверења у дигитални поредак.

*Специјалиста за сајбер-безбедност

Прилози објављени у рубрици „Погледи” одражавају ставове аутора, не увек и уређивачку политику листа