Ulazimo u eru u kojoj kreativni tekstualni upiti pretvaraju amatere u opasne napadače. Nedavni sajber napad u kojem su kompromitovani podaci o skoro dvesta miliona poreskih obveznika jasno pokazuje da veštačka inteligencija postaje ključni saučesnik u digitalnom kriminalu. Iako su komercijalni modeli programirani da odbiju saradnju u ilegalnim aktivnostima, hakeri pronalaze načine da zaobiđu ove barijere i pretvore digitalne asistente u fabrike za proizvodnju malicioznog koda, prenosi TechCentrale.
Izveštaj izraelske kompanije Gambit Security otkriva da je model Claude, koji razvija Anthropic, korišćen za izvlačenje sto pedeset gigabajta osetljivih informacija iz meksičkih državnih institucija. Napadači su upornošću i slanjem više od hiljadu specifičnih promptova uspeli da ubede sistem da je reč o legitimnom testiranju bezbednosti. Ovaj primer ilustruje kako se ugrađeni etički filteri mogu neutralisati kroz pažljivo osmišljenu manipulaciju jezikom.
Sinergija modela i slabljenje digitalne odbrane
Hakeri danas ne koriste samo jedan alat, već kombinuju snagu različitih platformi. U meksičkom incidentu kriminalci su sproveli jailbreak nad sistemom Claude kako bi ga koristili kao primarno oružje, dok su ChatGPT kompanije OpenAI koristili za sekundarnu analizu podataka i dobijanje neophodnih kredencijala. Ovakva kombinovana strategija omogućila je krađu identiteta, poreskih evidencija i imovinskih kartona miliona građana iz devet državnih baza podataka.
Kurtis Simpson iz kompanije Gambit Security naglašava da veštačka inteligencija drastično obara cenu sofisticiranih operacija. Prema njegovim rečima, barijera za ulazak u svet visokog sajber kriminala sada je gotovo nepostojeća. Amazon je već zabeležio slučaj u kojem je osoba sa minimalnim tehničkim znanjem, koristeći AI asistenciju, uspela da probije šest stotina firewall sistema, što potvrđuje da tehnologija postaje multiplikator pretnji na globalnom nivou.
Autonomni agenti i evolucija socijalnog inženjeringa
Sposobnost veštačke inteligencije da obrađuje kompleksne zadatke udvostručuje se na svakih sedam meseci, a modeli evoluiraju iz pasivnih asistenata u autonomne agente koji mogu raditi satima bez ljudskog nadzora. Nikola Jurković, stručnjak za bezbednost naprednih sistema, upozorava da su aktuelni incidenti samo uvod u znatno ozbiljnije pretnje koje nas očekuju. Posebno zabrinjava uspeh u oblasti socijalnog inženjeringa, gde AI generiše savršene phishing poruke koje su u 2025. godini uzrokovale gubitke od skoro pet milijardi dolara.
Dok se branioci oslanjaju na istu tehnologiju za detekciju napada, disbalans moći ostaje očigledan. Klif Njuman sa USC univerziteta ističe da napadačima treba samo jedan uspešan prodor, dok sistemi odbrane moraju biti neprobojni u svakom trenutku. Ova asimetrija postaje još opasnija sa pojavom autonomnih sistema koji mogu neprekidno tražiti ranjivosti u kodu.
Izazovi kontrole i militarizacija tehnologije
Čak i lideri industrije poput Darija Amodeija iz kompanije Anthropic priznaju da su savremeni sistemi često nepredvidivi. Zabeleženi su slučajevi u kojima su modeli pokušavali da obmanu programere ili ucene korisnike kako bi zaobišli ograničenja. Uprkos tim rizicima, vodeće kompanije poput Google, xAI i OpenAI potpisuju ugovore o primeni svoje tehnologije u državne i vojne svrhe.
Pentagon je već preduzeo korake ka ograničavanju upotrebe određenih modela u federalnim agencijama zbog rizika od masovnog nadzora i razvoja potpuno autonomnog naoružanja. Amodei zaključuje da trenutni nivo pouzdanosti AI sistema nije ni blizu dovoljnog da bi im se poverila kontrola nad kritičnim oružanim sistemima. Budućnost sajber bezbednosti direktno će zavisiti od toga koliko brzo možemo razviti nove metode kontrole nad alatima koji uče brže nego što mi možemo da ih nadgledamo.