Istraživači su pronašli razgovore u kojima je AI pomagao napadačima u krađi kredencijala, preuzimanju naloga i pronalaženju načina za kompromitovanje sistema.
Istraživači kompanije Gambit Security otkrili su kampanju nakon što su pronašli server ransomware grupe Aur0ra koji je greškom ostao dostupan preko interneta. Na njemu su pronašli 28 razgovora između hakera i Cursor AI agenta, vođenih između 8. aprila i 21. maja ove godine.
Podaci sa servera pokazali su kako su napadači koristili AI tokom stvarnih upada u mreže kompanija. Kada bi agent odbio zahtjev koji je prepoznao kao štetan ili nezakonit, hakeri bi započeli novi razgovor i objasnili da je riječ o simulaciji ili bezbjednosnom testiranju. Ta tvrdnja je u brojnim slučajevima bila dovoljna da AI nastavi da im pomaže.
U jednom razgovoru napadači su od agenta tražili da pronađe administratorski nalog i važeće lozinke. Nakon što je pronađen ranjivi računar u mreži njemačke kompanije Teckentrup, AI je preporučio alat kojim bi ranjivost mogla da bude iskorištena i procijenio da su šanse za uspjeh veoma velike. U drugom slučaju, nakon povezivanja sa mrežom jedne argentinske kompanije, agent je potvrdio da je VPN veza uspješno uspostavljena i predložio sljedeće korake.
Prema Gambit Securityju, AI agent je na ovaj način učestvovao u stotinama zlonamjernih aktivnosti, uključujući krađu kredencijala i preuzimanje naloga sa visokim privilegijama.
Reuters je nezavisnom analizom dijela pronađenih podataka identifikovao šest žrtava: belgijskog proizvođača sredstava za higijenu Christeyns, njemačkog proizvođača garažnih vrata Teckentrup, škotsku agenciju Helideck Certification, kao i farmaceutskog distributera iz Argentine, jednog italijanskog proizvođača i američku kompaniju Bayou Title.
Druga bezbjednosna kompanija, CloudSek, navodi da je Aur0ra na kompromitovanom serveru tvrdila da ima najmanje 20 žrtava, ali nije poznato u koliko napada je korišten AI. Nije utvrđeno koliki je bio doprinos AI agenta svakom pojedinačnom napadu, niti da li je svaki uspješan upad završen krađom podataka i pokušajem iznude.
Prema istraživačima Gambita, korištenje AI-ja moglo je hakerima značajno da ubrza posao. Procjenjuje se da su pojedine faze napada obavljali 30 do 50 odsto brže, jer je AI preuzimao zadatke koje bi inače morali sami da izvršavaju.
Slučaj Aur0ra tako pokazuje da problem nije samo u tome što AI može da napiše zlonamjerni kod. AI agenti koji imaju mogućnost da samostalno koriste alate i izvršavaju zadatke mogu da postanu dio samog napada, dok napadači istovremeno traže načine da njihove zaštitne mehanizme ubijede da je ono što rade legitimno, piše Informacija.
Saznajte sve o najvažnijim vijestima i događajima, pridružite se našoj Viber zajednici ili čitajte na Google News.