Már az átverős e-maileket is mesterséges intelligenciával íratják a bűnözők
Ismét bebizonyosodott a régi igazság: nincsen olyan emberi találmány, amelyet rossz szándékú emberek ne akarnának kihasználni saját céljaikra. Mivel a kíberbűnözés világszerte igyekszik lépést tartani az informatika hihetetlenül felgyorsult fejlődésével, senki sem csodálkozik azon, hogy alig néhány hónappal az OpenAI földindulást okozó ChatGPT-jének megjelenése után a darkweben már megjelentek az első olyan alkalmazások, amelyek azt ígérik, a mesterséges intelligenciát a bűnözés szolgálatába állítják.
A Wired magazin szerint júliusban jelentek meg az első olyan reklámok a sötét weben, amelyek azt ígérték, hogy képesek utánozni a ChatGPT és a Google Bard szöveggyártó funkcióit, válaszolnak a felhasználók kérdéseire vagy és belépésre ösztönzik őket.
A lap szerint az elmúlt hetekben két chatbot, a WormGPT és a FraudGPT hirdetései árasztották el a darkwebet. Bár a Google, a Microsoft és az OpenAI által kifejlesztett nagy nyelvi modellek (LLM-ek) számos olyan korlátozást és biztonsági megoldást tartalmaznak, amelyek megakadályozzák a mesterséges intelligencia káros felhasználását, az új chatbotok fejlesztői azt ígérik, semmilyen biztonsági korlátozásuk sincs, és minden etikai normát képesek áthágni.
A Wired újságírója ki is próbálta az egyik ilyen alkalmazást.
A WormGPT fejlesztője azt állította, hogy a rendszerét a GPTJ nyelvi modellre építették fel. Ezt a nyílt forrású modellt az EleutherAI kutatócsoport hozta létre 2021-ben. Azt azonban a fejlesztő nem árulta el, hogy milyen adatbázissal edzették a rendszert.
Még jobban dicsérte portékáját a FraudGPT alkotója, azt sugallva, hogy képes kiszűrhetetlen malverek alkotására, megtalálja e rendszerek réseit és sebezhető pontjait, továbbá olyan szövegeket tud gyártani, amelyeket fel lehet használni online csalásokra.
Rakesh Krishnan, a Netenrich biztonsági cég vezető elemzője szerint a FraudGPT-re eladója számos sötét web-fórumon, valamint Telegram-csatornákon is hirdette termékét. Közzétett egy videót is, amelyen bemutatja, miként működik a chatbot egy csalós e-mail megírásakor. A hozzáférésért havi 200 dollárt, illetve évi 1700 dollárt kért. A fejlesztő azt állította Krishnannak, hogy máris több száz előfizetője van.
Egyelőre azonban mindezt érdemes fenntartásokkal kezelni, kevés ugyanis a valós visszajelzés. Az egyik poszt alatt több mint 100 válasz olvasható. Vannak, akik azt írják, hogy a fejlesztő ritkán válaszol a kérdéseikre, mások pedig egyáltalán nincsen elragadtatva a rendszertől.
Az egész biztos hogy a bűnözők által reklámozott mesterséges intelligenciák egyike sem nagyobb teljesítményű a ChatGPT-nél, a Bardnál vagy más, kereskedelmi forgalomban elérhető LLM-nél. De az sem kizárt, hogy az egész átverés, és csak arra szolgál, hogy lehúzza az ilyesmi iránt érdeklődő többi bűnözőt.
Az azonban tény, hogy a kiberbűnözők nem akarnak kimaradni a nagy LLM-robbanásból.
Az LLM-k segíthetnek nekik a csalásokban, és az írott angolságukat is javíthatják, amelynek hibái révén manapság még viszonylag könnyen lelepleződnek. Már bizonyítottan előfordult az is, hogy jelszótolvaj malverek letöltésére vettek rá embereket a ChatGPT, a Bard és más generatív AI-rendszerek hamis Facebook-hirdetésein keresztül.
