Krasznay Csaba: az AI-vonaton most látszólag nincs fék, kérdőjelezzünk meg nagyjából mindent, amit a képernyőn látunk
Krasznay Csaba szerint az AI nem egyszerűen új dezinformációs eszköz, hanem olyan technológia is, amely a kognitív dimenzióban képes felülírni korábbi működési logikákat. Az AIToday.hu-nak adott interjúban felvázolta az orosz módszereket - amelyek száz éve ugyanolyanok, csak az eszköztár változik -, és felvázolta, hogy a NATO hogyan kutatja a jelenséget.
A magyar választási kampány környékén látott jelenségekről szintén beszélt, és szóba került a társadalmi immunitás, az edukáció, a platformok felelőssége, valamint az Európai Unió szabályozási kísérlete és a technológia katonai szerepe. Utóbbi nagyon is valós, hiszen az AI már ma megjelenik a célmegjelölésben és az információk gyors feldolgozásában.
— Egy nemrég megosztott bejegyzése szerint a NATO egyik kutatása a kognitív hadviselés fogalmának újradefiniálására tesz kísérletet. Kikre bízta a NATO az információs műveletek kutatását, és pontosan milyen tevékenységeket vizsgáltak?
— Két különböző kutatást is olvastam arról, hogy mennyire különböző szakterületek foglalkoznak az AI-jal, illetve általában a kibertér kihívásaival. Az egyik kutatás a NATO kiberbiztonsággal foglalkozó kiválósági központjától érkezett. Azt kell tudni a NATO kiválósági központokról, hogy ezek ugyan a NATO fenntartásában és finanszírozásban működnek, de kutatóközpontok, tehát nem a NATO mint katonai szervezet véleményét tükrözik. Sokkal inkább egyfajta tudományos bázist szolgáltatnak ahhoz, hogy a tagországok ezek alapján olyan jogi aktusokat, lépéseket, stratégiákat dolgozzanak ki, amelyekből később építkezni tudnak. Ami pedig a konkrét tanulmányt illeti: ukrán tudományos kutatók publikációjáról van szó, akiket masszívan érint a kognitív hadviselés, hiszen az orosz doktrínában régóta benne van, hogy a háborúkat nem feltétlenül és nem kizárólag a csatatéren kell megnyerni, hanem a fejekben is. A kutatás érdekessége, hogy nemcsak az orosz technológiákat és narratívákat tárgyalja, hanem említést tesz a kínai, illetve általában a NATO-s, nyugati megközelítésekről is. Ahhoz pedig, hogy érthetőbb legyen a kognitív hadviselés lényege, érdemes megjegyezni: az információs térben – jelentsen ez bármit is – három dimenzióban szoktak hadat viselni.
A tanulmány ennek a harmadik dimenziónak a kiemelésével – nem meglepő módon – azt állítja, hogy van egy régi, klasszikus iránya a kognitív műveleteknek, ami a tömegmédián, tévén, újságokon keresztül történik, és amióta ezek a formátumok léteznek, jelen is van. Emellett jelentek meg az elektronikus átviteli megoldások, mint például a közösségi média, amelyeket masszívan befolyásolnak az emergens kulcstechnológiák.
— Hol húzódik a határ a klasszikus információs műveletek és az AI által felerősített befolyásolási technikák között? Miért súlyosabb az egyik, mint a másik?
— A mesterséges intelligencia tényleg egy olyan jellegű, emergens technológia, ami miatt nagyon sok mindent újra kell gondolni – a kognitív, a fizikai és a logikai dimenzióban egyaránt. Hogy ezt jobban kifejtsem: a mesterséges intelligenciával rengeteg lehetőség és rengeteg probléma is keletkezett. Miért felforgató technológia? Talán a legfontosabb az, hogy kiszámíthatatlan. Ezt úgy értem, hogy egy emberi tevékenységnek van egy jól ismert pszichológiája és motivációja. A mesterséges intelligencia ezzel szemben valószínűségi sorozatokon alapuló döntések halmaza.
Ez az alapvető problémánk a kognitív dimenzióban, tehát a befolyásolás területén is. Míg egy ember által generált tartalomnál általában tudjuk, miért pont az a végeredmény, egy AI-generált tartalomnál sokszor nem tudjuk, miért az jött ki. Itt szokás példaként említeni a hallucinációt, ami jól ismert jelenség. Nem tudjuk pontosan, hogy hallucináció során miért pont azt mondja a modell, amit mond. Nyilván tudjuk, hogy az eredeti modelleket úgy programozták, hogy megfeleljenek az emberi elvárásoknak, és ne hagyják információ nélkül a kérdezőt – még akkor sem, ha ennek az az ára, hogy az információ téves.
Míg mondjuk egy oltásellenes mozgalomnál nagyjából pontosan tudjuk, mi mozgatja őket, milyen érvekkel élnek, és milyen hatásai vannak mindennek; tudjuk azt is, hogyan kell egy ilyen mozgalmat társadalmi szinten elszigetelni a többségtől. Egy mesterséges intelligencia esetében viszont fogalmunk sincs, hogy a neki feltett kérdésekre adott válaszok hogyan fogják alakítani és eltolni a közgondolkodást. Lehet, hogy két ember nem ugyanazt a választ kapja ugyanarra a kérdésre – sőt, akár ugyanaz az ember sem, ha kétszer egymás után teszi fel.
Itt az AI-ügynökök kérdését hoznám fel. Az ügynökök segítségével olyan bámulatos sebességgel lehet elterjeszteni bármit, amire egyszerűen nem tudunk időben reagálni, aminek nem tudunk érdemben gátat szabni. Példának a gerjedés folyamatát hoznám. Mindannyian ismerjük: kell hozzá mikrofon és hangfal. Ha közel visszük őket egymáshoz, gerjedés keletkezik, ami nagyon kellemetlen. Úgy oldjuk meg, hogy lehalkítjuk, vagy eltávolítjuk egymástól az eszközöket. Az AI-ügynökök is így tudnak működni: ha nincsenek kellően kontrollált környezetben, könnyen létrejöhet egy olyan állapot, amit nem tudunk időben „elvágni”, letekerni. Kognitív műveleteknél gondoljunk csak arra, mi történik, ha álhíreket gyártanak – a választások alatt is szóba került, hogy Magyarországon voltak álprofilokból érkező tartalmak. Mi történik, ha egy sok profillal rendelkező, kifejezetten információs műveletekre kihegyezett informatikai környezetben elszabadul egy AI-ügynök? Milyen bődületes sebességgel tud elterjeszteni igaznak tűnő információkat, amelyeknek tömeges hatásuk lesz?
— Hisz a laikus tömeg nehezen is tudja tetten érni. A magyar választás kampányidőszakában hogyan találkozhattunk ezzel a jelenséggel?
— Én az újságcikkeket olvasom, illetve azokat a kutatókat követem, akik kifejezetten dezinformációval foglalkoznak. Nekem csak benyomásaim vannak, és az a benyomásom, hogy közel sem volt ez annyira profin megszervezve, mint amennyire a technológia lehetővé tette volna. Ilyenkor még működik a társadalom immunrendszere is a dezinformációval szemben. Ez a valóságra vonatkozó megélésünk: elhiszünk dolgokat, vagy nem hiszünk el dolgokat.
Egyébként ez az állam feladata lett volna, de ezt most engedjük el. A lényeg, hogy ez működik. Az AI sebességével, AI által terjesztett tartalmaknál – ahol az ügynök képes reagálni a történésekre, adott esetben gyorsabban és „hitelesebben”, mint valaki, aki a billentyűzet mögött ül – a hírek és információk terjedése nehezebben lesz követhető. Nem mondom, hogy ez megtörtént Magyarországon. Azt sem mondom feltétlenül, hogy ez történni fog. Azt mondom, hogy a technológia – különösen az AI-ügynökök elterjedésével – nagyon hamar olyan helyzetet teremthet körülöttünk, amit akkor és ott nem fogunk tudni érdemben befolyásolni, és ennek súlyos következményei lesznek.
— Milyen szerepe lehet az embernek egy olyan környezetben, ahol a dezinformációs rendszerek már képesek automatizáltan tanulni és finomhangolni az üzeneteiket? Mi itt az indító és mi a fogadó oldal szerepe?
— A legfontosabb talán az, hogy az emberiségnek tanulnia kell. Képben kell lenni azzal, hogy létezik a mesterséges intelligencia mint technológia, és legalább felületesen tudni kell, hogy mire képes. A társadalom széles rétege mostanában találkozott olyan szakkifejezésekkel, mint a deepfake. Ez egy olyan technológia, amire nincs társadalmi immunitásunk, és ezt az immunitást úgy tudjuk megszerezni, ha olyan környezetben találkozunk vele, ami még nem fáj annyira. Ez nem jelenti azt, hogy képesek leszünk biztosan felismerni ezeket a tartalmakat. Mindenféle kutatás – itt Magyarországon is – azt mutatja, hogy minél idősebb valaki, annál nehezebben ismeri fel őket. Ez persze nem jelenti azt, hogy a fiatalok 100%-osan képesek detektálni – csak arányaiban jobban, mint az idősebb generáció. De már az, hogy tudjuk: van ilyen, lehetővé teszi, hogy feltegyük a kérdést: vajon ez valós lehet-e? Ez az egyik oldala. A másik, hogy
Az Európai Unió próbál valamiféle fékeket beépíteni a rendszerbe, de úgy tűnik, hogy ebben több nagyhatalom nem érdekelt. A szabályozás – ez a fajta előrelátás – mindenképpen fontos lenne. Őszintén szólva nem látom jelét annak, hogy az államok kellő gondossággal állnának hozzá a mesterséges intelligencia korlátozásához. A harmadik dolog – és ez az OpenAI-val kapcsolatban is felmerül – a felelősség kérdése. Rögtön az volt az első gondolatom, hogy az OpenAI modelljeire nagyon sokan „rákaptak”, köztük olyanok is, akiknek fogalmuk sem volt arról, mit jelent a biztonságos üzemeltetés. És ahogy a szaksajtóban is olvashattuk, történtek olyan malőrök, amelyekre nem nagyon számítottak. Aztán erre jött rá az Anthropic a Mythos modelljével, amit ki sem engedtek hétköznapi használatra. Ha jól emlékszem, 11 szoftvercég kapta meg a modellt azzal a céllal, hogy sebezhetőségeket, hibákat keressenek benne. Vannak modellek, amelyek biztosan nem valók avatatlan kezek közé. Ha mégis odakerülnek, akkor nagyon komoly felelőssége van azoknak, akiknek a kezében ott vannak ezek a modellek, ezek az ügynökök. A szakma sem 100%-ig biztos abban, hogy mindenki képes lesz kellő gondossággal használni őket.
— Beszéltünk arról, hogy a dezinformáció ellen a megcélzott tömeg edukációjával lehet harcolni, és vannak jogi lehetőségek is. De technológiai oldalról milyen hibáik vannak ezeknek a dezinformációs műveleteknek, amelyeket ki lehetne használni? Ezt találta meg az Anthropic a Mythos-szal?
- miért kulcskérdés a társadalom „immunizálása”, például az oktatási rendszeren keresztül,
- bár az uniós DSA kiváló, a nagy technológiai cégek felett hatékonyabb kontrollra lehet szükség,
- harctéri katonai műveletekben konkrétan mire használják a mesterséges intelligenciát,
- milyen jelentősége van és lehet az AI-nak a geopolitika színpadán,
- mennyire gyorsan terjednek az AI-tartalmak – például deepfake videók –, és hogyan képesek befolyásolni a közhangulatot vagy akár egy választást.
