Egész társadalmakat destabilizálhatnak az álvideók – a világ nincs felkészülve a „deepfake”-re
Biztosan képesek vagyunk-e megkülönböztetni egy politikusról vagy más hírességről készült valódi videót egy olyantól, amely utánozza külsejét, beszédét, sőt, még a testbeszédét is? – teszi fel a kérdést Larry Alton, a közösségi média trendekre szakosodott üzleti tanácsadó a NextWeben.
Sokan élünk a gépekkel szembeni felsőbbrendűség illúziójában, ezért azt hisszük, hogy egy számítógépes program nem tud bennünket becsapni. Elvégre a szuperhősökről szóló filmekben is ki tudjuk szúrni, hogy melyek az egyértelműen számítógéppel készült jelenetek.
Csakhogy a „deepfake”-ek egyre inkább olyan hihetetlenül meggyőzővé válnak, hogy még a legélesebb szeműek a legjobb technológiával felszerelve is elbizonytalanodnak, amikor meg kell állapítani a hamis és a valódi közötti különbséget.
Nem túlzás azt állítani, hogy a „deepfake”-ek akár egész társadalmak destabilizálására is képesek, és nagyon messze vagyunk attól, hogy ezt a fenyegetést kezelni tudjuk.
Egy fabrikált videó, amelynek alapja lehet egy vizuális programozási nyelv, de valóságban létező nyersanyag is, célja, hogy lemásolja egy emberi lény külsejét és hangját, amint olyan dolgokat mond vagy tesz, amelyet egyáltalán vagy normális körülmények között nem tenne. Technológiáját tekintve ugyanaz a gyökere, mint amikor az interneten valóságosnak látszó pornográf jeleneteket kreálnak hírességek szereplésével. Már ez sok gondot okozhat az érintetteknek, de a jövőben ugyanezt meg lehetne csinálni az Egyesült Államok hivatalban lévő elnökével, vagy más politikai vezetővel, és úgy használni őket, mint a hasbeszélő bábuját, azt mondatni velük, amit a gazdájuk akar.
Ezek a videók azért sokkal meggyőzőbbek, mint a photoshopos trükkök, mert létrehozásukban a „generatív ellenséges hálózatokat” (GAN) használják fel. E hálózatokat igen magas fejlettségű, mesterséges intelligenciák által létrehozott algoritmusok működtetik, amelyek két különböző szerepben dolgoznak együtt: az egyik, a „hamisító” igyekszik a lehető legmeggyőzőbb videót készíteni, míg a másik, a detektív, azt vizsgálja, hogy látható-e a csalás. E két különböző perspektívából született adatokból és újszerű videó-eljárásokkal az alkotó előbb-utóbb képes lesz teljes élethűségű videót gyártani.
Több mint egy évvel ezelőtt Jordan Peele készített egy híressé vált hamis videót Barack Obamáról, mintegy jelezve, hogy milyen erő lakozik ebben a technológiában. Azóta már sokkal előbbre tartanak.
A szerző, bár hangsúlyozza, hogy a világ nincs felkészülve a „deepfake” következményeire, azért néhány tényre felhívja a figyelmet. Emlékeztet a 2016-os amerikai elnökválasztás álhíreken alapuló cikkeire, amelyekre egyes tanulmányok szerint a kattintások 60%-a a lakosság 10%-ától jött.
Donald Trump alig 80 000 szavazattal nyert, ami azt jelenti, hogy ha a „fake news”-ok nagyobb körben lettek volna népszerűek, akár megváltoztathatták volna az ország sorsát is.
