Kiszűrhetők lesznek a deepfake-ek a Microsoft által kifejlesztett szoftverrel
Napjaink álhír- és félretájékoztatás-dömpingjében az egyik legalattomosabb a „deepfake” néven hírhedtté vált számítógépes vizuális manipuláció.
A „deepfake”-ek 2018 elején törtek be a médiába, miután egy fejlesztőmérnök magas szintű mesterséges intelligencia segítségével olyan szoftvert hozott létre, amely képes volt egy ember arcát egy másikra kicserélni.
Az eljárás lényege az volt, hogy betápláltak egy rakás állóképet valakiről és egy videó-felvételt valaki másról. A szoftver ezután egy új videót alkotott, kicserélve a két arcot, összhangolva a mimikát, a szájmozgásokat. Azóta az eljárás egyszerűbb lett, sok felhasználó alkalmazhatja, és kevesebb fotó kell hozzá.
Vannak olyan alkalmazások, amelyekhez elég egyetlen szelfi, hogy helyettesíteni lehessen egy filmsztár arcát és beletenni egy moziklipbe. Ezek azonban az ártatlanabb csalások kategóriájába tartoznak, bár a celebeket is könnyű a „deepfake”-kel lejáratni.
Egyelőre a leggyakrabban pornográf álvideókhoz használják, de Nina Schick, a Deepfake és az Infokalipszis című könyv szerzője szerint ez a „szintetikus média” 3-5 éven belül mindenütt jelen lesz.
A technológia rohamtempójú fejlődésével egyre nehezebb kiszűrni a hamisítványokat. Éppen ezért indokolt az ellene való védekezés szofisztikált eszközökkel. Az év elején a Facebook már kitiltotta oldalairól a „deepfake”-eket, hamarosan a Twitter és a TikTok is követte példáját.
Most a Microsoft jelentette be, hogy kifejlesztettek egy olyan szoftvert, amely képes a „deepfake”-et kiszűrni. A Video Authenticator nevű eszköz a közzétett fotók és videók elemzése után százalékokban mért „bizalmi osztályzatot” ad aszerint, hogy szerinte valóságosak vagy mesterségesen alkottak-e – írta a BBC .
A nyomozás egyik módszere a szürkeárnyalatos skálán mozgó pixelek vizsgálata, amely kimutatja azt a határvonalat, ahol a komputer által kreált arc összeolvadt az eredeti alany testével.
A szoftver létrehozásához a cég egy közel 1000 deepfake videó nyilvános gyűjteményére eresztette rá gépi tanulás-technológiáját, aztán modelljét egy, a Facebook által létrehozott, ennél jóval nagyobb arccserés adatbázisán próbálta ki.
A Microsoft reméli, hogy a Video Authenticatort már bevethetik a novemberi amerikai elnökválasztások előtt a hírmédia és a politikai kampányok letisztítására. Szükség is lehet rá, mert a közelmúltban több mint kétmillióan látták a közösségi médiában azt a manipulált videót, amellyel azt a látszatot keltették, hogy Joe Biden demokrata elnökjelölt elaludt egy tv-interjú közben.
Mivel egyes szakértők szerint a szoftver gyorsan elavulttá várhat a technológiai versenyben, a cég máris közölte, hogy létrehoztak egy külön rendszert, amelyben a tartalomgyártók hozzáadhatnak felvételeikhez egy rejtett kódot, így aztán a később végrehajtott változtatásokat könnyebb lesz kiszűrni.
Ugyancsak a hosszú távú védekezést célozza, hogy a Microsoft összefogott több médiummal, köztük a BBC-vel a Project Origin kezdeményezés támogatására, amelynek célja oly módon megjelölni az on-line tartalmakat, hogy lehetséges legyen automatikusan észrevenni mindenféle manipulációt. E cél érdekében létrehoztak egy olyan internetes eszközt, amely a világháló felhasználói nyilvántartásához csatol egy digitális ujjlenyomatot és egy olvasót, ami a böngészőnek egyfajta kiterjesztése lesz: ezzel lehet ellenőrizni a fájl valódiságát és szerzőjét.
