Szép új világ: a fake news új szintjét jelentheti Malcom, az álkommenteket író mesterséges intelligencia
A hamis és/vagy szándékosan félrevezető információk jelentik évek óta a legnagyobb kihívást az online médiában, különösen a közösségi oldalakon.
A Facebook és a többi nagy oldal manapság már mesterséges intelligenciával próbál harcolni a dezinformációk ellen.
A gépi tanulással működő tényellenőrző algoritmusok nemcsak egy-egy poszt címét, tartalmát vagy forrását elemzik, hanem a korábbiaknál fokozottabban figyelnek a hozzá kapcsolódó kommentekre is.
De mi van akkor, ha a másik oldalon is egy mesterséges intelligencia áll, amelynek álkommentjei elhitetik, hogy a sztori valóságos? – teszi fel a kérdést a Defense One védelmi szakportál.
A pennysylvaniai egyetem kutatói egy generatív ellenséges hálózatot építettek (GAN), amelynek kommentjei átverték a legjobb kommentfigyelő mesterséges intelligenciákat is. Eredményeiket az IEEE (Institute of Electrical and Electronics Engineers) adatszerzésről szóló nemzetközi konferenciájára írt tanulmányukban tették közzé.
A GAN tulajdonképpen két, egymással szembenálló neurális hálózattal dolgozik, hogy egyfelől kimutassák, hogy egy szabályos neurális hálózat miként old meg egy problémát, és aztán megfordítják a folyamatot, hogy felfedjék a rendszer gyenge pontjait. Ez olyan, mintha egymás ellen játszatnánk két magas szinten sakkozó mesterséges intelligenciát, és az így született adatokkal képeznénk ki egy harmadikat.
„A GANt használtuk fel ravasz, ember által írtnak tűnő kommentek generálására. Volt egy olyan modulunk, amely megpróbált valóságosnak tűnő kommenteket írni, és egy másik, amelyik igyekezett a gépi kommenteket kiszűrni. Ez a két modell versengett egymással, és a végén olyan, gép által generált kommentjeink születtek, amelyeket már tényleg nehéz megkülönböztetni az ember által írtaktól” – fogalmazott Dongwon Lee, a tanulmány szerzője.