Szép új világ: a fake news új szintjét jelentheti Malcom, az álkommenteket író mesterséges intelligencia
A Malcom névre hallgató komment-író mesterséges intelligencia az esetek 93,5%-ában átverte az öt vezető neurális hálózati szűrőt, és ugyanez az arány 90%-os volt a „fekete doboz” jellegű fake news-szűrőkkel szemben, amelyeknek neurális hálója átláthatatlan statisztikai eljárással jut el következtetésekig.
Malcom ugyancsak jobban teljesített különböző gépi tanulási módszerekkel álkommenteket író "társainál". Például annál az algoritmusnál, amelyik véletlenszerűen másol ki szavakat vagy mondatokat valóságos kommentekből, vagy pedig egy valódi kommentben cserél ki egy pozitív vagy egy kritikus értelmű szót, hogy megtévessze a moderátorprogramokat.
Lee szerint egyelőre nemigen van ellenszer az olyan támadó GAN-ekkel szemben, mint amilyen Malcom.
Lehet ugyan több emberi moderátort vagy különböző gépi tanulási módszereket bevetni, de ezek ma még csak korlátozott sikerrel kecsegtetnek. A jövőben viszont éppen a Malcom által generált rafinált kommentekkel lehetne tanítani a moderáló algoritmusokat – tette hozzá Lee.
A kísérlet legfőbb tanulsága, hogy azok a jelenlegi gépi tanulási modellek, amilyeneket például a Facebook vagy a Twitter használ a fake news-ok kiszűrésére, még mindig kijátszhatóak. És amíg ez így van, előbb-utóbb lesznek is olyanok, akik kihasználják a biztonsági réseket, és álhírekkel árasztják el a közösségi oldalakat a legérzékenyebb pillanatokban. Ennek tudatában kell további lépéseket tenniük a soha véget nem érő technológiai versenyfutásban, ahol már mesterséges intelligenciák csatáznak mesterséges intelligenciákkal.
