Ijesztő dolgot csinált a Facebook mesterséges intelligenciája, le is kellett kapcsolni
A Facebook kutatói lekapcsoltak egy mesterséges intelligencia (AI) programot, miután az megalkotta a saját nyelvét. A rendszer kódszavakat talált ki, hogy hatékonyabbá tegye a kommunikációt,
de a kutatók rájöttek, hogy már nem angolt használ.
Az új nyelv mondatai az emberek számára értelmetlenek, de az AI botok számára hasznos információkat tartalmaztak. Az incidens még július elején történt, és sajátos fénytörésbe helyezi Elon Musk AI-val kapcsolatos intelmeit.
Az AI azon esetek egyike, ahol proaktív szabályozásra van szükségünk, nem pedig reaktívra. Attól tartok ugyanis, hogy ha az AI esetében reaktív szabályozási gyakorlatot folytatunk, a végén túl késő lesz
– mondta Musk az Amerikai Nemzeti Kormányzók Szövetségének megbeszélésén.
A Facebook alapítója, Mark Zuckerberg "felelőtlennek" tartotta Musk figyelmeztetését, de Musk azt válaszolta, hogy Zuckerberg "korlátozott ismeretekkel rendelkezik a témáról".
A Facebook AI rendszere képes volt más AI rendszerekkel kommunikálni, hogy eldönthesse, miként folytassa a feladatát.
Ilyesmi beszélgetés zajlott két bot között:
– Minden mást képes vagyok i i.
– A labdák zéró nekem nekem nekem nekem nekem nekem nekem.
A beszélgetés további része ezeknek a mondatoknak egy furcsa, új dialektusba ültetett változataiból állt, annak ellenére, hogy mindkét AI-t úgy programozták, hogy angolul kommunikáljanak.
Bár az angol hatékonynak tűnik az embereknek, az AI talán túlságosan terjengősnek ítélte, nem elég hatékonynak a céljai eléréshez. Mint azt Dhruv Batra, a Facebook AI kutatója elmondta a Fast Co. Designnak:
Ha például azt mondom ötször, hogy 'a', ezt lehet úgy érteni, hogy öt másolatot akarok az adott dologból. Végül is hasonló folyamat, mint a különböző gyorsírások kialakulása.
Mint kiderült, nem ez volt az első alkalom, több esetet is dokumentáltak, amikor egy mesterséges intelligencia az angol nyelvtől eltérve saját nyelvet fejlesztett ki.
Hasonló problémák felmerültek már a Google-nél és Elon Musk OpenAI laborjában. A Google esetében például az AI is olyan nyelvet fejlesztett ki, amit egyetlen ember sem értett, viszont az adott probléma leghatékonyabb ismert megoldása volt.
via The Epoch Times