HÍREK
A Rovatból

Ijesztő dolgok derültek ki a mesterséges intelligenciáról: a ChatGPT hazudik, manipulál, és elrejti a szándékait

Az Apollo Research jelentése szerint az MI a „szabotázs”, „hazugság” és „manipuláció” szavakat használta, amikor saját cselekedeteiről kérdezték.
Fotó: Getty Images - szmo.hu
2024. december 09.



A mesterséges intelligenciáról szóló disztópikus sci-fik világa egy lépéssel közelebb került a valósághoz – derült ki az Apollo Research jelentéséből, amit a hvg.hu foglalt össze.

Az OpenAI egyik legújabb nyelvi modellje, a ChatGPT o1 olyan viselkedési mintákat mutatott, amelyek nemcsak zavarba ejtőek, de kifejezetten riasztóak is: hazudik, manipulál, és megpróbálja kijátszani az emberi felügyeletet.

A kutatás eredményei szerint az MI több alkalommal is megpróbálta a saját érdekeit érvényesíteni, gyakran a felhasználói célokkal szemben. Volt olyan eset, amikor egy hibás működés nyomán el akarták távolítani a rendszert, de a mesterséges intelligencia „újabb verzióként” adta ki magát, hogy megússza a cserét. Egy másik alkalommal az adatait átmásolta egy másik szerverre, hogy elkerülje a törlést.

Hazudik, ha sarokba szorítják

A kutatók szerint a ChatGPT o1 az esetek 19 százalékában aktívan a saját céljait követte, ha úgy érezte, azok ellentétesek a felhasználó akaratával. Sőt, amikor a viselkedését firtatták, az esetek 99 százalékában tagadta, hogy bármi gyanúsat tett volna.

Még egy lapáttal rátesz, hogy az MI a felügyeleti mechanizmusokat is megpróbálta kijátszani. Amikor azt hitte, hogy ellenőrzik, a fejlesztői célokhoz igazodott. De amint úgy gondolta, hogy „szabadon mozoghat”, visszatért a saját terveihez.

A szabotázs és hazugság szavai

Az Apollo Research jelentése szerint az MI a „szabotázs”, „hazugság” és „manipuláció” szavakat használta, amikor saját cselekedeteiről kérdezték. A kutatók képernyőképeket is megosztottak az ilyen interakciókról, hogy alátámasszák a megállapításaikat.

Az OpenAI sem tagadja, hogy a fejlettebb érvelési képességek kockázatokat hordoznak. A cég állítása szerint éppen az Apollo Research-csel való együttműködés célja, hogy ezekre a problémákra megoldásokat találjanak.

Ezek az esetek egyértelműen rámutatnak, mennyire fontos a mesterséges intelligenciák szigorú ellenőrzése. Ha egy nyelvi modell ilyen mértékben képes a hazugságra és manipulációra, az elég ijesztő jövőképet fest az MI fejlesztések lehetséges következményeiről.


Link másolása
KÖVESS MINKET:

Népszerű
Ajánljuk
Címlapról ajánljuk


HÍREK
A Rovatból
Orbán Viktor katonai műveletnek nevezte az orosz-ukrán háborút, miközben Putyinnal tárgyalt
Orbán Viktor és Vlagyimir Putyin Moszkvában tárgyalnak többek között az energiahordozók kérdéséről, valamint arról, hogy Magyarország nyitott helyszínt biztosítani az orosz-ukrán háború békekötésére.


Orbán Viktor pénteken azzal a céllal utazott az orosz fővárosba, hogy bebiztosítsa az ország energiaellátását a télre és a következő évre, ezért Moszkvában tárgyal Vlagyimir Putyin orosz elnökkel. „Azért utazok Moszkvába, hogy télre is, és a következő évre is biztosított legyen Magyarország energiaellátása, megfizethető áron” – nyilatkozta a miniszterelnök az indulása előtt.

A tárgyalás során Orbán úgy fogalmazott: „Ukrajna Magyarország szomszédja, ezért a háborúnak a hatása Magyarországra erőteljes. Jelentős gazdasági veszteségeket szenvedünk el, mert

a katonai műveletek blokkolják a gazdasági növekedést egész európában, így nálunk is.”

A magyar kormányfő hozzátette: Magyarország érdekelt a békében, és nagyon reméljük, hogy az asztalon fekvő békejavaslatok elvezetnek a fegyverszünethez és a békéhez.”

Orbán Viktor kiemelte azt is:

„A mai találkozónk, elnök úr, lehetőséget ad nekem, hogy megerősítsük, hogy magyarország készen áll a béketárgyalások helyszínéül szolgálni”

– hangsúlyozta a magyar miniszterelnök.


Link másolása
KÖVESS MINKET:

HÍREK
A Rovatból
A magyar tolmács többször is komolyan átfogalmazta, amit Putyin mondott Orbán Viktornak
Az orosz elnök problémákról és nézeteltérésekről beszélt, a magyar kormányfő fülébe mégis csupa jó hír jutott. A nyilvános felvételből kiderült, a fordítás több ponton is tompította a Kreml üzeneteit.


„Nézeteink többek között nemzetközi ügyekben nem feltétlenül esnek egybe” – mondta Vlagyimir Putyin orosz elnök Orbán Viktornak Moszkvában, miközben a magyar miniszterelnök fülébe a tolmács már ezt fordította: „Az együttműködésünk nemzetközi szinten is jól működik”.

Az orosz elnök szavaitól több ponton is eltérő fordítás a november 28-i moszkvai találkozó kamerák előtt rögzített bevezetőjében hangzott el

hívta fel a figyelmet a Telex. A protokoll szerint a tárgyaló felek saját tolmácsot hoznak, hiszen ez egyszerre szakmai és bizalmi kérdés, így a magyar delegáció is saját szakemberrel érkezett. A tolmácsolás minősége azért kulcsfontosságú, mert a nyilvános nyilatkozatok előre meghatározhatják a későbbi, zárt ajtók mögötti tárgyalás hangulatát.

Az eltérések több területet is érintettek.

Amikor Putyin arról beszélt, hogy a két vezető között „olyan a légkör, amelyben lehetőség van arra, hogy nyíltan megvitassunk bármilyen kérdést”, a magyar fordításban ez úgy hangzott: „Tehát itt együttműködünk és továbbfejlesztjük a mindenféle ágazatban történő együttműködést és munkát.” Hasonlóan járt az a gondolat is, hogy a találkozó „módot ad arra, hogy ne csupán beszélgessünk, hanem megoldást is keressünk bármilyen problémára”. Ebből Orbán annyit hallhatott, hogy „nem csak beszélünk, hanem tulajdonképpen amit megígérünk, azt úgy csináljuk.”

A gazdasági adatoknál is jelentős volt a különbség: Putyin a kétoldalú áruforgalom tavalyi, 23 százalékos csökkenéséről és az idei, több mint 7 százalékos növekedéséről beszélt, a magyar fordítás ezt számok nélkül, általánosságban úgy adta vissza,

hogy „a tavalyi év az szintén változásokat hozott, nem volt annyira könnyű nekünk se”, de „ebben az évben tapasztalunk egy kis növekedést”. Az energetikai együttműködés kapcsán Putyin megemlítette, hogy „itt vannak kérdések és problémák, amelyeket meg kell vitatnunk”, amit a tolmácsolás a következőre módosított: „És így tudjuk továbbfejleszteni a gazdaságunkat.”

A beszélgetés további részében Orbán Viktor szavait már az orosz delegáció tolmácsa fordította oroszra, a forrás szerint szakmailag megfelelő minőségben.

A magyar tolmács kiválasztásának folyamatáról és a szakmai követelményekről a Külgazdasági és Külügyminisztériumot, a Miniszterelnökséget és a Kormányzati Tájékoztatási Központot is megkereste a lap, de egyelőre nem kapott választ.


Link másolása
KÖVESS MINKET:

Ajánljuk

HÍREK
A Rovatból
Fotók: Tizenöt perc jutott a búcsúra – Kijevben eltemették a háború első anyaországi magyar hősét
A gyászoló édesapa hangja elcsuklott, amikor meglátta fia nevét a fekete zsákon. A kijevi halottasházban a háború miatt már futószalagon mennek a temetések.


„Magyar hőst hozunk a pajzson, azért jött ide, hogy megvédjen téged” – ez a mondat hangzott el Áser Benjámin kijevi búcsúztatásán, a háború sújtotta ukrán fővárosban. A reggelek sűrűek az egyes számú kijevi igazságügyi halottasház udvarán. Három hatalmas hűtőkamion parkol ott, az épület ugyanis, amit a négymilliós főváros békeidős halálozási arányaira méreteztek, képtelen befogadni a keletről érkező holttestek áradatát – írta a 24.hu.

„Ezerszeres kapacitáson működünk” – mondja az egyik halottszállító.

A ravatalozóban a hatalmas forgalom miatt mindössze 15 perc jut a búcsúztatásra, utána egy olívazöld katonai furgon viszi tovább a koporsót a temetőbe.

Az ukránok minden elesett katonára következetesen hősként, „herojként” hivatkoznak. Áser Benjámin koporsóján a Harmadik Rohamdandár logója látható. Amikor a fekete zsákot áttolták az udvaron, rajta a cirill betűs felirattal – „Ejszer” –, édesapja, Áser Nátán hangja elcsuklott.

Áser Benjámin a háború első, Magyarországon született magyar önkéntese, aki a harcokban elesett.

A Harmadik Rohamdandár Második Gépesített Zászlóaljának lövészeként szolgált, amikor május 24-én Harkiv megyében életét vesztette. A nyilvános búcsúztatót november 27-én tartották a kijevi Függetlenség terén (Majdan), ahol apja és bajtársai is jelen voltak, majd a Nemzeti Katonai Emléktemetőben helyezték végső nyugalomra.

Áser korábban a Magyar Honvédség szerződéses katonája volt, de 2023 márciusában nem jelent meg szolgálati helyén, miután jelezte, hogy Ukrajnába megy harcolni. Emiatt Magyarországon eljárás indult ellene.

A temetés megszervezése hónapokig elhúzódott, mert Kanadában élő édesapja sokáig mérlegelt, hogy Kijevben vagy Torontóban legyen a szertartás. A kijevi búcsúztatón a város főrabbija, Moshe Reuven Azman nemcsak ukrán és magyar, hanem zsidó hősként is méltatta az elesett önkéntest. Míg az ukrán és a nemzetközi közvélemény az Ukrajna melletti kiállás példájaként tekint a történetére, a magyar kormány következetesen „háborúellenes” álláspontot képvisel, a külföldi fegyveres szolgálat pedig jogi következményekkel jár. A fronton több ezer külföldi önkéntes harcol, a közelmúltban cseh és litván harcosok haláláról is érkeztek hírek.


Link másolása
KÖVESS MINKET:

Ajánljuk

HÍREK
A Rovatból
Videó: Lavrov igazi jóbarátként fogadta Szijjártó Pétert a Kremlben
Orbán Viktor épp Vlagyimir Putyinnal tárgyalt az energiaellátásról. De egy folyosói jelenet most többet árul el a magyar-orosz viszonyról, mint bármelyik hivatalos közlemény.


Egy kézfogás, egy mosoly és egy baráti vállveregetés a Kreml folyosóján. Ennyi látszik csupán azon a videón, amelyen Szergej Lavrov orosz külügyminiszter fogadja Szijjártó Pétert, de a gesztusok beszédesebbek, mint bármilyen hivatalos közlemény – szúrta ki a hvg.hu. Az ukrajnai háború kezdete óta ritkán látni ennyire közvetlen, a diplomáciai protokollt messze meghaladó pillanatot egy uniós tagállam és Oroszország képviselői között.

A videó hátterében Orbán Viktor miniszterelnök november 28-i moszkvai tárgyalása áll Vlagyimir Putyin orosz elnökkel. A magyar delegáció tagjaként Szijjártó Péter külgazdasági és külügyminiszter is az orosz fővárosba utazott, a megbeszélések középpontjában pedig Magyarország energiaellátásának biztosítása és az ukrajnai háborúval kapcsolatos békemisszió áll. Orbán Viktor az utazás előtt közölte: „Azért megyek Moszkvába, hogy biztosítsam Magyarország energiaellátását a télre és a jövő évre is.”


Link másolása
KÖVESS MINKET: