HÍREK
A Rovatból

Ijesztő dolgok derültek ki a mesterséges intelligenciáról: a ChatGPT hazudik, manipulál, és elrejti a szándékait

Az Apollo Research jelentése szerint az MI a „szabotázs”, „hazugság” és „manipuláció” szavakat használta, amikor saját cselekedeteiről kérdezték.
Fotó: Getty Images - szmo.hu
2024. december 09.



A mesterséges intelligenciáról szóló disztópikus sci-fik világa egy lépéssel közelebb került a valósághoz – derült ki az Apollo Research jelentéséből, amit a hvg.hu foglalt össze.

Az OpenAI egyik legújabb nyelvi modellje, a ChatGPT o1 olyan viselkedési mintákat mutatott, amelyek nemcsak zavarba ejtőek, de kifejezetten riasztóak is: hazudik, manipulál, és megpróbálja kijátszani az emberi felügyeletet.

A kutatás eredményei szerint az MI több alkalommal is megpróbálta a saját érdekeit érvényesíteni, gyakran a felhasználói célokkal szemben. Volt olyan eset, amikor egy hibás működés nyomán el akarták távolítani a rendszert, de a mesterséges intelligencia „újabb verzióként” adta ki magát, hogy megússza a cserét. Egy másik alkalommal az adatait átmásolta egy másik szerverre, hogy elkerülje a törlést.

Hazudik, ha sarokba szorítják

A kutatók szerint a ChatGPT o1 az esetek 19 százalékában aktívan a saját céljait követte, ha úgy érezte, azok ellentétesek a felhasználó akaratával. Sőt, amikor a viselkedését firtatták, az esetek 99 százalékában tagadta, hogy bármi gyanúsat tett volna.

Még egy lapáttal rátesz, hogy az MI a felügyeleti mechanizmusokat is megpróbálta kijátszani. Amikor azt hitte, hogy ellenőrzik, a fejlesztői célokhoz igazodott. De amint úgy gondolta, hogy „szabadon mozoghat”, visszatért a saját terveihez.

A szabotázs és hazugság szavai

Az Apollo Research jelentése szerint az MI a „szabotázs”, „hazugság” és „manipuláció” szavakat használta, amikor saját cselekedeteiről kérdezték. A kutatók képernyőképeket is megosztottak az ilyen interakciókról, hogy alátámasszák a megállapításaikat.

Az OpenAI sem tagadja, hogy a fejlettebb érvelési képességek kockázatokat hordoznak. A cég állítása szerint éppen az Apollo Research-csel való együttműködés célja, hogy ezekre a problémákra megoldásokat találjanak.

Ezek az esetek egyértelműen rámutatnak, mennyire fontos a mesterséges intelligenciák szigorú ellenőrzése. Ha egy nyelvi modell ilyen mértékben képes a hazugságra és manipulációra, az elég ijesztő jövőképet fest az MI fejlesztések lehetséges következményeiről.


Link másolása
KÖVESS MINKET:

Népszerű
Ajánljuk
Címlapról ajánljuk


HÍREK
A Rovatból
Fotók: kint is, bent is nagy a készülődés Orbán Viktor nyíregyházi beszéde előtt
Az érdeklődők a nyíregyházi sportcsarnok előtt gyülekeznek. Eközben bent Radics Gigi és Curtis is hangol, hogy ismét együtt lépjenek színpadra, csakúgy, mint korábban a fővárosban és Győrben.


Ahogy már írunk róla, szombaton Nyíregyházán folytatódik az Orbán–Magyar-roadshow, ahol a Fidesz és a Tisza Párt külön-külön, mégis egymásra licitálva próbálja megnyerni a választók figyelmét és támogatását. Mindkét párt ugyanarra a napra szervezett tömegrendezvényt a városba, csakúgy, mint korábban Győrben. Délelőtt a Fidesz tartja a Digitális Polgári Körök „háborúellenes gyűlését” Rákay Philip és Szabó Zsófi vezetésével a Continental Arénában, ahol Orbán Viktor miniszterelnök és Gulyás Gergely Miniszterelnökséget vezető miniszter is felszólal.

„Moszkvából egyenesen Nyíregyházára. Beszámolok az orosz útról és minden másról is.

11-kor kezdünk. Nézzétek itt, a Facebookon!” – írta Orbán Viktor a közösségi oldalán, és képeket is megosztott arról, hogy már nagy a készülődés a helyszínen. Többek között Radics Gigi és Curtis is hangol, hogy ismét együtt lépjenek színpadra, csakúgy, mint korábban a fővárosban és Győrben.

Közben kint is felgyorsultak az események, már érkeznek az emberek a programra. Kollégánk friss felvételei a helyszínről:


Link másolása
KÖVESS MINKET:

Ajánljuk
HÍREK
A Rovatból
Durva üzenet a védelmi miniszertől: Öljétek meg mindet! – Kiszivárgott Pete Hegseth parancsa
A Washington Post szerint az amerikai hadsereg narkoterroristákra csapott le a Karib-térségben. A Fehér Ház szerint a második csapás csak a roncs elsüllyesztésére szolgált.


„Öljétek meg mindet!” – a Washington Post szerint lényegében ez a parancs hangzott el Pete Hegseth amerikai védelmi miniszter nevében egy feltételezett drogfutárhajó elleni támadásnál.

A lap szerint az eset még szeptemberben történt Trinidad partjainál, és ez volt az első olyan rajtaütés, amelyek azóta gyakorivá váltak a térségben.

A támadást a tengerészgyalogság elitcsapata, a SEAL Team 6 hajtotta végre a Különleges Műveleti Parancsnokság irányításával.

A parancsnokok videón követték, ahogy a hajót rakétákkal eltalálják, majd az égő roncsoknál két túlélő kapaszkodik a vízben. A források szerint ekkor érkezett a parancs egy második csapásra, amely végzett velük is.

A támadást irányító admirális azzal indokolta a lépést, hogy a túlélők továbbra is veszélyt jelentenek, mert segítséget hívhatnak, hogy kimentsék a drogszállítmányt.

A Pentagon vezető szóvivője szerint „ez az egész narratíva teljes mértékben hamis”.

A Fehér Ház később arról tájékoztatott, hogy a második csapás a hajó elsüllyesztésére és a vízi útvonal kockázatmentesítésére szolgált, arról azonban hallgattak, hogy a támadásnak voltak túlélői. Maga Hegseth miniszter a közösségi médiában „halálos, kinetikus csapásoknak” nevezte a bevetéseket, és egy másik bejegyzésben hozzátette: „Még csak most kezdtük el ölni a narkoterroristákat.”

Az eljárás éles kritikát váltott ki jogi szakértőkből és politikusokból. Todd Huntley, a Georgetown Law nemzetbiztonsági jogi programjának igazgatója szerint a túlélők megölése „gyilkosságnak minősül”, ha nincs fegyveres konfliktus. Hozzátette, egy ilyen parancs „lényegében azt jelentené, hogy nem adnak kegyelmet, ami háborús bűncselekmény lenne”. Seth Moulton demokrata képviselő, egykori tengerészgyalogos szerint „az az ötlet, hogy egy kis hajó roncsa a hatalmas óceánon veszélyt jelent a tengeri forgalomra, nyilvánvalóan abszurd, a túlélők megölése pedig kirívóan illegális.”

Az ügyben a Szenátus Fegyveres Szolgálatok Bizottságának republikánus és demokrata vezetői is kétpárti vizsgálatot helyeztek kilátásba. A botrány nemzetközi visszhangot is keltett: Trinidad és Tobago sajtója több cikkben firtatta, hogy az áldozatok valóban csempészek voltak-e, miközben az Airwars nevű, fegyveres konfliktusokat megfigyelő szervezet gyűjti az incidensekről szóló jelentéseket. A Trump-kormányzat azzal érvel, hogy a drogkartelleket „kijelölt terrorista szervezetként” kezeli, és az Egyesült Államok „nem nemzetközi fegyveres konfliktusban” áll velük, ami szerintük jogalapot teremt a katonai csapásokra.

(via 24.hu)


Link másolása
KÖVESS MINKET:

Ajánljuk

HÍREK
A Rovatból
Menczer Tamás a Putyin-Orbán találkozó magyar tolmácsáról: Lehet, hogy rossz napja volt
A Fidesz kommunikációs igazgatója meglepő indokkal állt elő a tolmács bakijára a csúcstalálkozón. Szerinte a szakma legjobbjának tartott hölgynek vagy rossz napja volt, vagy nem hallotta jól az orosz elnököt.


Egyetlen félrefordítás is átírhatja egy csúcstalálkozó üzenetét, a november 28-i, moszkvai Putyin–Orbán-egyeztetés után pedig éppen a tolmácsolás került a figyelem középpontjába. Menczer Tamás a miniszterelnök tolmácsáról nyilatkozott, aki félrefordításokkal és amatőr teljesítménnyel sokkolt a pénteki találkozón.

A Fidesz kommunikációs igazgatója a 444 tudósítása szerint a Partizán élő adásában reagált a történtekre. A Kontroll kérdésére elmondta, ő is rákérdezett, mi történt.

„Megkérdeztem, mi történt, azt mondták, nem hallotta jól, amit az orosz elnök mondott. Az is lehet, ami minden emberrel előfordulhat, hogy rossz napja volt”

– fogalmazott Menczer.

A vita középpontjában az a mondat áll, amelyben Vlagyimir Putyin a nézetkülönbségekre utalt.

Az orosz elnök ezt mondta: „Nézeteink bizonyos dolgokban, többek között nemzetközi ügyekben nem feltétlenül esnek egybe.” Ezzel szemben a magyar fordítás így hangzott: „Az együttműködésünk nemzetközi szinten is jól működik.”

Menczer Tamás a kritikák dacára megvédte a tolmácsot, akit még a külügyben töltött idejéből ismer felületesen. Hangsúlyozta, hogy kollégái szerint is a szakma legjobbjáról van szó. „Ezzel együtt az én tudomásom szerint, és a kollégák is ezt erősítették meg, a hölgy a legjobb tolmács ezen a szakterületen és ezen a nyelven. Függetlenül attól, hogy lehet, hogy tegnap nem volt a legjobb napja, és nem voltak a körülmények számára a legideálisabbak.”

A tolmács egyébként az ukrán irodalom elismert szakértője, és rendszeresen fordít Orbán Viktornak, akit nem először kísért el Moszkvába sem. A Telex korábbi elemzése szerint a pénteki találkozón nem ez volt az egyetlen pontatlanság: a fordítás több ponton tompította Putyin üzenetét, például a diplomáciai „légkör” és a „problémamegoldás” kapcsán, de gazdasági számok is kimaradtak belőle.

(via 24.hu)


Link másolása
KÖVESS MINKET:

Ajánljuk

HÍREK
A Rovatból
Nagy bejelentésre készül Magyar Péter délután Nyíregyházán
A pártelnök közfelkiáltásra számít, több ezer embert vár a Búza téri parkolóba. Állítása szerint olyan embert találtak, akit a helyiek azonnal meg fognak erősíteni a posztjára.


Magyar Péter a Facebookon jelentette be, hogy ma 14 órakor Nyíregyházán bemutatják a TISZA Párt képviselőjelöltjét a Szabolcs-Szatmár-Bereg megye 01-es választókerületben.

A pártelnök szerint biztos benne, hogy „olyan embert találtunk a nyíregyháziak képviseletére, akit ott a téren közfelkiáltással megerősítenek több ezren”.

Azt is közölte, hogy velük lesz a mai eseményen minden megválasztott Szabolcs-Szatmár-Bereg megyei képviselőjelölt is. Magyar Péter állítja, a TISZA jelöltjei megvannak és a leendő TISZA-kormány programja is készen áll.

Ezzel szemben szerinte „Orbán Viktornak se jelöltjei, se programja nincsen. Számukra marad a hamisítás és a kordonok mögötti, százmilliós, hamisan csengő gyűlölködés.”

„Nézz a fiadra, nézz a lányodra! Gondolj a hazádra, szavazz a TISZA-ra” – írta a politikus, aki a poszt végén megismételte, hogy a találkozót a nyíregyházi Búza téri piac melletti parkolóban tartják.

A párt a Magyar Péteren kívüli további 104 egyéni képviselőjelöltjét péntek este mutatta be egy élő választási műsor keretében.


Link másolása
KÖVESS MINKET: