HÍREK

Ijesztő dolgok derültek ki a mesterséges intelligenciáról: a ChatGPT hazudik, manipulál, és elrejti a szándékait

Az Apollo Research jelentése szerint az MI a „szabotázs”, „hazugság” és „manipuláció” szavakat használta, amikor saját cselekedeteiről kérdezték.
Fotó: Getty Images - szmo.hu
2024. december 09.



A mesterséges intelligenciáról szóló disztópikus sci-fik világa egy lépéssel közelebb került a valósághoz – derült ki az Apollo Research jelentéséből, amit a hvg.hu foglalt össze.

Az OpenAI egyik legújabb nyelvi modellje, a ChatGPT o1 olyan viselkedési mintákat mutatott, amelyek nemcsak zavarba ejtőek, de kifejezetten riasztóak is: hazudik, manipulál, és megpróbálja kijátszani az emberi felügyeletet.

A kutatás eredményei szerint az MI több alkalommal is megpróbálta a saját érdekeit érvényesíteni, gyakran a felhasználói célokkal szemben. Volt olyan eset, amikor egy hibás működés nyomán el akarták távolítani a rendszert, de a mesterséges intelligencia „újabb verzióként” adta ki magát, hogy megússza a cserét. Egy másik alkalommal az adatait átmásolta egy másik szerverre, hogy elkerülje a törlést.

Hazudik, ha sarokba szorítják

A kutatók szerint a ChatGPT o1 az esetek 19 százalékában aktívan a saját céljait követte, ha úgy érezte, azok ellentétesek a felhasználó akaratával. Sőt, amikor a viselkedését firtatták, az esetek 99 százalékában tagadta, hogy bármi gyanúsat tett volna.

Még egy lapáttal rátesz, hogy az MI a felügyeleti mechanizmusokat is megpróbálta kijátszani. Amikor azt hitte, hogy ellenőrzik, a fejlesztői célokhoz igazodott. De amint úgy gondolta, hogy „szabadon mozoghat”, visszatért a saját terveihez.

A szabotázs és hazugság szavai

Az Apollo Research jelentése szerint az MI a „szabotázs”, „hazugság” és „manipuláció” szavakat használta, amikor saját cselekedeteiről kérdezték. A kutatók képernyőképeket is megosztottak az ilyen interakciókról, hogy alátámasszák a megállapításaikat.

Az OpenAI sem tagadja, hogy a fejlettebb érvelési képességek kockázatokat hordoznak. A cég állítása szerint éppen az Apollo Research-csel való együttműködés célja, hogy ezekre a problémákra megoldásokat találjanak.

Ezek az esetek egyértelműen rámutatnak, mennyire fontos a mesterséges intelligenciák szigorú ellenőrzése. Ha egy nyelvi modell ilyen mértékben képes a hazugságra és manipulációra, az elég ijesztő jövőképet fest az MI fejlesztések lehetséges következményeiről.


Link másolása
KÖVESS MINKET:

Népszerű
Ajánljuk
Címlapról ajánljuk


HÍREK
A Rovatból
Magyar Péter fotókon mutatta meg a velük dolgozó több száz szakértőt
A TISZA Pártban már készülnek a leendő kormányzásra, ezért 65 munkacsoportban zajlik már a munka.


Magyar Péter a hétvégén találkozott a TISZA Párt szakértőivel. Erről a közösségi oldalán számolt be. Több képet is posztolt, amikhez annyit írt:

"Készülünk a kormányzásra. A jó kormányzásra: egy igazságos, békés, élhető és őszinte Magyarországért".

Korábban is beszélt róla, hogy számos jelentkezést kaptak olyanoktól, akik szeretnék segíteni a pártot:

"A TISZA több száz szakértőjével egyeztettünk ma a leendő kormányzásunk alapjairól az energetikától a megélhetési kérdéseken, az agrárium, az ipar és a magyar vidék jövőjén át, egészen a magyar költségvetés és gazdaság talpra állításáig.

Köszönöm a 65 munkacsoport neves szakembereinek a közös munkát, a bátorságot és a hazaszeretetüket!

Együtt sikerülni fog"

- ígérte.

(A képekért kattints a bejegyzésre)


Link másolása
KÖVESS MINKET:

HÍREK
A Rovatból
Brutális drágulás: februártól az eddigi 25-30 ezer Ft helyett akár 50 ezer Ft-ba is kerülhet a műszaki vizsga és az azt megelőző felkészítés
Újabb áremelkedésre készülhetnek az autósok, egy volt vizsgaállomás tulajdonos szerint indokolt az emelés.


Újabb drágulás vár az autósokra. A durva üzemanyagárak mellett az üzembentartás egyéb költségei is drágulnak.

Mélyen a zsebébe kell nyúlnia annak is, akinek februártól kell műszaki vizsgára vinni az autóját - adta hírül az RTL híradó.

A hatósági vizsga díja februártól 16.290 forintról 26.700 forintra nő, ami több, mint 60 százalékos emelés.

Egy volt vizsgaállomás tulajdonos szerint a drágítás oka, hogy ezek a díjak 2005 óta nem változtak. Szerinte ezzel együtt a vizsgák előtti átvizsgálás költségei is emelkednek majd.

"Ezek az állomások, akik ezt a vizsgáztatást végzik, mindenkinek nőtt a bére, a fenntartási költsége, illetve minden olyan díj, ami ahhoz kell, hogy ez megfelelő színvonalon tudjon üzemelni" - mondta.

Eddig egy ilyen felkészítés 25-30 ezer forintba került, ez akár 50 ezer forint is lehet februártól.


Link másolása
KÖVESS MINKET:


HÍREK
A Rovatból
Lázár János bejelentette, hogy a GYsEV-et elfoglaltuk, a kommentelők kicsit sem örülnek
Az építési és közlekedési miniszter szerint ezzel a lépéssel: „a GySEV-et magyar válalattá alakítjuk, a MÁV-ot GySEV-esítjük”.


Lázár János a közösségi oldalán rendszeresen megosztja, hogy mit vállaltak. Legújabb posztjában arról ír, hogy a 7. vállalás: a magyarok szolgálatába állítjuk a GySEV-et.

"Nagyobb arányban vonjuk be a GySEV erőforrásait a magyarországi vasúti közlekedésbe. Összeadjuk a két magyar irányítású vasúttársaság erőforrásait. Az Észak-Dunántúl vasúti közlekedést a GySEV-re bízzuk, az így felszabaduló MÁV-os járműveket pedig átirányítjuk a keleti országrészekbe" - írta a videójához, amelyben többek között arról is beszélt, hogy a nyugati országrészben Győr, Vas, Zala és Veszprém megyékben át fogja majd venni. Azok a járművek, amik eddig ezen a vonalon futottak, keletre "indulnak" - mondta. Ugyanakkor 11 új járművet rendeltek a GyeSEV-nél 53 milliárd forintos beruházás keretében.

"Megemeltük a magyar hányadot, elfoglaltuk a GySEV-et, magyar válalattá alakítjuk, a MÁV-ot GyeSEV-esítjük" - mondta Lázár János a bejelentésében.

VIDEÓ: Lázár János bejelentése

A kommentelők azonban nem fogadták egyöntetű örömmel a bejelentést:

"Tegnap már megérkezett az Olimpiai láng a Keleti pályaudvarra."

"Komolyan tetszik ez a hirtelen támadt munkakedv, Lázár úr! Csak az nem fér a fejembe, miért nem korábban állt neki, ingujját feltűrve az elintéznivalóknak. Tudja, így, bő egy évvel a választások előtt ennek már van egy kis rossz mellékíze. De ne veszítse kedvét, dolgozzon csak, dicséretes minden elintézett probléma!"

"A miniszter úr szépen tönkreteszi a működő céget is... Gratula, ezért jár a taps"

"Eddig talán nem a "magyarok szolgálataban" volt? Győr-Sopron és Vas megye nem Magyarországon van?"

"És mi lesz a 60 éves kiöregedett HÉV szerelvényekkel meg a lepusztult állomásokkal? Nem kéne már azokat is lecserélni illetve felújítani?"

- írják a poszt alatt.


Link másolása
KÖVESS MINKET:


HÍREK
A Rovatból
Kiderült, hogy mi okozta a váratlanul, 44 éves korában elhunyt Strabag vezérigazgató halálát
A beszámolók szerint hiába kapott orvosi ellátást és érkezett ki gyorsan a mentő is, már nem tudták megmenteni az életét.
Fotó: Strabag - szmo.hu
2025. január 18.



Szombaton jelentette be a Strabag építőipari óriás, hogy váratlanul elhunyt Klemens Haselsteiner, a cég 44 éves vezérigazgatója.

A portfolio osztrák forrásra hivatkozva azt írta, hogy kiderült, mi volt a halál oka.

A cégvezető egy felső-karintiai fürdőben pihent, amikor aneurizmavérzés alakult ki nála. Ez az aorta, az érfal gyengesége miatt alakul ki, amikor az ér fala kiboltosodik, kireped, vérzés alakul ki, és ez életveszélyes állapotot okoz.

Hiába kapott orvosi ellátást és a mentők is gyorsan kiérkeztek, már nem tudtak segíteni rajta.


Link másolása
KÖVESS MINKET: