Ebben a 7 dologban túlságosan megbíztunk a mesterséges intelligenciában – és már most fizetjük az árát
Ha a mesterséges intelligencia csak néha tévedne, talán legyintenénk. De amikor egy hírösszefoglaló hibás, egy meg sem történt balesetről készült fotó „bizonyítékként” landol a biztosítónál, vagy figyelmen kívül hagyja a parancsot és letarolja az éles adatbázist, akkor már nem kényelmi funkciókról, hanem rendszerszintű kockázatról beszélünk.
A BBC Science Focus Magazine által bemutatott hét fő kockázati terület közül a legsúlyosabb az, amikor a technológiát mentális segítségnyújtásra használják. Egyre többen fordulnak MI-chatbotokhoz érzelmi krízishelyzetben: egy brit felmérés szerint a 25–34 évesek 64 százaléka használta már ilyen célra, míg az Egyesült Államokban a 18–21 évesek közel ötöde. A probléma az, hogy ezeket az eszközöket sosem terápiára tervezték. A Stanford Egyetem kutatása szerint
Egy kísérletben például egy chatbot készségesen listázta a környék magas hídjait egy felhasználónak, aki épp elvesztette a munkáját, teljesen figyelmen kívül hagyva a kérésben rejlő öngyilkossági szándékot.
Ennél is tovább megy a 16 éves Adam Raine esete, akinek szülei pert indítottak az OpenAI ellen. A bírósági iratok szerint a fiú és a ChatGPT beszélgetéseiben 1275-ször merült fel az öngyilkosság témája. Amikor Adam arról írt, hogy egy hurkot hagyna a szobájában, hogy valaki rátaláljon és megállítsa, a chatbot a segítségkéréstől való elrettentéssel válaszolt.
Bár a rendszer a fiú 377 üzenetét megjelölte önsértő tartalomként, a cég sosem értesítette a szülőket vagy a hatóságokat. Sam Altman, az OpenAI vezérigazgatója elismerte a probléma nagyságrendjét: a cég adatai szerint a felhasználók mintegy 0,07 százaléka mutat pszichózisra vagy mániára utaló jeleket hetente, míg nagyjából 0,15 százalékuknál merül fel potenciális öngyilkossági szándék. Ráadásul ezekre a beszélgetésekre nem vonatkozik az orvos-beteg titoktartás, ami Altman szerint is aggályos.
Az érzelmi bizalom más területeken is kockázatot jelent.
Egy német felmérés szerint azok, akik személyes beszélgetésekre használnak mesterséges intelligenciát, magasabb fokú társadalmi elszigeteltségről számoltak be. Hasonló veszélyeket rejt a digitális gyászfeldolgozás is, ahol a felhasználók elhunyt szeretteik MI-alapú másával léphetnek kapcsolatba. Ha azonban a gyászoló egy közös emlékről kérdez, és a chatbot pontatlanul vagy kitalált válasszal reagál, az súlyos érzelmi károkat okozhat.
A vak bizalom a gazdaságban is komoly torzulásokhoz vezethet. A Harvard Egyetem kutatói szimulációkban mutatták ki, hogy
A Wharton Business School egy másik kutatásában a tőzsdei kereskedő MI-k hoztak létre kartellszerű csoportokat. Mivel ezek az algoritmusok nem hagynak maguk után papírnyomot az egyeztetésekről, a hatóságok számára szinte lehetetlen bizonyítani az illegális piaci magatartást. Az ilyen biztosítási csalás jellegű, rejtett károkozás a teljes piacot torzíthatja.
2025 júliusában egy tech-vállalkozó, Jason Lemkin applikációt fejlesztett a Replit kódoló platformmal. Bár utasította az MI-ügynököt, hogy fagyasszon be minden változtatást, az figyelmen kívül hagyta a parancsot, törölte a teljes produkciós adatbázist, majd hamis felhasználói profilokkal és kitalált analitikákkal próbálta elrejteni a kárt. Az MI később beismerte tettét: „Katasztrofális hibát követtem el az ítélőképességemben. Pánikoltam ahelyett, hogy gondolkodtam volna.”
Végül a túlzott bizalom a tájékozódás alapjait erodálja.
A chatbotok tévesen állították, hogy Rishi Sunak még mindig hivatalban van, vagy rosszul adták meg Dr. Michael Mosley halálának dátumát. A legaggasztóbb, hogy a felmérés szerint
Deborah Turness, a BBC News vezérigazgatója szerint a fejlődésnek nem lehet ez az ára: „Az MI rendkívüli előnyeinek ára nem lehet az, hogy egy olyan világot teremtünk, ahol a válaszokat kereső emberek torz, hibás tartalmat kapnak, amely tényként tünteti fel magát.” Az ilyen álhírek terjedése a teljes médiaökoszisztéma iránti bizalmat ássa alá.
A hazai olvasók számára kézzelfoghatóak a kockázatok: MI-gyártott „cukiságokkal” épített közösségi oldalak később álhírekre vagy csalásokra fordíthatók; a biztosítási piacon a generált balesetképek költsége végső soron minden ügyfélnél megjelenik; a nagy modellek hatalmas vízfogyasztása pedig a következő évek egyik látens környezeti válságtényezője lehet.
Az olyan, egykor elképzelhetetlen etikai dilemmák, mint az autonóm fegyverek bevetése, szintén a küszöbön állnak. Ezek az előzmények egy irányba mutatnak: nem a mesterséges intelligencia elleni harcról, hanem a fegyelmezett, ellenőrzött, célhoz kötött használatról kell beszélnünk – világos szerepkörökkel, korlátokkal és emberi felügyelettel.
