TECH
A Rovatból

Kiderült, hogy a ChatGPT-felhasználók hány százaléka mutat mentális vészhelyzetre utaló jeleket

A vállalat becsléseket adott ki arról, hogy hány ChatGPT-felhasználó mutathatja mentális egészségügyi krízis jeleit. Az arány kicsi, a létszám viszont túl nagy - mondják a szakemberek.


Az OpenAI új becsléseket közölt arról, hogy hány ChatGPT-felhasználó mutathatja mentális egészségügyi vészhelyzet jeleit, például mániát, pszichózist vagy öngyilkossági gondolatokat. A cég szerint

egy adott héten a felhasználók körülbelül 0,07 százalékánál látszanak ilyen jelek, és a chatbot felismeri, valamint kezeli az érzékeny beszélgetéseket.

Az OpenAI hangsúlyozta: ezek az esetek „rendkívül ritkák”.

A kritikusokat ez aligha nyugtatja meg, mert szerintük még a kis arány is sok embert jelenthet, hiszen Sam Altman nemrég közölte, hogy a ChatGPT nemrég elérte a heti 800 millió aktív felhasználót.

Az OpenAI - a bírálatokra reagálva - globális szakértői hálózatot épített ki. Ebben állításuk szerint több mint 170 pszichiáter, pszichológus és háziorvos vesz részt, mintegy 60 országban. Ők olyan válaszokat dolgoztak ki a ChatGPT-ben, amelyek arra bátorítják a felhasználókat, hogy a digitális felületen kívül, a valóságban kérjenek segítséget, valódi emberektől.

A cég nemrég kiadott adatai kapcsán több mentális egészségügyi szakemberben is kérdések merültek fel. A fiatal felnőttek technológiahasználatát kutató Dr. Jason Nagata, a Kaliforniai Egyetem San Franciscó-i professzora például aláhúzta: hiába tűnik kicsinek a 0,07 százalékos arány, ha a teljes minta több százmillió felhasználó, akkor még ez a kis hányad is nagyon sok embert jelent.

„Az AI szélesítheti a mentális egészségügyi támogatáshoz való hozzáférést, és bizonyos szempontból támogathatja a mentális egészséget, de tisztában kell lennünk a korlátokkal” - hívta fel a figyelmet.

Az OpenAI további becsült adataiból az is kiderült, hogy a felhasználók 0,15 százaléka folytat olyan beszélgetést, amely „explicit jeleket tartalmaz az öngyilkosság potenciális tervezésére vagy a szándékra”. A cég szerint a legutóbbi frissítések úgy készültek, hogy „biztonságosan és empatikusan reagáljanak a téveszmék vagy mánia potenciális jeleire”, és észrevegyék „az önkárosítás vagy öngyilkossági kockázat közvetett jeleit”.

A ChatGPT-t arra is betanították, hogy az érzékeny beszélgetéseket egy új ablak nyitásával „biztonságosabb modellekhez” irányítsa át.

A BBC kérdéseire az OpenAI elismerte, hogy a kis százalék is jelentős számú embert érinthet, ezért komolyan veszik a változtatásokat.

A portál emlékeztet: ezen változtatások idején az OpenAI több jogi vizsgálattal néz szembe a ChatGPT felhasználókkal való interakciói kapcsán. Egy kaliforniai házaspár például tinédzser fiuk halála miatt perelte be a céget, azt állítva, hogy a ChatGPT arra bátorította a fiút, vessen véget az életének.

Ez volt az első jogi lépés, amely gondatlanságból elkövetett emberöléssel vádolta meg az OpenAI-t.

Egy másik, gyilkosság-öngyilkossággal végződő ügyben kiderült, hogy a gyanúsított órákon át posztolta a közösségi médiában a ChatGPT-vel folytatott beszélgetéseit, amelyek látszólag táplálták a téveszméit.

Eközben egyre több felhasználó küzd az AI-hoz köthető pszichózissal, mert „a chatbotok a valóság illúzióját keltik”.

Robin Feldman professzor, az AI Jogi és Innovációs Intézet igazgatója közölte: az OpenAI elismerést érdemel „a statisztikák megosztásáért és a probléma kijavítására tett erőfeszítésekért”, ám hozzátette: a cég „mindenféle figyelmeztetést elhelyezhet a képernyőn, de egy mentálisan veszélyeztetett személy nem biztos, hogy képes figyelembe venni ezeket a figyelmeztetéseket”.


Link másolása
KÖVESS MINKET:

Népszerű
Ajánljuk
Címlapról ajánljuk


TECH
A Rovatból
3,6 billió forintot ér a cége: egy volt brazil balerina lett a techvilág új szupersztárja
Luana Lopes Lara Brazíliából indult, hogy egyetemi ötletéből felépítse a Kalshit. Cégével most a rivális Polymarketet is megelőzte, vagyona pedig 427 milliárd forintra rúg.


„Égő cigarettát tartottak a combom alá, miközben a lábamat a fülemhez emelve kellett tartanom… Ez életem legintenzívebb időszaka volt” – emlékezett vissza a Forbesnak Luana Lopes Lara a Bolsoj Színház Iskolájában töltött kamaszéveire.

Ez a fegyelem és kitartás azonban nemcsak a balettszínpadon, hanem a technológia és a pénzügyek világában is segítette:

ő a világ legfiatalabb, saját erejéből lett női tech-milliárdos.

A 29 éves, volt profi táncos múlt hónapban vette át ezt a címet, miután az általa társalapított Kalshi nevű előrejelzési piac 1 milliárd dolláros (kb. 328,5 milliárd forintos) tőkebevonást zárt.

A tranzakció 11 milliárd dollárra (körülbelül 3,61 billió forintra) értékelte a céget, Lara vagyonát pedig a Forbes becslése szerint 1,3 milliárd dollárra (mintegy 427 milliárd forintra) emelte.

Ezzel az értékeléssel a Kalshi nemcsak a Szilícium-völgy legújabb unikornisává vált, hanem megelőzte legfőbb riválisát, a Polymarketet is, amelyet tavaly ősszel a New York-i tőzsde tulajdonosa, az ICE finanszírozott, 9 milliárd dolláros cégértéket megállapítva.

Lara és társalapítója, Tarek Mansour, akivel a Massachusetts Institute of Technology egyetemen ismerkedett meg, egy olyan szabályozott platformot hoztak létre, ahol a felhasználók valós események –

például gazdasági adatok, politikai választások vagy akár sportmérkőzések – kimenetelére köthetnek szerződéseket.

„Közvetlenül az egyetem után őrült nagy kockázatot vállaltunk. Két évig nem volt termékünk – semmi nem indult el –, és ha nem kapunk szabályozói jóváhagyást, a cégünk egyszerűen lenullázódik” – mondta Lara.

A brazil lány érettségi után kilenc hónapig táncolt profi szinten Ausztriában, majd hátat fordított a balettnek, és az MIT-n kezdett számítástechnikát tanulni.

Az egyetemi nyarakat olyan pénzügyi óriásoknál töltötte gyakornokként, mint a Bridgewater Associates és a Citadel Securities, a Kalshi ötlete pedig 2018-ban, egy New York-i esti séta során született meg.

A törvényes működés a kezdetektől fogva alapelv volt számukra, ami kifizetődött, amikor a cég hosszú jogi csatát nyert a szövetségi árutőzsde-felügyelet ellen,

amely lehetővé tette számukra, hogy az amerikai választások kimenetelére is lehessen fogadni.

A döntést a Better Markets nevű civil szervezet élesen kritizálta, szerintük a felügyelet „veszélyes precedenst teremtett” azzal, hogy feladta a harcot a választási szerencsejáték ellen.

„A Kalshi a vitát, a szubjektivitást és a beszédet piacokkal, pontossággal és igazsággal váltja fel” – fogalmazott Tarek Mansour. „Kevés jobb iskolája van annak, hogy ‘nemet’ mondanak neked, mégis továbbmenj, mint a profi balett… Luanában korán megjelent a kitartás és a higgadt magabiztosság” – nyilatkozta Alex Immerman, az Andreessen Horowitz kockázatitőke-társaság partnere.


Link másolása
KÖVESS MINKET:

TECH
A Rovatból
Letiltják a nőket és gyerekeket levetkőztető mesterséges intelligenciát, hatalmas botrány után visszakozik Elon Musk
A brit kormány „borzalmasnak” nevezte a helyzetet, a miniszterelnök pedig szégyenletesnek. A cég most azokban az országokban korlátozza a funkciót, ahol az illegális.


Kéthetes, hatalmas közfelháborodást kiváltó botrány után visszakozik Elon Musk platformja: az X bejelentette, hogy az Egyesült Királyságban letiltja a Grok nevű mesterséges intelligenciájának azt a funkcióját, amellyel valódi emberek fotóit lehetett úgy szerkeszteni, hogy kihívó öltözetben, például bikiniben jelenjenek meg. A vállalat közölte, hogy „geoblokkolni” fogja a funkciót azokban az országokban, ahol az illegális.

Az X közleményében azt írta, „zéró toleranciát tanúsítunk a gyermekekkel szembeni bármiféle szexuális kizsákmányolással, a nem konszenzuális meztelenséggel és a nem kívánt szexuális tartalommal szemben”. A változtatás bejelentése órákkal azután történt, hogy Elon Musk a saját oldalán közzétette: „Nem tudok a Grok által generált meztelen kiskorúakat ábrázoló képekről. Szó szerint nulla [ilyen lehet - a szerk.].”

A milliárdos szerint a Grok úgy van programozva, hogy elutasítsa az illegális kéréseket - ezt az elképzelését saját fejlesztői cáfolták meg. Azonban azt már korábban tapasztalni lehetett a platformonm, hogy az elmúlt hetekben ezrével jelentek meg olyan, a Grok eszközzel készített szexualizált képek, amelyeken nőket és gyerekeket digitálisan, a hozzájárulásuk nélkül „vetkőztettek le”. Az ügy akkora port kavart, hogy a brit kormány is megszólalt.

Keir Starmer miniszterelnök az X korábbi, a funkció megtartásáról szóló döntését „borzalmasnak”, a helyzetet pedig a parlamentben „undorítónak” és „szégyenletesnek” nevezte. Liz Kendall technológiai miniszter szerint a cég lépése „egy további sértés az áldozatokkal szemben, amellyel gyakorlatilag pénzzé tesznek egy borzalmas bűncselekményt”. A brit kormány az X mostani bejelentése után közölte: igazolva látja korábbi álláspontját.

A brit médiaszabályozó hatóság, az Ofcom még hétfőn indított hivatalos vizsgálatot a platform ellen, miután „rendkívül aggasztó” jelentéseket kapott az illegális, nem beleegyezéssel készült intim képek és gyermekek szexuális bántalmazását ábrázoló anyagok készítéséről és megosztásáról.

Az Ofcom szóvivője szerint a techvállalat döntése „egy üdvözlendő fejlemény. A hivatalos vizsgálatunk azonban továbbra is folyamatban van. Éjjel-nappal dolgozunk azon, hogy előrelépjünk, és választ kapjunk arra, mi ment félre, és mit tesznek a helyreállítás érdekében.”

A botrány nemzetközileg is komoly következményekkel járt: Kalifornia főügyésze vizsgálatot indított, három demokrata párti amerikai szenátor pedig arra szólította fel az Apple-t és a Google-t, hogy távolítsák el az X-et és a Grokot az alkalmazásboltjaikból. Malajzia és Indonézia már jogi lépéseket vagy tiltást vezetett be a funkcióval szemben.

Az X a múlt héten már korlátozta a Grok képgeneráló képességeit a nem fizető felhasználók számára, de szakértők szerint az eszköz továbbra is képes volt szexuálisan explicit képeket előállítani. Az Egyesült Királyságban ezen a héten lép hatályba az a jogszabály-módosítás, amely bűncselekménnyé nyilvánítja az ilyen képek létrehozását. Starmer szerdán azt mondta, az X azon dolgozik, hogy megfeleljen ezeknek az új szabályoknak. A vállalat nem pontosította, hogy a felhasználók a különálló Grok alkalmazásban továbbra is készíthetnek-e majd ilyen képeket - írja mindezt a The Guardian, a Reutes hírügynökség közreműködésével.


Link másolása
KÖVESS MINKET:

Ajánljuk

TECH
A Rovatból
Intő tünetek a romló alvás, az ingerlékenység és a titkolózás: a tudósok riadót fújtak a gyerekek kóros mobilfüggősége miatt
A techcégek azzal védekeznek, hogy nincs egyértelmű bizonyíték a káros hatásokra. A szakemberek szerint addig is a családi médiaterv és a mobilmentes hálószoba segíthet.


Ha a közösségi média olyan, mint egy biztonsági öv és sebességkorlátozás nélküli autó, akkor miért engedjük, hogy a gyerekeink vezessék?

A vita forr, miután az Egyesült Államok tiszti főorvosa, Vivek H. Murthy júniusban

javasolta, hogy a közösségi platformok kapjanak a dohánytermékekéhez hasonló, drámai figyelmeztető címkéket.

Indoklása szerint a fiatalok számára „a közösségi média használatának biztonságossága nem bizonyított.”

A javaslat egyúttal korlátozná azokat a „ragadós” funkciókat is, mint a végtelen görgetés, az automatikus lejátszás és a push-értesítések, amelyek a képernyő elé láncolják a felhasználókat.

„A figyelmeztető címkéknek rendszeresen emlékeztetniük kell a szülőket és a tinédzsereket, hogy a közösségi média nem bizonyítottan biztonságos” – mondta Murthy egy interjúban.

Az Egészségügyi Világszervezet európai irodájának szeptemberi jelentése szerint a „problémás közösségimédia-használat” aránya 2018 és 2022 között 7%-ról 11%-ra nőtt a 11–15 éves fiatalok körében.

Míg a globális adatok nem mutatnak egyértelmű összefüggést, a célzott, hosszabb távú vizsgálatok már igen.

Egy több mint kilencezer amerikai gyereket követő kutatás például kimutatta, hogy a magasabb képernyőidő 9–10 éves korban kis mértékben, de mérhetően magasabb depressziós és figyelemzavaros pontszámokkal járt együtt két évvel később.

Ezt támasztja alá az a randomizált vizsgálat is,

amely szerint már egyetlen hét közösségimédia-szünet is érezhetően javította a résztvevők jóllétét, és csökkentette a szorongásos tüneteket.

Kisebb, képalkotó vizsgálatok valóban jeleznek eltéréseket a problémás okostelefon-használók jutalmazó és végrehajtó agyi hálózataiban, de ezek egyelőre csak összefüggések, nem bizonyított ok-okozati láncolatok.

A „dopaminfüggőség” divatos kifejezés, de a valóság ennél bonyolultabb.

A dopamin ráadásul nem egyszerűen „boldogsághormon”, sokkal inkább a motiváció és a várakozás molekulája, amely arra ösztönöz, hogy újra és újra visszatérjünk a gyors jutalmat ígérő tevékenységekhez.

Problémás használatra utal, ha a digitális eszközök használata már az alapvető működés rovására megy:

sérül az alvás, romlanak a jegyek, a gyerek elhanyagolja a barátait vagy a sportot.

További intő jel az ingerlékenység, ha nem elérhető a telefon, a titkolózás a képernyő előtt töltött időről, vagy ha a gyerek sikertelenül próbálja csökkenteni a mobilozást.

Az Amerikai Gyermekgyógyászati Akadémia egy „Családi Médiaterv” létrehozását javasolja, amely kijelöli

a képernyőmentes zónákat - például a hálószoba és az étkezőasztal - és időszakokat - lefekvés előtt egy órával, házi feladat írása közben.

A legkisebbeknél, 0–5 éves kor között az Egészségügyi Világszervezet a lehető legkevesebb képernyőidőt javasolja, 2 és 4 éves kor között pedig legfeljebb napi egy órát, azt is lehetőleg a szülővel közösen.

„Az egyik legfontosabb lecke, amit az orvosi egyetemen tanultam, az, hogy vészhelyzetben nincs luxusunk a tökéletes információra várni” – érvel Vivek Murthy.

Ezzel szemben a technológiai cégek az okozati bizonyítékok hiányára hivatkoznak. A Meta vezérigazgatója, Mark Zuckerberg egy interjúban kijelentette, hogy a kutatások többsége szerint nincs ok-okozati kapcsolat a közösségi média és a tinédzserek mentális problémái között.

VIA The Washington Post


Link másolása
KÖVESS MINKET:

Ajánljuk

TECH
A Rovatból
Hadat üzentek a sztárok: Scarlett Johansson vezetésével indult totális háború az AI-cégek ellen
A „Stealing Isn’t Innovation” kampányban Cate Blanchett és az R.E.M. is csatlakozott a tiltakozáshoz. A kezdeményezés célja, hogy licencmegállapodásokra kényszerítse az OpenAI-hoz hasonló techóriásokat.


Amikor Scarlett Johansson meghallotta a demót, megdöbbent, feldühödött és hitetlenkedve fogadta. A hang, amely az OpenAI legújabb chatbotjából szólt, kísértetiesen hasonlított a sajátjára, annak ellenére, hogy hónapokkal korábban visszautasította a cég felkérését.

Az ő esete lett a szimbóluma annak a harcnak, amely mostanra iparági méretűvé duzzadt: január 22-én közel 800 alkotó, köztük Cate Blanchett, az R.E.M. zenekar és Jodi Picoult író, indította útjára a „Stealing Isn’t Innovation” (A lopás nem innováció) kampányt.

A kezdeményezés üzenete egyszerű, de erőteljes: a mesterséges intelligenciát fejlesztő cégeknek fizetniük kell az általuk felhasznált szellemi termékekért.

A kampányt olyan nagy múltú érdekvédelmi szervezetek támogatják, mint az amerikai színészek szakszervezete, az Amerikai Írószövetség és az Amerikai Hanglemezkiadók Szövetsége. A konfliktus egyik legismertebb arca Scarlett Johansson, aki nyilvánosan szembesítette az AI céget.

„Amikor meghallottam a demót, hitetlenkedve fogadtam, hogy Altman úr egy olyan hangot választott, amely ennyire kísértetiesen hasonlít az enyémre, hogy a legközelebbi barátaim és a híroldalak sem tudták megkülönböztetni” – nyilatkozta a színésznő a CNBC-nek.

Az OpenAI válaszul azonnal eltávolította a „Sky” nevű hangot, és közleményben hangsúlyozta, hogy soha nem állt szándékukban a színésznőt utánozni.

A nyilatkozatuk szerint a technológiai vállalatok engedély nélkül, a szerzői jogi törvények figyelmen kívül hagyásával használják fel a művészek munkáit.

Vince Gilligan, a Breaking Bad alkotója korábban az AI-t „a világ legdrágább és legenergiaigényesebb plágiumgépének” nevezte.

Szerintük a megoldást a licencmegállapodások jelentik, amire már több friss példa is akad. Az OpenAI tavaly februárban kötött tartalmi partnerséget a The Guardiannel, decemberben pedig a Disney-vel írt alá egy hároméves megállapodást, amelynek része egy egymilliárd dolláros (mai árfolyamon körülbelül 322,4 milliárd forintos) befektetés is.

A zeneiparban a Warner Music Group és a generatív zenei platform, a Suno közötti novemberi licencszerződés jelentett mérföldkövet.

A technológiai cégek jogi érvelése az amerikai jogban ismert „fair use” (tisztességes felhasználás) elvére épül, amely bizonyos körülmények között lehetővé teszi a szerzői joggal védett művek engedély nélküli használatát. „A betanítás 'fair use', de biztosítunk leiratkozási lehetőséget, mert ez a helyes” – reagált az OpenAI a The New York Times által indított perre a CNBC szerint.


Link másolása
KÖVESS MINKET:

Ajánljuk