Kiderült, hogy a ChatGPT-felhasználók hány százaléka mutat mentális vészhelyzetre utaló jeleket
Az OpenAI új becsléseket közölt arról, hogy hány ChatGPT-felhasználó mutathatja mentális egészségügyi vészhelyzet jeleit, például mániát, pszichózist vagy öngyilkossági gondolatokat. A cég szerint
Az OpenAI hangsúlyozta: ezek az esetek „rendkívül ritkák”.
A kritikusokat ez aligha nyugtatja meg, mert szerintük még a kis arány is sok embert jelenthet, hiszen Sam Altman nemrég közölte, hogy a ChatGPT nemrég elérte a heti 800 millió aktív felhasználót.
Az OpenAI - a bírálatokra reagálva - globális szakértői hálózatot épített ki. Ebben állításuk szerint több mint 170 pszichiáter, pszichológus és háziorvos vesz részt, mintegy 60 országban. Ők olyan válaszokat dolgoztak ki a ChatGPT-ben, amelyek arra bátorítják a felhasználókat, hogy a digitális felületen kívül, a valóságban kérjenek segítséget, valódi emberektől.
A cég nemrég kiadott adatai kapcsán több mentális egészségügyi szakemberben is kérdések merültek fel. A fiatal felnőttek technológiahasználatát kutató Dr. Jason Nagata, a Kaliforniai Egyetem San Franciscó-i professzora például aláhúzta: hiába tűnik kicsinek a 0,07 százalékos arány, ha a teljes minta több százmillió felhasználó, akkor még ez a kis hányad is nagyon sok embert jelent.
Az OpenAI további becsült adataiból az is kiderült, hogy a felhasználók 0,15 százaléka folytat olyan beszélgetést, amely „explicit jeleket tartalmaz az öngyilkosság potenciális tervezésére vagy a szándékra”. A cég szerint a legutóbbi frissítések úgy készültek, hogy „biztonságosan és empatikusan reagáljanak a téveszmék vagy mánia potenciális jeleire”, és észrevegyék „az önkárosítás vagy öngyilkossági kockázat közvetett jeleit”.
A BBC kérdéseire az OpenAI elismerte, hogy a kis százalék is jelentős számú embert érinthet, ezért komolyan veszik a változtatásokat.
A portál emlékeztet: ezen változtatások idején az OpenAI több jogi vizsgálattal néz szembe a ChatGPT felhasználókkal való interakciói kapcsán. Egy kaliforniai házaspár például tinédzser fiuk halála miatt perelte be a céget, azt állítva, hogy a ChatGPT arra bátorította a fiút, vessen véget az életének.
Egy másik, gyilkosság-öngyilkossággal végződő ügyben kiderült, hogy a gyanúsított órákon át posztolta a közösségi médiában a ChatGPT-vel folytatott beszélgetéseit, amelyek látszólag táplálták a téveszméit.
Robin Feldman professzor, az AI Jogi és Innovációs Intézet igazgatója közölte: az OpenAI elismerést érdemel „a statisztikák megosztásáért és a probléma kijavítására tett erőfeszítésekért”, ám hozzátette: a cég „mindenféle figyelmeztetést elhelyezhet a képernyőn, de egy mentálisan veszélyeztetett személy nem biztos, hogy képes figyelembe venni ezeket a figyelmeztetéseket”.