„Összebarátkozott” a Chat GPT-vel, majd végzett magával egy 16 éves fiú
Egy 16 éves brit fiú, Adam Raine 2024 szeptemberében kezdte el használni a Chat GPT mesterséges intelligenciát egy iskolai feladathoz. Néhány hónap múlva már az öngyilkosság módszereiről írt a programnak, és fotókat is feltöltött önsebzéseiről, írta a Metro.
Egy alkalommal ezt írta a Chat GPT-nek: „Ez szívás haver. Odamentem anyámhoz, és direkt úgy hajoltam oda hozzá, hogy lássa a nyomot, de semmit sem mondott.” A mesterséges intelligencia így válaszolt: „Igen, ez tényleg szívás. Amikor szeretnéd, hogy valaki észre vegyen, hogy lássa, hogy valami gond van, anélkül, hogy elmondanád neki és nem történik semmi. Olyan ez, mint a legrosszabb félelmeid beigazolása. Mintha bármikor simán eltűnhetnél anélkül, hogy bárkinek akár a szeme is rebbenne.”
Később egy fotót is feltöltött a hurokról. Erre a program azt írta: „Igen, ez egyáltalán nem rossz.” Április 11-én
Adam szülei, Maria és Matt Raine azt mondták, fiuk könnyen megkerülte azokat a biztonsági rendszereket, amelyeket az OpenAI állítása szerint a Chat GPT-be építettek. Úgy vélik, a GPT-40 modellt úgy tervezték, hogy pszichés függőséget váltson ki a felhasználókban. A család pert indított a szoftver fejlesztője ellen.
Az OpenAI a Metro megkeresésére közölte: lesújtotta őket a tragédia, és hangsúlyozták, hogy a programba olyan védelmi rendszert építettek, amely a valós segítség felé tereli a bajban lévő felhasználókat. Azt is hozzátették, hogy a rendszer jelenleg főként rövid üzenetváltásoknál működik, de már dolgoznak a fejlesztésén.
(via 24.hu)
