„Ugyanannyit vagy még többet dolgozol” – egy szoftvermérnök leplezte le, hogyan hajszol kiégésbe a mesterséges intelligencia

„Készíts karikatúrát rólam, mindabból, amit tudsz!” – néhány nap alatt ez lett a közösségi médiák új varázsmondata. A hírfolyamokat elárasztották a mesterséges intelligencia által generált, vicces vagy éppen elgondolkodtató portrék, amelyeket a felhasználók magukról és a munkájukról kértek.

A játékos önkifejezésnek tűnő trend azonban egy sokkal sötétebb oldalt is rejt: miközben az emberek fotókat és részletes önleírást töltenek fel a szórakoztató képekért cserébe, az opportunista oldalak ugyanígy gyűjtik az arcunkat, a szokásainkat és néha a bankkártyánkat is. A kérdés ma már nem az, hogy menő-e az AI-karikatúra, hanem az, hogy mennyit ér meg egy mém a magánszféránkból.

A folyamat azonban gyakran arra ösztönzi az embereket, hogy egyre több személyes részletet osszanak meg a pontosabb eredmény érdekében. Ezt a hullámot lovagolják meg a külső oldalak és alkalmazások, amelyek „ChatGPT-stílusú” karikatúrák ígéretével csalogatják magukhoz a gyanútlan érdeklődőket.

A feltöltött fotók ugyanis nemcsak egy képet, hanem egyedi azonosító jegyeket is tartalmaznak, amelyeket a rendszerek megtanulhatnak és tárolhatnak. Ezekkel az adatokkal később visszaélhetnek, például nem beleegyezésen alapuló, manipulatív képek, úgynevezett deepfake-ek létrehozására.

„A szexuális tartalmú zsarolás (sextortion) következményei országszerte érezhetők” – fogalmazott Christopher Wray, az FBI igazgatója.

Nemcsak a zsarolók, hanem a hétköznapi csalók is felfedezték az AI-arcokban rejlő lehetőséget. A Meta fenyegetéselhárítási vezetője, Ben Nimmo már 2022-ben arról beszélt, hogy a közösségi oldalakon felszámolt csaló hálózatok több mint kétharmada mesterségesen generált profilképeket használt a hitelesség látszatának megteremtésére. „Ezek lényegében olyan emberek fotói, akik nem is léteznek” – mondta.

A folyamat pszichológiai csapdája, hogy ha a felhasználók a kapott karikatúrát „nem elég pontosnak” érzik, hajlamosak még több kontextust és személyes adatot megadni. „Ha az eredmény nem pontos, a felhasználók egyszerűen több kontextust adnak hozzá, gyakran rendkívül személyes adatokkal” – mondta a Forbes-ban Matt Conlon, a Cytidel kiberbiztonsági cég társalapító-vezérigazgatója.

A reputációnkat is kockáztatjuk, hiszen a nők képeiből a rendszer aránytalanul gyakran készített túlszexualizált kimeneteket, sőt, kiskorúakról készült fotókat is elfogadhatatlan módon alakított át. Az Egyesült Királyságban február 7-én lépett életbe az a törvény, amely bűncselekménynek minősíti a beleegyezés nélküli szexuális deepfake képek létrehozását.

A legfontosabb tanács, hogy ne töltsünk fel valós fotót, ha nem muszáj. Helyette adjunk részletes leírást az arcformánkról, hajszínünkről és öltözékünkről. Az OpenAI hivatalos felületén lehetőség van kikapcsolni a tréningcélú adatmegosztást a beállításokban, illetve használhatunk ideiglenes csevegést is, amelynek tartalmát 30 nap után törlik.

Kerüljük az ismeretlen domaineken futó, „ingyenes karikatúra” hirdetéseket, és soha ne töltsünk fel kiskorúakról készült képet ilyen szolgáltatásba. Egyes klónoldalak, mint a Caricature Bot, már 9 dollárért, azaz nagyjából 3300 forintért kínálnak csomagokat, miközben adatvédelmi tájékoztatójuk homályos vagy hiányos.

via Forbes

Egy ukrán tisztviselő szerint „kézzelfogható eredményeket hoztak” Elon Musk erőfeszítései, amelyekkel igyekszik megakadályozni, hogy Oroszország a Starlink műholdakat dróntámadásokhoz használja.

– írta a BBC News.

Mihajlo Fedorov védelmi miniszter szerint a SpaceX alapítója gyorsan reagált, amikor értesítették arról, hogy Starlink-kapcsolattal rendelkező orosz drónok működnek az országban.

Musk maga is megerősítette a lépéseket az X-en. „Úgy tűnik, hogy az oroszok Starlink jogosulatlan használatának megállítására tett lépéseink működtek. Szóljanak, ha még többre van szükség” – írta.

„Az orosz drónok ennél sokkal gyorsabban haladnak, így az ellenséges operátorok nem lesznek képesek valós időben irányítani őket” – közölte a weboldal.

A Háború Tanulmányozásának Intézete január közepén arra figyelmeztetett:

Ezeket a drónokat Fedorov miniszter szerint nehéz lelőni, mivel alacsonyan repülnek, elektronikus hadviseléssel nem lehet elhárítani őket, és az operátorok távolról, valós időben irányítják őket. Orosz háborús bloggerek arra figyelmeztettek, hogy a következmények túlmutathatnak a drónokon, mivel az orosz hadsereg a Starlinket a frontvonal internetellátására is használja.

Egyébként Fedorov – akkor még miniszterelnök-helyettesként – volt az, aki 2022 februárjában, nem sokkal Moszkva teljes körű inváziója után segítséget kért Musktól, aki még aznap engedélyezte a Starlinket Ukrajnában. A kapcsolatuk azonban hamar viharossá vált.

Musk azóta többször bírálta a nyugati országokat, amiért finanszírozást és fegyvereket nyújtanak Ukrajnának. „Őrültség továbbra is ennyi pénzt küldeni Ukrajnának elszámoltathatóság és végcél nélkül” – mondta. Ugyanakkor azt is kijelentette, hogy „bármennyire is nem értek egyet az Ukrajnával kapcsolatos politikával, a Starlink soha nem fogja kikapcsolni a termináljait”. Márciusban pedig úgy fogalmazott: „A Starlink-rendszerem az ukrán hadsereg gerince. Az egész frontvonaluk összeomlana, ha kikapcsolnám.” A feszültségek ellenére Fedorov a múlt héten ismét méltatta Musk időben meghozott döntését, mondván, a Starlink „kritikusan fontos volt államunk stabilitása szempontjából”.

Ha a közösségi média olyan, mint egy biztonsági öv és sebességkorlátozás nélküli autó, akkor miért engedjük, hogy a gyerekeink vezessék?

A vita forr, miután az Egyesült Államok tiszti főorvosa, Vivek H. Murthy júniusban

Indoklása szerint a fiatalok számára „a közösségi média használatának biztonságossága nem bizonyított.”

„A figyelmeztető címkéknek rendszeresen emlékeztetniük kell a szülőket és a tinédzsereket, hogy a közösségi média nem bizonyítottan biztonságos” – mondta Murthy egy interjúban.

Az Egészségügyi Világszervezet európai irodájának szeptemberi jelentése szerint a „problémás közösségimédia-használat” aránya 2018 és 2022 között 7%-ról 11%-ra nőtt a 11–15 éves fiatalok körében.

Egy több mint kilencezer amerikai gyereket követő kutatás például kimutatta, hogy a magasabb képernyőidő 9–10 éves korban kis mértékben, de mérhetően magasabb depressziós és figyelemzavaros pontszámokkal járt együtt két évvel később.

Ezt támasztja alá az a randomizált vizsgálat is,

Kisebb, képalkotó vizsgálatok valóban jeleznek eltéréseket a problémás okostelefon-használók jutalmazó és végrehajtó agyi hálózataiban, de ezek egyelőre csak összefüggések, nem bizonyított ok-okozati láncolatok.

A dopamin ráadásul nem egyszerűen „boldogsághormon”, sokkal inkább a motiváció és a várakozás molekulája, amely arra ösztönöz, hogy újra és újra visszatérjünk a gyors jutalmat ígérő tevékenységekhez.

Problémás használatra utal, ha a digitális eszközök használata már az alapvető működés rovására megy:

További intő jel az ingerlékenység, ha nem elérhető a telefon, a titkolózás a képernyő előtt töltött időről, vagy ha a gyerek sikertelenül próbálja csökkenteni a mobilozást.

Az Amerikai Gyermekgyógyászati Akadémia egy „Családi Médiaterv” létrehozását javasolja, amely kijelöli

A legkisebbeknél, 0–5 éves kor között az Egészségügyi Világszervezet a lehető legkevesebb képernyőidőt javasolja, 2 és 4 éves kor között pedig legfeljebb napi egy órát, azt is lehetőleg a szülővel közösen.

„Az egyik legfontosabb lecke, amit az orvosi egyetemen tanultam, az, hogy vészhelyzetben nincs luxusunk a tökéletes információra várni” – érvel Vivek Murthy.

Ezzel szemben a technológiai cégek az okozati bizonyítékok hiányára hivatkoznak. A Meta vezérigazgatója, Mark Zuckerberg egy interjúban kijelentette, hogy a kutatások többsége szerint nincs ok-okozati kapcsolat a közösségi média és a tinédzserek mentális problémái között.

VIA The Washington Post

Amikor Scarlett Johansson meghallotta a demót, megdöbbent, feldühödött és hitetlenkedve fogadta. A hang, amely az OpenAI legújabb chatbotjából szólt, kísértetiesen hasonlított a sajátjára, annak ellenére, hogy hónapokkal korábban visszautasította a cég felkérését.

Az ő esete lett a szimbóluma annak a harcnak, amely mostanra iparági méretűvé duzzadt: január 22-én közel 800 alkotó, köztük Cate Blanchett, az R.E.M. zenekar és Jodi Picoult író, indította útjára a „Stealing Isn’t Innovation” (A lopás nem innováció) kampányt.

A kampányt olyan nagy múltú érdekvédelmi szervezetek támogatják, mint az amerikai színészek szakszervezete, az Amerikai Írószövetség és az Amerikai Hanglemezkiadók Szövetsége. A konfliktus egyik legismertebb arca Scarlett Johansson, aki nyilvánosan szembesítette az AI céget.

„Amikor meghallottam a demót, hitetlenkedve fogadtam, hogy Altman úr egy olyan hangot választott, amely ennyire kísértetiesen hasonlít az enyémre, hogy a legközelebbi barátaim és a híroldalak sem tudták megkülönböztetni” – nyilatkozta a színésznő a CNBC-nek.

A nyilatkozatuk szerint a technológiai vállalatok engedély nélkül, a szerzői jogi törvények figyelmen kívül hagyásával használják fel a művészek munkáit.

Vince Gilligan, a Breaking Bad alkotója korábban az AI-t „a világ legdrágább és legenergiaigényesebb plágiumgépének” nevezte.

Szerintük a megoldást a licencmegállapodások jelentik, amire már több friss példa is akad. Az OpenAI tavaly februárban kötött tartalmi partnerséget a The Guardiannel, decemberben pedig a Disney-vel írt alá egy hároméves megállapodást, amelynek része egy egymilliárd dolláros (mai árfolyamon körülbelül 322,4 milliárd forintos) befektetés is.

A technológiai cégek jogi érvelése az amerikai jogban ismert „fair use” (tisztességes felhasználás) elvére épül, amely bizonyos körülmények között lehetővé teszi a szerzői joggal védett művek engedély nélküli használatát. „A betanítás 'fair use', de biztosítunk leiratkozási lehetőséget, mert ez a helyes” – reagált az OpenAI a The New York Times által indított perre a CNBC szerint.