Valóra vált rémálom: orvosnak szánt gyerekfotók miatt jelentett fel egy apát a Google
2021 februárjában, a koronavírus-járvány kellős közepén Mark észrevette, hogy kisgyermekének megduzzadt a pénisze és fáj neki. Fotókat készített róla Android okostelefonjával, hogy követni tudja a probléma alakulását. Az egyik fotón a keze is rajta volt, mert azt akarta elérni, hogy jól látszon a képen a duzzanat. Felesége felhívta egészségügyi szolgáltatóját, hogy videókonzultációt tartsanak, mert személyesen nem mehettek be. Az asszisztens kérte, hogy küldjenek fotókat az orvosnak. Az orvos a képek láttán antibiotikumot írt fel, és a gyerek hamar meg is gyógyult.
Az apa kálváriája azonban a New York Times szerint csak ezután kezdődött.
A férfi telefonján tárolt képekről ugyanis automatikusan biztonsági másolat készült a Google felhőjébe.
A Google a lap szerint csak 2021-ben 600 ezer ilyen tartalmat szűrt ki, és emiatt 270 ezer felhasználót tiltott le. Markkal is ez történt, meglepve tapasztalta, hogy letiltották a fiókját. Többé nem fért hozzá az e-mailjeihez, képgalériájához, amiben gyermeke első évét dokumentálta, és elvesztette azokat a biztonsági jelszavakat is, amelyekkel be tudott volna lépni a többi, általa használt internetes felületre – jószerével bezárult előtte digitális élete. Sőt, még új telefonszámot is kellett kérnie, mert ezt az előfizetését is a Google kezelte.
A történet érdekessége, hogy Mark maga programozó, aki korábban szoftvermérnökként egy nagy cég automata videós szűrőrendszerén dolgozott, így pontosan tudta, hogy a rendszerben mindig van egy ember, aki felülvizsgálhatja a mesterséges intelligencia döntését. Megpróbált kapcsolatba lépni a Google-lel, és elmagyarázni, miért is készültek a képek. De felülvizsgálati kérelmét indoklás nélkül elutasították.
A felülvizsgálat során ugyanis megállapították, hogy korábban is készült egy problémásnak talált videó. Ezen Mark gyereke meztelen édesanyja mellett feküdt az ágyban. A privát albumban tartott videóhoz a Google rendszere ugyanúgy fért hozzá, mint a fotókhoz, a felhőbe történő szinkronizálás miatt.
Mark nem emlékszik pontosan a videóra, de a New York Timesnak azt mondta, egy olyan reggelen készülhetett, amikor egy meghitt, családi pillanatot akart megörökíteni. Hozzátette, minden bizonnyal semmi gond nem lett volna belőle, ha pizsamában alszanak.
A rendőrség gyorsan lezárta a nyomozást az ügyben, a körülmények alapján számukra egyértelmű volt, hogy nem történt semmilyen bűncselekmény.
Két hónappal ezelőtt kapott egy értesítést, hogy a fiókját végleg törölték. Akkor ügyvédhez fordult, hogy beperelje a Google-t, de végül úgy döntött, hogy nem ér meg neki a bizonytalan kimenetelű per 7000 dollárt.
Tény, hogy a technológiai óriások sokat tesznek a gyermekpornográfia megfékezése érdekében. Az első hatékony eszközük a Microsoft által 2009-ben forgalomba hozott PhotoDNA volt, amelyet a Facebook és más cégek is használtak az illegális és káros képek kiirtására.
A mesterséges intelligencia azután ezen a téren is ugrásszerű fejlődést hozott. A Google 2018-ban kifejlesztett egy programot, amelynek segítségével nemcsak a már korábbról ismert áldozatok képeit tudták kiszűrni, hanem azokat az ismeretlen gyerekekét is, akik szexuális bántalmazás áldozatává válhattak.
A gépi tanulás során a Google visszaélés-felismerő mesterséges intelligenciáját olyan képekkel tanítják be, amelyek egy része erőszakra utaló momentumokat ábrázol, a másik része nem. Addig edzik a szoftvert, amíg képes lesz nagy biztonsággal megkülönböztetni a kettőt.
A projekt támogatói szerint ennek ellenére hasznos a szoftver alkalmazása. Csak tavaly 4260 „potenciális új áldozatot” találtak az Egyesült Államokban.
Kate Klonick, a New York-i St.John’s egyetem jogászprofesszora szerint azonban a techcégeknek kötelességük lenne az ártatlanul megvádoltakat tisztázni és visszahelyezni őket jogaikba. Emellett a kritikusok szerint sokkal jobban kellene figyelni a privát szféra védelmére, mert sokan egész biztosan nem tudják, hogy a telefonjukon tárolt magánképeiket a biztonsági mentés során idegenek is szemügyre vehetik, és emiatt akár bűnvádi eljárás is indulhat ellenük.
A New York Times megszólaltatta az amerikai gyermekorvos-akadémia elnökét, dr. Suzanne Haney-t is, aki azt javasolja, hogy a szülők, ha lehet, ne fotózzák gyermekük intim testrészeit, vagy ha ez orvosi okból indokolt, figyeljenek rá, hogy ne kerüljenek fel a képek a felhőbe, és azonnal töröljék azokat, amint az orvos látta őket.
