A robotok miatt már évtizedek óta halnak meg emberek, és ha nem vigyázunk, még többen fognak
Az első robot által okozott halálesetet még 1979-ben jegyezték fel: egy Ford gyár munkása, Robert Williams vesztette életét, amikor egy egytonnás robot meghibásodott és agyonütötte. Azóta számos más tragédiát dokumentáltak, amelyek rávilágítanak az automatizált rendszerek veszélyeire. És ahogy telnek az évek, egyre több robot dolgozik emberek közelében – most még leginkább csak gyárakban, de pár éven belül közterületeken, bevásárlóközpontokban, majd háztartásokban is. Ez jelentősen növeli a kockázatot – annak ellenére, hogy napjaink gépei modernebb eszközkészlettel rendelkeznek, mint az az óriás, ami Williams halálát okozta.
A legismertebbek között szerepel a Kawasaki gyárában 1981-ben meghalt Kenji Urada esete, akit egy robot szorított össze, vagy a 2007-es dél-afrikai incidens, amikor meghibásodott légvédelmi robot végzett kilenc katonával, és akkor még nem beszéltünk az önvezető autók, például a Tesla robotpilóta rendszeréről, amelyhez a 2016-os első tragédia óta több másik több haláleset is kapcsolódik.
Kísérteties halál – a tettes egy robotkar
Az egyik leghátborzongatóbb eset tavaly novemberben történt, Dél-Koreában. Egy negyvenes éveiben járó raktári dolgozó egy robotkar működését ellenőrizte az éjszakai műszakban, amikor a gép – amely normál esetben zöldségtároló ládákat rendez raklapokra – hirtelen megragadta, és olyan erővel nyomta rá a szállítószalagra, hogy összezúzta az arcát, illetve mellkasát. A férfi nem sokkal a kórházba szállítás után belehalt sérüléseibe. Az esetet egyesek robot által elkövetett gyilkosságként emlegették, ami persze így nem igaz. De a BBC szerint tény: a robot akkor sem állt le, amikor észlelte a „hibát”, mivel nem tudta megkülönböztetni az áldozatot egy zöldségesládától.
Az eset nemcsak a nyomozókat döbbentette meg, hanem a gépet jó ideje használó üzem vezetőit is, mivel a legmegbízhatóbb robotjaik egyike volt. Gyeongsang tartomány rendőrsége csak annyit tudott teljes bizonyossággal kideríteni, hogy az áldozat egy szenzorhiba kapcsán végzett tesztelést a roboton, amikor a tragédia történt.
Mit jelent mindez az automatizáció jövőjére nézve?
A fentebb írt esetek (amelyeknél jóval több, főleg sérülést okozó meghibásodás történik, csak éppen nem válnak világszerte ismertté) arra engednek következtetni, hogy a szabályozások és a biztonsági protokollok eddig nem tudtak lépést tartani az új technológiák gyors fejlődésével. A mesterséges intelligenciával működő rendszerek gyakran úgy kerülhetnek piacra, hogy nem esnek át alapos tesztelésen vagy nincsenek rájuk vonatkozó világos felelősségi keretek, amelyek meghatároznák, kit lehet elővenni, ha sérülést vagy halált okoznak.
A robotok célja pedig éppen az lenne, hogy biztonságosabbá tegyék a munkahelyeket, hiszen monoton és veszélyes feladatokat végeznek az emberek helyett. Az ipari és logisztikai automatizálás egyre nagyobb mértékben válik a munkaerőhiány és a hatékonyságnövelés kulcseszközévé. Az ilyen tragédiák azonban rávilágítanak a technológia legnagyobb kihívására: hogyan lehet biztosítani az ember és gép biztonságos együttműködését?
A robotok árnyoldala: halálos balesetek és felelősségi kérdések
Az amerikai Észak-Karolinai Egyetem és a brit Leedsi Egyetem közös kutatása nem győzi hangsúlyozni: a fejlett gépi látás, az érzékelőrendszerek, a valós idejű adatfeldolgozás és mesterséges intelligencia megfelelő működése elengedhetetlen a robotok hatékony működéséhez. De ha ezek a rendszerek hibáznak, az végzetes következményekkel járhat. A tudósok rámutatnak: a múltban számos technológiai katasztrófa késztette a törvényhozókat a szabályozások szigorítására. Az 1911-es Triangle Shirtwaist gyártűz új biztonsági előírásokat eredményezett, míg a Titanic elsüllyedése után szigorúbb mentőcsónak- és rádiókommunikációs szabályok léptek életbe. A tudósok szerint hasonló szemlélet mentén kellene eljárni az AI-vezérelt robotika területén is.
A tanulmány kiemeli: az Egyesült Államokban például a Robotic Industries Association (RIA) és az Occupational Safety and Health Administration (OSHA) szervezetek régóta dolgoznak az ipari robotok biztonsági előírásain, de az új technológiák, mint az önvezető járművek vagy a robotizált fegyverek, új megközelítéseket igényelnek. Az olyan nagyvállalatok ráadásul, mint az OpenAI, gyakran ellenállnak a szigorúbb szabályozásoknak, arra hivatkozva, hogy ezek akadályozzák az innovációt.
Csak emlékeztőként: Donald Trump mellett kampányolva Elon Musk is felemelte a hangját a szerinte túlzó előírások ellen. Pedig a baleseteket számokkal is alátámasztották a kutatók. Az OSHA adataiból kimutatták:
2015 és 2022 között 77 robotokhoz köthető balesetet jelentettek az USÁ-ban, és ezek kapcsán 93 sérülés történt. Ezek többségéért (54) egyhelyben álló robotok „tehetők felelőssé”: például ujjakat vágtak le vagy fejsérüléseket okoztak, míg a mobil robotok működése 23-szor vezetett balesethez, főként lábfej- és lábszársérülésekhez. Ezekből az adatokból világosan látszik, hogy bár a halálesetek szerencsére ritkák, sérülésből több, mint elég történik ahhoz, hogy egyértelmű legyen: lépni kell.
Erős az ellenlobbi: az AI-óriások nem rajonganak a szigorú szabályozásért
Az AI és robotikai cégek igyekeznek tompítani a szabályozási szigort, és enyhíteni az AI minőségi követelményeit – mutat rá a Time magazin cikke, amely szerint az OpenAI már lobbizott az Európai Unió illetékeseinél, hogy az olyan modelleket, mint a ChatGPT, ne sorolják a „magas kockázatú” kategóriába, ami szigorú jogi elvárásokat – például átláthatóságot, nyomonkövethetőséget és emberi felügyeletet – vonna maga után. A cég állítólag azzal érvelt, hogy a termékeit nem magas kockázatú felhasználásra szánja, így indokolatlan ekként kezelni.
Ez a logika sokak szerint vitatható: a kritikusok azt mondják, olyan, mintha a Titanic tulajdonosai azzal védekeztek volna, hogy egyáltalán nincs szükség mentőcsónakokra, mert a hajó általában olyan vizeken közlekedik, ahol nincsenek jéghegyek. Ha akkor engedtek volna egy ilyen érvelésnek, a gőzös egyetlen utasa sem úszta volna meg élve. Az OpenAI nem kommentálta az állítólagos lobbitevékenységét, de hangsúlyozta, hogy „küldetésének teljesítéséhez elengedhetetlen a jelenlegi és hosszú távú kockázatok mérséklése”. A cég hozzátette, hogy ebben együttműködik döntéshozókkal, kutatókkal és felhasználókkal, de
Éppen ezért érdekes, hogy a lobbizásnál mennyivel messzebbre jutottak azok a technológiai ipari szereplők, akik az újonnan megválasztott amerikai elnök körül mozgolódnak. Mint írtuk, Donald Trump mellett gyakorlatilag állandó szereplő lett a politikai tárgyalásokon a Teslát, a SpaceX-et és az X-et birtokló Elon Musk, aki részt vesz a következő kormánytagok kiválasztásában is és igyekszik helyzetbe hozni magát, illetve a szilícium-völgyi barátait. Erre várhatóan még több lehetőséget fog kapni az új, ún. Kormányzati Hatékonysági Osztály révén, amelynek a következő ciklusban a vezetője lesz. Trump egyébként az elmúlt egy év gyűjtött maga köré jobboldali technológiai vezetőket, és olyan technológiabarát álláspontot képvisel, ami a kriptovaluták, a mesterséges intelligencia és a Big Tech ellenes szabályozás terén mutatkozik meg.
Nem járható út a szabályozások enyhítése
A The Atlantic elemzése arra jut, hogy „a robotok jövője nem lehet a biztonság múltja”. A nagyvállalatok gyakran saját érdekeik mentén formálják a technológiai fejlesztéseiket, miközben a felelősség terhét a társadalomra hárítják, például azzal, hogy nem a Tesla robotpilótája okoz halálos balesetet, hanem az a sofőr, aki nem megfelelően használja. Ez nem új jelenség: a nagyvállalatok hajlamosak a biztonsági előírásokat és az ipari szabályozásokat innovációt gátló, igazságtalan tényezőként beállítani. De az AI-vezérelt robotokkal kapcsolatos balesetek sem különböznek a múltbéli, hasonló tragédiáktól: ugyanúgy az ipari robotok hibás működése járt halálos következményekkel.
Az igazi technológiai fejlődés alapja a szigorú biztonsági szabványok következetes alkalmazása – még akkor is, ha ez megnehezíti a legizgalmasabb és legjövőbemutatóbb víziók megvalósítását. A múlt tragédiáiból tanulva fejleszthetjük a biztonsági protokollokat, kijavíthatjuk a tervezési hibákat, és megelőzhetjük a további szükségtelen haláleseteket. Jó példa erre a brit kormány 2023-ban megjelent, úttörő szabályozása, ami már most kiemelten kezeli a biztonságot.
Mit tanulhatunk a balesetekből és milyen lépések váltak sürgetőbbé?
Az ipari robotok egyre nagyobb teret hódítanak a munkahelyeken, de az ezzel járó kockázatokra és a balesetmegelőzésére irányuló kutatások csak most kezdik utolérni az automatizáció tempóját. A fentebb hivatkozott egyetemi tanulmány a robotok által okozott súlyos munkahelyi sérülések mintázatait vizsgálva arra jutottak, hogy a leggyakrabban az alábbi három tényező áll a háttérben:
- Feladattípusok: a dolgozók karbantartást végeztek vagy megpróbáltak beavatkozni a robot működésébe.
- Kiváltó mechanizmusok: a robotok mozgásának kiszámíthatatlansága és a védelmi rendszerek hiánya eleve veszélyforrást jelentett.
- Hozzájáruló körülmények: gyakori probléma volt a nem megfelelő képzés, valamint a robotok és az emberek közös munkaterületeinek elégtelen elválasztása.
A kutatók rámutattak: a meglévő védelmi intézkedések nem mindig elégségesek, és az egyik legnagyobb gond az, hogy a robotok mozgásának megfigyelésére és ütközések elkerülésére szolgáló rendszerek nem igazán képesek az emberi végtagok pontos érzékelésére, így megelőzni, sőt enyhíteni sem tudják az ütközéseket vagy más, sérüléssel járó eseményeket.
Az úgynevezett „kollaboratív robotok” (kobotok) fejlődése fontos lépést jelent a biztonságosabb munkahelyi környezet megteremtésében, mivel kifejezetten úgy tervezték őket, hogy emberekkel együttműködjenek, például sebesség- és távolságfigyelő rendszerekkel, valamint erő- és teljesítménykorlátozással. A tanulmány azonban kiemeli, hogy még ezeknél a fejlett rendszereknél is bőven van hová fejlődni, különösen az alsó végtagokat érintő sérülések megelőzésében.
A kutatás alapján egyértelmű, hogy a robotokkal való munka jelentős kockázatokat hordoz, és az automatizáció további terjedésével ezek a kihívások csak növekedni fognak. Az olyan innovációk, mint a robotok és emberek közös munkaterületeinek jobb elkülönítése vagy az egyéni védőeszközök fejlesztése, kulcsfontosságúak lehetnek. A múlt tanulságai azt mutatják, hogy a megfelelő szabályozás és a biztonsági rendszerek fejlesztése nemcsak emberi életeket menthet meg, hanem az ipari automatizációba vetett bizalmat is erősítheti.
A mesterséges intelligencia és a robotika forradalma új lehetőségeket nyit, de ezzel együtt növeli a kockázatokat is. Ahhoz, hogy ezek a technológiák biztonságosan váljanak a mindennapjaink részévé, elengedhetetlenek a szigorúbb szabályozások és a fokozott átláthatóság. A jövő robotikai rendszerei csak akkor lesznek igazán hasznosak, ha a fejlesztők és a szabályozók együtt dolgoznak a felelősség egyértelmű meghatározásán és a megfelelő biztonsági szabványok kialakításán. Az AI-alapú technológiák keretek közé szorítása nemcsak a jelenlegi problémákat oldhatja meg, hanem hosszú távon megalapozhatja a társadalom és a technológia harmonikus együttműködését. De ehhez biztosan nem a szabályozások enyhítése, hanem éppen annak ellenkezője kell – magasfokú edukálás mellett persze, mind döntéshozói, mind pedig felhasználói szinten.
