A teljesen autonóm rendszerek veszélyesek - állítja egy tudós, aki más utat követne
Stanley Kubrick 2001: Űrodüsszeiájában a Hal 9000 fedélzeti számítógép bosszút áll az űrhajósokon, akik egy hibája miatt ki akarják kapcsolni.
A gépek "öntudatra ébredése" ugyan egyelőre nem fenyeget, de az autonóm rendszereknek komoly kockázatai lehetnek. Erre figyelmeztet Ben Shneiderman, a marylandi egyetem számítógéptudósa, írja a New York Times.
Shneiderman szerint egyfelől könnyen születhetnek olyan gépek, amelyek nem eléggé biztonságosak, másfelől az autonóm rendszerekkel a tervezők gyakorlatilag felmentik az embereket az erkölcsi felelősség alól, legyen szó akár gépjárművekről, akár fegyverendszerekről.
A biztonsági kockázatokra példaként a Boeing MCAS repülésellenőrző rendszerét hozza fel, amelyet két Boeing 737 Max lezuhanásáért tettek felelőssé. 2018 októberében az indonéziai légitársaság gépének katasztrófája 189 ember halálát okozta, 2019 márciusában pedig egy etióp repülőgép zuhant le, fedélzetén 153 utassal. Ez a két tragédia Shneiderman szerint a magas automatizálási fok és az alacsony szintű emberi ellenőrzés eredményének szélsőséges példája.
„A tervezők azt hitték, hogy autonóm rendszerük nem hibázhat. Ugyanakkor nem szerepelt a leírása a kézikönyvben, és a pilótákat nem képezték ki arra, hogyan váltsanak át kézi vezérlésre” – mondja.
Shneiderman szerint ideje felülvizsgálni a mesterséges intelligenciákon alapuló automatizálást. Meg van győződve arról, hogy tévút a teljesen önjáró autók fejlesztése és a technológiai ipar robotjövő-víziója.
Szerinte sokkal inkább arra kellene törekedni, hogy a robotok javítsák az emberek képességeit, nem pedig arra, hogy a helyükre lépjenek.
Néhány kivételtől eltekintve, mint a gépkocsik légzsákjai, vagy az atomerőművek ellenőrző rúdjai, olyan rendszerek tervezését javasolja, amelyekben a számítógép az emberi felhasználók képességeit terjeszti ki.
Ilyen irányú fejlesztések egyébként most is folynak. A Toyota kutatóintézetének vezetője, Gill Pratt és csapata például egy Guardian nevű rendszeren dolgoznak, amelyet a kutatók „szuperfejlett vezetősegédnek” neveznek. Ezt a vadászgépek irányítórendszerei alapján tervezték, amelyeknél a pilóta nem közvetlenül irányítja a gépet, hanem a rendszer rásegít, és korrigál, ha a biztonság érdekében szükséges. A Toyota víziója, hogy az ember és a gép csapattársként működik együtt.
Szeretnék, ha megmaradna a vezetés öröme, de a sofőrök sokkal hatékonyabban tudnának reagálni a különböző közlekedési szituációkra. Ez pedig nem kis kihívás.
Hasonló, egyenrangú kapcsolatot szorgalmaz a gépek és az emberek között Robert O. Work amerikai védelmi miniszter-helyettes is a hadiiparban. Ő az olyan „kentaur fegyverrendszerek” fejlesztését támogatja, amelyek működéséhez - a mesterséges intelligencián alapuló gyilkoló robotokkal ellentétben - emberi közreműködés szükséges.
Bár a számítógépek sokkal hamarabb felismerik a mintákat, mint az emberek, rosszabbul reagálnak a kiszámíthatatlan dolgokra és a bizonytalanságra. A kentaur fegyverrendszerek ötvözhetnék a gépek és az emberek előnyeit, fokozva a katonák reakcióidejét, akik így hatékonyabban tudnának harcolni a csatamezőn.
