Csepeli György: A mesterséges intelligencia nemcsak áldásokat, hanem átkokat is hozhat az emberiségre
- A hálózat révén gyakorlatilag bárkit, bármikor elérhetünk. De bennünket is bárki, bármikor elérhet. Egyáltalán van értelme az olyan adatvédelmi törvényeknek, mint amit az Európai Unió bevezetett?
- Ha tetszik, ha nem, a digitális átalakulás halad előre. Az a négy tendencia, amiről beszéltem, nem függ egyikünk akaratától sem. A valóság kegyetlen logikájától hajtva terjeszkedik. Egy dolgot lehet tenni: megtanulni együtt élni vele. Az utolsó fejezetben beszélek az ellenállóképességről, ami mindig is nagyon fontos az emberiség számára. Azoknak biztosított túlélést és előnyt, akik átlátták annak a rendszernek az igazságtalanságait, az egyén jogait figyelmen kívül hagyó viselkedését, amely ellen harcolni kényszerültek.
A szabadságharcnak, amit folyamatosan kell vívnunk az állam, az intézmények, az akaratunkat kisajátító erők ellen, új eszközökre van szüksége. Meg kell tanulnunk programozni, hackernek lenni, meg kell tanulnunk megvédeni magunkat a kibertámadások ellen. Ezek megtanulható dolgok, csak jelenleg nincsenek olyan helyek, ahol megtanítják.
Az iskolában megtanítják a sinus-cosinust, a csonkakúpot és a többi felesleges dolgot, de a lényegről, hogy ehhez a világhoz hogyan kell alkalmazkodni, hogy a hasznát élvezzük és a kárát elkerüljük, még lövésük sincs a tanároknak. Most a koronavírus-járvány miatti digitális átállás az oktatásban sok szempontból egy „forradalmi pillanat” volt, mert ráébresztette a pedagógusokat és a szülőket, hogy vannak lehetőségek arra, hogy megvédjük magunkat. Az Európai Uniónak inkább oktatási-nevelési programokat kellene kezdeményeznie, amelyek segítségével az európai polgárok megvédhetnék magukat a rájuk leselkedő veszélyektől, úgy a multinacionális cégektől, mint az állami titkos szolgálatoktól. Kezdeményezésük fontos lehetne, csak éppen rossz irányban indultak el.
- A mesterséges intelligencia programok gondolatával egyidős az az aggodalom, hogy lehetnek-e ezeknek a „lényeknek” érzelmei, érzékei? Ön is említi a Frankenstein-történetet, vagy a 2001: Űrodüsszeiát, amelyben a Hal 9000 bosszúból megöli az egyik űrhajóst, mert ki akarják kapcsolni.
- Van egy elvi akadálya annak, hogy érdemi értelemben mesterséges intelligenciába épített emóciókról beszélhessünk. Az érzelmek, a vonzalom, a félelem, az undor és a többi lelkiállapot evolúciós értelemben már korábban kialakultak, mint a megértés. Ilyen szempontból a felnőtté válás folyamata többek között annak megtanulása, hogy intelligenciánk segítségével hogyan kontrolláljuk ezeket az érzéseket, hogy miként tudjuk megkülönböztetni a különféle ingereket aszerint, hogy azok szorongásra vagy reményre adnak okot. Ez a vírusjárvány azért is annyira idegesítő, mert az értelmünk légüres térben mozog. Nincsenek tények, senki nem tud semmit. A mesterséges intelligenciának az a sajátossága, hogy nem egyéni fejlődés révén jön létre, korlátozó tényező. Lehet érzelmeket szimulálni programozás révén. Az ember-gép interakcióban már most látjuk, hogy a szimulált érzések az ember szempontjából nagyon hatékonyak tudnak lenni. Ha Pygmalion beleszeretett a maga alkotta szoborba, miért ne szerethetne bele az ember a robotjába? Éppen az ELTÉ-n Miklósi Ádámnak van egy olyan kutatócsoportja, amely kutyákat próbál szimulálni gépi modellekben, és ahogy a kutya képes érzelmeket kimutatni, elvileg a robotok is programozhatók erre a funkcióra.
De az igazi, alapvető érzelmekre, ebben biztos vagyok, soha nem lesznek képesek ezek a berendezések. És ez nagyon jó, hogy így van.
- „A virtuális tömegek lázadásáról” beszél a közösségi oldalak kapcsán. A Facebook és társainak előnyei vitathatatlanok, ugyanakkor olyan trendeket is rákényszeríthetnek a felhasználókra, amelyek ártanak az egyéniségeknek, és azoknak jó, akik a „csordaszellemben” érzik jól magukat.
- Ez a digitális rabszolgaság! Régen hálóval kapták el az embereket, aztán cinikus gazemberek eladták őket a rabszolgapiacon.
A digitális rabszolgaságban viszont mi adjuk el magunkat. Önszántunkból megyünk fel a Facebook, az Instagram, a Twitter platformjaira, és kínáljuk fel magunkat, hogy az adataink révén alkossanak algoritmusokat, amelyek aztán osztályoznak bennünket ide-oda.
Lényegében önmagunk okozta rabságba kerülünk úgy, hogy már nem tudunk visszakozni. De megint előjön az ellenállás kérdés: a megfelelő nevelés, tanulás révén kontrollálni tudjuk magunkat és kizárólag azokra a funkciókra használjuk ezeket a platformokat, amelyekből előnyünk származik és nem hagyjuk, hogy az adataink révén kiszolgáltassuk magunkat a saját életünk adta algoritmusoknak, melyek nagyon fontos összetevői az életünknek, de lássuk be: nem azért élünk, hogy az algoritmusoknak megfelelően a nap 24 óráját úgy töltsük, mintha automaták lennénk. Az életünk azért van, Hankiss Elemért parafrazálva, hogy gondolkozzunk az élet értelméről: arról a titokról, hogy miért vagyunk. Ez nem algoritmizálható.
Akit el tudunk juttatni a tudatosságnak erre a fokára, és folyamatosan ébren tudjuk benne tartani a kíváncsiságot önmaga és mások iránt, annak nem kell félnie ezektől a rabszolgatartó mechanizmusoktól. De ha nincs egy ilyen edukációs elem beépítve a társadalomba, a legveszedelmesebb negatív utópiákra számíthatunk.
- Ezek az oldalak sokak számára azt jelentik, hogy „tartoznak valahová”. Ahogyan régen a grundon a focicsapat, később a galerizés, a bandázás, vagy valamilyen mozgalom...
- Ezen a környéken nőttem fel, közvetlenül a II. világháború után, lejártunk focizni a Sashegyre, és előfordult, hogy felrobbant egy bomba és valaki meghalt közülünk. De az a bomba és az a halál valóságos volt. A digitális korszakot megelőző közösségi találkozásoknak volt egy fizikai realitása. Most azonban egy virtuális térről beszélünk, és a virtuális közösségek bizonyos értelemben elvisznek bennünket a valóságos lét problémáitól. A heideggeri „létfelejtés” állapotában eltűnünk, feloldódunk, és felesleges dolgokkal foglalkozunk. Ez a kisebb baj.
A nagyobb baj az, hogy a lélek legkülönbözőbb kóros megnyilvánulásai, amelyek a mindennapi életben is bőven tapasztalhatók – a fóbiák, a kényszerességek, a féltékenységek, a szorongások, a depressziók – a létnek az emberi állapotból adódó sebei folyamatosan felfakadnak a virtuális szférában, mert ennek a szférának nincs olyan visszajelző, kontrolláló, normaszabó hatása, mint a való életnek.
>Ráadásul az egyik sérült megtalálja a másikat, majd hálózatba szerveződnek. Ennek egészen tragikus következményei lehetnek. Egyik tanítványom írt például szakdolgozatában anorexiás lányok közösségéről, akik egymást licitálták túl a fogyásban, egészen az öngyilkosságig.
- Önmagunk kiadásával szabad prédákká válunk a totális ellenőrzésre törekvőknek, akik az adatok birtokában mindenkinek megtalálhatják a gyenge pontját, és egy idő után már észre sem vesszük, hogy irányítanak bennünket.
- Ez feltétlenül így van.
A demokratikus berendezkedésű államokban a választások már egyáltalán nem demokratikusak.
Láthattuk a 2016-as amerikai elnökválasztást. A helyzet idén novemberben még érdekesebb lesz, mert már az ellentábor is ismeri a módszert. Ezekben a társadalmakban is ott van ez a tendencia, mely rettenetes veszélyek forrása, de mivel megvannak a jogállamiság normái, megvan az emberi jogok tisztelete, bizonyos korlátok azért vannak.
Persze ha digitális rabszolga akarok lenni, abban senki sem tud megakadályozni. Ha nekem az a jó, hogy bemérnek és minden pillanatomban egy olyan reklámmal bombáznak, ami kielégíteni az én teljesen értelmetlen és ostoba vágyaimat, az az én felelősségem. De autoriter rendszerek kezében ez az eszköz egészen végzetes lehet, mint ahogy azt Kína kapcsán látjuk.
Az ember megítélésére kialakított pontrendszer oly mértékben gúzsba köti az embereket, oly mértékben ellene van mindennek, ami az emberi lét szabadságához tartozik, hogy nincs szó az elítélésére. Ha olyan hajdani diktátorok, mint Sztálin vagy Hitler, újraélednének, megnyalnák a tíz ujjukat, hogy egy ilyen eszközhöz jutottak.
- Mi lesz azokkal, akiknek a mesterséges intelligencia feleslegessé teszi a munkáját, ugyanakkor nem képesek lépést tartani a technológiai fejlődéssel? És vajon mekkora tömeget képviselnek a társadalomban?
- Ez vélhetően egy nagy tömeg lesz, de amikor én „fölöslegességről” beszélek, ezt csak a társadalmi munkamegosztás szempontjából vetem fel.
Már ma is azt látjuk, hogy a munkák 80%-a teljesen örömtelen és értelmetlen, csupán időtöltések.
Minél több ilyen pozíciót váltunk ki és hagyományozunk át hálózatba szervezett, vagy csak autonóm módon működő gépi intelligenciákba, annál inkább felmerül a kérdés, hogy mit kezdjünk ezekkel az emberekkel, pontosabban: hogyan ébresszük rá őket, hogy tanuljanak? A „fölöslegesség” nem egy végzetszerű megfosztottság, hanem az a lehetőség, hogy megszabaduljunk az élet mindennapi nyűgétől, amit a munka jelent – a szó az orosz „mukából” származik, eredeti értelme „kín”. Helyette alkothatunk, örömet szerezhetünk másoknak. Az új helyzet arra szólít fel bennünket, hogy ne legyünk feleslegesek, mutassunk meg, mit érünk.
Ha lenne garantált alapjövedelem, és én ezt nagyon pártolom, nem a kirekesztettség felé löknék ki az embereket, hanem egy megfelelő egzisztenciális alappal látnák el őket, másfelől pedig az alapjövedelem lehetőséget biztosítana az önfelszabadításra. Éppen ezért szerintem ezt a lépést előbb vagy utóbb, de meg fogják tenni a modern ipari társadalmak.
A munka-ideológia, amivel előjött a kormánypárt, tulajdonképpen ugyanaz, mint ami az 1950-es években volt, és igazából semmit nem jelent. Nem a munka társadalmát kell megteremtenünk, hanem a szabadságét, amihez hozzátartozik a tudás, az alkotás, az újítás, a szellemi valóság építése.
- Milyen lesz az Ember 2.0? Folytatódik az evolúció, a mesterséges intelligencia túllép az emberen, vagy sikerül az embert és a gépet egymásra hangolni? Ennek kapcsán szóba kerülhet az emberek génmódosítása is, amelynek szintén megvan a maga kockázata.
- A génmódosítás terén még nagyon a lehetőségek elején tartunk. Egyelőre nem kell attól félni, hogy úgy szabjuk-varrjuk az embrióinkat, ahogy a nadrágunkat. A jelenlegi stádiumban én a pozitívumot látom például a rákgyógyításban: ha megtalálják a genetikai alapokat, molekulárisan lehet beavatkozni. Napjaink rákbetegeinek egy része nem a rákba hal bele, hanem a terápiába, mert olyan mértékben pusztítják a sejteket akár sugárkezeléssel, akár kemoterápiával, hogy a test már nem bírja ezt a megterhelést.
A gyógyászatban a genetikának óriásiak a távlatai a betegségek megelőzésében: ha ismerjük egy ember genomját, tudhatjuk előre, hogy egy bizonyos életkorban milyen betegség vár rá. És ezáltal kellő időben be lehet avatkozni, hogy a betegség ne következzen be.
Hogy a jövőben milyen veszélyei lehetnek a génmódosításnak, az egy nagyon fontos etikai probléma. Beszélek is a könyvben a mesterséges intelligenciák korának etikai problémáiról. Eddig Isten intézte ezeket a genetikai ügyeket, de úgy tűnik, néha félrenézett. Hátha mi jobbak leszünk ebben – de nem biztos.
- A könyvet Nagy László-idézettel zárja: „Ki viszi át fogában tartva/a szerelmet a túlsó partra.” Erről eszembe jut az a híres portréfilm, amelyben a költőtárs Kormos István beszélget Nagy Lászlóval, és megkérdezi tőle: mit üzen azoknak, akik 100 év múlva látják a filmet. Nagy László így válaszol: „Ha lesz emberi arcuk, csókolom őket. Ha lesz emberi szellemük, tudatom velük, hogy csak ennyit tudtam tenni értük.” Mi, a háború utáni 10 évben születettek, mit hagyunk az utánunk következőkre?
- Az a portréfilm életem egy legmeghatározóbb élménye, nem véletlenül választottam tőle a fejezet címét. Szerencsére a mi nemzedékünknek is voltak, vannak Nagy Lászlóhoz mérhető tehetségei, és ha arra gondolok, hogy mit hagynak örökül, nincs ok szégyenkezésre. Esterházy Péter nem kevésbé fontos ebben az áthagyományozási folyamatban, mint Nagy László, de jelenleg van a magyar kultúrának, főleg az irodalomnak, színháznak, költészetnek, de még a képzőművészetnek egy olyan kivirágzása, ami derűlátásra ad okot. Elég csak olyan szerzőkre gondolni, mint Bereményi Géza, akinek most olvastam Magyar Copperfield című regényét, s nyomában ott van Spiró György, Krusovszky Dénes, Péterfy Gergely vagy Erdős Virág.
Csillagözönben vagyunk, és a jövő, ha visszanéz ránk, világosságot kap ezektől a csillagoktól.
Csepeli György telefon csengőhangja Wagner: A Walkűrök lovaglása, amely számomra (is) örökre összefonódott Francis Ford Coppola Apokalipszis, most című filmjével. Reméljük, hogy ez csak egy véletlen alapú asszociáció és a következő évszázadok „emberfeletti embere” nem a végítéletet hozza el fajtájának.
