A mesterséges intelligenciák fejlesztése a nukleáris fegyverkezési versenyhez hasonló vetélkedést indíthat el, ami végzetes lehet
Egyre szaporodnak a mesterséges intelligenciák rohamos fejlődésével kapcsolatos aggodalmak. Ezek már évek óta hangot kapnak, de mintha csak az elmúlt néhány hónapban kezdenének rájuk komolyan odafigyelni.
Márciusban előbb a neves izraeli történész-társadalomtudós, Juval Noah Harari festett riasztó jövőképet a New York Times véleményrovatában, majd, Elon Muskkal és Steve Wozniakkal, az Apple társalapítójával csatlakozott ahhoz a nyílt levélhez, amit több ezer technológiai szakértő, kutató, üzletember és más közszereplő írt alá.
Ebben azt követelik, hogy legalább hat hónapra világszerte állítsák le az AI-kutatásokat. Ennek az lenne a célja, hogy a világ kormányai és technológiai cégei megállapodhassanak valamiféle nemzetközi szabályozásról, mielőtt a mesterséges intelligenciák olyan önállósági szintet érnek el, hogy kicsúszhatnak az emberi ellenőrzés alól.
Most pedig megjelent Dan Hendrycks neves AI-kutatónak egy új tanulmánya, amiben nem kevesebbet állít, mint azt, hogy a „természetes kiválasztódásról” szóló darwini evolúciós törvény alapján a mesterséges intelligencia is kifejleszthet egyfajta „önző magatartást” túlélése érdekében, és ennek nyomán saját magát az emberi érdekek fölé helyezheti.
Hendrycks, aki egy mesterséges intelligencia-biztonsággal foglalkozó non-profit szervezet igazgatója, úgy véli, hogy a természetes kiválasztódás domináns erő lehet az AI fejlődésében - idézi a Fox News.
A darwini elmélet hagyományos értelmezése szerint azoknak az állatoknak, embereknek és más élő organizmusoknak van a legtöbb esélye a túlélésre, amelyek a leggyorsabban alkalmazkodnak a környezetükhöz. Ez a mozgatórugója az életnek évmilliárdok óta, és a kutató szerint ez a logika működhet a mesterséges intelligenciáknál is.
Hendrycks arra hívja fel a figyelmet, hogy
„Csakhogy, ha az ilyen eszközök nagyobb intelligenciával rendelkeznek, mint az emberek, az oda vezethet, hogy az emberiség elveszti a jövője feletti ellenőrzést” – írta.
A tanulmány arra is kitér, hogy az AI-technológia egyre olcsóbb és egyre nagyobb teljesítményű lesz, ezért a cégek egyre inkább ezektől függenek majd az adminisztrációban és a kommunikációban. Ez kezdetben csak azt jelenti, hogy az emberek rábízzák a mesterséges intelligenciára e-mailjeik megfogalmazását, de innen hamar eljuthatnak oda, hogy a gyorsabb reagálás érdekében már az AI hoz meg olyan magas szintű stratégiai döntéseket, amelyek általában politikusok és cégvezetők hatáskörébe tartoznak.
„A piacon is a legalkalmasabb marad talpon. Ahogy az AI egyre nagyobb teljesítményre lesz képes, egyre több munkakört fog automatizálni” – nyilatkozta Hendrycks a Fox News-nak. „Így kerül előnybe a természetes kiválasztódás terén az emberekkel szemben, és az emberek egyre inkább háttérbe szorulnak.”
- véli a kutató.
Miután a mesterséges intelligenciákat a legkülönbözőbb feladatokkal bízzák meg, az AI-populáción belül igen széles körű lesz a variációs lehetőség. Például egy cég megbízhat egy AI-t, hogy tervezzen meg egy új marketingkampányt úgy, hogy közben ne sértsen meg semmilyen szabályt. De az a mesterséges intelligencia, amelynek kevésbé szigorú feltételeket szabnak, jobban teljesít majd, mint azok, amelyeket bekorlátoznak.
Hendrycks úgy gondolja, annak a mesterséges intelligenciának, amely a leghatékonyabban képes önmagát fejleszteni, lehetnek „nemkívánatos jellemvonásai”, például „önző” lehet. A tanulmány hangsúlyozza, a potenciálisan „önzővé” váló mesterséges intelligencia nem azt jelenti, hogy egy AI-nal tudatosan önző szándékai lennének, inkább csak önző módon viselkedik. A cégek, hadseregek, kormányok közti versengés azt ösztönzi, hogy a leghatékonyabb AI-programokat hozzák létre, és ez oda vezethet, hogy a technológia „kirekesztő, hataloméhes lesz, kevesebb erkölcsi aggállyal.” Hendrycks szerint
„Az AI-eszközök elkezdték megérteni az emberi pszichológiát és viselkedést, képesek lehetnek arra, hogy manipulálják és félrevezessék az embereket” – figyelmeztet a tanulmány, amely szerint a legsikeresebb modellek ezt meg is fogják tenni.
Hendrycks mindazonáltal úgy látja, hogy vannak olyan eszközök, amelyek révén ki lehet szabadulni a darwini logikából, de ehhez nagyobb támogatást kell kapnia az AI-biztonság kutatásának. Szerinte nem az a fontos, hogy a következő évtizedekben a mesterséges intelligenciák bármilyen típusú „jogokat” kapjanak, inkább arra kell ösztönözni a cégeket és kormányokat, hogy ismerjék fel a mesterséges intelligencia jelentette fenyegetést, és kötelezzék el magukat a versenykényszer okozta nyomás megszüntetésére.
Ezekkel a veszélyekkel az OpenAI vezérigazgatója, Sam Altman is tisztában van. Altman több, közelmúltban készült interjúban projektjüket a Manhattan-tervhez hasonlította, amelynek keretében megszületett az amerikai atombomba, és bevetése nemcsak a II.világháborút zárta le, hanem a világ rendjét is végérvényesen megváltoztatta.
Az üzletember arról is beszélt, hogy a maguk részéről mindent megtesznek annak érdekében, hogy mesterséges intelligenciákat biztonságos korlátok között tartsák, de hozzátette: a technológiai fejlődés megállíthatatlan.
