A neves amerikai komputerszakértő, író és futurológus, Ray Kurzweil az evolúciót három meghatározó szakaszra tagolja: a biológiai evolúcióra, melynek során a hardware, azaz egy informatikai rendszer fizikai (esetükben biológiai) része és a software (azaz a rendszert magát üzemeltető programok és operációs rendszerek) párhuzamosan, egymást alakítva tökéletesednek; a kulturális evolúcióra, mely elsősorban az információs hálózatot, a programokat és az operációs rendszereket tökéletesítette, de a biológiai rendszerekre is hatással volt; és végül a technológiai evolúcióra, mely az ember által létrehozott informatikai rendszereken alapul, melyek esetében a mesterséges intelligencia hardja és softja is képessé válik arra, hogy önmagát alakítsa és a természeti evolúció korlátai közül kilépve előbb-utóbb alkotójától is függetlenedhessen. Az utóbbi evolúciós folyamat az előbbiektől eltérően máris exponenciális sebességgel zajlik, és rövidesen a szingularitásnak nevezett történelmi diszkontinuitáshoz vezet, mely lehetőséget teremt a biológiai és nem biológiai intelligencia keveredésére, a halhatatlan, szoftver alapú embertípus kialakulására, végül pedig arra, hogy a ?hihetetlenül magas szintű intelligencia fénysebességgel? terjedjen az Univerzumban. Legalábbis, ha minden jól megy?
A mesterséges intelligencia (angol rövidítéssel AT) már ma az intelligenciaként nyilvántartott emberi képességek csaknem mindenikét felülmúlja. Sakkban, pókerben és egyéb társasjátékokban máris verhetetlen. Kép- és beszédfelismerő képessége is meghaladja az emberét. De ? ami a leglényegesebb ? ma már önmaga programozására, azaz emberi beavatkozástól mentes továbbfejlesztésére, a szó biológiai értelemében vett fejlődésre is képes. A szakma ma már nem csupán üzemi robotokról, de robot-bírókról, művész-robotokról, automatizált fegyverrendszerekről, a tökéletességig megtévesztő kép- illetve hangfelismerő- és reprodukáló technológiákról (angol megnevezéssel deep-Fake-technologies) beszél. Mindez a ? politikai rendszerek rendeltetésszerű működését már ma is szinte megbénító ? manipuláció beláthatatlan lehetőségeit teremti meg. Az új technológiák immár képesek arra, hogy emberi arcokat maradéktalanul hiteles mimikával idegen testekre transzponáljanak, s hogy az így létrehozott ?alanyok? szájába tetszőleges szövegeket adjanak. Magyarán bárkit akadálytalanul lejárathassanak. Az eredeti és a hamisítvány megkülönböztethetetlensége az igazságszolgáltatás bizonyítási eljárásait is súlyosan diszkreditálhatja. Folytathatnám?
Max Tegmark nemrégen megjelent Élet 3.0 című könyvében (a címben a 3.0 a kurzweili evolúció-elmélet 3. szakaszára utal) a lehetséges fejlődési irányok két alapvető alternatívájával számol. Egyik a jóakaratú diktátor (Tegmark megnevezésével a ?rabszolga Isten?), akit az ember ugyan többé már nem ellenőrizhet (következésként nem is irányíthat), ennek fejében azonban ? az új Isten szárnyai alatt ? teljes biztonságban élhet. Ez a szuperintelligencia hihetetlen gazdagságot és olyan technológiai rendszereket teremt, melyeket az ember ? kénye-kedve szerint ? jóra vagy rosszra fordíthat. (Ahogy eddig is tette.) A másik alternatíva, azaz a pesszimista forgatókönyv szerint a ?rabszolga Isten? meg sem születhet, mert az emberiség a technika által megkaparintott mind elborzasztóbb hatalom birtokában önmagát nukleáris vagy biotechnikai káoszba hajszolva, megsemmisül.
Stegmark relatív és Kurzweil szinte felhőtlen derűlátásával ellentétben a szakemberek többsége ma már mind mélyebb aggodalmakkal figyeli a fejleményeket. Andrian Kreye, a Süddeutsche Zeitung kommentátora egyenesen KI-pánikról beszél (a mesterséges intelligencia német megnevezése ugyanis künstliche Intelligenz). A szerző cikke a Stanford, a Yale, az Oxford és a Toku egyetemek, valamint a Microsoft, a Google és az alájuk rendelődő fiókvállalatok szakembereinek ?A mesterséges intelligencia ártó szándékú felhasználásáról? című felhívását ismerteti. A felhívás aláírói immár nem a futurológia vagy a tudományos fantasztikus irodalom disztópiáinak nézőpontjából szemlélik a kérdéskört. Hangsúlyozottan nem riogatni akarnak. Pusztán a pillanatnyi helyzetben már benne rejlő, s ? ha időközben a folyamatok iránya nem változik ? a következő öt évben már bizonyossággal várható kockázatokra hívják fel a figyelmet.
Ha a folyamatokat nem sikerül nemzetközi ellenőrzés alá vonni nem csak a számítógépek, de a mesterséges intelligencia által irányított drónok, repülőgépek, robotok, önjáró fegyverzetek is a háborús konfliktusok eszközeivé válhatnak, az ember társadalmi léte pedig egyetlen hadszíntérré fajul. Nem beszélve a lakosság fölött gyakorolt ellenőrzésről. A Kínában már jó ideje munkába állított térfigyelő kamerák milliói által képviselt Nagy Testvérről, aki egymilliárd-négyszázmillió kínai állampolgár arcának tévedhetetlen felismerésére képes, következésként elvileg már ma is minden kínai minden lépését nyomon követheti, nem is beszélve.
A szakemberek megoldásokat is javasolnak. A legfontosabb a mesterséges intelligencia kutatásának és fejlesztésének nemzetköziesítése, s ezáltal a veszedelmesnek tekinthető folyamatok, főként a konkurenciaharcok megfékezése lenne.
Effélére már volt példa az utóbbi száz év történetében. 1968-ban a garmischi NATO-Konferencián moratóriumot hirdettek a szoftverfejlesztés káosszal fenyegető irányzataira. 1975-ben a kaliforniai Asilomarban a biológiai kutatásokat szorították keretek közé, s a moratóriumot aztán a genetikai kutatásokra is kiterjesztették.
A veszedelmes folyamatok megfékezése (s az esetleges ?rabszolga Isten? életre hívása) tehát nem lehetetlen. A súlyosabb következmények nemzetközi összefogással még meggátolhatók. De az összefogásnak most kell bekövetkeznie. Késedelem nélkül!
Kérdés azonban, hogy az ember maga eléggé intelligens-e ahhoz, hogy az alkatában rejlő dominanciaigényen, xenofóbián és agresszivitáson ? az emberiség, azaz utódaink jövője érdekében legalább ? felülkerekedjen?
Az elmúlt ötezer év (azaz nagyvonalakban az ismert történelem) mintha nem erről tanúskodna.