Mustafa Suleyman – Michael Bhaskar: A következő hullám: Mesterséges intelligencia, technológia, hatalom és a 21. század legnagyobb kihívása (részlet)
A hullám
Szinte az összes kultúrának van valamilyen árvízlegendája.
Az ősi hindu szövegekben az univerzumunk első emberét, Manut figyelmeztetik a közeledő áradatra, aminek végül ő lesz az egyetlen túlélője. A Gilgames-eposz szerint az Enlil nevű isten az egész világot elpusztította egy nagy árvízzel; ez a toposz valószínűleg mindenkinek ismerősnek fog tűnni, aki olvasta Noé bárkájának történetét az Ótestamentumban. Platón Atlantisz elveszett városáról mesélt nekünk, amit elmosott egy hatalmas víztömeg. Az emberiség szájhagyománnyal terjedő mítoszaiban és ősi írásaiban újra és újra felbukkan a hatalmas hullám, ami mindent elpusztít, ami az útjába kerül, majd egy megváltozott, újjászülető világot hagy maga mögött.
Árvizek a legkonkrétabb módon is fel-felbukkannak a történelmünkben – ilyen a világ nagy folyóinak rendszeres áradása, a tengerszint megemelkedése a jégkorszak végén, vagy a cunami ritka jelensége, ami figyelmeztetés nélkül támad. Az aszteroida, ami kipusztította a dinoszauruszokat, kilométeres magasságú hullámot hozott létre, és teljesen megváltoztatta az evolúció menetét. Ezeknek az árvizeknek a mindent lebíró ereje beégett a kollektív tudattalanunkba: a megállíthatatlan, fékezhetetlen, kordában tarthatatlan vízfalakat bolygónk legkomolyabb erői közé soroljuk. Földrészeket formálnak át, vizet biztosítanak a világ mezőgazdaságának és elősegítik a civilizációs fejlődést.
Másfajta hullámok azonban éppen ilyen nagy hatással tudnak lenni ránk. Tekintsük át ismét a történelmünket, és átvitt értelemben is egy sor hullámot láthatunk benne; birodalmak és vallások felemelkedését és bukását, gazdasági robbanásokat. Gondoljunk csak a kereszténységre vagy az iszlámra, azokra a vallásokra, amelyek apró fodrozódásokként kezdték, hogy végül megnőve hatalmas területeket temessenek maguk alá. Az ilyen hullámok visszatérő motívumok a világunkban; ezek teremtik meg történelmünk, komolyabb hatalmi villongásaink és gazdasági fellendüléseink és mélypontjaink árapályritmusát.
A technológiai újítások megjelenése és elterjedése is tekinthető világot megváltoztató hullámok sorának. Fajunk első technológiai fejleményei, a tűz felfedezése és a kőszerszámok feltalálása óta egyetlen közös motívum köti össze ezeket. Szinte az összes alapvető technológia, amit valaha is feltaláltak a csákánytól az ekéig, a korongozástól a fényképezésig, a telefonoktól a repülőgépekig, minden egyébbel együtt, ami ezek között előfordult, egyetlen megrendíthetetlennek tűnő törvényt követ: idővel olcsóbbá és könnyebben használhatóvá válik, és végül széles körben elterjed.
A technológiai újítások hullámokban terjedése a homo technologicus – a technológiai állat – történetének lényege. Az emberiség szinte küldetésének tekinti a fejlesztést – önmagunkét, a társainkét, a képességeinkét és a környezetünk felett gyakorolt befolyásunkét –, és ez hajtja az ötletek és az alkotás soha meg nem álló evolúcióját. A feltalálás szakadatlan, burjánzó, emergens folyamat, ami önszerveződés útján jön létre rendkívül kompetitív feltalálók, akadémikusok, vállalkozók és vezetők körében, akik mindegyikét a saját egyéni motivációi hajtják. A fejlesztéseknek ez az ökoszisztémája óhatatlanul is tágul. Ezt a technológia elidegeníthetetlen részének tekinthetjük.
Csak az a kérdés, hogy mi történik ezután. A következő oldalakon elmesélem a történelem legújabb nagy hullámának történetét.
Nézzünk körül.
Mit látunk? Bútorokat? Épületeket? Telefonokat? Ételeket? Egy gondozott parkot? Nagy valószínűséggel szinte az összes olyan dolgot, ami a látókörünkben van, az emberi intelligencia hozta létre vagy alakította át. A nyelv – társadalmi interakcióink, kultúránk, politikai szerveződéseink és talán a puszta emberi mivoltunk alapja – is az intelligenciánk terméke, egyben motorja. Az összes elvet és absztrakt koncepciónkat, minden apró kreatív művünket és megnyilvánulásunkat, életünk összes találkozását fajunk egyedi és végtelenül összetett képzeletereje, kreativitása és logikai képessége tette lehetővé. Az emberi találékonyság elképesztő jelenség.
Ezenkívül csak egy hajtóerőről lehet elmondani, hogy ugyanilyen mértékben áthat mindent: magáról a biológiai életről. A modern idők előtt néhány követ és ásványt leszámítva a legtöbb emberi műtermék – a faházaktól kezdve a pamutszöveteken át egészen az éghető szénig – olyan dolgokból származott, amelyek valamikor éltek. Minden, ami azóta megjelent a világban, belőlünk fakad, abból a tényből, hogy biológiai lények vagyunk.
Nem tartom túlzásnak kijelenteni, hogy az emberi világ egésze vagy eleven dolgoktól, vagy az intelligenciánktól függ. Most azonban mindkettőt érinti az exponenciális fejlődés és felfordulás precedens nélküli pillanata, amikor a korábban nem látott ugrások következtében semmi nem maradhat a régi. A technológia új hulláma készül lecsapni ránk, ami ráadásul képes lesz módosítani ezt a két univerzális alapot: magának az intelligenciának és az életnek a hulláma.
A közeledő hullámot két alapvető technológia határozza meg: a mesterséges intelligencia (MI) és a szintetikus biológia. Ezek együttesen elősegíthetik az emberiség új hajnalának felvirradását, és soha nem látott gazdagságot és bőséget teremthetnek. Gyors terjedésük ugyanakkor azzal is fenyegethet minket, hogy eszközöket biztosít egy sor rosszindulatú szereplőnek, akik elképzelhetetlen mértékű zavarokat, instabilitást, sőt katasztrófákat okozhatnak. Ez a hullám hatalmas kihívást jelent, ami az egész huszonegyedik századot meg fogja határozni: a jövőnk függ ezektől a technológiáktól, amelyek azonban fenyegetik is ezt a jövőt.
Pillanatnyi helyzetünkből nézve úgy tűnik, ezt a hullámot nem lehet kordában tartani – vagyis irányítani, potenciálisan másfelé terelni vagy akár megállítani. Ez a könyv felteszi a kérdést, hogy vajon miért van így, és mit jelent, ha tényleg így van. Ezeknek a kérdéseknek a következményei az összes eleven lényre és a miénket követő nemzedékekre hatással lesznek.
Őszintén úgy gondolom, hogy a közeledő technológiai hullám válaszút elé állítja az emberiséget. Amennyiben ugyanis nem tudjuk kordában tartani, úgy drámai vagy akár végzetes hatással is lehet a fajunkra. Másrészről viszont a gyümölcsei nélkül kiszolgáltatottabbak és sebezhetőbbek lennénk. Ezeket az érveket már sokszor elmondtam zárt ajtók mögött, de ahogy egyre kevésbé tudjuk figyelmen kívül hagyni a következményeket, úgy érzem, ideje nyilvánosan is megtennem.
Fordította: Farkas Veronika
Fajunk történelmének kritikus fordulópontja felé közeledünk. Most minden a változásról szól.
Hamarosan MI-k fognak körülvenni minket. Azok fogják megszervezni az életünket, működésben tartani a vállalkozásunkat és biztosítani az alapvető állami szolgáltatásokat. Nemsokára a DNS-nyomtatók és kvantumszámítógépek, mesterséges kórokozók és autonóm fegyverek, robotasszisztensek és a korlátlan energia világában fogjuk találni magunkat.
De egyikünk sincs felkészülve erre.
Mustafa Suleyman egy úttörő MI-fejlesztő vállalkozás, az immár a Google alá tartozó DeepMind egyik alapítójaként közvetlen közelről láthatja ezt a forradalmat. Ő úgy gondolja, hogy az előttünk álló évszázadot ezeknek a nagy erejű, exponenciálisan terjedő új technológiáknak a hulláma fogja meghatározni.
A következő hullámban Suleyman azt mutatja be, hogyan teremtenek majd ezek az erők elképesztő jómódot, ugyanakkor hogyan sodorják veszélybe ezzel egy időben a nemzetállamot, ami eddig világrendünk alapját jelentette. Miközben az eleve ingatag helyzetben lévő kormányaink alvajáróként andalognak a katasztrófa felé, minket egyik oldalról korábban nem tapasztalt ártalmak fenyegetnek, a másikról az önkényuralmi kontroll.
Képesek leszünk megmaradni azon a keskeny ösvényen, ami a katasztrófa és a disztópia között kanyarog?
Az MI egyik legbennfentesebb ismerőjének könyve úgy mutatja be a „kordában tartás problémáját” – a rendkívül hatékony technológiák feletti irányítás fenntartását –, mint korunk legalapvetőbb kihívását.
Mustafa Suleyman – Michael Bhaskar: A következő hullám, Fordította Farkas Veronika, Magnólia Kiadó, 2023