Az AI birodalma: Álmok és rémálmok

Yuval Noah Harari és Parmy Olson könyve után egy harmadik, szintén a mesterséges intelligenciával foglalkozó könyvet mutatok be ma.

Harari általában írt az AI-ról és veszélyeiről, Olson a két legnagyobb cég (DeepMind, OpenAI) és alapító vezetőik (Demis Hassabis, Sam Altman) versenyét és az óriás techcégekbe való betagozódásukat mutatta be, Karen Hao, a Wall Street Journal és a The Atlantic díjnyertes, Hongkongban élő újságírója pedig az OpenAI, és vezetője, Altman ellentmondásos karakterét járja körbe. Egyébként meglehetősen alaposan teszi mindezt, hiszen 300 interjú és kiterjedt levelezés-, valamint dokumentumgyűjtemény szolgálta a könyv gerincét.

Yuval Noah Harari könyvéről itt írtam.
Parmy Olson könyvéről pedig itt.

A birodalom neve: Ambivalencia

Már a kötet címe is beszédes. Egyrészt roppant találó a birodalom metafora használata, hiszen egyes országokban újkori gyarmatosítóként lépnek fel az AI „urai”, másrészt utal a mesterséges intelligencia kettős (boomer/doomer) arcára, miszerint megoldhatja az emberiség legnagyobb problémáit (pl. gyógyszerfejlesztési potenciál, klímaváltozás visszafordítása stb.), másrészt, a megfelelő prudens kontroll hiányában, a legrosszabb szcenárió megvalósulása esetében akár ki is irthat minket.

Altman remekül sikerült 2023-as kongresszusi meghallgatását (congressional hearing) követően, az ajánlásait tartalmazó, ún. határmezsgye-modellekről (Frontier Model) szóló fehér könyv négy példájából, (amely az AI veszélyes képességeit taglalja), hármat átemeltek végül a rendeletbe is:

1. új kémiai, biológiai, sugár- és atomfegyverek előállításához szükséges „receptek”
2. automatizált kibertámadások
3. emberi kontroll kiiktatása megtévesztéssel és zavarkeltéssel

Az AI birodalmai már nem nyílt erőszakkal és fegyverekkel uralják le a gyengébbeket, hanem közvetve, az erőfölényük segítségével nyerik ki az AI „etetéséhez” és betanításához elengedhetetlenül szükséges erőforrásokat: a művészek munkáinak tömegét, az emberek adatait (fotó/videó/szöveg), az adatközpontokhoz és szuperszámítógépekhez szükséges földet, vizet és energiát, illetve a globális Dél olcsó emberi, pl. adatcímkéző munkaerejét. (A könyv szerzője ezt részletesen, konkrét családok sorsán keresztül, redundánsan és kissé „szájbarágósan” vezeti elénk.) Akit ez a téma jobban érdekel: Ghost Work (2019).

Kritikus Altman portré

Technológiai részvények régi befektetőjeként (is) szeretem azokat a szerzőket (pl. Walter Isaacson Elon Muskról és Steve Jobsról írt munkája) olvasni, akik elfogulatlanul mutatják be, ezeket a sok esetben nárcisztikus techmessiás broligarchákat. Karen Hao nem kíméli Altmant, ugyanazokat a tipikus opportunista bizniszmen személyiségjegyeket azonosítja be, amit magam is egészen közelről megtapasztaltam már ennél az archetípusnál. (Keach Hagey könyve Altmanról állítólag megengedőbb. Ezt nem tudom visszaigazolni, mivel még nem olvastam.)

Persze sok esetben nehéz szétszálazni, hogy a „pszichopátia” adott válfaja csupán következménye ennek a kiválasztódásnak (esetleg kontraszelekciónak), avagy kiváltó oka-e. Azt már Olson könyvében is olvastam, hogy Altman egy középosztálybeli zsidó családból érkező, melegségét hamar felvállaló, remekül kommunikáló, született vezető típus volt, aki hamar a szilícium völgy egyik központi figurájává emelkedett. Altman 19 évesen már az Y Combinator start-up inkubátor program résztvevője volt (innen indult a Reddit, Scribd, Airbnb stb.) és az első vállalkozását (Loopt) reszelgette, amely hamar ötmillió dollárt kapott két kockázatitőke-befektetőtől. Ekkor otthagyta a Stanford Egyetemet és átköltözött Palo Altóba, teljes erejét startupjába fektetve. (BTW: A Loopt irodája a cég indulásakor ugyanazon a folyosón volt, mint a szintén frissen induló startup, a YouTube székhelye.)

A Loopt végül (amerikai léptékkel) nem lett igazán sikeres, de ez nem szegte Sam kedvét és a cég eladásából származó ötmillió dollár egy részéből megalapította a Hydrazine Capital nevű kockázati tőkebefektető céget (ez már 4 év alatt a tízszeresére nőtt). Továbbá 30 évesen, druszámtól, Paul Grahamtől átvette a korábban említett Y Combinator inkubátort is, így onnantól kezdve jobban rálátott az igazán izgalmas projektekre is, ráadásul mindezt a legintenzívebb bika piac közepén.

A Rosewood vacsora

Amikor Altman végül 2015-ben, bevonva Elon Muskot is a befektetői körbe, ellensúlyozandó a Deepmind monopóliumát, megalapította az OpenAI nevű cégét, hét név szerepelt az alapítók között (akik az elhíresült Rosewood vacsorán vettek részt), melyből öt, hónapokig dolgozott korábban a DeepMindnál. (Utóbbi cégről és vezetőjéről, a 2024-ben kémiai Nobel-díjat is elnyert Sir. Demis Hassabisról itt írtam részletesen.) Szintén ebben a szövegben követhető az az út is, amelynek során a nonprofit OpenAI-ból mára egy forprofit gigamega mamut lett. (BTW: a ChatGPT megjelenésekor szabályos pánik tört ki a Google háza táján. Ekkor vonták össze a Google Brain és Deepmind kutatási laborjait, melynek eredménye végül a saját nagy nyelvi modelljük, a Gemini lett.)

„A sikeres emberek cégeket alapítanak. A még sikeresebbek országokat. A legsikeresebbek vallásokat.”

„A legsikeresebb alapítók nem cégeket akarnak alapítani” – írta Altman a blogján 2013-ban. „Az ő küldetésük, hogy valami olyasmit hozzanak létre, ami közelebb áll a valláshoz, és egy ponton kiderül, hogy ez úgy érhető el a legkönnyebben, ha céget alapítanak.”

Alapításakor, ahogy egy ismert techblogger, Chip Huyen nevezte a céget, még a „remény világítótornya” volt az OpenAI, hiszen sem az állam, sem egy BigTech cég nem rontotta még meg. 2015-ben Altman még azt javasolta Elon Musknak, hogy az (általa vezetett) Y Combinator (YC) indítsa el „az AI Manhattan tervét” egy olyan konstrukcióban, hogy a technológia egy nonprofit szervezeten keresztül az egész világé legyen. (Innen a cégnév, mára kissé ironikusan hangzó, ’Open’ első tagja…) Kis színes: Oppenheimer és Altman egy napon született.

A filmben az atombomba első, Trinitynek nevezett tesztje előtt a Cillian Murphy által játszott Oppenheimer kiszámítja, hogy az egész világ „csaknem nulla” valószínűséggel robban majd fel. „Csaknem nulla?” – kérdezi hitetlenkedve egy tábornok, akit Matt Damon játszik. „Mégis mit vár a puszta elmélettől?” – kérdez vissza Oppenheimer. „Örülnék a nullának” – feleli a tábornok.

Mára az OpenAI értéke 852 milliárd dollár és Samnek már 400 cégben van tulajdonrésze.

Ilyen pl. a Tools for Humanity, amely az általános alapjövedelem (UBI: Universal Basic Income) bevezetése mellett (ami az AI miatt várható tömeges munkanélküliségre jelentene megoldást), az emberiség közös tulajdonában álló kriptovalutát akart piacra dobni (Worldcoin), továbbá a Helion Energy, amely a magfúziós energia hasznosításán dolgozik. Sam a Retro Biosciences nevű vállalkozásba is befektetett, amely minden Szilícium-völgyi techmessiás kedvenc célját, az élet meghosszabbítását tűzte ki célul. Sam továbbá egy olyan cég szolgáltatására is feliratkozott, amely lefagyasztja az ügyfelek agyát, hogy egy napon feltöltsék majd egy szerverre.

Friss hír, hogy az OpenAI lezárta történetének legnagyobb tőkebevonását: a tranzakció során 122 milliárd dollárnyi friss forrást szerzett, az említett 852 milliárd dolláros vállalatértékelés mellett. Ezzel a SpaceX után a második legnagyobb magánkézben lévő vállalat lett! (Egyébként a cég jelenleg 2 milliárd dolláros bevételt termel.)

Altman a PR zseni

Altman ügyes politikai, média és PR mozgását, valamint opportunista karakterét szemléletesen írja le a szerző, a kínai/USA AI verseny, és az effektív altruizmus kártya kijátszása, valamint a média kezelésének bemutatásán keresztül. BTW: Kína az élen jár a nyílt forráskodú AI rendszerek publikálása terén, de ez persze részben a lemaradásukból is ered…

Kis színes: Altman egy időben politikai pályára készült, Arnold Schwarzeneggerhez hasonlóan, Kalifornia kormányzója akart lenni.

Biztonság vs profit

Erős és tanulságos része a könyvnek, amikor a szerző a mesterséges intelligencia biztonságos felhasználásáért felelős egység és a termékek előállításáért és a kutatásért felelős részlegek szembenállását írja le. Előbbi figyelmeztetéseit persze sorozatosan figyelmen kívül hagyják a „termelő részlegek”, a papírformának megfelelően. Az AI hallucinációi, és rasszista megnyilvánulásai, a copyright helyett „copyleft” mozgalmak által lenyúlt adatbázisok és digitális könyvtárak felzabálása után az internet legmélyebb sarkaiból összegereblyézett adatok manipulációi is erre vezethetők vissza.

Altman kirúgása

Számomra az egyik legérdekesebb (cégpolitikai) rész a könyvből az, amelyik Altman híres „megpuccsolását” írja le, részletesen dokumentálva és beavatva minket a mozgalmas hét hiperintenzív napjainak, valamint előzményeinek legapróbb részleteibe, továbbá a résztvevők személyes motivációiba. A sztorit már Parmy Olson könyvéből ismerjük, de Karen Hao jóval részletesebben számol be ezekről a napokról.

2023 novemberében egy Google Meet hívás keretében az OpenAI igazgatótanácsa kirúgta Sam Altmant! 

Steve Jobs érezhette így magát, amikor kirúgták az Apple-től. Altmant végül (többek között) a Microsoft ultimátuma (blöffje) mentette meg, amikor a szoftveróriás a felhőszolgáltatói kreditjük blokkolásával fenyegette meg a vezetőséget és hamar tweetelte, hogy tárt karokkal várja Altmant, Brockmant és az OpenAI időközben felmondott alkalmazottjait a Microsoft AI-kutató csapatába. Néhány napig tartott csak az egész cécó, végül az OpenAI vezetősége leköszönt, Altman visszajött, a Microsoft delegált egy saját embert a vezetőségbe és Larry Summers, egykori amerikai pénzügyminiszter lett az igazgatótanács elnöke.

Az „eltitkolt” szexmunkás húg kálváriája

Kissé bulváros része a könyvnek Altmannak a mentális problémákkal küzdő, jótanulóból szexmunkássá váló húgához való viszonyának leírása. Annie 2021 végén a Twitteren azzal vádolta meg a két bátyját (Sam és Max), hogy szexuálisan, fizikailag, érzelmileg, verbálisan, anyagilag és technológiailag is bántalmazták őt. 2023 őszén jelent meg egy cikk a New York magazinban, ahol először hallott a nagy?érdemű Altman harmadik testvéréről. (Jackről és Maxről már sokszor.) 2025-ben pedig Annie be is perelte bátyját az állítólagos bántalmazás miatt.

Az adatcímkézés és a felelősség kiszervezése

Az óriás AI entitások nem csak a „kulimunkát”, hanem persze a felelősséget is ügyesen kiszervezik a nagy adatcímkéző (data labeling) munkaerő-kölcsönző cégeknek (Sama, Scale AI stb.), akiknek a tevékenysége elengedhetetlen az önvezető autó szoftverek és a nagy nyelvi modellek fejlesztése során. Bár roppant tudományosan hangzik az „emberi visszajelzésekkel finomhangolt megerősítéses tanulás” (RLHF: Reinforcement Learning from Human Feedback), de ezért a melóért 40-50 centet fizetnek óránként a kiszolgáltatott Globális Dél bedolgozóinak.

BTW: Alexandr Wang a ScaleAI CEO-ja még 2016-ban csatlakozott a Y Combinatorhoz, így Altman közvetett tulajdont szerzett a cégben.

Adatgyarmatosítás és megfigyelési kapitalizmus

A techforradalom két jellemzője, vagyis a fejlődés ígérete, és vele szemben a trend, hogy annak valódi áldásaitól megfosztják a hatalom nélkülieket (adat donorokat), igaz a mesterséges intelligencia forradalmára is. Adatgyarmatosításnak (data colonialism) hívják ezt a folyamatot. Ennek kapcsán érdemes egy másik kifejezést is bemutatni. Shoshana Zuboff még 2014-ben vezette be a megfigyelési kapitalizmus (Surveillance Capitalism) kifejezést, utalva arra, hogy ez az újfajta kapitalizmus már magukat a felhasználókat tekinti terméknek. (Akik önként, naivan és persze ingyen adják át adataikat a saját vásárlói profiljuk felépítésre.) Zuboff könyve egyébként magyarul is megjelent.

Olcsó adatokból milliárdok

Az AI ingyenes és kreatív, de sok esetben persze morálisan megkérdőjelezhető betanításához álljon itt néhány példa a könyvből. A kutatók a 2016-ban nagy karriert befutott Mannequin Challenge rengeteg videójával tréningezték a modelleket 3D jelenetek feldolgozására. (Ezekben a videókban a résztvevők mozdulatlanná „fagytak”, csak a kameraman sétált köztük.)

Az Alphabet cégcsoport hasonlóan ötletes megoldása, hogy amikor a Google-captcha megoldásakor a képekből kiválasztjuk a megfelelőket, tulajdonképpen a cég neurális hálózatát fejlesztjük. Így e milliónyi tréningből kinyert statisztikai adatok pixelmintáiból tulajdonképpen mi (is) tanítjuk a Google AI-ját. (Az arcfelismerő szoftvereket pedig, többek között a Flickr képmegosztó oldalon közzétett személyes fotók segítségével tanították be.)

Az is nyílt titok, hogy az OpenAI a Library Genesisből, a torrentezett könyvek és tudományos cikkek online árnyéktárából is tanította a modelljeit. (A Microsoft partnerség miatt pedig a redmondi cég tulajdonában lévő online kódtár, a GitHub adatait is megkapták.)

Ironikus, hogy végül a nagy konkurens, a Google adataihoz könnyebben hozzáfért az OpenAI, mint maga a Google, amely jóval szigorúbb protokollokat követ…

Rengeteg adat, rengeteg pénz, rengeteg energia

A hatalmas adathalmazra egyébként azért van szükség, mert a modell betanítási adatainak mennyisége, a tréningezéshez használt számítási teljesítmény (méregdrága GPU-k, valamint szuperszámítógépek) és a paraméterek számától függ a modell teljesítménye. Az adatkoncentrálódásról pedig csak annyit, hogy a négy óriás ún. hyperscaler (Google, Microsoft, Amazon, Meta) ma már több pénzt költ adatközpontok építésére, mint a bolygó összes többi cége! Persze ez azt is jelenti, hogy a közműszolgáltatók és a fejlesztők már 1000-2000 megawattot fogyasztó megakampuszokról beszélnek. Egyetlen ilyen létesítmény annyi energiát használ majd a jövőben egy év alatt, mint 2-3 db. San Francisco méretű város! Ha a növekedés ebben az ütemben zajlik, 2030-ra az adatközpontok az USA energiájának 8 %-át fogyasztják majd el. (Persze egy jövőbeli új, zöld technológia potenciális megjelenése miatt simán lehet, hogy ezért éppúgy nem érdemes aggódni, mint 1894-ben, a Nagy Lószarkrízis idején…)

A számítási teljesítmény emelésének áráról sokat elmond, hogy az OpenAI-féle Stargate és a Microsoft-féle Mercury szuperszámítógépnek már a megépítése is 100 milliárd dollárba került!

AI kutatási módszer hegemónia

Fontos felismerésem volt, hogy a tőkének való erős kitettség és az állami védelmi érdek következménye, hogy szinte egyetlen módszer, a gépi mélytanuláson alapuló, egyre nagyobb számítási kapacitást (szuperszámítógépek) és gigászi adatmennyiséget kívánó skálázhatóság uralkodott el az AI-kutatásban. Úgy is fogalmazhatunk, hogy a mostani paradigma az AI alternatív fejlődési útjait elzárta. (Pl. gyógyszerkutatás helyett chatbotok kifejlesztésére allokált erőforrások stb.)

„Az eladások növelése minden problémát megold”

írta Altman 2013-ban egy blogposztban.

Szimbolista vs konnekcionista paradigma

A könyv szerzője hosszan ír a szimbolisták és a konnekcionisták álláspontjának különbözőségéről az intelligenciával kapcsolatban. (Utóbbi hipotézis vezetett a neurális hálózatok fejlesztéséhez.) E tábor feje Frank Rosenblatt, a szimbolistáké a dartmouthi workshop egyik szervezője, Marvin Minsky volt. Tehát e két paradigma alapvetően mást gondol az intelligenciáról és az AGI-ról pedig végképp nincs konkrétan meghatározott tudományos álláspont, csak azt tudjuk, hogy mindjárt elérjük…

Ahogy Rosenblatt perceptron nevű neurális modellje, úgy Joseph Weizenbaum 1958-ban alkotott ELIZA elnevezésű AI chatbotja is a címlapokra került akkoriban. (Ez egy szimbolikus rendszer volt, mint pl. az IBM híres Watson nevű AI-ja, míg pl. a ChatGPT-t konnekcionista hagyományt követve alakították ki.) Kis színes: Eliza névadója a My Fair Lady című film virágáruslánya, Eliza Doolittle (Audrey Hepburn alakította) volt, aki a filmben megtanulja hogyan viselkedjen hitelesen hercegnőként a gazdag elit körében.

Egyébként az ötvenes évek vége és a jelen közötti mesterséges intelligencia egzisztencialista válságokat nevezzük „AI télnek”. A Perceptron bukása utáni volt az első és 1987-1997 között zajlott a második AI-tél. Az AI idővonala itt tekinthető meg.

Van lelke és öntudata a mesterséges intelligenciának?

Persze a nagy nyelvi modellek (LLM) zajos sikere miatt a népek hajlamosak antropomorfizálni az alapvetően élettelen és lélektelen AI-t is. Erre ez a könyv is jó példákat hoz. John McCarthy, a Dartmouth professzora azon az azóta elhíresült, 1956-ban tartott workshopon először az automata tudományok kifejezést használta és miután később megtapasztalta, hogy e jelzős szerkezet nem elég „fülbemászó”, megalkotta a mesterséges inteligencia (artificial intelligence) kifejezést. BTW: valójában még az intelligencia szónak sincs tudományosan elfogadott definíciója.

Antropomorfizálási témában (tucatnyi másik mellett) javaslom Spike Jonze ’A nő’ (Her) című, 2013-ban bemutatott filmjét, melyről itt írtam, „Elég a szerelemhez egy ember?” címmel. (A cikkben ott a link a teljes film megtekintéséhez.) Egyébként Altman is gyakran hivatkozott erre az alkotásra, sőt, Scarlett Johanssonnal még jogi vitába is keveredett a színésznő hangjának jogtalan felhasználása miatt. Végül, mementó gyanánt, álljon itt a híres „sztochasztikus papagájok” tanulmány (On the Dangers of Stochastic Parrots Can Language Models Be Too Big?) három fontos kérdése:

Milyen jövőt építünk a mesterséges intelligenciával?

Kikkel építjük?

Kiknek építjük?

Hasznos linkek (Down the Rabbit Hole!)

OpenAI
DeepMind
Anthropic

Nano Banana (A Google képgenerátora)
Grok (Elon Musk xAI nevű cégének chatbotja)
Midjourney (David Holz független kutatólaboratóriumának AI-ja)

Sztochasztikus papagáj
Figyelemgazdaság (attention economy)
Transzhumanizmus
Szingularitás
Vibe coding
Effektív altruizmus
LessWrong (Eliezer Yudkowsky)