Member of Group ›
Veszélyesebb az AI, mint az atombomba?
Csütörtökönként locsogunk/ fecsegünk az Életről. Meg mindenről.
Kutvölgyi Pál
Blogger42
Írni, olvasni, fotózni és motorozni szeretek, számolni tudok.

Veszélyesebb az AI, mint az atombomba?

 

Avagy a mesterséges intelligencia felülkerekedik a természetes butaságon?

Bár évtizedek óta nagy kedvelője és haszonélvezője vagyok a XXI. századi technológiák fejlődésének, mindig is irritáltak a kritikus gondolkodást mellőző emberek, így a tipikus tech-optimisták is. Nyilván, ahogy általában, úgy a technológiai fejlődés megítélésében is, a rózsaszín (VR/AR) szemüvegen keresztül révedezóknek és/vagy csőlátásnak többféle oka lehet. (Érdek, tudatlanság, érzelem vezérelt gondolkodás, csordaszellem stb.)

A Musk és Obama mellett Orbán Viktor által is olvasott Yuval Noah Harari történész-futurológus nem ilyen szerző. Négy könyvét elolvasva ez nyilvánvaló. A háttércsapatáról: gigamega-mennyiségű forrásmegnevezést (65 oldalnyit) találtok a szerző legújabb, Nexus című könyvében, összesen közel 700-at! Ugyan TGM (már két éve nincs köztünk!) szerint, amit művel az „híg történetfilozófiai limonádé”, de ne legyünk ennyire szigorúak Hararival, hanem örüljünk annak, hogy legalább ilyen minőségű (middle-brow) pop science szövegeket is fogyasztanak a zemberek…

Harari éppolyan, mint a legtöbb modern tudományos kiemelkedő elme (és holdudvara), aki amikor megérzi, hogy elkapott egy populáris alarmista hullámot, próbálja meglovagolni azt és saját, közérthető márkát emelni a hirtelen jött népszerűségre. Ezért nem tudom megvetni, valószínűleg éppígy tennék magam is hasonló helyzetben. (Nem úgy, mint a Hararihez hasonlóan meleg és zsidó Arthur Finkelstein, aki, mint tudjuk, gyakran antiszemita és/vagy homofób politikai kampányokat tervezett, hozzá hasonlóan gátlástalan megrendelőinek. (Igen, a magyar megbízóinak is…)

Harari említett, legutóbbi kötetéről szól ez a (quasi) recenzió.

(BTW: Egy belső gyűrűporc / első keresztszalag szakadás kombó miatti térdműtétet követő rehabilitáció, a gyógytornák között remek alkalmat biztosított számomra az elmélyült olvasásra…)

Amúgy nyugodt énidő és türelem is szükséges ehhez a könyvhöz, ugyanis kevésbé olvasmányosan indul, mint a másik három. A kötet első, „alapozó” része az információ milyenségének körbejárásával és értelmezéseivel foglalkozik („emberi hálózatok”), és csak a második, olvasmányosabb rész taglalja a mesterséges intelligencia („szervetlen hálózatok”) lehetőségeit és veszélyeit. (Harari egyébként, szerintem joggal, az AI-t nem Artificial (mesterséges), hanem Alien (idegen) értelemként definiálja.

A második, említett részben „megnyílik” a szöveg és „feszessége” meg is marad a könyv végéig, sőt, számomra a harmadik rész volt a legizgalmasabb, amikor a komputerpolitikáról ír a szerző. (BTW: már a kifejezés is elgondolkodtató.) Ebben az utolsó részben, távirati stílusban kb. ilyesmikről van szó: Emberi helyett mesterséges intelligencia alapú bürokrácia. A ludditák nem voltak teljes tévedésben. A 18. századi imperializmus és a sztálinizmus, valamint a nácizmus kísérlete az ipari társadalom felépítésre véresen költséges kísérlet volt, mekkora árat fizetünk majd a mesterséges intelligencia megzabolázása kapcsán? A liberális demokrácia fennmaradásának esélyei. Rendelkezhet tudattal a mesterséges intelligencia? A konzervatívok öngyilkossága. A chatbotok milliárdjai felbontják majd a társadalom szövetét? Átveheti a hatalmat egy diktátortól a mesterséges intelligencia? (stb., stb., stb.)

Bár csak az elmúlt 1-2 évtizedben került be a mesterséges intelligencia fogalma a mainstream gondolkodásba (Sophia, önvezető autók, Boston Dynamics és Tesla robotok, fotó/videó/hangutánzó appok, chatbotok stb.), de már a 17. század elején értekezett René Descartes arról, hogy az állatok teste nem több egy összetett gépnél és maga a kifejezés is kb. 70 évvel ezelőtt született meg John McCarthey fejében. (Buzzword persze jóval később lett.) A II. világháború alatt az Enigmát feltörő Alan Turing (múlt karácsonykor „botlottam bele” a családommal tök véletlenül a szobrába Manchesterben, a Gay Village városrész Sackville nevű kis parkjában) az ’50-es években alkotta meg a róla elnevezett, azóta nagy karriert befutott tesztet. („Házi feladat”: Philip K. Dick remek könyvének elolvasása, és/vagy a regényből készített film, A Szárnyas fejvadász (eredeti+remake) megtekintése. (További témába vágó filmek: A.I., Ex machina, Minority Report, Her stb.)

DARPA (Fejlett Védelmi Kutatási Projektek Ügynöksége) több mint 30 éve (!) publikálta, hogy az első öbölháborúban végrehajtott logisztikai műveletek mesterséges intelligenciával történt támogatása több megtakarítást eredményezett, mint az amerikai kormány addigi összes (!) mesterséges intelligencia-kutatásra fordított kiadása. Sophiat, a humanoid (amúgy szaúdi állampolgár!) robotot 2017-ben mutatták be és ugyanebben az évben a Google DeepMind programja pusztán az alapszabályok betanulása utáni önálló tanulással négy óra után képes volt megverni bármilyen sakkjátékost, nyolc óra tanulás után a legkomplexebb szellemi sportban, a góban is győzedelmeskedett!

A következőkben Harari hét, általam önkényesen a könyvből kiragadott fontos kijelentését részletezem.

A mesterséges intelligencia nem eszköz, hanem ügynök (ágens).

Ennek a mondásnak a kiemelt jelentőségét a következő 1 perces videóban szereplő példa (CAPTCHA kód közvetett „feltörése” a ChatGPT-4 által) tökéletesen megmagyarázza. BTW: Ez több mint két évvel ezelőtt történt, múlt nyáron már a GPT 4 omnit is bemutatták, amelyik (aki?), többek között éppen a nyelvi képességeivel iskolázza le a régi verziót. Akár magyarul is…

A mesterséges intelligencia a rendelkezésére álló, (eleinte) emberek által írt szövegeken tanul és „szocializálódik”, ezért napjainkra, sok esetben a korábbi hibákból épített magának, részint fals, előítéletes „világképet”.

A további, AI-tól AI által átvett és módosított, valamint megosztott tartalmak pedig csak tovább erodálják (pl. AI hallucináció jelensége) majd a rendelkezésünkre álló online kontent minőségét. Így a Big Data végtelen hosszú és erősen vegyes minőségű svédasztaláról táplálkozó mesterséges intelligencia mára ugyanúgy lehet rasszista vagy kirekesztő, mint egy ember vagy szervezet. Ráadásul, ha egy algoritmust arra a feladatra írnak, hogy pl. emelje felhasználóinak bevonódását (like, megosztás stb.) és ehhez a gyűlöletbeszéd hangjait kell felerősítenie, megteszi, hisz ezzel éri el a számára (a kódolói által) meghatározott célt. (BTW: A jövőben a kódsorok egyre nagyobb számát is a mesterséges intelligencia írja majd, ezzel akár tovább növelve az interneten hozzáférhető tartalom minőségromlásának eszkalációját…)

A mesterséges intelligencia már rendelkezik a „mesterkulccsal” az emberiséghez, nevezetesen önállóan beszélni és írni is tud. (BTW: a bankok, a tőzsdék és a templomok kapuját is ez a kulcs nyitja…)

A rendelkezésünkre álló közös kódrendszer (nyelv) és szabályok miatt vagyunk képesek vallást, országot, céget, pénzt, valamint adót kreálni és aztán működtetni velük egy komplex bürokratikus rendszert. Miért ne tudná mindezeket egy mesterséges intelligencia is (akár önállóan) létrehozni, ha a bolygónk szinte összes nyelvét és szabályát ismeri? (Mindkét rendszer szélsebes megtanulásában és folyamatos finomhangolásában kiváló teljesítményt nyújt már ma is a kiemelkedő és villámgyors mintázatolvasó képességekkel rendelkező mesterséges intelligencia.) Az elmúlt évezredek prófétái, politikusai, poétái és vállalatai a nyelv segítségével manipulálták híveiket, így a jövőben sem szükséges, hogy a mesterséges intelligencia a Terminátor vagy Mátrix filmek robotjaival fizikailag hajtsa rémuralma alá az embereket.

Bőven elég, ha az embertől eltanult módon, a nyelv narratív erejét használva, a mitológia és a „story telling” erejével manipulálja őket a saját céljainak megfelelően.

Most pedig képzeljetek el a jövőben egy olyan komplex „hibrid hálózatot”, ahol pármilliárd ember kommunikál, akár százmilliárd digitális entitással. Ennek a rendszernek a radikálisan nagyobb részében számítógép kommunikál majd számítógéppel, (ha nem vigyázunk) senki által sem érthető nyelven, módon és formában. Ezen kommunikáció és adatelemzés eredményeképpen változik már most is az USD/EUR árfolyam, itt dől el, hogy mennyibe kerül egy repjegy Bécsbe és az USA-ban (vagy Kínában) már részben ettől függ, hogy az adott polgár kap-e hitelt vagy sem, elítélik-e vagy sem egy büntetőügyben.

A hagyományos adórendszerünk is, mint a pénz újrafelosztásának bürokratikus szisztémája, elavultá válik hamarosan, hiszen egy adatalapú gazdaságban már nem csak a pénzt, hanem az adatot (információt) is meg kell(ene) adóztatni, hiszen a gigamega, nemzetközileg is monopolhelyzetben lévő tech-cégek tranzakcióban már gyakran nem is szerepel közvetlenül pénz.

Persze napjainkban is több milliárd lobbi-dollárt költenek el ezek a technológiai cégek, hogy ez ne így történjen…

A sok információ nem juttat el szükségszerűen az igazsághoz.

Ezt nevezi a szerző az információ naiv szemléletének. (A könyv első, nehezebben fogyasztható része foglalkozik ezzel a kijelentéssel.) Véleménye szerint az információ nem szükségszerűen az igazság nyersanyaga. (Manapság mindenkinek a zsebében van már az világ „összes” információja, mégis egyre bizonytalanabbak vagyunk az igazság/hazugság megkülönböztetésében.) Ráadásul napjainkban az országok vezetői és az általuk instruált bürokrácia is gyakran a rendet tartja fontosabbnak az igazsággal szemben. A jövőben nyilván az igazság felderítésében (pl. klímaváltozás) és a rend fenntartásában (pl. kínai kredit- és megfigyelő rendszer!) is egyre nagyobb teret adunk majd a számítógépek hálózatának, ezért is fontos a helyes arány fenntartására törekednünk. Lsd. az itthoni DÁP-pal (Digitális Állampolgárság) kapcsolatos perpatvar…

A magánszféra (vég)veszélyben van.

A jelenlegi kínai (és a közeljövőben persze egyéb országok) társadalmi kreditrendszere (cikk itt), a térfigyelő kamerák arcfelismerő software-ei és a digitális lábnyomainkból (Google, Meta, egészségügyi adatok stb.) alkotott személyes adattömeg radikálisan leszűkíti a magánéletünk ismeretlen, „fehér foltjait”. Már ma is igaz, hogy egy átlagember családjáról (sőt gyakran önmagáról is!) többet tudnak a nemzetközi tech multik, mint önmaguk. Sőt, a Her című remek Spike Jonze film (cikk itt) „álintim” (chat) szerelmi kapcsolata egy ember és egy chatbot között már a jelenben is létezik! Sok elszigetelt, magányos ember használja már az ilyen alkalmazásokat. Csábító lehet tehát a közeli jövőben, hogy szinte MINDEN döntést egy központi „digitális orákulumra” bízzanak a felelősséget kerülni szerető emberek… (Kis színes: Harari négy éve nem használ okostelefont.)

Vasfüggöny helyett szilíciumfüggöny.

Ahogy a XX. században a vasfüggöny választotta el a hidegháborúban versengő hatalmakat, a XXI. században kódokból épült szilíciumfüggöny húzódhat majd az új globális konfliktusokban részt vevő országok között. Nyilván Kína, USA és Oroszország között már számtalan „COCOM-lista-szerű” tiltás-függöny épült fel az elmúlt évtizedben. Lsd. Huawei „kém chip” és ByteDance (TikTok) story.

Még időben meg kell regulázni tehát a mesterséges intelligenciát!

Mindezek után Harari persze nem azt mondja, hogy a mesterséges intelligencia determinisztikusan rossz, csak azt, hogy ebbe a rendszerbe is be kell iktatni önmagunkra (és a tech cégekre) mért fékeket, továbbá a demokráciákra jellemző önhelyesbítő mechanizmusokat. Tavaly közel harminc kormány (Kína, USA, Egyesült Királyság stb.) írta alá a Bletchley-nyilatkozatot, amely arra hívja fel a figyelmet, hogy pusztító kár származhat a mesterséges intelligencia, most még nem látható képességeiből. Nyilván nehéz előre felmérni ezeket a veszélyeket, hisz gyakran egészen máshogy gondolkodik az AI, hiszen radikálisan több információ áll a rendelkezésére, mint a lassabban és bár internet hozzáféréssel, de jóval kevesebb háttértudással rendelkező embereknek.

A köztudottan „dereguláció hívő” Trump pár napja, egyik első lépéseként visszavonta Biden 2023-ban meghozott végrehajtási rendeletét, aminek célja a mesterséges intelligencia szabályozása volt az USA-ban…

Négy könyvének (Sapiens, Homo Deus, 21 lecke a 21. századra, Nexus) elolvasása után mélyen egyetértek Hararival, aki szerint sürgősen szabályoznunk szükséges a mesterséges intelligenciát, mert ha nem így teszünk, az országok fölé emelkedett, óriás tech-cégek, a náluk koncentrálódó adatok és egyre bővülő AI erőforrásaik miatt még dinamikusabban veszik át az uralmat a tömegek (gagyi üveggyöngyökért önként átadott) adatai után a döntéseik felett is. A nagyon közeli jövőben (jelenben) folyamatosan tanuló, kifinomult chatbotok személyre szabott (!) és egyre jobban targetált manipulációs argumentumokkal és algoritmusokkal quasi „meghackelik” a renyhe tömeg tagjainak döntéseit, hangozzék ez bármilyen kegyetlenül és embertelenül.

Akár cukros vizet, életstílust, vallást, avagy politikust adnak majd el nekünk a segítségével.

A választókat a pártok és cégek fáradhatatlan (nem beteg, nem pisil, nem bánatos, nem alszik) chatbotjai győzködik naphosszat (deepfake, fakenews stb.) és végül leginkább az a párt és cég nyer, akinek hatékonyabb a mesterséges intelligenciája arzenálja. Arról nem is beszélve, hogy az Alphabet/Google vagy a Meta/Facebook (Cambridge Analytica botrány) már most is rengeteg információval rendelkezik rólunk. A legutolsó, disztópikus lépés pedig az lehet, ha a mesterséges intelligencia által kreált entitások végül átveszik az uralmat a Google és Meta jellegű monopóliumok fölött… Az a tény pedig, hogy mindezektől a tőke és az adat tovább koncentrálódik a bolygón, szintén nem jó hír.

Mindeközben pedig a Föld bolygó intelligencia hányadosa állandó, a népesség viszont folyamatosan nő…

Tévhitek

A jövő kulturális gubóját (szándékosan nem hálót írtam) nem tudják számítógépek megszőni.

A valóságot mindig egy kulturális prizmán keresztül látjuk. A politikáról, szexről, divatról, vallásról alkotott nézeteinket és tradícióinkat a média, a barátok, a cégek és a politikai aktorok alakítják. A jövőben több milliárd önállóan dönteni képes digitális entitás (chatbot stb.) jelenik majd meg az online térben és a napi interakciók során mindegyik befolyásolja majd és alakítja a kulturális elvárásaink rendszerét.

Nincsenek veszélyben a kreatív szakmák.

A kreatív ember is korábbi tapasztalatokat és élményeket szintetizálva, majd azokat meghaladva alkot újat. A mesterséges intelligencia szinte végtelen mennyiségű tapasztalatot (adatot) tud gyűjteni és a népszerű tévhittel szemben, egyre jobban alkalmas a kulturális innovációra is. Ráadásul az AI már most is képes kódot írni, tehát tulajdonképpen képes önmagát egyre magasabb szintre fejleszteni. Kb. 80 év alatt jutott el a szobányi méretű számítógép a mai állapotig. (ChatGPT-4 omni nyelvi képességei, „végtelen” szerverparkok, algoritmusok bonyolultsága, stb.) Most képzeljétek el azt, hogy ez a folyamatosan önmagát fejlesztő rendszer milyen hálózatot alakít majd ki a következő tíz évben…

A jelenlegi vallások és egyházak nem érintettek.

Ahogy Harari felhívja rá a figyelmet, pl. a rabbik egyik legfontosabb tevékenysége a szent szövegek magyarázata. Ebben már ma is erős a mesterséges intelligencia. Sőt, akár önálló vallást és szent könyvet (mítoszt és narratívát) is alkothat és aztán személyre szabott marketing tevékenységgel teheti egyre népszerűbbé az új vallást. Mindezt akár egy saját kripto-pénz elindításával és az ebből nyert profit által finanszírozva…

Ráadásul míg a Biblia nem tudja értelmezni önmagát, hanem egyházra van szüksége ehhez a fontos tevékenységéhez, addig egy mesterséges intelligencia által alkotott vallás és szentkönyv erre egyre magasabb szinten képes. Az összes eddigi civilizáció a mitológia és bürokrácia nászából született. Mindkettő megalkotása és folyamatos finomhangolása az emberek aktuális igényeire és vágyaira, roppant testhezálló feladat az önfejlesztő mesterséges intelligencia számára…

Végül pedig túl magas labda ahhoz, hogy ne csapjam le, ezért én is úgy zárom e recenziót, ahogy Harari maga is tette a könyve végén. Bár a mesterséges intelligencia is megírhatta volna ezt a szöveget (lsd. Litera pályázat botrány), de kérem higgyék el, nem így történt.

Ha nem hisznek nekem, a következő oldalakon tudják ellenőrizni egy AI detektor (ugye érzik a paradoxont?) segítségével: ZeroGPT, Sapling, Originality, Isitai stb.

Csapat

 ArtHungry
arthungry.com
Független portfólió építő felület alkotóművészek és a vizuális művészetek iránt érdeklődők részére.
Kutvölgyi Pál
Blogger42
Írni, olvasni, fotózni és motorozni szeretek, számolni tudok.
 Marvin
Marvin Says
Kedvelem a jó kérdéseket. Néha fontosabbak, mint a válaszok.
 PHENOM
phenom.hu
A magazin 2010-ben indult, fiatalokhoz szóló, független kulturális portál.
Schiffer Miklós
Schiffer Style
A stílusos élet fontosságának hirdetése.
Török András
Simplicissimus
Olvasni jó, a könyvet továbbadni kúl.
Korábbi vendégíróink
Balázsi Dia & Peti 
My Little Melbourne Family
Mindegy honnan jössz, a lényeg, hogy tudd hová tartasz, és míg odaérsz, légy jobb minden nap.
 Ernyey Béla
Ernyey Béla
Színész
 Erőss Zsolt
Eross Zsolt
Hegymászó
 Fabricius Gábor
Fabricius Gabor
Head of Innovation
 Dr. Farkas András
Farkas András
biztosítóalapító
Gecser Ottó
gecserotto
A kisnyugdíjas ahol tud, segít.
Guld Péter
GuldPeter
Kaotikus életet élő, szentimentális motorkerékpár-őrült.
Hoffmann Petra
Petra
Ha pokolra jutsz, legmélyére térj: az már a menny. Mert minden körbe ér.
Kertész Bálint
Videographer @ 42BIT
Tizennégyszer láttam a Keresztapa-trilógiát.
Kutvölgyi Gergely
Solus Beats
Zenét hallgatok/készítek.
 Lakatos Márk
Lakatos Mark
Stylist
 Lang Viktória
Lang Viktoria
Lakberendező
 Litkey Farkas
Litkey Farkas
Vitorlázó
Mei Mei
Mei Mei
Stylist
Obersovszky Gyula
Magánzó
Szinteld magad a világra, légy magasabb, mint az árja.
Trunkó Bence
Shadowriter
Az vagy, amit nézel.
Pályázott vendégíróink
Hegedűs Ágota
hegedusagota
Hegedűs Ágota
Somogyi Richard
somogyirichard
Grafikus, belsőépítész.
Tóth Olivér
totholiver
Creative Image Artist
Vécsei Rita Andrea
vecseiritaandrea
Büntetőbíró, majd mindenféle szöveg író.
 
Smile
Culture
Shop
Photo
Video
Ride
Art