Leviathán ébredése? Nyugtalanító kérdések a mesterséges intelligencia körül - Véleménycikk
A mesterséges intelligencia-jelenség más szemszögből - Ha magáévá teszi a hatalom, esélytelenek leszünk? - Attól még lehetünk ember, hogy - horribile dictu - esetleg nem is vagyunk azok...?
Az alábbi véleménycikket egyik korábbi írásunk inspirálta: Ne féljetek a haláltól! – vígasztal a mesterséges intelligencia egy általa írt prédikációban, ami minap hangzott el egy nürnbergi templom „kísérleti istentiszteletén” - Mi is elbeszélgettünk a jámbor tudós robottal. Sajnos, potenciális veszélyforrás is a jövőnkre nézve. De nem azért, amiért elsőre gondoljuk... Írásunkban amolyan lelkes laikusként belecsodálkoztunk a mesterséges intelligenciának nevezett ember alkotta robot bámulatos képességeibe. S valahogy oda jutottunk: ez a számítástechnikai jelenség nem is olyan egyszerű, mint aminek gondoltuk. Szerzőnk azonban még továbbmegy: az AI/MI létrejötte, a benne rejlő lehetőségek messzemenő, egyben rendkívül zavarba ejtő következtetésekre adhatnak alkalmat saját emberi entitásunk eredetét, jelen valóját és jövőjét illetően...
Egyik este, máig emlékszem a napra: március 24-én, egy családi vacsora során akaratlanul elszomorítottam egy fiatal családtagomat, amikor nagy lelkesedéssel és megdöbbenéssel beszéltem az éppen akkor elérhetővé vált újdonságokról. Érezni véltem a történelmi pillanatot, és néhány újdonságot ecseteltem az alábbi cikkből: A sziporkázó mesterséges általános intelligencia - A GPT-4 kezdeti kísérletei Akkor már egy éve lehetett próbálgatni a GPT-3-at, hogy az mire képes, és ehhez képest a 3.5 verzió nem volt megdöbbentően, minőségében új. De a márciusi GPT-4 az volt, annak éreztem. Március 22-én jelent meg az első verziója a fenti cikknek, így a mai felgyorsult világunkban is újdonságnak számított. Néhány napja volt csak elérhető a GPT-4-es verzió is, amihez kaptam egy korai hozzáférést, mivel még korábban hasonlókat kértem az OpenAI-től.
Meghökkentően mély emberi képességgel rendelkező, empatikus robot
A fent hivatkozott cikkből nekem a legmegdöbbentőbb az 58. oldalon szereplő példa volt: hogyan győzne meg két, az oltást szögesen eltérő okból megtagadó családtagot arról, hogy mégis oltsák be magukat úgy, hogy ne is bántsa meg őket. Ezt ecseteltem a családomnak, hogy a GPT-4 mennyivel jobban képes az emberek megértésére, az egyes emberek szerepébe helyezésére, mint maguknak az embereknek a nagyon nagy része. Egy ilyen érzékeny helyzetet, amire megdöbbentően érzékeny javaslatot tett a nyelvi modell, sokan nem mernék a családtagjaik előtt felvállalni.
Tehát valami nagyon emberi képesség legfontosabb elemével rendelkezett a nyelvi modell: az együttérzés megértési komponensével. Persze ettől még nem képes az együttérzés szándékára, nem lesz motiválva a közös cselekvésre.
Fontos, hogy akik a fenti cikket írták, nem azt a változatot használták, amit a nagyközönségnek márciusban hozzáférhetővé tettek, hanem egy kevésbé normalizált, kevésbé szelídített modellt. Ez azért fontos, mert úgy tűnik, elég sok bizonyíték van arra, hogy egy nyelvi modellt minél inkább a nagyközönség ízléséhez igazítják, (alignment, fine-tuning), annál jobban romlik a teljesítményük számos területen. Így ez a 2022. augusztusi, belső változat nem azonos azzal, amivel most vagy akár márciusban találkozhatunk.
Mindez a lelkes példa azonban akaratlanul fájdalmat okozott a családtagomnak, aki azt érezte, hogy igazságtalan a világ velük, mert a COVID után jött ez a másik „történelmi” léptékű változás is, és ez teljesen bizonytalanná teheti az ő kialakult jövőképét... Akkor elszégyelltem magam, hogy nem voltam óvatosabb a lelkesedésem megfogalmazásával.
Megkülönböztethető-e a gépi kimenet és az ember?
A másik, igazán abszolút probléma az, hogy valóban megkülönböztethető-e a gépi kimenet és az ember. Technikailag nagyon másként működik minden nagy nyelvi modell, mint ahogy egy emberi agy működik, ahogy az emberi agy képességeit kialakítják, és egészen más módszer rak arcot, beszélő fejet erre a hatalmas adattömegre, ami az így működő programot létrehozza.
Mi magunk is … esetleg...?
Azt kívülről nézve nem elemezhetjük mikroszkóppal, hogy valóban eleve, minőségében más-e, mint az emberi intellektus, öntudat, lélek, hívjuk bárminek is.
Hiszen nem tudjuk kizárni, hogy mi magunk is esetleg ne csak egy bonyolult evilágbeli számítási modell legyünk, aminek az összetettségét, komplexitását már nagyságrendileg meg tudja közelíteni egy kétségtelenül ember által alkotott modell/program. Ez csak meggyőződés kérdése tud lenni.
Az, hogy egy számítási képességként tekintünk magunkra, nem zárja még ki, hogy szabad akaratról is beszéljünk. A nem mindenki által értett és elfogadott – Stephen Wolframtól idézve egy kellően összetett programnak is lehet olyan tulajdonsága, ami nem banális „véletlenszerűségen” alapszik, hanem a gödeli nemteljességi tétel számítógépes megvalósulását illusztrálja: addig nem lehet eldönteni sok kellően komplex számításról, hogy mi lesz a végkimenetele, amíg le „nem futtatjuk”. (Megnyugtatásként: én sem értem egyébként nagyon hosszú és bonyolult gondolatait.)
Attól még lehetünk ember, hogy talán nem is vagyunk azok?
Ezt én a magam számára úgy fordítottam le, hogy
nem zárja ki azt, hogy az emberi létezésünknek ugyanúgy legyen hitbéli értelme is, ha egy „számítási képességként” tekintünk az emberi mivoltunkra. Nem veszítem el a létezésem értelmébe, a cselekvésem átfogó céljaiba vetett hitemet akkor sem, ha közel egyenlőségjelet teszek az agyból mint komplex rendszerből emergens tulajdonságként létrejövő (szabad akarattal rendelkező vagy nem rendelkező) öntudati egység (akár „lélek”) és egy önálló, összetett számítási egység között. Ahogy ez a nézőpont nem szünteti meg azt sem, hogy az ilyen öntudati egységeket létrehozni engedő és őket megfelelő számítási feladatokkal tápláló univerzum is értelmezhető maradjon egy teista fogalomrendszerrel is.
AZ AGGODALOM HANGJÁN
Leginkább az alábbiak töltenek el aggodalommal.
1. Önértelmezésünk növekvő dilemmái
Mi lesz akkor, ha (ha nem is most, de akár öt-tíz év múlva) tömegek fogják készpénznek venni, hogy
nem mi vagyunk a teremtés koronái, és nem azért vagyunk mi a különlegesek, mert rakétákat tudtunk építeni? Ez hogyan alakítja át a világunkat?
Például aki emberként nem találja meg a hitét, a célját az új világban, nem látja értelmét annak, hogy utódokat hagyjon, az emberiség így gondolkodó része száz év alatt kipusztul? Vagy valamifajta jogokat adunk digitális személyeknek csak azért, mert megtehetjük? Esetleg kegyetlenkedni fogunk a digitális személyekkel, csak azért, mert jólesik és tudjuk, hogy szenvednek? Elkezdünk újból nyíltan kegyetlenek lenni a többi emberrel, mert újból átalakítjuk az emberi minőség hierarchiáit?
2. Ha magáévá teszi a hatalom, esélytelenek leszünk
Minden szuperállamnak lesz egy olyan modellje, aminek a manipulációs hatásait eleve esélytelenek vagyunk felfogni emberként. Amíg csak Habony Árpádokat, Finkelsteineket, meg Soros Györgyöket vizualizálunk minden minket negatívan érintő döntés mögé, attól kevésbé kell tartanunk. Lehetnek géniuszok, de ők is esendő emberek. Sokszor megtapasztalhatjuk, hogy a nagyvállalatok akármilyen erősek is, soha nem tudják optimálisan megvalósítani az őket alkotó legokosabb emberek akaratát, mindig lesz gyenge láncszem. De ez nem feltétlenül marad így.
A jövőben kialakított nyelvi modellekre épülő számítógépek már olyan ügyesen meg tudják valósítani az egyének manipulációját, hogy észre sem vehetjük.
Számos olyan, könnyen észlelhető manipulációt kelthetnek, ami zajként elnyomja a nehezebb észlelhető manipulációkat. Kizárt lesz az összeesküvés-elméletek között különbséget tenni, mert nem tudunk semmit sem cáfolni. Így teljes szabad akarattal sem tud az akaratunk szabad maradni, akkor sem, ha hat egyetemet végzünk el, nem múlik a tudásunkon a szabadság felismerése.
3. Színjáték? Díszlet? - Kidobandó kacat…?
Ezt bár nevezhetjük még demokráciának, de nem lesz az. Nemhogy ez emberek nem lesznek egyenlőek, de
minden demokratikus intézmény is valójában csak színjáték marad, ami aztán előbb-utóbb drága, de fölösleges díszletté válik, és hatékonysági-takarékossági okokból megszüntetik.
Mert megszűnik a nép a főhatalom forrása lenni.
A Leviathán jóval kevesebb embert fog igényelni.
x x x x x x x x x x x x
EXCURSUS
A Leviatán, teljes címén: Leviatán, vagy az egyházi és világi állam anyaga, formája és hatalma (angolul: Leviathan or The Matter, Forme and Power of a Common-Wealth Ecclesiasticall and Civil, latinul: Leviathan, sive, De materia, forma, & potestate civitatis ecclesiasticae et civilis) Thomas Hobbes angol filozófus 1651-ben angol nyelven, majd 1688-ban latinul is kiadott, négykötetes politikai filozófiai, államelméleti könyve. A művet Hobbes legjelentősebb alkotásának tartják.
Hobbes filozófiai munkássága abban az időben kezdődött, amikor az angol forradalom elől Franciaországba menekült, ahol az elűzött II. Károly angol király nevelője lett. 17. századi művében egy olyan elmélet kidolgozását tűzte ki célul, ami tudományos alapokon nyugszik a korszak szkeptikus hozzáállásával szemben. Hobbes filozófiájában a társadalmat testek (élőlények) alkotják, és ezek összessége alakítja ki az államhatalmat, amit a műben Leviatánnak nevez, bibliai párhuzamot vonva az Újszövetségben szereplő tengeri kígyóval. Hangsúlyozza, hogy az ember alapvetően önző lény, akinek legfontosabb motivációja a létfenntartás, vagyis a túlélés. Mivel ennek a törekvésnek a során óhatatlanul is szembekerül más emberekkel, ezért a háború mintegy lételeme, létszükséglete az embernek. A háborút valójában mindenki mindenkivel vívja (bellum omnium contra omnes), hiszen az emberiség valamennyi tagja mások rovására törekszik a maga érdekeinek fenntartására, biztosítására, ilyenformán a háború az ember természetes állapota. Ugyanakkor a békére való törekvés is ösztönös igény, hiszen ez a háború örökké tartana, az emberek pedig csak saját képességeik, lehetőségeik határáig tudják megvédeni magukat. Épp ezért egy társadalmi szerződés keretében egy magasabb szintű "testre" (a bibliai Leviatánra) bízzák az emberek közti béke fenntartásának jogát, mintegy alávetve magukat, és átruházva akaratukat erre a lényre.
(Forrás: wikipedia)
A SZERKESZTŐ MEGJEGYZÉSE
A különleges, szimbólumokkal teli rajz legtetején egy bibliai idézet olvasható latinul a Jób könyve 41. részéből (egész pontosan csak a vers első fele): “Non est potestas super terrum quae comparetur ei “- magyarul (Károli Gáspár fordításában): Nincs olyan hatalom a földön, amelyet hozzá lehetne hasonlítani”. Az általunk ismeretlen okból hiányzó befejező mondatrész pedig így szól: “…qui factus est ut nullum timeret”, magyarul: “…a mely úgy teremtetett, hogy ne rettegjen”. Érdekesség még, hogy a szerző forrásul a Jób 41. részében csak 25 verset tartalmazó latin Vulgata szerinti, 24. verset adta meg. A ma használatos, teljes Biblia kiadásokban azonban, amelyekben a Jób könyve 41 részének mind a 33 verse szerepel, ott ezt olvassuk a 24. versben (egyébként ez is tökéletesen helytálló citátum lehetne a szerző művéhez, megint csak Károli gyönyörű fordításában): “Szíve kemény, mint a kő, oly kemény, mint az alsó malomkő”.
S ha már latinoztunk egy kicsit, fejezzük is be latinul jegyzetünket imígyen: Sapienti sat!