Gondolatok az MI-ről 1. - Orákulum vagy szemfényvesztő?

 „Be van fejezve a nagy mű, igen.
A gép forog, az alkotó pihen.
Év-milliókig eljár tengelyén,
Míg egy kerékfogát ujítni kell.”

- Madách Imre -

A Kelevízió két legutóbbi adása remek alkalmat ad arra, hogy képernyőre vessem néhány gondolatomat a – nem szeretem ezt a kifejezést, de maradjunk a konvencióknál - mesterséges intelligenciáról (MI). (A csatorna követését mindenkinek ajánlom, mert üdítő látni, hogy egy nagyon is aktív politikai szereplő nem ódzkodik az ilyen napi aktuálpolitikán túlmutató, de hosszú távon valójában azoknál az életünket sokkal jobban meghatározó témáktól.)

Az első videó összefoglalja a mára már jól ismert és nehezen megkérdőjelezhető gondolatot, megfigyelést, miszerint a közösségi média korában a lényegesen sokszínűbb információ sokkal szabadabb áramlása eredményeként az emberek szembesültek azzal, hogy bizony az „elit” – még egy szó, amit nem kedvelek, mert az elmúlt évek erős érzelmi töltetet kölcsönöztek neki – nem tévedhetetlen, hanem némi túlzással élve jobb esetben csak csetlik-botlik egyik krízisből a másikba próbálkozás útján keresve a potenciális megoldásokat, rosszabb esetben egyenesen rosszindulatú és csak a saját hasznát lesi. Ezzel megtört a bizalom, jött a Brexit, Trump, az oltások körüli pánik, és a többi.

A determinisztikus elvárások este a kaotikus valósággal

Ezzel nem is vitatkoznék, de szerintem érdemes még egy réteggel mélyebbre ásni. Érzésem szerint ugyanis a törés nem pusztán az „elit” és az „átlagember” között húzódik, hanem Szolzsenyicin után szabadon minden ember saját szívében, vagy úgy is mondhatnánk, hogy a világnézetünk generálta elvárásaink és a valóság között. Röviden úgy lehet ezt összefoglalni, hogy a világot determinisztikusnak akarjuk látni, miközben a soha nem látott mértékben rendelkezésünkre álló információ egyre-másra világít rá, hogy az bizony kaotikus (Két cikk is született erről korábban: „Mind kockajátékosok vagyunk…”, „Konspirációs inga”). Ez az erős kontraszt feszültséget generál, a várakozásaink és a valóság közti egyre növekvő különbség az elégedetlenség, a boldogtalanság, a düh legkiválóbb táptalaja (bővebben: „A boldogtalanság nyomában”).

De miért mozdulunk a determinisztikus világnézet felé? Minden kornak megvannak a maga közkeletű metaforái, amelyek jelentősen befolyásolják azt, hogy mit gondolunk a világról, hogyan viszonyulunk ahhoz. Az elmúlt évezredben bejártunk egy utat, ami az „Az Úr útjai kifürkészhetetlenek”-től az „Órásmesteren” át az „A gép forog, az alkotó pihen”-en keresztül mára elvezetett a számítógép és az algoritmus metaforaként való használatához. Az ív a bizonytalanságtól a kiszámíthatóság, a véletlentől a determinisztikus irányába mutat. Ha nem is mindig és nem is tudatosan, de implicite tipikusan azt várjuk, hogy a megfelelő bemenet szükségszerűen meghozza a kívánt eredményt, mint egy determinisztikus algoritmus esetében. Elég jól tanulni, és a végén jön a biztos állás. Szépen félre kell tenni, és abból lesz saját lakás. Egészségesen kell étkezni, és akkor nem lesz az ember majd rákos. Valójában azonban csak a különböző lehetséges kimenetek valószínűségét áll módunkban befolyásolni, és elenyésző az olyan szituációk aránya, amelyekben egy bizonyos kimenetel determinisztikusan garantálható.  A valószínűségeket pedig a 0-50-100% triumvirátusán túl hagyományosan rosszul kezeli a Homo Sapiens. Ez különösen szerencsétlen (de talán azt is mondhatnánk, hogy ironikus), hiszen az MI, avagy leánykori nevükön gépi tanulási algoritmusok valójában statisztikai alapon működnek, valószínűségekkel operálnak, még ha egy ChatGPT-hez hasonló interface ezt el is rejti a képernyőre írt nagyon is konkrét válaszaival. Nem elég, hogy nem tudjuk pontosan mi is zajlik egy ilyen modell mélyén, de ezen túlmenően még az eredmény interpretálása során is nehézségekbe ütközünk az intuíciónk miatt.

Jó példa erre a Washington Post cikkében tárgyalt eset, ami az egyetemi oktatók ChatGPT-vel kapcsolatos dilemmáit, küzdelmeit mutatja be. Mi a tech világ válasza az MI előretörésére és az ezáltal fellépő hitelességi kérdésekre? A még több MI. Az oktatók az elmúlt évben szembesültek azzal, hogy az évtizedeken át alkalmazott számonkérési formák bizony csorbát szenvednek, hiszen a ChatGPT és társai egészen kiváló fogalmazásokat, beadandókat rittyentenek a megfelelő hívószavak hatására. Mit lehet ezzel kezdeni? A téma igen szerteágazó, hiszen talán onnan kell kezdeni a tárgyalást, hogy vajon mennyi teret kell engedni ennek az új technológiának. Ennek megvitatásától most itt tekintsük el, fókuszáljunk arra, hogy az egyik – elméleti… - lehetőség, hogy szűrjük az MI által előállított tartalmakat. És mi tudja ezt megtenni? Egy másik algoritmus, ami vizsgálja a beadott szövegeket. Természetesen több start-up is kapott a lehetőségen, és egyre-másra jelennek meg ilyen detektorok, amik maguk is MI alapon működnek, azaz statisztikai jellegű eredményt adnak. Azt is bizonyíthatóan nem kis hibával. Mi van akkor, ha egy ilyen algoritmus azt az eredményt dobja elénk, hogy az adott beadandó 67%-ban ChatGPT-vel íródott? Mit jelent ez? A mondatok 67%-át? Vagy a valószínűséget, hogy az egész azzal íródott? Leírható egyáltalán egy ilyen jóslat egyetlen számmal? Mi a hibahatár? Mi a bizonyosság mértéke? Ahogy fentebb már tárgyaltuk, az ember hadilábon áll a valószínűségekkel, és egy ilyen eredmény – legyen bármennyire hiányos vagy bizonytalan – minimum bogarat ültethet egy professzor fülébe az adott hallgatóval kapcsolatban. Vagy rosszabb esetben egy ilyen számra rámondja, hogy a hallgató csalt – hiszen egyalgoritmus ezt határozta meg -, és ennek megfelelően értékeli a teljesítményt. (Tegyük hozzá, hogy az USA egyetemein egy ilyen ítélet igen súlyos, egészen más a megítélése, mint Magyarországon.) Egy ilyen esetről szól a Post cikke, amelyben a megvádolt hallgató azóta videóra veszi, ahogy megírja a beadandóit. Személy szerint meglehetősen nyugtalanítónak, disztópikusnak tartom ezt a képet. Ez a példa el is vezet a következő ponthoz.

Tippelgető szemfényvesztő vagy orákulum?

A második videóban hangzik el a kérdés: mi a dolga a politikának egy olyan világban, amelyben az MI mindenre tudja a választ? Én a második tagmondatot átfogalmaznám: „amelyben az MI-ről azt hisszük, hogy mindenre tudja a választ?”.

A determinisztikus világnézet szerint a kérdésekre vannak jól kalkulálható, jól meghatározható optimális, racionális válaszok. Valójában azonban az igazán nagy kérdésekre nincsenek, és ez ad teret a politikának és a filozófiának. Nincsenek objektíve legjobb válaszok és megoldások, mert egy komplex, kaotikus világban a következmények olyan szerteágazóak, hogy minden potenciális válasz egy kompromisszum. A kérdés, hogy mi szerint optimalizálunk (valójában a gépi tanulási algoritmusok sem tesznek mást: a programozó által meghatározott célfüggvény szerint optimalizálnak). Mi a cél, mik a preferenciák? Mi tartunk kívánatosnak? Mit tartunk jónak? A válasz így magában hordoz egy értékítéletet is, ez pedig ugyan tükrözheti egy adott korszak, egy adott közösség konszenzusát, de ettől még nem válik olyan módon mérhetővé, mint mondjuk a hosszúság vagy a tömeg.

Hol a helye az MI-nek ebben a komplex rendszerben? Gyakran elhangzik, hogy micsoda lehetőségeket rejt magában a technológia: gyógyíthatjuk majd a rákot, megoldást találhat a klímaváltozásra, stb. Én azzal a nézettel értek egyet, hogy ez túlzás, pontosabban a technooptimizmus egy kicsit burkolt megnyilvánulása (lásd a „Civilizáció és generációk 1. - Reménytelenség vagy technooptimizmus?” című korábbi cikket): minden megoldható, ha elegendő információ és számítási kapacitás áll rendelkezésre.

Kétségtelen, hogy bizonyos területeken éppen a számítási kapacitás és optimalizálási képesség hiányzott. Erre jó példa a sokszor emlegetett fehérje „hajtogatás”, vagy a bizonyos tulajdonságokkal rendelkező új vegyületek megtalálása. Ezekben az esetekben rendkívül komplex, de mégis jól definiálható, értékítélettől mentes problémákkal állunk szemben, a célfüggvény szépen felírható. De mi a helyzet a másik kedvelt példával, a klímaváltozással? Igen, jobb algoritmusokkal jobban lehet okosvárosokat meg energiahálózatokat optimalizálni, de ennek egyrészt sokkal több köze van a klasszikus gépi tanuláshoz mint a ChatGPT-féle modellekhez, másrészt az igazán nagy probléma nem ezzel van, hanem a humán faktorral. Ahogy a linkelt cikkben írtam:

Én egyre határozottabban azon a véleményen vagyok, hogy a technológiai áttörés a könnyebb feladat. A szemléletváltás és a társadalmi, politikai akadályok nem a „pusztán” és a „csak” kategóriába valók, hanem a legégetőbb kérdések, egyszersmind a legnehezebben áthidalható akadályok. Olyan időskálán mozognak ezek a változások, amely most nem biztos, hogy belefér: tipikusan a generációs skáláról beszélünk.

Még olyan kérdésekben sem sikerül előteremteni a politikai akaratot - nemhogy átvinni a döntést - amelyekben a tudományos konszenzus adott, a fizikai folyamatok ismertek, a technológia rendelkezésre áll, de ennek ellenére sincs meg a társadalmi támogatás. Az ilyen értelemben vett politikai feladat nem tűnt el. De segíthet ebben is az MI, hoz valami gyökeresen újat? Játsszunk el a gondolattal: elképzelhető-e, hogy egy bizonyos szintet elérő MI-nek több hitelt adunk, mint egy szakértőnek (uram bocsánat politikusnak), és ha a gép mondja, akkor belátjuk a kellemetlen lépések szükségességét? Hirtelen lemondunk a szükségtelen autózásról, repülésről, csökkentjük a fogyasztásunkat, hogy a klímaváltozás példájánál maradjunk. Azaz megteszünk olyan lépéseket, amelyeket hozzáértők már évtizedek óta hiába szajkóznak csak azért, mert most egy szuperintelligens MI mondja. Egy gépi szuperintelligenciára vajon majd amolyan orákulumként tekintünk? (Érdekes belegondolni, hogy a technológiai fejlettség új csúcsait ostromolva bizonyos szempontból ókori viselkedésmintákat támasztanánk fel ebben az esetben.)

A Washington Postban tárgyalt vélelmezett egyetemi csalás esete azt illusztrálja, hogy jelen pillanatban tipikusan túlértékeljük az MI rendszerek képességeit és a válaszok hitelességét, ami látszólag az orákulum státusz irányába mutat.  A különböző MI alkalmazások és javaslataik, eredményeik már most egyre jobban torzítják, befolyásolják a gondolkodásunkat, hatással vannak arra, hogy miként állapítjuk meg az információ hitelességét, hogyan döntünk. Az újkeletű kognitív torzítások és a mindenható orákulum előtti feltétlen szellemi fegyverletétel között azonban széles a spektrum. Ha elérnénk a végére, az valóban a politika végét jelentené, és ezzel együtt a szabad akarat, az öntudat végét is, amit már joggal azonosíthatunk emberi mivoltunk végével is. Szerintem lesznek olyanok, akik eljutnak erre a szintre, és részben emiatt tartom aggasztónak, hogy éppen az oktatást kiáltották ki az egyik legnagyobb potenciállal rendelkező területnek, éppen itt az egyik legagresszívebb az MI eszközöket propagáló cégek nyomulása.  Az emberi természetre és történelemre gondolván azonban kétlem, hogy mind így végeznénk majd. Még a legvallásosabb, az egyház által leginkább dominált korszakokban sem mondhattuk azt, hogy mindenki minden cselekedetét áthatotta a tízparancsolat és a jó értelemben vett klasszikus keresztényi szemlélet. A politika, a diskurzus, az ellentétek, a viták nem szűntek meg sem a keresztény középkorban, sem az ókori Rómában, de még talán az egyiptomi istenkirályok korában sem. De azt sem tagadhatjuk, hogy az aktuális vallási keretrendszer alapvető hatással volt a kibontakozó kultúrára, világnézetre. A nagy kérdés, hogy mit hoz ezen a téren az MI algoritmusok szintlépése, és mennyire fogjuk ezt befolyásolni az árral való passzív és öntudatlan sodródás helyett.

-----------------------------

Ha valaki el akar mélyedni a témában, vagy meg akarja kísérelni a lehetetlent, és megpróbálna lépést tartani a fejleményekkel, akkor ajánlom Zvi Mowshowitz blogját és azon belül is a heti összefoglalókat. Ezek az összefoglalók önmagukban is órás hosszúságúak, és lényegében a legfontosabb linkeket gyűjtik össze kommentárokkal ellátva. Végigolvashatatlan, de szemezni érdemes! Itt a legutóbbi darab: AI #27: Portents of Gemini. 

-----------------------------

Feliratkozás 

Aki nem akar lemaradni az új bejegyzésekről illetve a kommentek közt előkerülő fontosabb linkekről, ajánlókról, de azért nem kattint minden nap, iratkozzon fel itt a blog Substack hírlevelére/értesítőjére!