Tuesday, February 18, 2025

Vázlatosan - Musk, AI, techno-libertarianizmus és az igazi tét

Az események minden kétséget kizáróan gyorsabban pörögnek annál, hogy az ember érdemben emészteni tudja őket, ne adj isten még az aktualitás rövid ablakán nem kicsúszva reflektálni is. Alapvetően erre valók a hozzászólások, de van, aminek kár lenne azért ott visszakereshetetlen módon elvesznie. Ennek kiküszöbölésére ebben a hozzászólás szinten átgondolt és szerkesztett vázlatban szeretnék megosztani néhány minimum gondolatébresztő, de inkább fontos írást. Érdemes főleg az első kettőt figyelmesen elolvasni, mert bármilyen összefoglalás szükségszerűen felületes lesz, nem méltó a téma fontosságához. Azt hiszem, hogy az én jelenlegi álláspontom elég egyértelmű a kivonatok alapján is, de szívesen fogadok minden véleményt a kommentek között, pont ezért hoztam őket.

Az első cikk szerintem jól megvilágítja Trump (de inkább Vance) és Elon Musk eddigi tevékenysége kapcsán, hogy mi is történik valójában, és miért nagy hiba a felszínre koncentrálni, az egyes lépéseket külön-külön szemlélni. Ha a szerzőnek igaza van (és én személyese erősen hajlok erre), akkor tényleg történelmi fordulat, ideológiai hatalomátvétel (és nem, nem a náci karlendítés vezet a megfejtéshez) az, ami zajlik: az egész életformánk, társadalmi és politikai berendezkedésünk a tét.

Mike Brock - The PlotAgainst America

(Persze messze nem csak az USA-ról van szó.)

First, these thinkers argued that democracy was inefficient. Then, they created technological tools—cryptocurrency, blockchain governance, and AI-driven decision-making—to bypass democratic institutions entirely. Now, they’re no longer experimenting. They are seizing control of government infrastructure itself, reprogramming it in real-time to function according to their vision.

This is why focusing solely on the technical aspects of what's happening inside agencies misses the deeper transformation underway. Every unauthorized server, every AI model, every removed civil servant represents another step in converting democratic governance into what Yarvin called “neocameralism”—a system where society is run like a corporation, with clear ownership and control rather than democratic deliberation. The infrastructure being built isn't meant to serve democratic ends—it's meant to make democracy itself obsolete.

[…]

But those around him? They understand perfectly.

J.D. Vance, the Vice President in waiting, has studied Curtis Yarvin’s work. Peter Thiel, his longtime patron, has been funding this vision for over a decade. Balaji Srinivasan is writing the blueprint. Elon Musk is laying the infrastructure. And the young operatives now wiring AI models into the Treasury Department—disbanding civil service, bypassing traditional government, and replacing democratic accountability with technological sovereignty—are working toward a future that will long outlast Trump himself.

A második írás azt járja körbe, hogy miért elegendőek ahhoz már a jelenlegi AI képességek is (anélkül, hogy életre hívnánk valami öntudatra ébredő szuperintelligenciát), hogy fokozatosan elveszítsük az irányítást a sorsunk felett. (Még gondolkoznom kell, hogy mi a disempowerment szép magyar fordítása.)

Gradual Disempowerment: Systemic Existential Risks fromIncremental AI Development (PDF)

AI risk scenarios usually portray a relatively sudden loss of human control to AIs, outmaneuvering individual humans and human institutions, due to a sudden increase in AI capabilities, or a coordinated betrayal. However, we argue that even an incremental increase in AI capabilities, without any coordinated power-seeking, poses a substantial risk of eventual human disempowerment. This loss of human influence will be centrally driven by having more competitive machine alternatives to humans in almost all societal functions, such as economic labor, decision making, artistic creation, and even companionship.

A gradual loss of control of our own civilization might sound implausible. Hasn't technological disruption usually improved aggregate human welfare? We argue that the alignment of societal systems with human interests has been stable only because of the necessity of human participation for thriving economies, states, and cultures. Once this human participation gets displaced by more competitive machine alternatives, our institutions' incentives for growth will be untethered from a need to ensure human flourishing. Decision-makers at all levels will soon face pressures to reduce human involvement across labor markets, governance structures, cultural production, and even social interactions. Those who resist these pressures will eventually be displaced by those who do not.

Emberek vs. Masinák

Az USA láthatólag eldöntötte, hogy melyik utat választja. Kína úgyszintén, csak másfelől indulva jut hasonló eredményre. Európában pedig eközben attól rettegünk, hogy „lemaradunk”, holott szerintem egyre inkább szabadságharcként kellene erre tekinteni. Nem egy pár mondatos komment szintű vázlatba való ez a még ki nem forrott gondolat (és szeretnék is erről többet írni a jövőben, mert egyre inkább úgy gondolom, hogy nincs fontosabb kérdés), de úgy néz ki, hogy a „lemaradás” az embernek maradást jelenti. Ennek viszont az ára rövid távon alighanem az alacsonyabb életszínvonal és a gazdasági nehézségek. De én nem látom, hogy a másik út hosszú távon miként hozna prosperitást az átlagembernek (lásd a második írást). 

Nem a jobb-bal, nem az elit és a dolgozó átlagember, nem a nemzetállam és a szövetségi rendszerek közt van az igazi törés. Elon és társai puccsa után a kérdés az, hogy emberek akarunk maradni, vagy szomjazzuk azt a poszthumán érát, amelyben a gépeinkkel fúzionálva a hatékonyság jegyében Masinákká válunk, és algoritmizált életet „élünk”. Rengeteg bejegyzést olvastam ebben a témában az utóbbi időben, de bevezetőként kettőt osztanék most meg:

Creatures and Machines

Both sides of the machines and creatures division need that account if they are really to make sense of their positions.

Those who see fusion with technology as a route to infinite, all-knowing transcendence must be able to answer two questions. What, in the end, are they transcending towards? And why? On the other hand, those who seek to remain resolutely human, to lean back into our embodied and organic selves, must be able to explain: what is so important, so valuable, about the human anyway?  

You cant answer these questions unless you have an account of what we humans really are. And of the relationship we have, at the deepest level, to the cosmos we find ourselves in.

The Next GreatDivide

Across the coming years, accelerate vs deccelerate will become a faultline through our societies.

In all kinds of ways, social and political tensions will start to agglomerate around this division. The mainstream political parties will have to respond. We may even see the birth of new popular parties — something like the Acceleration Party — as a result of all this. After all, the current mainstream conservative and progressive parties were born in the wake of the first Industrial Revolution and the tech-induced disruption to which it gave rise.

My working theory is that over time this will become the defining split in our societies. In all kinds of ways, people will order their lives and make choices according to the relationship they want to build with the exponential technologies emerging around them.

But the end game here goes even deeper. 

Ultimately, this polarisation will revolve around those who repudiate the technologies now taking shape around us, and those who would not only use intelligent machines but become one with them. Become, as they will see it, something more than human. 

What’s coming, then, is the emergence of two radically different kinds of humans. Those who are augmented by powerful technologies, and those who are not.

-----------------------------

Feliratkozás 

Aki nem akar lemaradni az új bejegyzésekről illetve a kommentek közt előkerülő fontosabb linkekről, ajánlókról, de azért nem kattint minden nap, iratkozzon fel itt a blog Substack hírlevelére/értesítőjére 

Related Posts:

• • •