"The Agentic State" – Beslutsfattande med minimal mänsklig inblandning

[Detta är en svensk översättning av min engelska artikel från 15 juli 2025]

I oktober 2024 öppnade World Economic Forum ett Global Government Technology Centre (GGTC) på GovTech Campus Deutschland i Berlin med uppdraget att “accelerera den digitala transformationen av regeringsarbetet,” grundat i samarbete med franska IT-konsultbolaget Capgemini som marknadsför sig som världsledande inom “Agentic AI-powered Intelligent Operations”.

Initiativet är en del av WEFs nätverk Centre for the Fourth Industrial Revolution, och den pågående teknokratiska omdaningen av världen. Det lanserades 2023 under Indiens ordförandeskap för G20, i syfte att utveckla en Digital Public Infrastructure för att påskynda uppfyllandet av de globala hållbarhetsmålen i FNs Agenda 2030.

Varför man valde Berlin – en stad med minst sagt problematisk historia när det gäller totalitär kontroll – kan man bara spekulera om. Men det är passande.

Målet är att göra centret till en “global plattform för att driva GovTech framåt.”

GovTech är utvecklat för att öka “effektiviteten, transparensen, och responsiviteten i regeringsarbete och offentlig service,” vilket också råkar vara en viktig del av Donald Trumps Department of Government Efficiency (DOGE).

GovTech Campus Deutschland är ett samarbete mellan den tyska regeringen, tyska myndigheter och vetenskapssamfundet, och stöds också av Eclipse Foundation.

Stiftelsen grundades som Eclipse Project av IBM i november 2001, med stöd från ett konsortium av mjukvaruföretag (strategiska samarbetspartners inkluderar IBM, Microsoft, SAP, Oracle, Huawei, Fujitsu, Bosch och Red Hat). Upplägget bygger vidare på IBMs mörka historia vad gäller att erbjuda tidig “GovTech” (hålkort) till Nazi-regimen (dokumenterat av Edwin Black i boken IBM and the Holocaust: The Strategic Alliance between Nazi Germany and America's Most Powerful Corporation).

Denna nya GovTech är av en kaliber som nazisterna bara kunde drömma om. Den tekniska utvecklingen har drastiskt förändrat förutsättningarna för en kontrollstat som kan få väldigt långtgående konsekvenser för mänsklighetens frihet.

Sedan GGTC i Berlin grundades har ett systercenter startats i Kiev, med det teknokratiska föregångarlandet Förenade Arabemiraten UAE som “grundande partner”.

Både Ukraina och UAE kan ses som WEF-vasaller och utgör test-områden för GovTech-lösningar, där GGTC bidrar till Ukrainas Digital State UA (en global plattform för digitala lösningar och GovTech-innovation).

I maj 2025 släppte Global Government Technology Centre ett vitpapper med titeln The Agentic State som målar upp visionen av en AI-styrd framtid.1

Huvudförfattare är Luukas Ilves, en Stanford University-alumn som är Chief Information Officer för Estlands regering (ett annat tidigt experimentland för e-governance). Ilves är även grundare av “the Tech Green Pledge”, “ett nätverk av företag som förbundit sig att bekämpa klimatförändringar”.

Titeln är talande.2 På engelska har termen flera olika betydelses:

1. Ett mentalt tillstånd (state of mind) där människan frivilligt eller omedvetet görs till agent för en auktoritet. Teorin om the agentic state myntades av Stanley Milgram efter sitt ökända konformitetstest, som han själv beskrev såhär:

…essensen i lydnad består av det faktum att personen kommer att se sig själva som ett instrument för att utföra en annan persons önskningar, därför ser de sig själva inte längre som ansvariga för sina handlingar. När detta avgörande skifte i synvinkel anammats av personen, så kommer alla essentiella aspekter av lydnad följa automatiskt.3

2. En AI-agent (mjukvara). Enligt internationella standardiseringsorganisationen (ISO) så kan en AI-agent “grovt definieras som en entitet som kan uppfatta sensorisk stimuli (ljud, text, bild, tryck etc) genom sensorer och svara an på sin omgivning (genom effektorer).”4

3. En stat styrd av eller med AI. “The Agentic State” är i grunden ett recept för storskalig befolkningskontroll med ett minimum av mänsklig inblandning. Som det står i dokumentet,

   The Agentic State innebär ett fundamentalt skifte i regeringsarbetet, där AI-system kan uppfatta, resonera kring, och agera med minimal mänsklig inblandning för att leverera offentlig service.

Den teknokratiska manualen The Agentic State (s. 9–36) beskriver tio “funktionslager” av styrning, organiserad i tre dimensioner:

I. VERKSAMHETER

1. Tillhandahållande av tjänster:
   “Från fragmenterade portaler till självkomponerande offentliga tjänster och personlig concierge-service.”

2. Interna arbetsflöden:
   “Från manuellt arbete med ärenden till resultatinriktade agenter med människor involverade i processen.”

3. Datastyrning, hantering och drift:
   “En operativ tillgång för agenter och en strategisk tillgång för samhället som helhet.”

4. Krishantering och motståndskraft:
   “Från traditionella åtgärder till agenters beredskap i en tid av polykriser.”
   
   II. REGLERING OCH STYRNING

5. Efterlevnad och rapportering:
   “Kontinuerlig efterlevnad som bevarar sekretessen och stödjer lättnader i regleringar.

6. Policy och regelverk:
   “Från statiska regelböcker till levande policyer, kontinuerligt övervakade och anpassade av AI-agenter.”III. GRUND

7. Ledarskap:
   “Färdigheter och beteenden hos resultatinriktade regeringsledare som kommer att bygga agentstater.”

8. Arbetskraft och kultur:
   “Mot bred teknisk kompetens, elittalanger och en högpresterande kultur.”

9. Tech Stack:
   “Ett språng mot morgondagens företagsstack.”

10. Offentlig upphandling:
    “Hur Agentic AI omdefinierar hur myndigheter gör upphandling och vad de får.”

Av dessa är kapitlen om “Krisrespons” och “Efterlevnad” särskilt viktiga för att förstå det diaboliska i detta nya sätt att styra.

Vitpappret drar slutsatsen att vårt samhälle inte är förberett för “en värld av ökande geopolitiska, teknologiska, miljömässiga och sociala chocker”. Ett fenomen som döpts till polycrisis (polykris).

Detta polykris-scenario är i stort sätt vad vår egen klimat-tsar och frekventa WEF-deltagare Johan Rockström återkommande varnat för.5 (⁵⁾Som det beskrivs i rapporten:

Vi lever i en era som alltmer präglas av polykriser: sammankopplade och kaskadliknande chocker som sträcker sig från pandemier och extrema väderhändelser till cyberfysiska attacker, finansiell instabilitet, desinformationskampanjer och till och med konventionell krigföring – traditionella krishanteringsmodeller är under press. Hotande aktörer anpassar sig redan. Med AI kan de automatisera, skala upp och personifiera attacker i en aldrig tidigare skådad hastighet. Regeringar, däremot, arbetar ofta fortfarande med institutionella reflexer som är utformade för en långsammare, mer linjär värld. (The Agentic State, s. 20)

Men det kan motverkas genom användandet av “intelligenta system”.

Agentstyre innebär att utrusta staten med intelligenta system som kan förutse, reagera och anpassa sig under hela krisens livscykel: från förebyggande åtgärder och beredskap till respons, återhämtning och kontinuerligt lärande. (s. 20)

I detta ingår “simulering av infrastruktur” med den påstådda förmågan at förutse framtiden. Allt vi gör ska analyseras och simuleras med hjälp av “virtual twins” (digitala tvillingar).

Agentmodeller kan kontinuerligt simulera krisscenarier över olika domäner och producera syntetiska datamängder som uppvisar systemiska sårbarheter. Mer än att bara vara stresstester blir dessa simuleringar verktyg för att generera förutsägelser om framtiden.(s. 20)

Om ett problem upptäcks kan detta trigga igång en “hyper-medveten AI-ledd respons”. Rapporten beskriver:

När en kris börjar utvecklas initierar AI de första stegen i krishanteringen innan de människo-styrda strukturerna hinner reagera. Dessa agenter kommer att arbeta tillsammans med alltmer autonoma fysiska system som drönare och robotar och utgöra ryggraden i en responsiv, adaptiv krisinfrastruktur. (s. 20)

Detta börjar likna en science fiction-dystopi. Precis som Skynet in The Terminator, kan maskinerna ta första steget för att lösa en kris, medan förbestämda styrdokument ska se till att det blir en enhetlig och koordinerad krishantering.

Upplägget är som ett eko av FNs Emergency Platform, som föreslagits av Johan Rockström och den av Mary Robinson ledda Climate Governance Commission.

Mänsklig agens hamnar i baksätet. Författarna konstaterar att,

Mänsklig tillsyn kommer i allt högre grad att gå från att fatta beslut till att övervaka dem. Denna förändring kan kännas obekväm, men de som låter maskiner ta första steget, särskilt i brådskande situationer, kommer att få en fördel, med mental kapacitet frigjord för kritiskt tänkande under press. (s. 21)

Ja, detta kan sannerligen kännas “obekvämt”!

En annan skrämmande del av “the Agentic State” som kan få allvarliga konsekvenser är “Efterlevnad och rapportering” som innebär att samla in data och kontrollera åtlydnad av utfärdade dekret i realtid.

Efterlevnadsövervakning och rapportering tillhör de mest uppenbara fördelarna med agentbaserad AI. Istället för att vara beroende av kvartalsrapporter eller schemalagda inspektioner kan åtlydnad kontrolleras i realtid. Efterlevnad blir inte längre en retrospektiv ögonblicksbild; utan en aktiv, aktuell status. En välstyrd AI-efterlevnadsagent, som körs på en verifierbar, manipulationssäker algoritm, skulle kunna utfärda JA/NEJ-efterlevnadsintyg utan att överföra känsliga interna data. (s. 22)

Vad skulle kunna gå snett med detta upplägg…?

“No more hiding” som WEF-styrelsemedlemmen Al Gore sa i reklamfilmen för sitt project Climate Trace (Tracking Real-time Atmospheric Carbon Emissions) som lanserades i september 2021. Ingen ska kunna gömma sig undan det vakande ögat i rymden (och komma undan med att ha släppt ut för mycket koldioxid).

Agentstyre blir ett verktyg för ännu striktare kontroll av alla aktiviteter på jorden – en dröm för varje aspirerande diktator som vill leka gud.

I den här modellen blir rapportering bevis, inte bara pappersarbete. Med mer exakt realtidsövervakning och verifierbar rapportering skulle tillsynsmyndigheter försiktigt kunna omkalibrera kraven mot socialt optimala nivåer. På lång sikt kan vi föreställa oss en situation där efterlevnad inom områden som hälsa, säkerhet, ekonomi, miljö, cybersäkerhet och etik blir en del av den övergripande kvalitetshanteringen, med mindre, inte mer, intern information som överskrider organisationsgränser. (s. 23)

Med andra ord, “antingen lyder du eller så får du ta konsekvenserna”. Men författarna ställer faktiskt några relevanta frågor om säkerhetsmekanismer som kan behövas.

Om AI-agenter kan utfärda böter eller utlösa rättsliga åtgärder i realtid, vilka skyddsåtgärder behövs för att förhindra skenande verkställighet eller orättvisa påföljder? Vilken roll bör mänsklig tillsyn spela för att bevara legitimitet? (s. 23)

Påpekandet kommer dock utan den annars uppenbara slutsatsen att det enda rimliga vore att stänga ned denna totalitära mardröm innan den löper amok. En värld som låter AI-agenter styra kommer att dramatiskt förändra hur vi styrs.

Lagar, för närvarande statiska lagar som skrivits en gång och sällan ändrats, kan utvecklas till ett mycket mer dynamiskt levande system, kontinuerligt tolkat, testat och förfinat av aktörer som verkar inom tydligt definierade offentliga mandat. (s. 24)

Det innebär att AI “kommer kunna skriva om lagar lika enkelt som den skriver om kod”!!! Att detta vore att kasta rättsstaten och den skyddande trögheten i rättssystemet överbord utan vidare diskussion ses inte som något problem utan snarare en fördel.

AI-agenter kan simulera komplexa system, köra policyscenarier, testa och implementera alternativa designlösningar med häpnadsväckande volym och hastighet; där kvantberäkning kommer att öppna upp ett ytterligare [kvant]språng. Dessutom kan AI ändra kurs “under körning”, och upptäcka avvikelser, bias och systemfel. (s. 25)

Detta nya system skulle endast låta mänskliga lagstiftare definiera “breda samhälleliga mål”, medan specifika regler och krav [för att uppnå dessa mål] skulle justeras dynamiskt av AI-agenter utan behov av mänsklig inblandning”!

Frågan är vilka som kommer få uppdraget att överse AI-agenternas mål?

Författarna påpekar mycket riktigt att denna nya regim “utmanar samtida föreställningar om inkludering och delaktigt beslutsfattande” men tror inte att det behöver bli “mindre demokratiskt”.

Så, hur har de tänkt att demokrati och medbestämmande ska tillgodoses? Lösningen har en kylig bismak av teknokratisk effektivitet, då det innebär att vi människor kommer vara uppkopplade mot ett cybernetiskt system som kan uppfatta och analysera människors respons och anpassa besluten efter återkopplingen. Som det beskrivs i rapporten:

Istället för att enbart verka genom top-down-regleringsjusteringar skulle agenters policysystem också kunna lära sig av medborgarnas signaler. Återkopplingsslingor, såsom överklaganden, tidsåtgång eller till och med känslodetektering i digitala interaktioner, skulle kunna bli input för agentstyrd policyförfining. I denna modell blir gränsen mellan policyimplementering och justering porös: agenter justerar regler inte bara baserat på makronivå-KPI:er [key performance indicators] utan också från bottom-up-input och friktionsindikatorer. (s. 25)

Rapporten bekräftar i stort sett de tekniker för global teknokratisk styrning som jag beskrivit i mina böcker. Grafen nedan (från min bok Den digitala världshjärnan) illustrerar hur jag uppfattat att detta nya världssystem är tänkt att fungera, med GovTech som en central del och FN som den organisation som ska definiera de “breda samhälleliga målen” som den automatiserade AI-staten sedan ska se till att vi uppfyller.

En briefing om vitpappret hölls den 1 juli 2025, där författaren presenterade och diskuterade hur “Agentic AI” kommer att transformera regeringars arbete.

Beställ gärna min bok Temple of Solomon from Pharos Media om du inte redan har den.