Democratie Redden Van Stille AI Heerschappij

Ons Grootste Ai-Risico Is Niet Ongecontroleerde Superintelligentie, Maar Onze Culturele Bereidheid Om Ons Collectieve Oordeel Over Te Geven Aan Algoritmische Systemen.

Door Andrew Sorota, 13 oktober 2025 in NOEMA
Andrew Sorota werkt aan democratische innovatie en AI en is hoofd onderzoek bij het Office of Eric Schmidt.

In 1950, hetzelfde jaar dat Alan Turing zijn beroemde test voor machine-intelligentie presenteerde, stelde Isaac Asimov zich iets voor dat nog verontrustender was dan een robot die voor een mens kon doorgaan. In zijn verhaal "Het onvermijdelijke conflict" sturen vier enorme supercomputers, bekend als "de Machines", in stilte de economie van de planeet door een tijdperk van ongekende vrede en welvaart.

Wanneer ze ogenschijnlijk kostbare blunders begaan en de plannen van een paar machtige samenzweerders die hun gezag willen ondermijnen saboteren, ontdekt Wereldcoördinator Stephen Byerley de waarheid: de 'fouten' zijn helemaal geen fouten, maar weloverwogen, zorgvuldige offers bedoeld om de wereldwijde stabiliteit te bewaren. De Machines zijn tot de conclusie gekomen dat de zekerste manier om de mensheid te beschermen, is om te voorkomen dat de mensheid bepaalde beslissingen neemt.

Byerley accepteert deze waarheid met een mengeling van opluchting en angst, wetende dat hoewel de Machines conflicten zullen blijven afwenden, de getroffen burgers nooit zullen weten waarom hun plannen mislukten of hoe ze verhaal kunnen halen. De Machines zullen hun motieven geheimhouden; transparantie is immers ook een risico dat beheerd moet worden.

Asimov schetste de scène als een verre profetie, maar de toekomst die hij schetste, sijpelt al door in het heden. We praten vaak over kunstmatige intelligentie als een dreigende catastrofe of een ingenieuze uitvinding, schommelend tussen apocalyptische nachtmerries van op hol geslagen superintelligenties en schitterende toekomsten van wrijvingsloze efficiëntie. Deepfake-propaganda, economische ontwrichting, zelfs de mogelijkheid van existentiële ondergang: deze onderwerpen halen de krantenkoppen omdat ze dramatisch, filmisch en aangrijpend zijn.

Maar er schuilt een stiller gevaar, een gevaar dat uiteindelijk wel eens schadelijker zou kunnen blijken voor de menselijke geest dan welke moordrobot of biologisch wapen dan ook. Het risico is dat we steeds meer op AI gaan vertrouwen, niet alleen om ons te helpen, maar ook om voor ons te beslissen, waardoor we steeds grotere delen van ons collectieve oordeel overlaten aan systemen die, per definitie, onze waardigheid niet erkennen.

De tragedie is dat we cultureel gezien voorbereid zijn op een dergelijke machtsovername. Onze politieke instellingen zijn al gebaseerd op wat we een 'paradigma van onderdanigheid' zouden kunnen noemen, waarin gewone burgers slechts af en toe hun voorkeuren mogen uiten – via een referendum om de paar jaar – terwijl de dagelijkse beslissingen worden genomen door gekozen functionarissen, toezichthouders en technische experts.

Veel burgers hebben hun burgerrol zelfs volledig verzaakt door niet te stemmen, hetzij om symbolische redenen, hetzij uit pure apathie. AI past naadloos in deze architectuur en belooft het gemak van uitstel enorm te vergroten, terwijl het individuen verder van de machtscentra verwijdert.

De moderne representatieve democratie zelf ontstond in de 18e eeuw als oplossing voor de logistieke onmogelijkheid om alle burgers op één plek bijeen te brengen; het schaalde de oude stadstaat op tot de continentale republiek. Die oplossing had een prijs: de ervaring van directe burgerparticipatie werd vervangen door periodieke, symbolische instemmingshandelingen. Tussen verkiezingen kijken burgers meestal vanaf de zijlijn toe. Wetgevende commissies stellen wetten op, bestuursorganen ontwerpen regels, centrale banken bepalen de waarde van geld – allemaal met beperkte directe publieke betrokkenheid.

Deze regeling heeft de verwachting genormaliseerd dat complexe vraagstukken voor specialisten zijn weggelegd. In veel domeinen is die reflex logisch – neurochirurgen horen immers neurochirurgische beslissingen te nemen. Maar het maakt ons ook geneigd om het oordeel uit handen te geven, zelfs wanneer het in wezen om morele of distributieve kwesties gaat. Het democratische verhaal dat we onszelf vertellen – dat de soevereiniteit bij het volk ligt – blijft bestaan, maar de geleefde realiteit is een complexe hiërarchie van beheerders. Veel burgers hebben die kloof als onvermijdelijk geaccepteerd.

En daar komt machine learning om de hoek kijken. Algoritmen blinken juist uit in taken die voor de leek afschrikwekkend zijn: het sorteren van bergen data, het detecteren van patronen die geen mens kan zien, het kwantificeren van risico's in probabilistische termen. Ze komen met de glinsterende belofte van neutraliteit; een model is statistisch, dus het voelt minder bevooroordeeld aan dan een mens. De aantrekkingskracht is groot in alle domeinen, van kredietscores tot het bepalen wie toegang krijgt tot publieke diensten.

In Nederland bijvoorbeeld, was een vroege toepassing dat de overheid geautomatiseerde systemen inzette om uitkeringen te volgen met minimale menselijke tussenkomst. (Het is opmerkelijk dat dit experiment ertoe leidde dat meer dan 20.000 gezinnen ten onrechte van fraude werden beschuldigd en mede bijdroeg aan het aftreden van de gehele Nederlandse regering in 2021.) Geconfronteerd met achterstanden en budgetbeperkingen grijpen ambtenaren naar alles wat objectief en efficiënt lijkt. Al snel wordt de aanbeveling van het algoritme de standaard, en vervolgens de regel. Na verloop van tijd wordt de menselijke factor minder belangrijk.

De tussenpersoon wordt een machteloze klerk die zelden de machine overruled, deels omdat de instelling afwijkingen ontmoedigt en deels omdat de klerk vergeten is hoe dat moet.

"Het risico is dat we niet alleen op AI gaan vertrouwen om ons te helpen, maar ook om voor ons te beslissen, waardoor we steeds grotere delen van het collectieve oordeel overlaten aan systemen die, per definitie, onze waardigheid niet kunnen erkennen."

Wat in deze momenten verdwijnt, is meer dan discretie; het is de ontmoeting waarin de ene persoon de andere erkent als een wezen dat het waard is om over te beslissen. Aan het einde van de 20e eeuw blies Francis Fukuyama een argument nieuw leven in dat uiteindelijk aan Hegel te danken is: de liberale democratie is de meest stabiele regeringsvorm omdat ze de fundamentele menselijke behoefte aan erkenning bevredigt – het verlangen om gezien en bevestigd te worden als vrij en gelijkwaardig.

Of de geschiedenis nu echt "eindigde" met de val van de Berlijnse Muur of niet, het inzicht over erkenning blijft diepgaand. Mensen eisen niet alleen materieel comfort of veiligheid; Ze eisen dat de maatschappij hen recht in de ogen kijkt en toegeeft: "Jouw stem telt." Wanneer die erkenning uitblijft – wanneer individuen het gevoel hebben dat hun lot elders wordt bepaald, door elites die nooit tegenover hen zullen zitten – groeit de wrok. Hedendaags populisme is het politieke gezicht van die wrok. Het fulmineert tegen afstandelijke technocraten, tegen gezichtsloze bureaucratie, tegen elk systeem dat betuttelt in plaats van betrokken te zijn. Het portretteert electorale democratie, met haar lange kanalen van bemiddeling die de gemiddelde burger zelden bereiken, als een leeg ritueel.

AI dreigt deze wond nog dieper te maken. Als de gekozen functionaris afstandelijk is, is het algoritme een afgrond. Je kunt niet discussiëren met de verborgen lagen van een neuraal netwerk of een random forest ondervragen. Beslissingen die je leven vormgeven – hoe middelen worden toegewezen, welke prioriteiten worden gefinancierd – worden technische outputs die geoptimaliseerd zijn voor efficiëntie, geen politieke keuzes die worden beslecht door middel van publiek debat.

Zelfs als we AI-systemen perfect transparant zouden kunnen maken, in staat om hun redenering in heldere taal uit te leggen, lost dit het onderliggende democratische tekort niet op; een uitgelegde beslissing blijft een opgelegde beslissing. Zonder een duidelijke mogelijkheid tot beroep lost menselijk handelen op in statistische abstractie. Voor de burger die erkenning zoekt, is er niemand om mee te confronteren, geen verantwoordelijk gezicht aan de andere kant van de balie.

Zelfs de mogelijkheid van wederkerigheid verdwijnt, omdat het systeem constitutioneel niet in staat is om iemand te respecteren of te minachten; het optimaliseert simpelweg. In dit vacuüm kan woede zich alleen maar ongeremd naar buiten richten, waardoor complottheorieën en demagogische verhalen worden gevoed die schimmige technocraten, etnische minderheden of transnationale complotten de schuld geven.

Vasya Kolotusha for Noema Magazine

Een nieuw sociaal contract

De relatie tussen AI en democratie is echter niet gedoemd antagonistisch te zijn. Of algoritmes de rol van het publiek verkleinen of vergroten, hangt minder af van de code zelf dan van de sociale contracten die eromheen zijn geweven. Onze bestaande sociale contracten zijn gesmeed in het kielzog van de Verlichting, toen denkers probeerden een constitutioneel en normatief raamwerk op te richten om brute macht te beschaven en in overeenstemming te brengen met de collectieve rede.

Hobbes' angst voor ongebreidelde, natuurlijke chaos maakte plaats voor Lockes prioriteit van de toestemming van de geregeerden, Montesquieu's kader van de scheiding der machten en Rousseaus idee dat legitiem gezag altijd verantwoording moet afleggen aan de algemene wil. Deze regelingen waren bedoeld om de ergste impulsen van menselijke bestuurders te beteugelen en tegelijkertijd het beste van beraadslaging te benutten. Ze ontstonden in een tijd waarin de kracht van de menselijke rede om de samenleving en de natuur te perfectioneren bijna onbegrensd leek.

Nu echter, voor het eerst in de menselijke geschiedenis, worden we geconfronteerd met het bestaan van een niet-menselijke cognitieve actor wiens snelheid, schaal en analytische capaciteiten die van ons al op specifieke gebieden overtreffen en in de komende jaren alleen maar zullen blijven verbeteren. De overgang naar een wereld met bovenmenselijke intelligentie vereist iets anders dan reactieve sprongen om de vooruitgang van AI te belemmeren; Het vraagt om een diepgaande heroverweging van hoe macht en autoriteit functioneren, waar algoritmes beslissingen zouden moeten nemen, waar niet, en welke mechanismen er zouden moeten bestaan om mensen te helpen die beslissingen te begrijpen, aan te vechten en zo nodig te overrulen.

De centrale vraag moet zijn of we AI beschouwen als een vervanging voor collectief oordeel of als een instrument dat de ruimte voor menselijke beraadslaging vergroot. Het gaat erom of menselijk oordeel en menselijke waardigheid hun operationele waarde behouden in de systemen die ons besturen.

Goed gebruikt kan AI de logistieke kosten drastisch verlagen die serieuze beraadslagingen ooit tot kleine kringen beperkten. Automatische vertaling, live transcriptie en realtime samenvatting stellen diverse groepen burgers in staat om gemeenschappelijke problemen te bespreken zonder dezelfde ruimte of moedertaal te hoeven delen. LLM's kunnen technische briefings omzetten in begrijpelijker taal en duizenden mensen samenbrengen.

Reacties uit virtuele bijeenkomsten worden omgezet in begrijpelijke en concrete thema's. AI-facilitatoren kunnen helpen om online consensus te bereiken tussen gepolariseerde groepen, spreektijd gelijk te trekken en stemmen die anders over het hoofd gezien zouden worden, naar voren te brengen voordat de discussie wordt afgesloten. Met andere woorden, dezelfde machinerie die voorspellingsmarkten aandrijft, kan worden ingezet om beraadslagingen schaalbaar, doorzoekbaar en begrijpelijk te maken voor een breder publiek, waardoor de manier waarop overheden beslissingen nemen en de rol van de gemiddelde burger verandert.

"Als de gekozen functionaris afstandelijk is, is het algoritme een afgrond. Je kunt niet discussiëren met de verborgen lagen van een neuraal netwerk of een random forest ondervragen."

Taiwan biedt een glimp van deze toekomst. Het open-sourceplatform vTaiwan gebruikt machine learning om duizenden publieke reacties op beleidsvoorstellen te analyseren, consensusgebieden te identificeren en resterende meningsverschillen te benadrukken. In plaats van zelf beleidsaanbevelingen te genereren, helpt de AI burgers en beleidsmakers de structuur van de publieke opinie te begrijpen en de discussie te richten op werkelijk omstreden kwesties. Het platform heeft succesvolle beleidsvorming over controversiële onderwerpen in Taiwan mogelijk gemaakt, zoals de regulering van autodelen en digitale rechten. Dit heeft geleid tot resultaten die brede publieke steun genieten, grotendeels omdat burgers op een zinvolle manier hebben deelgenomen aan de totstandkoming ervan.

Een minder technologisch georiënteerd model van democratische innovatie is te zien in Ierland, waar regelmatig burgervergaderingen worden gehouden, maar waar de kracht van AI nog niet volledig benut wordt. Deze vergaderingen brengen willekeurig geselecteerde burgers samen om te delibereren over complexe kwesties en aanbevelingen te doen aan de regering. Deelnemers ontvangen briefings van experts, luisteren naar belanghebbenden en nemen deel aan gestructureerde beraadslagingen om tot consensus te komen. Het proces is traag en soms moeizaam, maar het heeft wel doordachte beleidsresultaten opgeleverd die waarschijnlijk niet via traditionele politieke kanalen bereikt zouden zijn. Een opvallend voorbeeld hiervan is een referendum over de intrekking van het Achtste Amendement van de Ierse Grondwet, dat voorheen de toegang tot abortus in het land beperkte. Deze vergaderingen zijn echter vaak duur in de uitvoering en beperkt tot relatief kleine groepen, waardoor ze tot nu toe aan de periferie van het democratische landschap zijn gebleven.

AI zou hier verandering in kunnen brengen door het aantal burgervergaderingen op te schalen en ze te verbinden met een breder publiek, waardoor hun legitimiteit en bereik worden versterkt. We zagen vorig jaar een prille versie hiervan in Deschutes County, Oregon, waar AI werd gebruikt om de beraadslagingen van een doorgaans besloten burgervergadering over dakloosheid onder jongeren vast te leggen, samen te vatten en te analyseren. Met toestemming van de leden van de vergadering kunnen hoogtepunten uit deze opnames van kleine groepen met het publiek worden gedeeld, waardoor het proces transparanter wordt en burgers van buitenaf beter kunnen zien wat er daadwerkelijk is besproken.

AI zou ook de kwaliteit van de beraadslagingen zelf kunnen verbeteren. Zo toonde de Habermas Machine van DeepMind in een onderzoek uit 2024 in Science aan dat een LLM (Living Learning Machine) effectiever tot overeenstemming kon komen tussen verdeelde groepen dan menselijke bemiddelaars. Cruciaal is dat dergelijke tools de collectieve besluitvorming willen versterken zonder het essentiële menselijke werk van oordeelsvorming en compromis te vervangen.

Deze scenario's van regeren mét AI in plaats van erdoor geregeerd te worden, klinken misschien omslachtig, juist omdat ze ontworpen zijn om wrijving te creëren waar technocratie – of 'algocratie', regeren door algoritmes – die juist verdrijft. Maar wrijving is niet per se slecht. In de politiek is het vaak de vangrail die voorkomt dat men in passiviteit vervalt.

Het oorspronkelijke genie van de liberale democratie lag niet alleen in de stembus; het lag in de creatie van meerdere fora – dorpsvergaderingen, jury's, gemeenteraden, burgerverenigingen – waar burgers elkaar als gelijken ontmoetten, in staat tot overreding en compromissen. Veel van die fora zijn onder de druk van de massamaatschappij, de massamedia en nu ook massadata verdwenen, en daarmee ook het weefsel van de liberale democratie.

Gehoorzaam zijn bij voorbaat

In zijn bekende boek "Bowling Alone", gepubliceerd in 2000, schetste Robert Putnam de neergang van Amerikaanse fora, waarbij hij de afname van competitiesporten, vakbondslidmaatschap en burgerverenigingen in de late 20e eeuw constateerde, toen de globalisering in een stroomversnelling raakte. Drie decennia later zijn de cijfers alleen maar verslechterd: lokale kranten verdwijnen wekelijks, het kerkbezoek blijft afnemen en de archetypische "ontmoeting op het verkeerde been" is vervangen door een schijnbaar eindeloos aantal online datingapps.

De afname van fysieke ontmoetingsplekken voor het collectieve leven begon niet met de microchip, maar algoritmes en digitale netwerken hebben de erosie versneld. Het resultaat is een overvloed aan individuele blootstelling aan informatie en een tekort aan gedeelde context of wederzijds begrip van hoe beslissingen worden genomen en wie ze neemt. Het herstellen van die gedeelde ruimtes, zelfs in digitale vorm, zou een rommelig en trager proces zijn dan alles door code zelf te laten bepalen. Maar het is ook de enige weg die

Het behoudt de belofte die Fukuyama zo bezong: dat ieder mens zowel auteur als lezer kan zijn van de wetten die hem of haar regeren.

Dit alles ontkent niet de kracht van AI om bepaalde beslissingen efficiënter en minder bevooroordeeld te maken, waardoor de manier waarop de overheid functioneert verbetert en mogelijk zelfs levens worden gered. Evenmin bagatelliseert het de meer dramatische, sensationele risico's van AI. Het is heel goed mogelijk dat toekomstige systemen capaciteiten verwerven die gevaarlijk zijn voor de mensheid, dat autonome wapens ongecontroleerd kunnen worden verspreid of dat deepfake-misinformatie verkiezingen kan destabiliseren.

"AI zal op zichzelf de democratie niet uitroeien of redden. Het zal de gewoonten die we kiezen te cultiveren versterken."

Sommige van deze dingen gebeuren inderdaad al. Maar als het subtielere probleem van onderdanigheid onopgelost blijft, zullen samenlevingen slecht toegerust raken om die grotere gevaren het hoofd te bieden – de kracht van burgerparticipatie zal dan al zijn verzwakt. Mensen die eraan gewend zijn dat machines de alledaagse zaken bepalen, zullen moeite hebben om de controle terug te winnen wanneer het op het spel staat: existentiële bedreigingen.

In de 20e eeuw onthulde Hannah Arendts beroemde werk over de 'banaliteit van het kwaad' hoe het naziregime niet afhankelijk was van ideologische hartstocht, maar van bureaucratische gehoorzaamheid – ambtenaren zoals Adolf Eichmann die deportatiebevelen verwerkten met dezelfde plichtsgetrouwe efficiëntie waarmee ze belastinginning of stadsplanning uitvoerden.

De gruwel van het systeem lag deels in de manier waarop het morele keuzes omzette in technische procedures, waardoor samenwerking aanvoelde als competent bestuur in plaats van medeplichtigheid aan genocide. Volgens Arendt was Eichmanns grootste misdaad in feite zijn onvermogen om zelf na te denken.

De Sovjet-Unie, Arendts andere onderwerp van totalitaire analyse, volgde een vergelijkbaar traject, zij het een traject dat zich uitstrekte tot het einde van de Koude Oorlog. Tegen de jaren zeventig hadden veel Sovjetburgers wat psychologen 'aangeleerde hulpeloosheid' noemen ontwikkeld in het licht van bureaucratische systemen die individuele autonomie betekenisloos maakten. Dit was een nieuwe, diepere vorm van politieke repressie. Het vertegenwoordigde de internalisering van procedureel denken waardoor onafhankelijk oordeel onmogelijk of irrelevant leek. Toen Michail Gorbatsjov in 1985 met glasnost een opener, meer raadplegend bestuur introduceerde, hadden veel burgers moeite om constructief deel te nemen, omdat ze de vertrouwdheid met democratisch overleg en compromissen waren kwijtgeraakt.

Historicus Timothy Snyder heeft betoogd dat de weg naar tirannie vaak geplaveid wordt door individuen die 'bij voorbaat gehoorzamen', anticiperen op wat autoritaire leiders willen en hen preventief tegemoetkomen om conflicten te vermijden. In het tijdperk van AI lijkt dit fenomeen zich op algoritmische schaal te gaan voordoen, nu individuen hun gedrag aanpassen aan een wereld die gevormd wordt door alwetende machines.

We zien nu al de eerste tekenen van deze impuls. Uit een onderzoek van het Pew Research Center in juli bleek dat wanneer Google zijn zoekresultaten vooraf laat gaan door door AI gegenereerde samenvattingen, gebruikers veel minder links openen en hun zoekopdracht vaak direct beëindigen. Hoewel dit handig is, accepteren we door het eerste samengestelde antwoord te accepteren ook impliciet wat het algoritme belangrijk acht. Het gevaar van deze vorm van onderwerping is waarschijnlijker dan dat we abrupt wakker worden in een wereld die door AI wordt geregeerd, dat we onze gewoonten van onderzoek en oordeel blijven aanpassen aan de parameters van de technologie, totdat die gewoonten zelf geen zeggenschap meer hebben. In die zin is AI minder een plotselinge usurpator dan de logische culminatie van een politieke cultuur die al decennialang democratische samenlevingen uitholt en de besluitvorming stukje bij beetje uit handen geeft.

De weg voor ons splitst zich daarom. Het ene pad leidt naar de voortdurende consolidatie van de besluitvormingsmacht in algoritmische platforms die eigendom zijn van bedrijven of instanties waarvan de interne logica voor het publiek ondoorzichtig is. Burgers, afgestompt door gemak en berustend in complexiteit, beoefenen burgerschap als een toeschouwerssport, waarbij ze stemmen uitbrengen die slechts de samenstelling van het toezichtscomité van een geautomatiseerd imperium veranderen.

Aan de andere kant ligt een bewuste poging om participatie en tegenspraak in te bouwen in elk belangrijk systeem dat het maatschappelijk leven raakt, waarbij een tragere doorvoer en periodieke stagnatie worden geaccepteerd als de prijs van vrijheid. De eerste weg wordt gesmeerd door efficiëntie en de mythe van objectieve expertise; de tweede is hobbelig, controversieel en arbeidsintensief – maar het is de enige route die de fundamentele democratische claim in stand houdt dat de geregeerden nooit het recht om te regeren opgeven.

AI zal op zichzelf de democratie niet uitroeien of redden. Het zal de gewoonten die we kiezen te cultiveren versterken. Als we het paradigma van onderdanigheid behouden, zal AI de ultieme bureaucraat worden, ondoorgrondelijk en oncontroleerbaar. Als we gewoonten van gezamenlijk oordeel cultiveren, kan AI een buitengewoon krachtige versterker van menselijk inzicht worden, een instrument dat tijd vrijmaakt voor beraadslaging in plaats van die te vervangen. De keuze tussen die toekomstscenario's kan niet worden uitbesteed; die ligt in onze handen als mensen. De manier waarop we het aanpakken, is misschien wel de belangrijkste daad van maatschappelijke erkenning die we elkaar kunnen bieden in dit nieuwe tijdperk van denkende machines.