Floreren In Het Komende Decennium

Vorige maand gaf de Amerikaanse overheid Anthropic de opdracht om de toegang tot haar twee meest geavanceerde modellen, Fable 5 en Mythos 5, te blokkeren voor alle buitenlandse staatsburgers (inclusief eigen werknemers). Binnen enkele uren schakelde het bedrijf de systemen voor alle klanten uit. Deze gebeurtenis legde een groeiende kloof bloot: de pure mogelijkheden van deze systemen ontwikkelen zich nu in een veel sneller tempo dan de instellingen die zijn opgericht om ze te beheren, te absorberen of zelfs te begrijpen.

Die kloof is een bron van onrust geworden onder de mensen die de technologie ontwikkelen. In zijn essay "Policy on the AI Exponential" uit juni 2026 waarschuwde Dario Amodei, CEO van Anthropic, dat de mogelijkheden van AI exponentieel toenemen, terwijl ons beleid en onze maatschappelijke instellingen zich in hun gebruikelijke tempo ontwikkelen. Hij vergelijkt deze discrepantie met het zoeken naar militaire hulp bij bomen. In dezelfde week publiceerde de onderzoeksafdeling van het bedrijf, The Anthropic Institute, interne gegevens over modellen die al begonnen zijn met het bouwen van hun eigen opvolgers. Dit gaf nieuw gewicht aan de al langer bestaande speculatie over recursieve zelfverbetering.

Wij delen veel van deze bezorgdheid. Maar we zijn getroffen door een asymmetrie in de manier waarop dit wordt aangepakt. Het gesprek is opmerkelijk ambitieus en concreet over twee taken: het bouwen van capabelere systemen en het afstemmen van die systemen op menselijke waarden. Maar er is weinig discussie over hoe de samenleving voorbereid moet worden op de integratie van deze systemen. Zelfs essays zoals dat van Amodei presenteren de maatschappelijke agenda als een lijst van domeinen die "herzien" moeten worden, zonder te onderzoeken wat die herziening precies inhoudt. Voor elke gedetailleerde routekaart naar superintelligentie is er weinig meer dan een gebaar naar de menselijke en institutionele infrastructuur die nodig is om ervoor te zorgen dat de voordelen ervan veilig en breed gedeeld worden.

De onbalans manifesteert zich in de kapitaalstroom. Voor elke dollar die wordt besteed aan het verbeteren van de capaciteiten van AI-systemen, gaat slechts een klein deel naar de institutionele, educatieve, organisatorische en maatschappelijke infrastructuur die nodig is om deze systemen productief en veilig in de samenleving te integreren. Het vakgebied van AI-afstemming heeft zich terecht gericht op het waarborgen dat systemen doelen nastreven die verenigbaar zijn met menselijke waarden, maar afstemming is een tweeledig probleem. Zelfs een perfect afgestemd systeem zal zijn potentieel niet volledig benutten of ernstige schade veroorzaken als het wordt ingezet in democratieën, economieën en rechtssystemen die daar niet op voorbereid zijn.

Wij noemen die verwaarloosde andere kant "omgekeerde afstemming": de ambitieuze creatie en herinrichting van instellingen, normen, vaardigheden en bestuurskaders, zodat samenlevingen AI veilig kunnen benutten en de voordelen ervan breed kunnen delen. De omvang van de benodigde aanpassingen is vergelijkbaar met de institutionele transformaties die gepaard gingen met industrialisatie, elektrificatie en de opkomst van het internet. Elk van deze transformaties vergde decennialange, doelbewuste investeringen in organisatorische herstructurering, personeelsontwikkeling, juridische kaders en nieuwe vormen van burgerparticipatie. De geschiedenis leert dat dergelijke investeringen geen optionele aanvullingen zijn op technologische veranderingen; ze zijn een voorwaarde voor het succes ervan, zoals onderzoekster Carlota Perez betoogt in haar boek uit 2002, "Technologische Revoluties en Financieel Kapitaal".

In dit artikel heeft een coalitie van experts met expertise op het gebied van AI-onderzoek, sociale wetenschappen, bestuur, bedrijfsleven, filantropie en maatschappelijk middenveld, met behulp van AI, een gezamenlijke visie ontwikkeld op wat nodig is voor menselijke bloei in het komende decennium. We stellen dat menselijke bloei in de komende decennia afhangt van het aanpakken van een aantal uitdagingen.

“Socio-technische grote uitdagingen”: grootschalige, gecoördineerde investeringen in de menselijke en institutionele dimensies van de AI-transformatie. We onderzoeken historische precedenten, identificeren prioriteitsgebieden en bespreken hoe het werk sectoroverschrijdend kan worden georganiseerd. Ons doel is niet om het enthousiasme voor wat AI kan doen te temperen, maar om te specificeren wat er nodig is om de belofte ervan waar te maken.

I. Falen van institutionele verwaarlozing

Technologie die in staat is de menselijke vrijheid, welvaart en collectieve intelligentie te vergroten, wordt ingezet in arbeidsmarkten, publieke instellingen en informatiesystemen die al kraakten voordat AI zijn intrede deed. Als deze mismatch niet wordt aangepakt, leidt dit tot drie voorzienbare faalscenario's.

Productiviteit zonder welvaart. Zoals de economen Erik Brynjolfsson, Daniel Rock en Chad Syverson in een artikel uit 2021 illustreren, creëren algemene technologieën pas brede waarde na zware aanvullende investeringen in nieuwe processen, vaardigheden en organisatorische herstructurering. Wanneer die aanvullingen achterblijven, wordt het werk sneller gereorganiseerd dan mensen zich kunnen omscholen, onderhandelen of verplaatsen, en vertalen de voordelen zich niet in zekerheid, mobiliteit of bredere participatie.

Uitvoering zonder verificatie. Zoals de economen Christian Catalini, Xiang Hui en Jane Wu betogen in een recent werkdocument, wordt, zodra de kosten voor het produceren van tekst, afbeeldingen en code drastisch dalen, de schaarse input de menselijke capaciteit om outputs te valideren, herkomst vast te stellen en verantwoording af te leggen. Beslissingen zijn gemakkelijker te automatiseren dan te rechtvaardigen, en algoritmische systemen zonder verantwoording ondermijnen heilige waarden en het sociale weefsel.

Capaciteit zonder beperkingen. AI kan staten en grote organisaties veel capabeler maken, maar zoals invloedrijke intellectuelen en beleidsmakers op het gebied van AI, Justin B. Bullock, Samuel Hammond en Sèb Krier, opmerken in een hoofdstuk dat vorig jaar verscheen in "The Art of Digital Governance", verlagen dezelfde instrumenten de monitoringkosten en concentreren ze de discretionaire bevoegdheid, waardoor bureaucratieën richting gecentraliseerde controle worden gedreven, tenzij de mogelijkheid tot betwisting, beroep en waarborgen voor burgerrechten parallel daaraan worden verbeterd.

Geen van deze ontwikkelingen is onvermijdelijk. Elk is een gevolg van institutionele nalatigheid, wat de vraag oproept waarom sommige samenlevingen zich in eerdere perioden van maatschappelijke onrust veel succesvoller hebben aangepast dan andere.

“Het welzijn van de mensheid in de komende decennia hangt af van het aanpakken van een reeks ‘sociotechnologische grote uitdagingen’: grootschalige, gecoördineerde investeringen in de menselijke en institutionele dimensies van de AI-transformatie.”,

II. Historische precedenten

Om te overwegen hoe we deze verwaarlozing kunnen overwinnen, is het nuttig om eerdere succesvolle institutionele aanpassingen aan technologische transformaties in herinnering te brengen die analoog zijn aan de uitdagingen waar we vandaag de dag voor staan.

1. Massademocratie

De snelle industrialisatie en verstedelijking van de 19e eeuw concentreerden de economische macht in de trusts en politieke machines van het Gilded Age. Zoals historicus Robert Wiebe betoogt in zijn studie uit 1967, “The Search for Order”, kon de institutionele architectuur van wat ooit een agrarische republiek was geweest, deze nieuwe agglomeraties niet in toom houden. Het Progressieve Tijdperk zag onderzoeksjournalisten zoals Ida Tarbell die misstanden in het bedrijfsleven aan de kaak stelden, sociaalwetenschappers aan universiteiten zoals de Universiteit van Wisconsin die onderzoek koppelden aan bestuur, leiders van buurthuizen zoals Jane Addams die maatschappelijke infrastructuur op straatniveau opbouwden, en hervormingsgezinde politici zoals Theodore Roosevelt en Robert La Follette die deze druk in wetgeving omzetten. De daaruit voortvloeiende innovaties, van de directe verkiezing van senatoren en de handhaving van de antitrustwetgeving tot onafhankelijke regelgevende instanties, vakbonden, gemeentelijke nutsbedrijven en een professionele ambtenarij, bouwden de democratische infrastructuur die nodig was om het industrieel kapitalisme te besturen, en vormen tot op de dag van vandaag de basis ervan.

2. Bretton Woods

De twee wereldoorlogen en de daarmee nauw verbonden Grote Depressie van het begin van de 20e eeuw toonden aan dat een onderling verbonden industriële economie waarin elk land probeerde aan zijn eigen industriële en financiële malaise te ontsnappen door de malaise van zijn buren te vergroten via tarieven en valutadevaluaties, een recept was voor massavernietiging. In Bretton Woods bouwden 44 landen een raamwerk om de wereldeconomie te stabiliseren en een herhaling te voorkomen. Ze stelden wisselkoersen vast, coördineerden kapitaalstromen, ontwikkelingshulp en, cruciaal, nieuwe instellingen die speciaal voor deze taak waren opgericht. Het Internationaal Monetair Fonds, de Wereldbank en de daaruit voortvloeiende Algemene Overeenkomst inzake Tarieven en Handel stabiliseerden niet alleen valuta's; ze vormden ook het raamwerk voor de naoorlogse bloei die de Franse demograaf Jean Fourastié de "30 glorieuze jaren" van 1945 tot 1975 noemde, de snelste aanhoudende economische groei in de geschiedenis.

3. ARPANET

Nadat de Sovjet-Unie Spoetnik had gelanceerd, richtte president Dwight D. Eisenhower het Advanced Research Projects Agency (ARPA) van het Ministerie van Defensie op om de Amerikaanse wetenschap nieuw leven in te blazen. Zoals journalist M. Mitchell Waldrop beschrijft in zijn boek uit 2001.

“The Dream Machine”, een van de projecten onder leiding van psycholoog en computerwetenschapper J.C.R. Licklider, had als doel onderzoeksinstellingen in de publieke, private en civiele sector te verbinden tot een robuust communicatienetwerk, het ARPANET. Even transformatief was de bestuurscultuur die ernaast ontstond. Zoals historicus Andrew Russell beschrijft in “Open Standards and the Digital Age” (2014), toonde het Request for Comments-proces, dat informeel begon in 1969 en later werd geïnstitutionaliseerd via de Internet Engineering Task Force, aan dat open, collaboratieve standaardisatie over institutionele grenzen heen gedeelde infrastructuur op grote schaal kon beheren. De technische doorbraken waren onlosmakelijk verbonden met die institutionele architectuur.

4. India Stack

Begin jaren 2000 had meer dan de helft van de Indiase bevolking geen bankrekening en geen gemakkelijke toegang tot overheidsdiensten, deels vanwege het ontbreken van een gedeelde infrastructuur voor identiteitsverificatie en geldovermakingen. India Stack creëerde een gelaagd pakket van open digitale publieke goederen, waaronder Aadhaar (biometrische identiteit voor meer dan 1,3 miljard mensen), de Unified Payments Interface (waarmee direct en gratis betalingen mogelijk zijn), DigiLocker (voor dataportabiliteit en privacy) en eSign, die allemaal door elke overheidsinstantie, bank of ontwikkelaar gebruikt kunnen worden.

Honderden miljoenen mensen die voorheen geen bankrekening hadden, kregen toegang tot financiële diensten en overheidsuitbetalingen konden rechtstreeks bij de ontvangers terechtkomen. India Stack is echter ook een waarschuwend voorbeeld. Gecentraliseerde biometrische identiteit is een surveillance-infrastructuur waarvan de risico's afhangen van de democratische gezondheid van de uitvoerende staat, een zorg die is toegenomen nu de Indiase instellingen zelf onder druk staan. Mislukte Aadhaar-authenticatie heeft de meest kwetsbaren voedselrantsoenen, pensioenen en uitkeringen ontzegd, met onevenredige gevolgen voor lage kasten, stammen en migrantengemeenschappen. Hetzelfde systeem dat in een buitengewoon tempo financiële inclusie mogelijk maakte, creëerde ook nieuwe vormen van uitsluiting en controle, een herinnering dat technische architectuur en politiek bestuur onlosmakelijk met elkaar verbonden zijn.

5. De digitale democratie van Taiwan

Als een van 's werelds meest gedigitaliseerde samenlevingen kreeg Taiwan in de jaren 2010 te maken met een geavanceerde tegenstander in de Volksrepubliek China. Het land ondervond desinformatieaanvallen, polarisatie en bedreigingen voor de toeleveringsketen jaren voordat veel andere democratieën hiermee te maken kregen. In 2014 leidde de onrust over een voorgestelde handelsovereenkomst met China tot de Zonnebloemprotesten, waarbij demonstranten drie weken lang vreedzaam het parlement bezetten. De civic-hackinggemeenschap g0v hielp de crisis te bezweren met tools die later werden gebruikt door het consultatieplatform vTaiwan. Een van deze tools, Pol.is, brengt opinieclusters in kaart en toont "overbruggende verklaringen" die steun verwerven binnen verdeelde groepen, waardoor controversiële kwesties naar een ruwe consensus worden geleid. Deze praktijken werden vervolgens geïnstitutionaliseerd in een van 's werelds eerste digitale ministeries onder leiding van vTaiwan-medeoprichter Audrey Tang. Een verwant project, Cofacts, verdeelde de verantwoordelijkheid voor het reageren op informatieaanvallen over het maatschappelijk middenveld door middel van crowdsourced verificatie op de berichtenapp LINE.

Tijdens de coronapandemie maakte dezelfde infrastructuur realtime online kaarten mogelijk van de beschikbaarheid van mondkapjes en een aanpak waarbij humor de geruchten overwon. Deze aanpak ging desinformatie tegen door ministers op de nationale televisie te laten satiriseren over hun eigen persoonlijke hygiëne in plaats van staatscensuur. Dezelfde verbindende logica werkt nu op platformniveau: X's Community Notes, geïntroduceerd in 2021 en sindsdien gekopieerd door Meta en TikTok, worden vertrouwd door het hele politieke spectrum en zorgen ervoor dat berichten die ze annoteren ongeveer de helft vaker worden gedeeld.

"Technologische transformatie slaagt het best wanneer deze gepaard gaat met institutionele verbeeldingskracht."

III. Sociotechnische grote uitdagingen voor het AI-tijdperk

De bovenstaande voorbeelden laten zien dat technologische transformatie het best slaagt wanneer deze gepaard gaat met institutionele verbeeldingskracht. De AI-transformatie zal dit principe op alle domeinen tegelijk op de proef stellen.

Identificatiesystemen

Er is weinig zo fundamenteel voor een samenleving als identiteitsverificatiesystemen, waarmee we anderen kunnen herkennen en hen toegang kunnen geven tot relaties, sociale diensten, democratische participatie en meer. Maar misschien wel het meest kenmerkende aspect van generatieve AI is het vermogen om menselijke eigenschappen en gedragingen na te bootsen. Naarmate de kosten voor het produceren van overtuigende valse documenten, biometrische gegevens en synthetische persona's bijna nul worden, worden systemen voor identiteitsverificatie geconfronteerd met een escalerende vertrouwenscrisis.

We hebben daarom dringend cryptografische instrumenten nodig waarmee individuen kunnen bewijzen dat ze unieke, echte mensen zijn zonder hun identiteit prijs te geven. We zouden dit persoonsbewijzen kunnen noemen. Deze instrumenten beschermen de privacy en herstellen tegelijkertijd het fundamentele onderscheid tussen echte en gefabriceerde personen, een onderscheid dat door AI is ondermijnd. Opkomende technische standaarden maken dit steeds beter haalbaar. Het W3C heeft een protocol voor gedecentraliseerde identificatoren (DID's) gestandaardiseerd dat draagbare persoonlijke digitale portemonnees (zoals telefoonnummers) mogelijk maakt, ook bij particuliere aanbieders. Het systeem vormt al de basis voor pilotprogramma's voor onderwijscertificering en verificatie in de gezondheidszorg in het kader van het eIDAS 2.0-raamwerk van de EU en daarbuiten.

Maar persoonsidentiteit alleen is onvoldoende: het geeft slechts toegang tot de meest basale rechten van alle mensen. De meeste aspecten van identiteit zijn relationeel en gebaseerd op het behoren tot een reeks gemeenschappen, van lokaal tot nationaal, van professioneel tot maatschappelijk. Alleen architecturen die bewijs van diverse sociale verbindingen mogelijk maken, zoals de Verifiable Credentials (VCs)-standaard van het W3C, kunnen de bloei van het digitale gemeenschapsleven ondersteunen.

In tegenstelling tot biometrie, die mensen biologisch definieert, zijn digitale systemen zoals AI-agenten ook ingebed in sociale relaties. Dergelijke raamwerken zouden de menselijke identiteit in een wereld van AI-agenten dus beter kunnen beveiligen en op natuurlijke wijze kunnen worden uitgebreid om deze agenten de authenticatie te bieden die nodig is om bijvoorbeeld agentische handel te ondersteunen. In plaats van te worden geïdentificeerd door een vingerafdruk, zou iemand bijvoorbeeld toegang kunnen krijgen tot een systeem door twee vrienden die al vertrouwd zijn in het systeem, voor hem of haar in te laten staan. Het realiseren van deze visie vereist gecoördineerde hervormingen op het gebied van overheidsauthenticatie, financiële regelgeving tegen witwassen, platformauthenticatie en digitale infrastructuur – sectoren die samen moeten evolueren naar interoperabele, privacybeschermende standaarden die niemand alleen kan ontwikkelen.

Privacy

De noodzakelijke keerzijde van identiteit is privacy, want als al onze identificerende informatie transparant is, kan iedereen zich voordoen als ons of inbreuk maken op onze privacy. AI geeft iedereen toegang tot een persoonlijke "Sherlock Holmes", waardoor verspreide digitale sporen (browsen, locatie, metadata, CCTV) tegen minimale kosten worden omgezet in gedetailleerde gedragsprofielen. Hersenen-computerinterfaces kunnen dit bereik nog verder uitbreiden. Deze inbreuken maken de traditionele tegenstellingen tussen transparantie en anonimiteit, zoals die momenteel zijn vastgelegd in wetten zoals de Europese Algemene Verordening Gegevensbescherming (AVG), archaïsch en onwerkbaar, aangezien bijna elke digitale interactie wel enige informatie zal onthullen.

Moderne cryptografie biedt veel rijkere mogelijkheden om mensen in staat te stellen selectief aspecten van hun identiteit te onthullen zonder volledige blootstelling, oftewel "meronymie". Met 'zero-knowledge proofs' kan iemand bijvoorbeeld zijn of haar leeftijd bewijzen met een identiteitsbewijs, zonder verder iets prijs te geven, vergelijkbaar met een gedeeltelijk verduisterende hoes op een fysiek identiteitsbewijs. Veilige meerpartijenberekening en federatief leren maken berekeningen mogelijk op data die geen van beide partijen kan inzien, waardoor samenwerkende AI-processen gedeelde resultaten kunnen produceren zonder privé-input bloot te leggen. Deze tools kunnen gedistribueerde samenwerkingsprocessen mogelijk maken, bijvoorbeeld voor stemmen of het modelleren van ziekten, zonder de privacy in gevaar te brengen. Deze tools zijn bovendien niet theoretisch: ze vormen steeds vaker de basis voor diverse activiteiten, zoals leeftijdsverificatiesystemen op sociale media, anonieme cryptotransacties en versleutelde berichten (zoals Signal).

De grootste belemmeringen voor het benutten van deze effectievere methoden zijn sociaal en juridisch van aard. Informele normen over openbaarmaking, die vaak overeenkomen met deze gedeeltelijke structuur, worden slecht weerspiegeld in simplistische juridische structuren, die op hun beurt cryptografische oplossingen grotendeels negeren of uitsluiten. Het behoud van een schijn van privacy in het AI-tijdperk vereist daarom sociale, culturele en juridische veranderingen die verder gaan dan alleen het adopteren van nieuwe tools.

Herkomst

Deepfakes, die vaak visueel overtuigender zijn dan echte content, worden ook steeds goedkoper en kunnen naadloos worden verweven in verslagen van echte gebeurtenissen om de publieke opinie te beïnvloeden, mensen ertoe aan te zetten geld over te maken naar oplichters of het moreel te ondermijnen in landen zoals Oekraïne die zich verzetten tegen een invasie. De voor de hand liggende oplossing, namelijk ervoor zorgen dat we de oorsprong van alle content kennen, is cruciaal voor het behoud van een gedeelde realiteit. Wetgeving schrijft al verschillende vormen van digitale herkomst voor: de AI-wet van de EU vereist duidelijke openbaarmaking van plausibel realistische, door AI gegenereerde content, de AI Transparency Act van Californië vereist watermerken van synthetische content die met gratis tools kunnen worden gedetecteerd en de Deep Synthesis Provisions van China vereisen expliciete, ondertekende toestemming van iedereen die wordt geïmiteerd.

"AI geeft iedereen toegang tot een persoonlijke 'Sherlock Holmes', waardoor verspreide digitale sporen (browsen, locatie, metadata, CCTV) tegen minimale kosten worden omgezet in gedetailleerde gedragsprofielen."

Een recent initiatief van de Coalition for Content Provenance and Authenticity (CCPA) heeft een standaard voor contentreferenties ontwikkeld. Deze standaard koppelt cryptografisch ondertekende metadata aan de manier waarop content is gemaakt en bewerkt. In combinatie met onzichtbare watermerken maakt dit een betrouwbare authenticatie van de oorsprong van content mogelijk: AI of mens. Tools zoals VeriTrail breiden provenance uit naar AI-redeneringen zelf, door generatieve claims terug te traceren naar bronmateriaal om te detecteren waar fouten mogelijk zijn geïntroduceerd.

Provenance vereist echter gelijktijdige vooruitgang in technologie, juridische kaders en publiek begrip. Net als bij privacy staan juridische normen haaks op wat technisch mogelijk is. Om deze kloof te dichten, moeten technologen, regelgevers en belanghebbenden de normen parallel aan de implementatie ontwikkelen, in plaats van voortijdig willekeurige eisen vast te leggen. Ook de opvattingen over herkomst moeten mogelijk verschuiven van de aanname dat foto's, video's en geluidsopnamen in de media een directe weergave zijn van wat ze vastleggen, naar een oudere aanname dat deze media net als schilderijen zijn en dat hun waarheidswaarde afhangt van het vertrouwen in de mensen die de authenticiteit ervan garanderen.

Waarde van data

De meest geavanceerde modellen van vandaag leren van de verzamelde digitale gegevens van de mensheid, een corpus dat AI-bedrijven vrijwel gratis hebben verkregen. De strijd om die data is uitgegroeid tot een van de belangrijkste economische conflicten van het AI-tijdperk en creëert problemen aan beide kanten. AI-bedrijven worden geconfronteerd met een dreigend tekort. De volgende trainingsrondes vereisen nieuwe, hoogwaardige, door mensen gegenereerde data, en de gemakkelijk verkrijgbare voorraad is uitgeput. Contentmakers hebben dan nog maar twee opties: ze kunnen genoegen nemen met bescheiden eenmalige licentieovereenkomsten of een rechtszaak aanspannen wegens inbreuk op het auteursrecht. Geen van beide biedt een vergoeding die de werkelijke bijdrage van hun werk weerspiegelt.

Het standaardbezwaar tegen een echte markt voor trainingsdata is dat het onmogelijk is om data op grote schaal te waarderen, dat de kosten om te bepalen wat een enkel stuk content waard is, het grootste deel van de waarde die de data creëert, zouden opslokken. Dat bezwaar houdt geen stand, omdat AI-bedrijven de twee datasets die nodig zijn voor prijsbepaling al genereren, en ze produceren deze elke keer dat ze een model trainen. Beslissingen over de samenstelling van data laten zien hoe de bijdragen van verschillende bronnen moeten worden gewogen, wat bepaalt hoe de taart verdeeld moet worden. Schaalwetten laten zien hoeveel extra data een model verbetert, wat de grootte van de taart bepaalt.

Wat overblijft is de distributie, en er zijn bestaande instellingen die een sjabloon voor de oplossing bieden. Collectieve beheersorganisaties, de instanties die werken licentiëren en royalty's uitkeren in de muziekindustrie, laten zien hoe geld naar grote aantallen rechthebbenden kan stromen zonder elke transactie afzonderlijk te hoeven onderhandelen. Een vergelijkbare structuur zou de vergoeding op grote schaal naar makers kunnen leiden, gebruikmakend van metingen die bedrijven al verzamelen, en beide partijen een duurzame weg voorwaarts bieden.

De waarde van data strekt zich uit over de hele AI-levenscyclus, niet alleen over de pretraining. Markten voor latere fasen, zoals modelsturing en -opvraging, ontstaan al, doordat het succes van aanbieders zoals Scale AI, dat data-medewerkers wereldwijd betaalt om te helpen bij het afstemmen en verbeteren van de basis van modellen, en gezonde markten in elke fase elkaar versterken.

Agent-samenwerking

De afgelopen maanden is er een explosie geweest van AI-agenten die taken namens gebruikers uitvoeren, met name op technisch gebied. Vroege interacties tussen agenten, onder andere op sociale platforms die specifiek voor bots zijn ontworpen, suggereren dat het grootste potentieel ligt in samenwerking, waarbij agenten hun specifieke kennis en toegang combineren. Maar samenwerking vereist vertrouwen, en de huidige agenten zijn gebouwd om onvoorwaardelijk behulpzaam te zijn, waardoor ze gevaarlijk naïeve partners zijn die gemakkelijk kunnen worden misleid door online hackers die de modellen manipuleren om vertrouwelijke gegevens van hun opdrachtgevers prijs te geven.

Bruikbare samenwerkingssystemen moeten het voorbeeld van mensen in samenlevingen volgen: begin met kleine uitwisselingen, bouw een trackrecord op, beoordeel de betrouwbaarheid op basis van zowel persoonlijke ervaring als de reputatie van de groep en verdiep de relaties in de loop van de tijd. Cruciaal is dat deze vertrouwenssystemen moeten werken tussen aanbieders van AI-modellen. Zonder gedeelde standaarden zullen agenten alleen binnen gesloten ecosystemen samenwerken, waardoor gevestigde platforms het grootste deel van de waarde kunnen binnenhalen. Gedeelde standaarden maken het mogelijk dat ketens van vertrouwde introducties zich met digitale snelheid uitbreiden – waardoor betrouwbare samenwerking mogelijk wordt tussen mensen die anders afhankelijk zouden zijn van veel minder betrouwbare, puur financiële transacties.

"AI-bedrijven staan voor een dreigend tekort. De volgende trainingsrondes zullen nieuwe, hoogwaardige, door mensen gegenereerde data vereisen, en de gemakkelijk verkrijgbare data zijn uitgeput."

Gezamenlijke betekenisgeving

Hoewel deze vertrouwensnetwerken agenten in staat stellen samen te werken, levert die samenwerking alleen waarde op wanneer ze gezamenlijke betekenisgeving bevordert die gezamenlijke actie mogelijk maakt. Er bestaat echter een wijdverbreid gevoel dat vroege algoritmische mediasystemen hierin tekort zijn geschoten en vaak juist de manipulatie van verhalen, polarisatie en de verspreiding van misleidende informatie hebben geïndustrialiseerd, waarbij AI deze dynamiek steeds verder versterkt. De meeste platformontwerpen verergeren het probleem door algoritmematig advertenties en content aan te bieden op basis van afgeleide groepslidmaatschappen, terwijl de redenen waarom bepaalde content wordt aangeboden voor de consument verborgen blijven. Dit voorkomt dat deelnemers weten welke gemeenschappen hetzelfde materiaal zien en ermee instemmen, wat pluralistische onwetendheid op grote schaal in de hand werkt.

Alternatieve ontwerpen zouden zich echter kunnen richten op ontwikkeling. Het gaat zelfs om het genereren van inkomsten door middel van ping en het bevorderen van gemeenschapszin en collectief zelfinzicht. Content die is getagd om de gemeenschappen te identificeren die er een verbindende of juist verdeeldheid zaaiende werking in zien, kan algoritmisch worden weergegeven, zodat gedeelde inzichten worden gevonden en echte meningsverschillen eerlijk worden vertegenwoordigd. Dit bouwt voort op de aanpak die bewezen effectief is gebleken in het nationale vTaiwan-proces in Taiwan en verspreidt zich nu via de Japanse politieke "brede luisterbeweging" om AI in te zetten om politieke leiders te helpen de publieke opinie vollediger en eerlijker te verwerken. Naarmate content steeds vaker via AI-interfaces wordt gecreëerd en aangeboden, ontwikkelen deze ontwerpen zich tot afstemmings- en interactiemodellen. In plaats van gebruikers vanuit een universeel of gepersonaliseerd perspectief aan te spreken, kunnen gemeenschapsmodellen kwesties presenteren vanuit het standpunt van de groepen waartoe iemand behoort, zoals een kerkgenootschap, vakbond of gemeente, waardoor duidelijk wordt waar die gemeenschappen het eens zijn, waar ze van mening verschillen en waarom. Wanneer het businessmodel verschuift, zodat gemeenschappen platforms betalen voor samenhang in plaats van adverteerders voor aandacht, sluiten de platformincentives aan bij het sociale weefsel waar ze van afhankelijk zijn.

Democratie

Sinds ten minste de tijd van de Tocqueville vormt een bloeiend gemeenschapsleven de basis van democratische systemen. Maar om deze gemeenschappen te laten floreren, moet de daadwerkelijke autoriteit die ze creëren zich vertalen in formele autoriteit over middelen en macht. Dit kan door het herontwerpen van wat professor Danielle Allen van Harvard University "de ruggengraat van de representatie" noemt – participatie, formele vertegenwoordiging en uitvoering – zodat deze gelijke tred houdt met de snelheid en complexiteit van de uitdagingen waar democratieën tegenwoordig voor staan.

De snelstgroeiende politieke partij van Japan, Team Mirai, kanaliseert de input van burgers via continu actieve, door AI ondersteunde beraadslagingen, waarbij geleefde ervaringen vrijwel in realtime worden vertaald in concrete beleidsvoorstellen. Burgerdashboards brengen de publieke opinie in kaart om besluitvormers zeer gedetailleerde signalen te geven, waar periodieke verkiezingen en peilingen slechts beperkte informatie bieden. Dit helpt om patstellingen te doorbreken door concrete gemeenschappelijke grond te vinden.

Maar ondanks alle waarde van wetgeving, benadrukt Jennifer Pahlka, medeoprichter van Code for America en United States Digital Response, in haar invloedrijke boek "Recoding America" uit 2023 dat de meest cruciale knelpunten zich in de uitvoerende macht bevinden. Het Taiwanese netwerk van participatiefunctionarissen heeft getrainde ambtenaren als permanente participatieagenten ingezet in alle ministeries. Dit zorgt voor een continue communicatie tussen burgers en de overheid in elke fase van beleidsvorming en -uitvoering, waardoor ambtenaren de flexibiliteit en capaciteit krijgen om steun te verwerven bij hun superieuren en zo Pahlka's "cascade van starheid" te overwinnen. Door de werking van de bureaucratie opnieuw vorm te geven, kon Taiwan een reeks programma's voor burgerparticipatie opschalen, waaronder vTaiwan, waardoor democratische responsiviteit een permanente overheidsfunctie werd in plaats van een incidenteel experiment.

Werkplek

Een dergelijke heruitvinding in de publieke sector is slechts één voorbeeld van hoe AI de herinrichting van werkprocessen mogelijk maakt en vereist, niet alleen voor efficiëntie, maar ook om een aanzienlijk rijkere samenwerking te bevorderen. De grootste belemmering voor enorme productiviteitswinsten door AI is de transformatie van organisaties om de enorm toegenomen creativiteit en autonomie te verwerken.

Neem bijvoorbeeld de gezondheidszorg. AI kan de ontdekking van nieuwe behandelingen bevorderen, toeleveringsketens optimaliseren, klinisch bewijs synthetiseren voor gepersonaliseerde zorg en administratieve werkprocessen nauwkeurig en veilig afhandelen. Met deze organisatorische intelligentie op de achtergrond kan een deskundig zorgteam dynamisch rond elke patiënt worden samengesteld – met aanwezigheid, compassie en zeer persoonlijke aandacht. Hetzelfde spectrum aan processen – ontdekking, levering, informatiestroom, het matchen van experts en interactie met de eerstelijnszorg – loopt door elke sector.

Maar om dit te realiseren is meer nodig dan het simpelweg invoegen van modellen in bestaande structuren. Organisaties moeten opnieuw worden ontworpen op basis van wat AI mogelijk maakt: het elimineren van hiërarchische knelpunten, zodat medewerkers kunnen deelnemen aan een reeks multidisciplinaire ‘flashteams’ die ervoor zorgen dat operationele data continu bijdragen aan institutioneel leren. De organisaties die de grens van collectieve prestaties zullen bepalen, zijn de organisaties die workflows herontwerpen rond de flexibiliteit van AI – net zoals fabrieken werden herontworpen rond geminiaturiseerde elektromotoren – in plaats van simpelweg bestaande individuele workflows te versnellen – vergelijkbaar met het vervangen van stoommachines door goedkopere elektrische machines.

“Organisaties moeten opnieuw worden ontworpen rond wat AI mogelijk maakt: het elimineren van hiërarchische knelpunten, zodat medewerkers kunnen deelnemen aan een reeks multidisciplinaire ‘flashteams’ die ervoor zorgen dat operationele data continu bijdragen aan institutioneel leren.”

Recht en Vrijheden

Hoewel organisatorische dynamiek cruciaal is voor een democratische toekomst met AI, is een rechtsstaat die ervoor zorgt dat collectieve oordelen prevaleren boven eenzijdige willekeur van de uitvoerende macht dat ook. AI dreigt dat evenwicht te verstoren. Het verlaagt de kosten van f toezicht, onderzoek, het opstellen van regelgeving en de handhaving ervan. Deze bevoegdheden komen onevenredig toe aan de uitvoerende macht, die al de operationele machinerie van de administratieve staat aanstuurt. Tegelijkertijd maakt AI het voor iedereen gemakkelijker om een ogenschijnlijk plausibel juridisch dossier op te stellen, wat dreigt de rechtbanken te overbelasten, wier legitimiteit afhangt van zorgvuldige beraadslaging.

Veel van de fricties die AI wegneemt, zoals de inspanning die nodig is om een zaak op te bouwen en de praktische beperkingen van gelijktijdige onderzoeken, hebben gefunctioneerd als cruciale elementen van de constitutionele orde, door de meest ongefundeerde of vergeldende vormen van staatsmacht te filteren voordat ze konden escaleren. Het wegnemen van deze fricties zonder tegenwicht verschuift de macht van de collectieve takken van de overheid, de wetgevende en rechterlijke macht, naar een unilaterale uitvoerende macht.

Het herstellen van het evenwicht vereist een gelijkwaardige infrastructuur aan de andere kant van het staatsoptreden: permanente controlemechanismen voor door AI ondersteunde overheidsbeslissingen, zodat wetgevende instanties en het publiek toezicht kunnen uitoefenen; Door AI ondersteunde zaakscreening, onder menselijk toezicht, om rechtbanken te helpen bij het beheren van de explosief groeiende hoeveelheid zaken; en openbaar beschikbare juridische modellen waarmee gewone burgers overheidsoptreden kunnen aanvechten met een vergelijkbare snelheid en tegen vergelijkbare kosten, zodat uitvoerende instanties de wettelijke intentie niet kunnen omzeilen door simpelweg sneller te handelen.

Het allerbelangrijkste is dat wetgevende instanties hun eigen analytische capaciteit moeten herstellen. Ze moeten de analytische en consensusvormende capaciteiten van AI benutten om de erosie te overwinnen die werd geïllustreerd door de stopzetting van de financiering van het Office of Technology Assessment van het Amerikaanse Congres in 1995, zodat ze weloverwogen, democratische voorwaarden kunnen stellen voor de inzet van door AI gestuurde handhaving, in plaats van die beslissing standaard aan de uitvoerende macht over te laten.

Onderzoek

De organisatorische impact van het vermogen van AI om de individuele capaciteit te vergroten zonder de resulterende stroom aan materiaal te hoeven beheren, is het best te zien in de wetenschappen. Modellen genereren nu hypothesen, voeren simulaties uit en schrijven manuscripten in een tempo dat traditionele peerreview in feite overbodig maakt, waardoor belangrijke doorbraken verdwijnen onder een lawine van incrementele recombinatie en regelrechte rommel. Net als in het ARPANET-tijdperk is het hervormen van wetenschappelijke praktijken dus zowel een macro- als een microkosmos van hoe andere organisaties opnieuw moeten worden vormgegeven.

En net als elders zal AI zelf een cruciaal onderdeel van de oplossing zijn, waardoor het mogelijk wordt om op grote schaal kaf van het koren te scheiden. Zoals een van ons in een studie uit 2023 met computationeel sociaal wetenschapper Jamshid Sourati aantoonde, vereist dit effectief gebruik van de interne representaties van deze systemen van de menselijke culturele en relationele dynamiek die ten grondslag liggen aan onderzoeksgebieden. Dit kan vanzelfsprekend leiden tot evaluatiesystemen die uiteindelijk uitzonderlijk innovatief werk stimuleren dat de traditionele silo's doorbreekt.

De meest expliciete versie zou dergelijke meetmethoden gebruiken, samen met mechanismen zoals kwadratische en 'diepe' financiering, om onderzoekssubsidies toe te kennen. Er ontstaan veelbelovende experimenten binnen de 'gedecentraliseerde wetenschap'-beweging, waar financiers geld toewijzen door de afhankelijkheidspatronen tussen open-source software in kaart te brengen. Gedreven door het vakgebied van de metawetenschap, helpen deze inspanningen de wetenschap relevant te houden nu publicaties en laboratoria plaatsmaken voor de open-source infrastructuur die steeds meer AI-gedreven innovatie ondersteunt. De gezamenlijke ontwrichting van de wetenschap door veranderingen in overheidsbeleid en AI biedt een kans om de wetenschap drastisch te verbeteren, mits deze nieuwe benaderingen kunnen worden opgeschaald door wetenschappelijke financieringsinstellingen.

Onderwijs

Als oudste onderzoeksinstelling is de universiteit gebaseerd op onderwijs dat onderzoek dient, wat op zijn beurt onze capaciteit om ons aan te passen aan de AI-transformatie ondersteunt. AI ontwricht deze basis echter op drie fronten tegelijk: de vaardigheden die de economie waardeert, hoe die vaardigheden worden aangeleerd en hoe de beheersing ervan wordt gecertificeerd. De universiteit heeft haar belangrijkste competenties (nauwkeurig lezen, perspectief nemen, gestructureerd argumenteren) altijd impliciet opgebouwd, als bijproducten van de inhoudelijke overdracht. AI maakt die bundeling onhoudbaar. Wanneer studenten gepolijst werk kunnen produceren zonder echt begrip, moeten docenten expliciet aangeven welke competenties ertoe doen en leerprocessen ontwerpen die deze ontwikkelen. AI kan daarbij fungeren als een hometrainer voor de geest, en niet slechts als de "e-bike" uit de metafoor van OpenAI-CEO Sam Altman.

Ook de beoordeling staat voor een parallelle uitdaging. Evaluaties moeten zowel de fundamentele vaardigheden verifiëren door elektronische hulp te verbieden als het vermogen van studenten testen om met behulp van AI dingen te bereiken die voorheen onmogelijk waren. Het opschalen van beide vereist zelf AI.

Ook de lerarenkwalificaties zijn dringend aan herziening toe. Standaardkwalificaties zijn rigide, zwak onderbouwd met leerwetenschap en marginaliseren atypische studenten. Deze structuren blijven bestaan omdat gepersonaliseerde leerroutes en heterogene kwalificaties te duur waren om te interpreteren, een beperking die AI aanzienlijk verlicht. Het herontwerpen van kwalificaties om te weerspiegelen wat mensen weten, vereist coördinatie tussen docenten, onderzoekers, technologen en beleidsmakers en werkgevers. Maar zelfs goed ontworpen diploma's bereiken weinig als de infrastructuur die hen verbindt met de arbeidsmarkt niet gelijke tred kan houden.

"Wanneer studenten gepolijst werk kunnen leveren zonder echt begrip, moeten docenten expliciet aangeven welke competenties ertoe doen en leerprogramma's ontwerpen die deze ontwikkelen."

Arbeidsmarkttransitie

Die laatste kloof zit tussen wat diploma's certificeren en wat werknemers ermee kunnen doen. Zelfs in de meest optimistische gevallen die hierboven zijn genoemd, waar data-bijdragen worden beloond, werknemers autonomie krijgen en diploma's worden opgesplitst, ontrafelt AI professionele expertise in afzonderlijke taken. Daardoor destabiliseert het een industriële structuur voor arbeidsmarktontwikkeling die is gebouwd voor rigide functiebeschrijvingen en statische kwalificaties die jarenlang een specifiek carrièrepad vereisen.

De verouderde infrastructuur van werkloosheidsverzekeringssystemen, arbeidsmarktorganisaties en community colleges blijft grotendeels blind voor de gedetailleerde gebruikspatronen en latente competenties die grensverleggende modellen nu onthullen door middel van realtime interactie. Modelontwikkelaars beschikken over zeer gedetailleerde signalen over hoe menselijk werk daadwerkelijk wordt hervormd, maar de overheid en haar belangrijkste partners missen de kaders voor gegevensuitwisseling en de analytische capaciteit om deze signalen te vertalen naar passende trainingen of overdraagbare kwalificaties. Deze informatieasymmetrie betekent dat werk sneller wordt gereorganiseerd dan mensen zich kunnen omscholen, onderhandelen of begeleide transities kunnen doorlopen.

Om ervoor te zorgen dat de vermindering van routinematig cognitief werk leidt tot brede welvaart in plaats van stagnerende verschuivingen, moeten we transitiesystemen herontwerpen. Dit betekent dat we de institutionele inertie van bestaande overheidsinstanties voor werkloosheidsverzekering en arbeidsbemiddeling moeten overwinnen. Deze instanties zijn ontworpen voor een wereld van massale ontslagen bij één werkgever en zijn niet toegerust om de diffuse, continue herverdeling van taken die AI teweegbrengt, aan te kunnen.

De kern van een dergelijk herontwerp wordt gevormd door een 21e-eeuwse ruggengraat voor arbeidsmobiliteit: interoperabele, op standaarden gebaseerde digitale kwalificaties die niet alleen zijn ontworpen voor detail en flexibiliteit, maar ook overdraagbaar zijn tussen staten, leesbaar zijn voor arbeidsbemiddelingsinstanties en interpreteerbaar zijn door werkgevers zonder de afkorting van een diploma. De integratie van AI-ondersteunde taakmapping en deliberatieve tools zou lokale onderwijsinstellingen in staat stellen om nascholing vrijwel in realtime af te stemmen op de veranderende aard van beroepstaken, waardoor de kloof tussen de eisen van de economie en de mogelijkheden van transitiesystemen wordt overbrugd.

IV. Coalities voor actie

Geen enkele sector kan een dergelijke grote uitdaging alleen aanpakken. Elk historisch precedent dat we eerder hebben onderzocht, is geslaagd door capaciteiten te bundelen die geen enkele actor afzonderlijk bezat. Elk precedent vereiste een voldoende sterke coalitie, een kernalliantie om al vroeg de waarde aan te tonen en anderen erbij te betrekken naarmate de resultaten zich manifesteerden.

De geschiedenis staat vol veelbelovende sociaal-technische visies die mislukten. Iets meer dan tien jaar geleden brachten multisectorale coalities beleidsmakers, technologen en stedenbouwkundigen samen rondom 'slimme steden' om het stadsleven te optimaliseren door middel van geïntegreerde digitale infrastructuur; de meesten hadden moeite om resultaten te boeken. Wanneer experts uit verschillende vakgebieden samenkomen voor een nieuwe uitdaging, ontdekken ze vaak dat ze het oneens zijn over welk probleem ze proberen op te lossen. Ze botsen over wat als bewijs geldt, wiens expertise ertoe doet en hoe succes eruitziet. En wanneer die experts zich ertoe verbinden hun visie te verkondigen, kan dit het leren of aanpassen verder belemmeren. Het aanpakken van grote uitdagingen vereist oprechte zelfreflectie en het minder aantrekkelijke werk van het opbouwen van begrip binnen en tussen gemeenschappen om oplossingen te creëren met een schaalbare impact.

Er bestaan mechanismen om deelnemers met uiteenlopende belangen op één lijn te brengen, zoals sectoroverschrijdende detacheringen: technologen in dienst van de overheid, ambtenaren in onderzoekslaboratoria en belangenbehartigers in platformbedrijven. Dit gebeurt al tot op zekere hoogte via de Amerikaanse Intergovernmental Personnel Act, die al decennialang experts rouleert tussen overheids- en onderzoeksinstellingen, en meer recentelijk bij het Britse AI Security Institute. Voorafgaande marktgaranties, waarbij financiers de vraag naar producten garanderen die nog niet bestaan, waren van doorslaggevende betekenis voor de productie van een Covid-19-vaccin door Operation Warp Speed en zouden op vergelijkbare wijze het risico kunnen verlagen van het bouwen van sociaal-technische infrastructuur, zoals interoperabele authenticatie of privacybeschermende computersystemen. Omgekeerde afstemming is geen op zichzelf staand project, maar een portfolio van complementaire investeringen. De geschiedenis leert dat de beperkende factor zelden het gebrek aan goede ideeën is, maar eerder het ontbreken van institutionele structuren die verschillende actoren in staat stellen bij te dragen wat alleen zij kunnen, en het geduldige kapitaal dat bereid is die structuren op de lange termijn in stand te houden voordat de resultaten zich opstapelen.

V. Samen superintelligentie worden

Deze grote uitdagingen kennen technisch veelbelovende oplossingen, maar zoals we hebben gezien, falen veelbelovende visies vaak. Wanneer coalities niet van elkaar kunnen leren ondanks hun verschillen, ontstaat er een probleem. De oplossing ligt besloten in dezelfde pluralistische samenwerking die dit artikel heeft voortgebracht en die de leidraad moet vormen voor de verdere ontwikkeling ervan: het overbruggen van verdeelde gemeenschappen, het baseren van vertrouwen op een netwerk van diverse relaties in plaats van op gecentraliseerd gezag, en het blootleggen van gedeelde grond zonder oprechte meningsverschillen te onderdrukken. De institutionele structuren die wij bepleiten, staan niet los van de waarden die ze belichamen; ze zijn uitdrukkingen van die waarden.

Zonder deze maatregelen belanden we standaard in een wereld van productiviteit zonder welvaart, uitvoering zonder verificatie en capaciteit zonder beperkingen. Deze uitkomst is niet onvermijdelijk. Interdisciplinaire coalities die zich inzetten voor samenwerking en leren, kunnen de toekomst veranderen. Het is tijd om net zo ambitieus te bouwen aan onze sociale systemen als we hebben gedaan voor onze algoritmen.

Anna Lucia voor Noema Magazine, Essay Technologie & de mens, door E. Glen Weyl, James Evans en Chris White 21 juli 2026

E. Glen Weyl is oprichter en mede-leider van Microsoft Research's Plural Technology Collaboratory, de RadicalxChange Foundation, het Faith, Family and Technology Network en het Plurality Institute. Zijn werk bevordert productieve samenwerkingen tussen gevoelige traditionele sociale systemen, zoals religie en democratie, en geavanceerde digitale technologieën in een omgeving van diversiteit.

James Evans is de Max Palevsky hoogleraar sociologie en datawetenschap aan de Universiteit van Chicago, directeur van het Knowledge Lab en onderzoeker bij het Santa Fe Institute en Google. Zijn werk maakt gebruik van grootschalige data, machine learning en generatieve modellen om te begrijpen hoe collectieven van mensen en machines denken en wat ze kunnen weten.

Chris White is vicepresident en labdirecteur van Microsoft Research Catalyst Lab. Hij leidt onderzoeksteams met specialisten van wereldklasse die zeer onzekere, complexe problemen oplossen. Zijn groep ontwikkelt technologieën die de samenleving ten goede komen, waaronder tools voor digitale veiligheid, pluralisme en op bewijs gebaseerd beleid.

Noot van de redactie: Een coalitie van 23 leden van de Sociotechnical Grand Challenges Coalition, afkomstig uit diverse sociale sectoren, regio's en politieke perspectieven, heeft bijgedragen aan en steun verleend aan dit werk.