Techfuturisten Denken Verkeerd Over Menselijke Autonomie

Vrij naar Divya Siddarth en Kelsie Nabben

Divya Siddarth is mede-oprichter van het Collective Intelligence Project, politiek econoom en sociaal technoloog bij Microsoft's Office of the CTO, onderzoeksdirecteur bij Metagov en de RadicalXChange Foundation, onderzoeksmedewerker bij het Ethics in AI Institute van de Universiteit van Oxford en een gastbezoeker bij de Ostrom Workshop.
Kelsie Nabben is onderzoeker aan de RMIT University naar de sociale resultaten van gedecentraliseerde technologieën in de Blockchain Innovation Hub en het Center for Automated Decision Making & Society. Ze levert ook regelmatig bijdragen aan de onderzoeksgroep “Metagov” en bestuursdirecteur van Blockchain Australia.

Er waart een spook door onze technologische denkbeelden: het spook van de autonomie. Het probleem is dat we niet helemaal kunnen beslissen wat of voor wie.

Twee bewegingen met transformationele ambities domineren vandaag de dag de technologiewereld: de eerste rond blockchain en de tweede rond AI. Deze worden bezield door twee zeer verschillende concepten van autonomie. AI belooft een tijdperk van vrede en overvloed voor de mensheid in te luiden dat ons bevrijdt van de last van arbeid en nood, op voorwaarde dat we onze kaarten goed spelen om het risico van een existentiële catastrofe te vermijden. Ondertussen levert blockchain de infrastructuur voor, zo wordt ons verteld, de ongeëvenaarde uitoefening van zowel individuele als collectieve keuzevrijheid, waardoor de deuren worden geopend voor automatisering, zelfbestuur en mondiale coördinatie.

In eerste instantie lijken deze concepten misschien op gespannen voet te staan. Het AI-wereldbeeld waardeert een autonomie van uitkomst met minimale actieve besluitvorming, terwijl zijn crypto-tegenhanger een autonomie van proces verlangt, waarbij de uitkomsten afhankelijk zijn van individuele wil en participatie tijdens het ontwerp van technologische infrastructuren. Terwijl de blockchain-gemeenschap decentralisatie als een normatieve kernwaarde beschouwt, dringt AI vaak aan op centralisatie als dit noodzakelijk is voor schaal en veiligheid.

Maar hoezeer ze ook van elkaar verschillen, ze delen allebei een onderliggend verlangen: het impliciet of expliciet abstraheren van de menselijke feilbaarheid ten dienste van een volledig geautomatiseerde visie op perfectie. Daarbij lopen ze het risico ten prooi te vallen aan de misvatting dat automatisering überhaupt enige betekenisvolle autonomie kan bewerkstelligen.

In een tijdperk van door de mens veroorzaakte massale uitsterving en klimaatrampen is de droom van een technologische hogere macht die ons van onszelf redt verleidelijk. In een tijdperk van mislukte coördinatie en corruptie op de hoogste niveaus is het streven naar gedecentraliseerde coördinatie tussen mondige individuen hetzelfde. Door deze collectieve visies op technologische en wetenschappelijke vooruitgang te combineren ontstaat een verleidelijke visie op vrijheid, zowel vanuit de beperkingen van het natuurlijke menselijke zelf als vanuit de beperkingen van de opkomende menselijke samenleving.

Toch is het doel om dat wat ons menselijk maakt te overstijgen, niet de weg naar het dienen van de mensheid.

Autonomie wordt noodzakelijkerwijs begrensd door de gemeenschap en de samenleving. Betekenisvolle onafhankelijkheid bestaat alleen door onderlinge afhankelijkheid, een afhankelijkheid die onmogelijk is in de werelden die deze technologische visies voorstellen.

Vrijheid van behoefte

Het streven naar zowel individuele als collectieve autonomie drijft politieke denkers en politieke systemen al eeuwenlang. Individuele autonomie wordt aangeprezen door filosofen uit het hele westerse politieke spectrum. Het is een centrale waarde van de liberale democratie, een fundamenteel principe in de Kantiaanse moraalfilosofie, een fundamenteel principe van Mills utilitarisme en de kern van Nietzsches concept van de ‘vrije geest’.

Autonomie is ook een strijdkreet geweest van sociale bewegingen over de hele wereld, vooral van inheemse en antikoloniale bewegingen, die opkomen voor alles, van nationale zelfsoevereiniteit tot landaanwinning. Het respect voor verschillende uitingen van autonomie – lichamelijke autonomie, besluitvormingsautonomie, autonomie door middel van privacy – is op verschillende manieren in de wet verankerd. De link tussen individuele autonomie en het collectieve welzijn is echter altijd schadelijk geweest – en nergens meer dan in de visies op technologie die beloven ons beide in ongeëvenaarde mate te bieden.

In de wereld die voorstanders van AI voor zich zien, ontwikkelen machines autonomie – wat betekent dat ze zelfbesturend, zelfbepalend, zelflerend en zelfsturend worden. In deze wereld zullen we kunstmatige intelligenties bouwen die de menselijke intelligentie benaderen en vervolgens overtreffen, bekend als kunstmatige algemene intelligentie of AGI. Uiteindelijk zullen ze in staat zijn zichzelf zelfstandig te verbeteren, in die mate dat er sprake is van een exponentiële stijging van de op machines gebaseerde intelligente capaciteit.

Op dit punt kunnen er twee dingen gebeuren. De eerste is utopie: we hebben goed genoeg werk verricht door deze intelligenties ‘op één lijn te brengen’ met menselijke waarden (inclusief de heiligheid van het menselijk leven), zodat deze superintelligente, autonome systemen in staat zullen zijn onze behoeften en verlangens te vervullen, betere beslissingen nemen dan we kunnen op elk gebied van het leven, een toekomst na schaarste inluiden en mogelijk onsterfelijkheid in het cyberrijk ondersteunen. In de hoop van transhumanisten kunnen we letterlijk autonomie van ons lichaam bereiken door onze ‘wet-ware’ achterwege te laten, te integreren met computers en onze geest te bevrijden.

De tweede mogelijke toekomst is dystopie: waarin deze superintelligenties – die zich zouden kunnen manifesteren als digitale computers, een netwerk van computers of via een ander substraat – onvoldoende zijn afgestemd op de menselijke waarden, en er een massale uitstervingsgebeurtenis plaatsvindt waarbij de mensheid wordt weggevaagd door superintelligente robots.

“Betekenisvolle onafhankelijkheid bestaat alleen door onderlinge afhankelijkheid, een afhankelijkheid die onmogelijk is in de werelden die deze technologische visies voorstellen.”

Het AGI-verhaal is dus een eschatologisch verhaal: we moeten bouwen wat ons zou kunnen vernietigen, zodat we gered kunnen worden. Ofwel sterft de mensheid uit, ofwel overstijgt zij haar sterfelijke bestaan. En uit deze eschatologie volgt een pragmatische behoefte en een verlangen naar centralisatie van de macht. Data, computers en kapitaal moeten in enorme hoeveelheden worden geconcentreerd om de intelligente voorlopers van een superintelligent systeem te verwezenlijken, dat wordt nagestreefd door grote bedrijven, rijke academische onderzoekslaboratoria en particuliere investeerders. Er zijn miljoenen dollars nodig om een ​​model als GPT-3 te trainen of een systeem als DeepMind’s AlphaStar te bouwen. En als je je zo zorgen maakt over het existentiële risico dat een technologisch systeem met zich meebrengt, volgt daaruit natuurlijk de wens om dat systeem zo strak mogelijk te houden en van bovenaf gecontroleerd te houden.

In plaats van überhaupt een expliciete politiek te voeren, is het doel van AGI grotendeels om het politieke te overstijgen. Deze visie vertaalt kwesties van politiek oordeel naar vragen van technische expertise en beoogt daarbij collectieve actieproblemen met technologie op te lossen: kanker genezen, klimaatverandering oplossen, armoede beëindigen. De duidelijke superioriteit van machinale besluitvorming in deze denkbeeldige toekomst maakt menselijk zelfbestuur lachwekkend. Natuurlijk zouden we de perfecte, quasi-alwetende beslisser verkiezen boven ons eigen onvolmaakte zelf.

In deze visie hebben mensen zeer weinig ‘traditionele’ politieke autonomie. In plaats daarvan wordt menselijke autonomie uitgedrukt als autonomie ten opzichte van behoeften – een vrijheid van de dagelijkse inspanning van het mens-zijn, aangezien AI ‘mensen op zijn hoogst economisch waardevol werk’ vervangt, om de missie van OpenAI te citeren. Dit is resultaatgerichtheid in het uiterste geval, waarbij vrijwel alle middelen worden ingezet om het overleven van de mens in de eerste plaats en het bloeien van de mens te rechtvaardigen.

Vrijheid van controle

De blockchain-visie op autonomie is daarentegen expliciet politiek. De uitvinding van Bitcoin, het eerste volledig functionele, openbare, gedecentraliseerde blockchain-protocol, wordt grotendeels toegeschreven aan een ongelijksoortige groep tegenculturele ‘hacker-ingenieurs’. Deze groep buitenbeentjes, bekend als de ‘Cypherpunks’, opereerde vanuit een mantra van zelforganisatie en directe actie om privacybehoudende, cryptografische softwaretools te bouwen om de dreiging van bedrijfs- en staatstoezicht in het digitale tijdperk tegen te gaan. Ze geloofden dat “software niet kan worden vernietigd en dat een wijd verspreid systeem niet kan worden afgesloten.”

De online Cypherpunk-mailinglijst was in de jaren negentig het centrum van ideeën en actie. Op de lijst stonden personages als de anarchistische auteur van ‘The Temporary Autonomous Zone’, Hakim Bey, die een populaire visie deelde over autonomie als zelfbestuur voor zelfbeschikking, bereikt door het creëren van ruimtes die aan formele controlestructuren ontsnappen. “De autonomie van het individu lijkt te worden aangevuld en versterkt door de beweging van de groep; terwijl de effectiviteit van de groep lijkt af te hangen van de vrijheid van het individu”, schreef Bey in 1991, waarbij hij autonomie en vrijheid met elkaar verbond op een manier die in de cryptogemeenschap heeft standgehouden.

Timothy C. May, medeoprichter van de mailinglijst en een belangrijke woordvoerder van de groep, was een zelfbenoemde libertariër en auteur van ‘The Crypto Anarchist Manifesto’. Dit manifest is een expliciet politieke visie op een ‘anonieme geautomatiseerde markt’ die ‘een sociale en economische revolutie’ katalyseert. ‘Decentralisatie’, zoals Nathan Schneider het beschrijft, omvatte aanvankelijk de principes van transparante, open-source, toestemmingsloze toegang tot digitale infrastructuur, maar is getransformeerd in een plastische politieke filosofie die de autonomie probeert te maximaliseren door politieke vrijheid, keuzevrijheid en vrijwilligheid. vereniging.

“Hoe meer we streven naar een toekomst die vrij is van menselijke rommeligheid, hoe meer we de mensheid in het heden wegduwen.”

Het ultieme goed van de blockchain-visie ligt in de vrijheid zelf, maar dan in de negatieve zin: vrijheid van regelgeving, van corruptie, van banken, van scholen en van overheden. In blockchain-fantasieën is de gewenste autonomie een zeer individuele procesautonomie en zijn de doeleinden afhankelijk van individuele keuze.

Vanuit deze oorsprong heeft blockchain zich ontwikkeld en geëvolueerd naar een overvloed aan protocollen en toepassingen, waarvan er vele direct beweren visies op een politiek autonome toekomst te actualiseren door middel van softwarecode. Op blockchain gebaseerde “gedecentraliseerde autonome organisaties” zijn de logische uitbreiding van dit ideaal van cyber- en fysieke autonomie, waarin de digitale infrastructuur zelf de zone wordt die aan formele controlestructuren ontsnapt. Hier wordt politieke autonomie bewerkstelligd door de automatisering van regels en procedures via slimme contracten, zelfafdwingbare overeenkomsten die bedoeld zijn om de noodzaak van a priori vertrouwen tussen partijen te elimineren.

Maar ondanks deze idealen van decentralisatie vervallen deze technologieën in de praktijk vaak onvermijdelijk in recentralisatie, omdat de krachten van de handel en individuele winst de technologische innovatie aandrijven. De vereisten voor kapitaalinvoer voor de meeste bestuursmechanismen op de keten blijven voor de meesten bijvoorbeeld onbetaalbaar hoog, hetzij in termen van hashing power of token holdings, wat een sleutel in de claims van universele toegang gooit.

Meer in het algemeen zijn doeleinden altijd afhankelijk van individuele keuzes, waardoor het oplossen van collectieve actieproblemen volledig afhankelijk is van individuele stimuleringsstructuren. Vanwege de extreme ideologische oriëntatie op autonomie gedurende het hele ontwikkelingsproces in blockchain-gemeenschappen, kan technische en administratieve decentralisatie gemakkelijk worden verward met ‘democratische’ besluitvorming en niet-hiërarchische vormen van interactie, ook al bevordert het een het ander niet noodzakelijkerwijs.

Deze visie gaat voorbij aan het feit dat politieke autonomie ten opzichte van externe invloedskrachten niet in een breder sociotechnisch systeem kan worden geïmplementeerd zonder dat dit gepaard gaat met noodzakelijke compromissen. Er kunnen bijvoorbeeld momenten zijn waarop de autonomie van één individu of groep de autonomie van anderen beperkt. Er bestaat geen algemeen aanvaarde visie waarop kan worden teruggevallen bij het nastreven van autonomie. Wanneer het doel echter wrijvingsloze coördinatie is, druist de inherente wrijving van overleg en feedback noodzakelijkerwijs in tegen de doelstellingen van het systeem: de tijd en investeringen die nodig zijn om onopgeloste politieke, ecologische en sociale problemen te beoordelen, vertragen eenvoudigweg het proces.

Waarom we meer nodig hebben dan autonomie

De blockchain- en AI-visies op autonomie lijken misschien op gespannen voet te staan. Aan de ene kant benadrukken AGI-projecten het collectieve belang, vereisen ze centralisatie en proberen ze machinegestuurde systemen te produceren die menselijke autonomie inruilen voor een autonome toekomst, vrij van de last van arbeid. Aan de andere kant stellen blockchain-gemeenschappen zich technologisch gemedieerde, gedecentraliseerde, rationele, vrijwillige en op eigenbelang gerichte coördinatiespellen voor als een proces van voortdurende experimenten in autonomie via zelfbestuur, waarbij de waarde wordt bepaald door commodificatie en de uitkomsten worden bepaald door individueel voordeel, in plaats van door het individuele voordeel. collectief goed.

Je zou kunnen denken dat de excessen van beide kunnen worden verzacht door een samensmelting van de twee. Het streven van ‘gedecentraliseerde AGI’ onderschrijft deze theorie zeker – het streven naar AGI-algoritmen (bekend als AI ‘agents’) die draaien op gedecentraliseerde, op blockchain gebaseerde marktplaatsen waar ze automatisch taken coördineren en digitale tokens verdienen voor hun werk.

Toch schieten beide visies tekort, afzonderlijk of gecombineerd, om één kernreden: ze gaan er allebei van uit dat het aldus gepresenteerde doel van autonomie de moeite waard is om na te streven. Vertrouwenloosheid, aan de blockchain-kant, en automatisering, aan de AI-kant, hebben tot doel de kracht en groei die voortkomen uit de afhankelijkheid tussen gemeenschappen, ruimte voor onenigheid en overleg, en menselijk kritisch denken van een hogere orde in samenwerking en coördinatie, aan de machine over te dragen.

De mislukkingen van deze aanpak werpen nu al vruchten af. Hoe meer we streven naar een toekomst die vrij is van menselijke rommeligheid, hoe meer we de mensheid wegduwen in het heden: datawerkers wier werk de basis vormt voor AI-systemen terzijde schuiven, kennis over vooroordelen en fouten van autonome systemen verdoezelen, goedbedoelde projecten oplossen in activaspeculatie en verdoezelen de verkeerde richting van de huidige trajecten in visioenen van toekomstige perfectie. Er is weinig reden om aan te nemen dat volhouden op deze weg tot betere resultaten zal leiden.

“Onderlinge afhankelijkheid is macht, en het verplaatsen van een broze autonomie naar opkomende en collectieve antwoorden op complexe problemen is de weg naar vooruitgang.”

Het echte bevrijdende potentieel van deze technologieën kan voortkomen uit een ander standpunt: dat we door de droom van een volkomen autonome toekomst op te geven, elke breed gedeelde en gezamenlijk geconstrueerde notie van het algemeen welzijn kunnen verwezenlijken.

We kunnen de sterke punten van deze benaderingen benutten – een focus op het oplossen van grote problemen voor het collectieve welzijn en op de zelfsoevereiniteit van individuen en gemeenschappen – en ze combineren met fundamenteel humanistische principes: pluraliteit, mutualisme en solidariteit. We kunnen onze lotgemeenschappen uitbreiden en een onderling afhankelijke evolutie van vertakkende mogelijkheden creëren, in plaats van een smal pad te volgen naar het enige einddoel van autonomie of het beperken van onze grenzen, of het idee dat legitimiteit alleen bereikt kan worden door onmiddellijke decentralisatie.

Dit moet gebeuren door onze manier van investeren te veranderen en prioriteiten te stellen in de technologieën zelf. We kunnen ons toekomsten voorstellen die zowel humanistisch als krachtig zijn – en we kunnen deze technologieën ombuigen in de richting van de actualisering van die toekomsten door ons te heroriënteren op technologie die wordt ondersteund door onderlinge afhankelijkheid, in plaats van te streven naar autonomie.

Zoals een van de auteurs van dit stuk in een recent witboek heeft uiteengezet, kunnen de fundamentele technieken die ten grondslag liggen aan AGI-onderzoek op een willekeurig aantal doeleinden worden gericht, en slechts een verdwijnend klein percentage hiervan is gericht op het repliceren van menselijke capaciteiten en het bereiken van perfect autonome systemen. . Stel je voor dat AI-capaciteiten in plaats daarvan worden ingezet om menselijke coördinatie en communicatie mogelijk te maken – activiteiten die al enorme nieuwe grenzen voor menselijke bloei hebben geopend, maar die duidelijk nog een lange weg te gaan hebben voordat ze een afnemend rendement bereiken. Of gedistribueerd onder gemeenschappen, zodat ze kunnen bijdragen aan systeemontwerp en training, om de samenwerking tussen mens en machine te benutten om de hoeveelheid menselijke kennis te vergroten, in plaats van velen te onderwerpen aan een leven onder een gecentraliseerd machinemandaat.

Aan de kant van de blockchain maken opkomende projecten al gebruik van het feit dat dezelfde technologieën die diffuse speculatie met activa mogelijk maken, de opkomst van arbeiderscoöperaties, data-verenigingen en regeneratieve landtrusts in de 21e eeuw mogelijk kunnen maken. Dezelfde coördinatiemechanismen die vaak in de plutocratie vervallen, kunnen worden ontworpen voor democratische doeleinden, met verschuivingen van op tokens gebaseerd stemmen naar modellen die zich richten op het bewijs van persoonlijkheid of door het belonen van leden op basis van hun bijdragen aan publieke goederen in plaats van op hun toegang. Deze initiatieven worden verenigd door een groeiende erkenning van onderlinge afhankelijkheid – een terugkeer naar het koesteren van een collectief en een commons als noodzakelijk tegenwicht voor het individu.

Discussies over technologie worden vaak opgedeeld in een binair getal van macht en vooruitgang versus afhankelijkheid en democratie. Dit is een vals binair getal: onderlinge afhankelijkheid is macht, en het verplaatsen van een broze autonomie naar opkomende en collectieve antwoorden op complexe problemen is de weg naar vooruitgang. Het volgen van dit pad zal ons in staat stellen de eschatologie van het technologisch determinisme af te werpen en de ecologie van het technologisch pluralisme te omarmen.