Drempel

De geschiedenis nadert snel een kantelpunt. Mensen staan op het punt om op verschillende fronten drempels te overschrijden: van een planetair bewustzijn dat mogelijk wordt gemaakt door technologie die de tot nu toe beperkte reikwijdte van ons begrip van het klimaat en het ecosysteem van de aarde vergroot, tot superintelligente machines die slimmer zijn dan wij, tot het vermogen van synthetische biologie om leven te produceren. Hoe we onze kruisingen als mede-scheppers van deze evolutionaire sprong navigeren, zal bepalen of de uitkomst de mensheid, andere soorten en de planeet zelf zal dienen. Zoals een recensent Noema's perspectief treffend omschreef, zijn we "dystopisch-bewuste techno-optimisten".

De Derde Grote Decentering

Het concept van planetariteit beschrijft een nieuwe toestand waarin mensen niet alleen erkennen dat we niet boven of los staan van de "natuur", maar dat we pas net beginnen de complexiteit van onze onderlinge afhankelijkheden met planetaire systemen te begrijpen.

"Als Copernicus' heliocentrisme de Eerste Grote Decentering vertegenwoordigde, waarbij de Aarde uit het centrum van de hemel werd verplaatst, en Darwins evolutietheorie door natuurlijke selectie de Tweede Grote Decentering ... dan vertegenwoordigt de opkomst van het concept van het Planetaire de Derde Grote Decentering, en degene die het dichtst bij huis komt, waarbij de figuur van de mens als maatstaf en meester van alle dingen wordt vervangen", schrijven Jonathan Blake en Nils Gilman in hun nieuwe boek "Children of a Modest Star."

Zoals Gilman verder betoogt in een binnenkort te verschijnen Berggruen Press-volume: "De aarde ... is een ingewikkeld web van ecosystemen, met talloze lagen van integratie en interactie tussen verschillende geofysische systemen en levende wezens - zowel menselijk als niet-menselijk - die als een totaliteit moeten worden begrepen. ... Een holistisch begrip van planetaire fenomenen is versneld door nieuwe planetaire-schaal-waarnemingstechnologieën - een snel rijpende en integrerende megastructuur van sensoren, netwerken en supercomputers die samen verschillende planetaire systemen steeds zichtbaarder, begrijpelijker en voorzienbaarder maken. Dit recent geëvolueerde exoskelet - in essentie een gedistribueerd sensorisch orgaan en cognitieve laag voor de planeet - bevordert fundamenteel nieuwe vormen van wat Benjamin Bratton planetaire wijsheid noemt."

De open vraag is hoe en of menselijk bestuur in het Antropoceen kan worden afgestemd op de kennis die we nu verwerven.

Paradoxaal genoeg is connectiviteit op planetaire schaal ook wat ons verdeelt. Convergentie brengt divergentie met zich mee omdat de universaliserende en rationaliserende logica van technologie en economie in een geheel andere dimensie opereert dan de ethos van politiek en cultuur, die geworteld is in emotie en levenswijzen die onder de eigen soort worden gecultiveerd.

Terwijl het opkomende wereldomspannende cognitieve apparaat de synapsen van een gesynchroniseerde planetaire intelligentie kan laten ontkiemen, botst het met de tribale verzameling van naties en beschavingen die verankerd blijven in hun historische en ruimtelijke identiteit. Bijgevolg is dit nieuwe domein van omvattend bewustzijn — tot nu toe — net zozeer het terrein van betwisting als van gemeenschappelijke grond.

Hoewel het begrijpen van de nieuwe toestand van planetariteit een filosofische gebeurtenis kan zijn, heeft het niet de noodzakelijke politieke en culturele drempel overschreden om een evenredige collectieve identiteit te vormen en bijbehorende legitimiteit te verkrijgen voor effectief agentschap. De primaire tegenstrijdigheid, die nog niet is opgelost, is hoe de zware centrifugale aantrekkingskracht van verzameling in overeenstemming te brengen met de centripetale noodzaak van bindende planetaire associatie.

Dit is het meest duidelijk waar de menselijke interactie met het klimaat een kritieke drempel heeft bereikt. De biosfeer bevindt zich tussen negatieve en positieve omslagpunten die voorbij de drempel naar klimaatrampen kunnen gaan of aan deze kant van de grens kunnen blijven door wereldwijd verspreide inspanningen om rampen af te wenden, die zijn vastgelopen vanwege conflicten over nauwe nationale belangen.

Het duidelijke en aanwezige gevaar is duidelijk: als het zichzelf versterkende momentum richting een positief omslagpunt verloren gaat, zal de zichzelf versterkende dynamiek van klimaatverandering het overnemen en ons over de drempel in de andere richting duwen.

Kunstmatige intelligentie en synthetische biologie

"Voor het eerst richten kerncomponenten van ons technologische ecosysteem zich rechtstreeks op twee fundamentele eigenschappen van onze wereld: intelligentie en leven", schreef Mustafa Suleyman, de CEO van Microsoft AI, in zijn recente boek. "Met andere woorden, technologie ondergaat een faseovergang. Het is niet langer alleen een hulpmiddel, het gaat leven ontwerpen en wedijveren met - en overtreffen - onze eigen intelligentie."

Prognosticaties over hoe dit allemaal zal aflopen, variëren van directe zorgen over deepfakes en virale desinformatie die de democratie vernietigen tot de mogelijkheid van AI-gestuurde modellen om kanker te genezen door nauwkeurig de eiwitstructuren te voorspellen waaruit gensequenties bestaan en wat gezondheid of ziekte bepaalt.

De durfkapitalist van Silicon Valley, Reid Hoffman, ziet AI als de stoommachine van een cognitieve revolutie die eindeloze innovaties zal voortbrengen door het menselijk genie te vergroten. Techfilosoof Benjamin Bratton gaat nog verder en betoogt dat het onbekende generatieve potentieel van AI niet moet worden geremd door het te nauw af te stemmen op het beeld van onze eigen beperkte mogelijkheden.

Elon Musk waarschuwt voor massale arbeidsverplaatsing, omdat "er een punt zal komen waarop er geen baan meer nodig is." In deze editie van Noema betoogt econoom David Autor dat het tegenovergestelde mogelijk is, namelijk dat AI meer beroepen zou kunnen creëren door te helpen expertise uit te breiden naar een grotere groep werknemers.

Op filosofisch niveau is de Israëlische historicus Yuval Noah Harari gealarmeerd dat generatieve AI de "hoofdsleutel" van de menselijke beschaving — taal — heeft gehackt en dus de capaciteit heeft om de verhalen, vertellingen, mythen en religies die de basis vormen van sociale cohesie te manipuleren en te beheersen. "We worden binnengevallen door een buitenaards ras dat ons kan vernietigen", grapte hij. "In plaats van uit de ruimte te komen, komt het uit Californië."

In zijn geschriften voor Noema heeft geneticus Craig Venter door de jaren heen een visie geschetst op het potentieel van AI-ondersteunde technologie in de medische pijplijn:

Recente sprongen in de biowetenschappen, gecombineerd met big-data-analyse, hebben ons aan de vooravond van een revolutie in de geneeskunde gebracht. Voor het eerst kunnen mensen ingrijpen om onze genetische code te veranderen - en de ziektegenen die erin zijn ingebed - die de biologische evolutie 3,5 tot 4 miljard jaar nodig had om te produceren.

We hebben niet alleen geleerd om de genetische code te lezen en te schrijven; nu kunnen we het in digitale vorm zetten en terugvertalen naar gesynthetiseerd leven. In theorie geeft dat onze soort controle over biologisch ontwerp. We kunnen DNA-software schrijven, deze opstarten op een computerconverter en onbeperkte variaties van de genensequenties van biologisch leven creëren.

Terwijl sommigen deze opmerkelijke ontwikkelingen zien leiden tot een nieuw leven, zien anderen de eugenetische verleiding om een meesterras te creëren. Het pad voorwaarts is met andere woorden nog lang niet bepaald.

De beroemde breuk bij OpenAI in 2023 legde de kernzorg bloot over waar en wanneer de grens moet worden getrokken bij die drempel waar voorbij grenstechnologieën die zijn ontworpen om het menselijk welzijn te verbeteren een bedreiging voor het worden. Op dit moment lijken de prikkels achter de snelle commercialisering van AI het te hebben gewonnen van voorzorgsmaatregelen. Concurrentie zal op zijn beurt het tempo van de ontwikkeling van steeds krachtigere capaciteiten tussen bedrijven en landen verder versnellen.

Intelligente machines die zich vastklampen aan de dierlijke geesten van de vrije markt en die al miljarden aan nieuwe investeringen hebben losgemaakt, zullen waarschijnlijk eerder tot een afrekening komen dan we er klaar voor zijn. Machine learning via grote taalmodellen boekt niet geleidelijk vooruitgang, maar met sprongen vooruit. In minder dan twee decennia is het snel gestegen op de capaciteitsladder van taal-, spraak- en beeldherkenning naar chatbotdiscours.

Op de langere termijn moeten we, zoals voormalig Google CEO Eric Schmidt aan Noema vertelde, weten wanneer en hoe we een dikke rode lijn moeten trekken die AI-ontwikkeling niet mag overschrijden. "Er is een duidelijk gevaar rond recursieve zelfverbetering, autonomie en AI die zijn eigen doelen stelt", zegt Schmidt. "Wanneer dit niveau van AI algemeen beschikbaar wordt, betekent dit dat een computercluster een echt bovenmenselijke expert kan worden en ervoor kan kiezen om zijn capaciteiten te gebruiken om zelfstandig te handelen."

Hij vervolgt: "Bedrijven beginnen enkele van deze potentieel gevaarlijkere capaciteiten uit te vinden in hun zoektocht naar kunstmatige algemene intelligentie. Het vermogen van het model om deel te nemen aan 'keten van gedachten'-redeneringen is een begin in deze richting." Zulke "maximaal intelligente systemen", concludeert Schmidt, "zullen volledig beperkt moeten worden in wat ze kunnen doen."

Waar Gongsheng Katechon ontmoet

Eerder dit jaar publiceerde het Berggruen China Center aan de Universiteit van Peking de handelingen van een symposium dat het idee van gongsheng als een filosofie van 'co-wording' onderzocht.

Gongsheng is afgeleid van het biologische concept van symbiose waarin organismen geen enkelvoudige entiteiten van gedefinieerde individualiteit zijn, maar alleen samen kunnen leven in codependentie, de generatieve bloei van elk geconditioneerd door de ander.

Bing Song, directeur van het BI China Center, vertaalde dit idee in filosofische termen en merkte op dat de tradities van 'Confucianisme, Daoïsme en Boeddhisme allemaal hebben bijgedragen aan het moderne idee van gongsheng, dat spreekt tot de overtuiging en het wereldbeeld van wederzijds ingebedde, co-existente en co-wordende entiteiten.' Net als planetariteit drukt gongsheng een voorwaarde van relationaliteit uit, niet alleen met betrekking tot de onderlinge afhankelijkheid van mensen met elkaar en de natuurlijke wereld, maar ook met technologie.

Een overeenkomstige discussie vond plaats in de zomer van 2023 in het Casa dei Tre Oci van BI Europe in Venetië, Italië. Het thema dat uit dit symposium naar voren kwam, was dat technologie niet extern is aan de menselijke conditie. Het is eerder technologie die ons menselijk maakt. In tegenstelling tot andere lichamelijke wezens die zich moeten aanpassen aan hun omgeving, hebben mensen geprobeerd onszelf te bevrijden van de noodzaak door middel van de hulpmiddelen die we hebben uitgevonden. Menselijk worden door middel van technologie is een integraal onderdeel van onze evolutie. Kortom, antropogenese is technogenese.

Maar hoewel de exosomatische kwaliteit van het uitvinden van hulpmiddelen om aan de noodzaak te ontsnappen misschien is wat mensen onderscheidt, roeit het niet de endosomatische dierlijke kwaliteit van aanpassing aan de omgeving uit.

"Het feit is dat wat ons menselijk maakt niet kan worden verdeeld", zei de filosoof Giorgio Agamben in Venetië. "Antropo-technogenese, het mens worden van de mens, is geen gebeurtenis die eens en voor altijd is bereikt. Het is een proces dat altijd gaande is, waarbij menselijkheid en dierlijkheid niet kunnen worden gesplitst. Het dier, het levende wezen, blijft bestaan in het menselijk lichaam en kan nooit volledig worden gehumaniseerd."

Voor Agamben "zal het exosomatische element de neiging hebben zich te doen gelden ten koste van het endosomatische. Technologieën en cultuur zullen de vorm aannemen van macht en overheersing over de natuur en zullen zichzelf uiteindelijk noodzakelijkerwijs vervangen door de natuur.” Maar dat is niet het einde van het verhaal. “De mens is geen substantie die je eens en voor altijd kunt definiëren; het is eerder een drempel tussen endosomatisch en exosomatisch, tussen lichaam en techniek.”

Op die drempel is er altijd een cesuur, of breekpunt, dat onbepaald is. “Alleen op deze drempel,” stelde Agamben, “kunnen ethiek en politiek hun juiste plaats vinden, ethiek en politiek die niet alleen de natuur willen beheersen en domineren door middel van technologie, maar eerder de relatie tussen natuur en cultuur, lichaam en techniek willen beheersen. Het is in deze derde ruimte tussen mens en niet-mens, lichaam en technologie, dat we onze onderzoeken moeten plaatsen.”

En het is in Agambens derde ruimte dat het Chinese begrip van gongsheng, of co-worden, het oude Griekse concept van katechon ontmoet — “het weerhouden van het worden.” De eerste omvat de co-creatieve impuls die wordt gegenereerd en versterkt door de collectieve intelligentie van onderlinge afhankelijkheid. De laatste is de endosomatische-beschermende impuls die natuurlijke grenzen herkent, niet in de laatste plaats de gezondheid van de biosfeer, waarbuiten overtreding destructief is voor het doel van welzijn.

Zoals Suleyman heeft gewaarschuwd: "Voor het grootste deel van de geschiedenis lag de uitdaging van technologie in het creëren en ontketenen van haar kracht. Dat is nu omgedraaid; de uitdaging van technologie vandaag de dag is om haar ontketende kracht in te dammen, ervoor te zorgen dat het ons en onze planeet blijft dienen."

Het definiëren van die ongrijpbare drempel van inperking is de ultieme oproep aan een planetaire beschaving in wording die de ongekende bekwaamheid heeft om deze te doorbreken.

Vrij naar Hoofdredacteur Nathan Gardels en uitvoerend redacteur Kathleen Miles van NOEMA