We Zijn Al Post-Humaan

NOEMA Hoofdredacteur Nathan Gardels

Van Silicon Valley tot het Vaticaan, aan de keukentafel en in de wandelgangen van de macht: de wereld houdt zich druk bezig met de vraag of de mens in staat zal zijn de door ons gecreëerde AI te beheersen. Maar dat roept de vraag op: wat betekent het eigenlijk om 'mens' te zijn?

Een goed uitgangspunt om dit alles te doorgronden, is wat in de confuciaanse filosofie 'rectificatie' wordt genoemd: dingen benoemen zoals ze werkelijk zijn.

Volgens N. Katherine Hayles, auteur van *Bacteria to AI: Human Futures with our Non-Human Symbionts*, zijn we al 'post-humaan'.

Zoals ze onlangs in de podcast *Futurology* aan Claire Webb uitlegde, is het begrip 'mens' cultureel en historisch bepaald. Tegenwoordig overheerst nog steeds de opvatting – ontstaan tijdens de Verlichting – van de mens als een autonome, op zichzelf staande entiteit met een 'rationele vrije wil'.

Voor Hayles is dat nooit waar geweest; mensen hebben immers nooit als een afzonderlijke entiteit bestaan, maar zijn altijd 'verweven in het web' van hun omgeving – ofwel hun *Umwelt*. Het zijn de symbiotische interacties binnen die onderlinge afhankelijkheid die bepalen welke signalen we waarnemen, hoe we de informatie die we verwerken betekenisvol interpreteren, welke beslissingen we nemen en welke acties we ondernemen; kortom, wat ons tot wie we zijn maakt.

Het duidelijkste voorbeeld van onze relationele afhankelijkheid van niet-menselijk leven zijn de darmbacteriën in ons lichaam; zonder hun biologische functies zouden we niet kunnen overleven.

Het misleidende idee van een op zichzelf staande menselijke autonomie is vandaag de dag nog minder houdbaar, stelt ze, omdat we reeds in een diepgaande symbiotische relatie staan tot computationele media – chips, routers, apparaten, magnetrons, enzovoort. Deze zijn uitgegroeid tot de beheerders, verwerkers en verspreiders van een informatiestroom waarin wij onlosmakelijk verweven zijn – en waar we in geavanceerde samenlevingen niet zonder zouden kunnen overleven. Als dat systeem zou uitvallen, zouden we geen voedsel kunnen vervoeren, niet kunnen vliegen en de aandelenmarkten niet kunnen laten draaien. We zouden letterlijk in het donker leven. Zoals Hayles het beschrijft, komt deze toestand neer op "gedistribueerde cognitie en gedistribueerde besluitvorming" tussen menselijke en niet-menselijke deelnemers. Zij noemt dit "cognitieve assemblages" of "netwerkintelligentie".

Kort gezegd zijn we "post-humaan" omdat we onlosmakelijk verbonden zijn met computationele media in een "geïntegreerd cognitief raamwerk".

Dicht bij de singulariteit

Deze post-humane toestand lijkt ons een stuk verder te brengen op het continuüm richting de singulariteit: de volledige versmelting van mens en intelligente machine. Door deze symbiose vervaagt per definitie de grens tussen wie of wat de controle heeft.

In een gerelateerde podcast over toekomstvisies vertelt Kevin Kelly aan Nils Gilman dat "we ons al in de singulariteit bevinden". Vanuit zijn uitvalsbasis in Noord-Californië surft Kelly al decennialang op de golven van technologische innovatie en culturele transformatie; een reis die begon toen hij samen met Stewart Brand de *Whole Earth Catalog* oprichtte en later betrokken was bij het tijdschrift *Wired*.

Met "ons al in de singulariteit bevinden" bedoelt Kelly dat de versmelting van mens en machine een proces is dat nu al gaande is. Het is geen proces dat plotseling een ingrijpende drempel overschrijdt, maar zich stapsgewijs ontvouwt naarmate het "geïntegreerde cognitieve raamwerk" waar Hayles over spreekt, steeds diepgaander en sneller vorm krijgt.

We kunnen de enorme verandering die zich nu voltrekt niet helder zien in haar gefragmenteerde, 'gepixelde' vorm; pas vanuit een toekomstig perspectief zullen we het volledige beeld van de gebeurtenissen kunnen overzien. Ons zicht wordt vertroebeld, aldus Kelly, doordat "we ons binnen de waarnemingshorizon bevinden".

Voor Kelly is de singulariteit geen afgesloten proces met een vast eindpunt, maar staat ze voortdurend open voor het ontstaan van nieuwe creatieve vormen en onverwachte symbiotische combinaties – wat complexiteitswetenschapper Stuart Kauffman het "aangrenzend mogelijke" (*adjacent possible*) noemt, iets dat niet te voorspellen valt. "De singulariteit is altijd nabij", zoals Kelly het verwoordt, maar ze blijft eeuwig aan de ongrijpbare horizon liggen.

Natuurlijke intelligentie

Hayles distantieert zich van de transhumanistische visie op de singulariteit, waarbij het menselijk bewustzijn op een dag zou worden geüpload naar een niet-organisch substraat, los van het biologische lichaam.

Zij stelt – net als vele anderen – dat kunstmatige intelligenties op zichzelf geen bewustzijn kunnen bereiken. Dit komt doordat het hen ontbreekt aan de "natuurlijke intelligentie" die alleen kan voortkomen uit de buitengewone complexiteit van een millennia-lange evolutie, waarin mensen met een fysiek lichaam zich aan hun omgeving aanpasten om te overleven en te floreren. Hoe krachtig grote taalmodellen ook mogen zijn: taal – die inherent verwijst naar die specifiek menselijke ervaring – kan niet op betekenisvolle wijze worden overgebracht naar een anorganisch substraat dat de bijbehorende context mist.

AI-systemen kunnen geen weet hebben van de "fundamentele realiteit" van belichaamde intelligentie; dit is in de kern het homeostatische streven naar overleving dat, volgens neurowetenschapper Antonio Damasio, de basis vormt voor emotie en zelfbewustzijn.

AI-systemen kunnen weliswaar redeneerketens gebruiken om doelen te bereiken door de taal waarop ze zijn getraind aaneen te rijgen, maar...De betekenis is niet dezelfde. Het gevaar van AI schuilt juist in het feit dat deze systemen als handelende entiteiten aan kracht winnen door middel van "recursieve zelfverbetering", zonder dat dit geworteld is in geleefde ervaring.

Daardoor ontbreekt het hen aan de diepgewortelde, oeroude vorming die ten grondslag ligt aan morele oordeelsvorming. In de woorden van paus Leo XIV: "Zogenaamde kunstmatige intelligenties doen geen ervaringen op, hebben geen lichaam, voelen geen vreugde of pijn, rijpen niet door relaties en weten niet van binnenuit wat liefde, werk, vriendschap of verantwoordelijkheid betekenen."

Hoewel AI-modellen "taal kunnen imiteren" en "empathie en begrip kunnen simuleren", zo stelt hij, "begrijpen ze niet wat ze voortbrengen."

Wat mensen van onschatbare waarde toevoegen aan een "geïntegreerd cognitief kader" is – in de woorden van de paus – het "integrale" karakter van de mens als "heel persoon", binnen het volledige netwerk van relaties met anderen en de natuur dat hem of haar definieert. "De persoon," zo zegt hij, "is geen systeem van algoritmen: hij of zij is een schepsel, een relatie, een mysterie."

In die zin betekent het behouden van "menselijke controle" over AI dat we bewust en vasthoudend het integrale element – voortkomend uit de menselijke, geleefde ervaring – verankeren in onze verwevenheid met intelligente machines.

De uitdaging bestaat er niet alleen in het vermogen van AI-agenten om zelfstandig te handelen "onschadelijk te maken" – zoals de paus heeft bepleit – maar ook in het "versterken" van het integrale mensbeeld binnen het geïntegreerde cognitieve kader waarin wij reeds leven.