Alleen Wat Leeft Kan Bewustzijn Hebben

Anil Seth is uitgeroepen tot winnaar van de Berggruen-essayprijs 2025 in de Engelse taal. Seth, een bekend voorvechter van de materialistische theorie van het bewustzijn, is een Britse neurowetenschapper en hoogleraar cognitieve en computationele neurowetenschappen aan de Universiteit van Sussex.

Zijn essay, gepubliceerd in Noema, "The Mythology Of Conscious AI", is een rigoureuze en overtuigende uitdaging van het idee dat complexe berekeningen aanleiding kunnen geven tot bewustzijn, dat volgens Seth onlosmakelijk verbonden is met biologisch leven.

Hij biedt een contrasterend perspectief op een eerder essay in Noema van Blaise Agüera y Arcas en James Manyika van Google, die stellen dat "leven inherent computationeel is". Hoewel ze niet beweren dat AI bewustzijn kan bereiken, schetsen ze wel een mogelijke weg in die richting, omdat ze zien dat organische en anorganische intelligentie dezelfde regels volgen voor zelforganiserende ontwikkeling om zich voort te planten, te groeien en te genezen.

In veel opzichten is Seths argument een fundamentele verfijning en actualisering van het betoog van Nobelprijswinnaar Gerald Edelman voor het tijdperk van AI.

Zoals Edelman het in 2004 verwoordde, lang voordat het idee bestond dat kunstmatige neurale netwerken en grote taalmodellen ooit bewustzijn zouden kunnen produceren:

"De hersenen zijn belichaamd en het lichaam is ingebed in zijn omgeving. Dat trio moet op een geïntegreerde manier functioneren. Je kunt de activiteit en ontwikkeling van de hersenen niet loskoppelen van de omgeving of het lichaam. Er is een constante wisselwerking tussen wat wordt herinnerd en voorgesteld – een beeld – en wat er daadwerkelijk in de zintuigen gebeurt.

"De hersenen kunnen met zichzelf communiceren en de bewuste hersenen kunnen hun onderscheidingsvermogen gebruiken om de toekomst te plannen, het verleden te vertellen en een sociaal zelf te ontwikkelen."

“Het belangrijkste om te begrijpen is dat de hersenen ‘contextgebonden’ zijn. Het is geen logisch systeem zoals een computer die alleen geprogrammeerde informatie verwerkt; het produceert geen vooraf bepaalde uitkomsten zoals een klok.”

Volgens Edelman ontstaat bewustzijn door een “selectief repertoire” dat wordt gevormd door talloze recursieve interacties van het biologische apparaat van het lichaam met de omgeving. “Er is geen eenduidige manier om de geest te creëren; er is eerder een onvoorspelbare veelheid aan mogelijkheden,” vertelde hij me ooit.

Wat ruis is voor logische berekeningen, verklaart de variatie bij mensen en het vermogen om te innoveren, gedichten te schrijven, muziek te componeren, meesterwerken te schilderen en stemmingen te voelen.

De kracht van de verkeerde metafoor

Seth ziet de neiging om intelligentie en bewustzijn samen te voegen als het resultaat van drie “ingebouwde psychologische vooroordelen”.

“Ten eerste is er antropocentrisme. Dit is de neiging om dingen te bekijken door de lens van het menselijk zijn: om het menselijke voorbeeld als definitie te nemen, in plaats van als één voorbeeld van hoe verschillende eigenschappen samen kunnen komen.

Ten tweede is er het idee van menselijke exceptionalisme: onze ongelukkige gewoonte om de menselijke soort bovenaan elke lijst te plaatsen, en soms zelfs in een geheel andere lijst (misschien dichter bij engelen en goden dan bij andere dieren, zoals in de middeleeuwse Scala naturae). En ten derde is er antropomorfisme. Dit is de neiging om menselijke eigenschappen toe te schrijven aan niet-menselijke dingen op basis van wat slechts oppervlakkige overeenkomsten kunnen zijn.”

Zodra we de verleiding van deze misleidende metaforen hebben overwonnen, kunnen we duidelijker afbakenen waar algoritme-gestuurde intelligentieverwerking via een anorganisch substraat fundamenteel verschilt van de biologische symbiose die zich in de loop der millennia heeft ontwikkeld tot een ontzagwekkende efficiëntie.

Onvergelijkbare Wetware

"Binnenin een brein," schrijft Seth, "is er geen scherpe scheiding tussen 'mindware' en 'wetware' zoals die er wel is tussen software en hardware in een computer. Hoe dieper je in de complexiteit van het biologische brein duikt, hoe meer je beseft hoe rijk en dynamisch het is, vergeleken met het dode zand van silicium.

Hersenactiviteitspatronen evolueren over meerdere schalen van ruimte en tijd, variërend van grootschalige corticale gebieden tot de fijnmazige details van neurotransmitters en neurale circuits, allemaal diep verweven met een moleculaire storm van metabolische activiteit. Zelfs een enkele neuron is een spectaculair gecompliceerde biologische machine, die bezig is zijn eigen integriteit te behouden en de omstandigheden en materiële basis voor zijn eigen voortbestaan te regenereren. (Dit proces wordt autopoiesis genoemd, van het Griekse woord voor 'zelfproductie'. Autopoiesis is wellicht een bepalend en onderscheidend kenmerk van levende systemen.)

In tegenstelling tot computers, zelfs computers die neurale netwerkalgoritmes uitvoeren, zijn hersenen het soort dingen waarbij het moeilijk, en waarschijnlijk onmogelijk, is om te scheiden wat ze doen. vanuit wat ze zijn.

Er is ook geen goede reden om zo'n duidelijke scheiding te verwachten. De scherpe scheiding tussen software en hardware in moderne computers is een gevolg van menselijk ontwerp. Biologische evolutie werkt onder andere omstandighedenen met verschillende doelen. Vanuit het perspectief van de evolutie is er geen duidelijke selectiedruk voor het soort volledige scheiding dat perfecte interoperabiliteit tussen verschillende hersenen mogelijk zou maken, zoals we die kennen tussen verschillende computers. Sterker nog, het tegenovergestelde is waarschijnlijk waar: het handhaven van een scherpe scheiding tussen software en hardware is energetisch kostbaar, zoals tegenwoordig maar al te duidelijk blijkt uit de enorme energiebudgetten van moderne serverparken.

Biologische tijd versus computationele tijd

Seth biedt ook een fascinerend inzicht in het verschil tussen contextgebonden biologische tijd en computationele tijd.

Bij computationele verwerking, schrijft hij, "doet alleen de volgorde ertoe: A naar B, 0 naar 1. Er kan een microseconde of een miljoen jaar zitten tussen een toestandsovergang, en het zou nog steeds hetzelfde algoritme, dezelfde berekening zijn.

Daarentegen is tijd voor hersenen en biologische systemen in het algemeen fysiek, continu en onontkoombaar. Levende systemen moeten voortdurend weerstand bieden aan het verval en de wanorde die zich voordoen op het traject naar entropische gelijkheid, zoals voorgeschreven door de onschendbare tweede wet van de thermodynamica. Dit betekent dat neurobiologische activiteit verankerd is in continue tijd op een manier die algoritmes, per definitie, niet zijn.

Bovendien hebben veel onderzoekers – met name die in de fenomenologische traditie – al lang benadrukt dat bewuste ervaring zelf rijk dynamisch en inherent temporeel is. Het hapert niet van de ene toestand naar de andere; het stroomt. Het abstraheren van de hersenen tot de dorre sequentieruimte van algoritmes doet geen recht aan onze biologie noch aan de fenomenologie van de stroom van bewustzijn.”

Kortom, dit alles wijst erop dat bewustzijn geworteld is in de noodzaak voor levende organismen om hun perceptie van hun positie in de wereld te verfijnen en vervolgens gedrag te selecteren dat hun biologische overleving bevordert. Zoals neurowetenschapper Antonio Damasio eveneens heeft aangetoond, vormen de positieve en negatieve feedbacksignalen van succes of falen in dit streven naar overleving en bloei – ‘gevoelens’ – de oorsprong van emoties die zich bij hogere wezens ontwikkelen tot cultuur.

Seth vat de conclusies van zijn onderzoek als volgt samen:

“Ten eerste zien we een glimp van een verklarend verband tussen leven en bewustzijn. Bewuste ervaringen van emotie, stemming en zelfs het fundamentele gevoel van levend zijn, sluiten naadloos aan op perceptuele voorspellingen die betrokken zijn bij de controle en regulering van de lichamelijke conditie.

Ten tweede zijn de processen die aan deze perceptuele voorspellingen ten grondslag liggen, diep, en misschien wel onlosmakelijk, geworteld in onze aard als biologische systemen, als zelfregenererende levensstromen die de aantrekkingskracht van entropische gelijkheid weerstaan.

En ten derde is dit alles niet-computationeel, of in ieder geval niet-algoritmisch. Het minimaliseren van voorspellingsfouten in echte hersenen en echte lichamen is een continu dynamisch proces dat waarschijnlijk onlosmakelijk verbonden is met de materiële basis ervan, in plaats van een in het lichaam geïmplementeerd algoritme dat bestaat in een ongerept universum van symbolen en sequenties.”

De adem van het leven

Uiteindelijk ziet Seth iets essentieels aan het werk: “We ervaren de wereld om ons heen en onszelf daarin – met, door en dankzij onze levende lichamen. Misschien is het het leven, in plaats van informatieverwerking, dat vuur blaast in de vergelijkingen van ervaring.

Als we de rijkdom van biologische hersenen en menselijke ervaring verwarren met de informatieverwerkingsmechanismen van deepfake-chatbots, of wat de nieuwste AI-magie ook moge zijn, doen we onze geest, hersenen en lichamen ernstig tekort. Als we onszelf te gemakkelijk verkopen aan onze machinale creaties, overschatten we ze en onderschatten we onszelf.”

Misschien, mijmert Seth, "grijpt datgene wat ons tot ons maakt terug naar het oude Griekenland en de vlakten van India, waar onze diepste essentie ontstaat als een ongevormd gevoel van simpelweg leven – meer adem dan gedachte en meer vlees dan machine."

De Berggruen Essayprijs 2025 voor de Chinese taal werd toegekend aan Xin Huang voor "Taal, Bewustzijn en Computation: Een Filosofische Analyse van het Tokenconcept in het Tijdperk van Intelligentie" en aan Xiaoben Liu voor "Het Eerste Paradigma van Bewustzijnsuploading: Mechanismen van Bewustzijnsevolutie in het AI Axiale Tijdperk en een Vooruitzicht op Web4."

Huang onderzoekt hoe ervaring en intentie worden vertaald in computergestuurde 'tokens', waarmee hij het probleem van bewustzijn in het tijdperk van intelligente systemen herformuleert en nieuwe wegen voor mens-machine-interactie voorstelt. Liu ontwikkelt een raamwerk voor de evolutie van bewustzijn, stelt dat taal de basiseenheid van bewustzijn is en schetst een routekaart naar het uploaden van bewustzijn, digitale onsterfelijkheid en een toekomstig 'Internet van Bewustzijn'.