De Babelonische Toren van AI

vrij naar Nathan Gardels, hoofdredacteur van Noema

Nu generatieve AI-modellen steeds krachtiger worden op weg om de menselijke intelligentie te overtreffen, is er veel discussie geweest over hoe ze moeten aansluiten bij de menselijke waarden, zodat ze uiteindelijk onze soort dienen in plaats van onze nieuwe meesters te worden. Maar wat zijn die waarden?

Het probleem is dat er geen universele overeenstemming bestaat over één opvatting van het goede leven, noch over de waarden en rechten die voortvloeien uit die onevenredige diversiteit, die geschikt is voor alle tijden, alle plaatsen en alle volkeren. Van de eeuwenoude Toren van Babel tot de nieuwste grote taalmodellen: de menselijke natuur verzet zich koppig tegen de rationalisatie van het vele tot één.

Ondanks de oppervlakkige schijn van technologische convergentie vormt een diepe ontologische pluraliteit – diepgaand verschillende opvattingen over de aard van het zijn – nog steeds de basis voor de actieve waarden van bonte samenlevingen.

Silicon Valley versus China

Dit komt het duidelijkst tot uiting in de politiek-culturele botsing tussen de leidende AI-machten, Silicon Valley en China. Met het risico van reducerend essentialisme met het oog op beknoptheid, zijn de waarden van eerstgenoemde in lijn met het libertaire wereldbeeld van het soevereine individu dat lange tijd in het joods-christelijke Westen werd gecultiveerd. De waarden van laatstgenoemde zijn in lijn met het concept van de collectief ingebedde persoon, geworteld in confucianistische, boeddhistische en taoïstische overtuigingen van sociale onderlinge afhankelijkheid.

Een vroege missieverklaring van OpenAI, die GPT heeft ontwikkeld, weerspiegelt de diepe bron waaruit de innovaties zijn voortgekomen: “Wij geloven dat AI een verlengstuk moet zijn van de individuele menselijke wil en, in de geest van vrijheid, zo breed en gelijk verdeeld mogelijk moet zijn.”

Daarentegen heeft de Cyberspace-administratie van China, nadat Alibaba in 2023 zijn nieuwste versie van generatieve AI had uitgebracht, snel de wet vastgesteld: “Inhoud die wordt gegenereerd door generatieve kunstmatige intelligentie moet socialistische kernwaarden belichamen en mag geen inhoud bevatten die de staatsmacht ondermijnt, de omverwerping van het socialistische systeem bepleit, aanzet tot splitsing van het land of de nationale eenheid ondermijnt.”

Toen ik Kai-Fu Lee, een van de beste AI-ondernemers van China, eens vroeg of het censuurregime daar de LLM’s zou vervormen zodat ze de werkelijkheid niet accuraat weerspiegelen, merkte hij simpelweg op dat verschillende culturele zones met verschillende waarden verschillende dingen zullen censureren. Terwijl de Chinese staat elke kritiek op de partij zou kunnen censureren, bestaat er in het Westen een soort cultureel gedreven “wakkere” censuur over gevoelige uitlatingen over ras en geslacht. In de islamitische wereld zal er censuur zijn op godslastering tegen de profeet Mohammed. Elke Grossraum, of ‘grote culturele ruimte’, zal op één lijn brengen wat wel of niet acceptabel is in zijn LLM-algoritmen, afhankelijk van de relevante gevoeligheden.

Diversiteit binnen het Westen

Zelfs binnen de gemeenschappelijke ontologische basis van het Westen zijn waarden en normen niet homogeen.

Arthur Mensch is de gevierde ondernemer achter de Franse startup Mistral, geprezen als een van de weinige potentiële Europese kampioenen in een AI-wereld die wordt gedomineerd door Amerika en China. “Het probleem met het ontbreken van een Europese kampioen is dat de routekaart door de Verenigde Staten wordt bepaald”, vertelde hij aan de New York Times. Het was “niet veilig om de Amerikaanse technologiegiganten te vertrouwen”, zei hij. “We kunnen geen strategische afhankelijkheid hebben.”

In navolging van een sentiment dat onlangs in Noema werd geuit over het teleologische enthousiasme van Silicon Valley-acceleristen die verlossing door middel van technologie bekeren, zei Mensch dat hij zich ongemakkelijk voelde bij deze ‘zeer religieuze’ fascinatie voor AI. “De hele A.G.I. De retoriek van kunstmatige algemene intelligentie gaat over het scheppen van God”, zei hij. ‘Ik geloof niet in God. Ik ben een sterke atheïst. Dus ik geloof niet in A.G.I.”

Een meer onmiddellijke dreiging, zo vertelde hij de Times, is die van Amerikaanse AI-giganten voor culturen over de hele wereld. “Deze modellen produceren inhoud en geven vorm aan ons culturele begrip van de wereld”, aldus Mensch. “En het blijkt dat de waarden van Frankrijk en de waarden van de Verenigde Staten op subtiele maar belangrijke manieren verschillen.”

Waar dit ons ironisch genoeg achterlaat, is dat het op één lijn brengen van AI met ‘universele waarden’ vooral de erkenning van specificiteit moet betekenen: plurale geloofssystemen, betwistende wereldbeelden en incommensurabele culturele gevoeligheden die de diverse aard van de menselijke natuur weerspiegelen.

Deel uw mening met ons. E-mail feedback@noemamag.com