Amerika's Gesloten Modellen Lopen Achter

door hoofdredacteur Nathan Gardels

Het is paradoxaal dat een gesloten samenleving zoals China de wereld verovert met open-source AI-modellen, terwijl de meest open samenleving, Amerika, voornamelijk gesloten, propriëtaire modellen produceert die minder aanpasbaar zijn aan de rest van de wereld en veel duurder.

Dit is de zorg van Andrew Ng, een van 's werelds meest vooraanstaande AI-technologen die het kan weten. Hij is een zeldzaamheid onder de tech-bro's: hij was medeoprichter van Google Brain en chief scientist bij Baidu, China's grootste technologiebedrijf, dat 70% van al het zoekverkeer voor zijn rekening neemt. Zowel Sam Altman van OpenAI als Dario Amodei van Anthropic hebben ooit voor hem gewerkt.

Ng gaf onlangs zijn mening tijdens een bijeenkomst van Hollywood-filmmakers in Los Angeles, georganiseerd door Studio B van het Berggruen Institute en de Mozilla Foundation. Daar ging hij in gesprek met de gevierde scenarioschrijver, videogame-scenarist en romanschrijver David Goyer (bekend van de "Blade"-trilogie, "Superman vs. Batman" en "Call of Duty: Black Ops").

"Een van de sterke punten van China is dat veel Chinese bedrijven open-source modellen publiceren, wat betekent dat ze gratis online beschikbaar zijn voor iedereen, inclusief Amerikaanse bedrijven," aldus Ng.

“Een open-weight model is een model dat is getraind met een grote hoeveelheid data, en dat vervolgens openbaar is gemaakt op internet, zodat iedereen het gratis kan downloaden en gebruiken. Met een open-weight model kan iedereen het downloaden en de AI op zijn eigen laptop laten draaien, in tegenstelling tot de propriëtaire, gesloten-weight modellen, zoals de toonaangevende modellen van OpenAI, Anthropic of Google Gemini. Bij die laatste modellen kunnen we de geleerde waarden van de AI niet zien. We kunnen alleen een prompt naar een van deze bedrijven sturen, die vervolgens de gewichten gebruikt en ons alleen het antwoord laat zien.”

Volgens Ng is dit een “briljante zet” van Chinese bedrijven, omdat open-weight modellen de kennisverspreiding binnen hun bedrijven en ecosystemen aanzienlijk versnellen.

Als gevolg hiervan heeft China de afgelopen jaren een enorme voorsprong genomen op het gebied van AI-capaciteiten. Op dit moment lopen de Amerikaanse modellen met gesloten gewichten voor op de Chinese modellen, maar China is wereldleider in modellen met open gewichten. Dit betekent dat veel landen die een open alternatief willen, Chinese modellen gebruiken.

In landen in Afrika, merkte Ng op, worden "het Chinese DeepSeek en een handvol andere Chinese modellen zeer breed gebruikt, veel meer dan Amerikaanse modellen, die echt achterop zijn geraakt."

Dit is om twee redenen belangrijk, benadrukte hij.

Ten eerste: "De manier waarop verhalen in Hollywood worden verteld, is een belangrijke bron van soft power. Willen we verhalen horen over het belang van vrijheid en democratische waarden, of willen we verhalen horen die de waarden van andere landen weerspiegelen? Wanneer iemand een vraag stelt aan AI, bijvoorbeeld over wat er in 1989 op het Tiananmenplein is gebeurd, zal het model dat gebruikt wordt ervoor zorgen dat het model een antwoord geeft dat de waarden van dat land weerspiegelt. Dus je eigen ideeën naar buiten brengen is een enorme bron van soft power-invloed."

Ten tweede: "AI is een essentieel onderdeel van de toeleveringsketen voor de ontwikkeling van veel softwareproducten. Als steeds meer bedrijven gebruikmaken van een door China gedomineerde toeleveringsketen, heeft dat gevolgen voor Amerika. Het zal ook ons vermogen om de technologische ontwikkeling te beïnvloeden verzwakken."

Daarnaast betoogde Ng dat de recente blokkade [die na herziening later werd opgeheven] door het Witte Huis van buitenlandse toegang tot Anthropics krachtige Fable 5-model "aan de hele wereld heeft laten zien dat Amerika exportcontroles kan opleggen en de toegang tot AI-technologie kan blokkeren. Dit heeft in veel hoofdsteden wereldwijd de urgentie vergroot om hun eigen AI-aanbod veilig te stellen... waardoor veel landen naar open-weight-modellen kijken, omdat niemand ze die kan afnemen als ze eenmaal alle cijfers in handen hebben. En ik denk dat dit waarschijnlijk een ongunstig effect zal hebben op de soft power van Amerika."

Ter ondersteuning van Ng's punt luidde David Sacks, mede-voorzitter van de Raad van Adviseurs voor Wetenschap en Technologie van president Trump, vorige week de alarmbel over het nieuwste grensverleggende GLM 5.2-model van de Chinese startup Z.ai. Net als anderen zei hij: "We hebben nu een Chinees open-source model dat net zo goed is als de momenteel beschikbare modellen van OpenAI en Anthropic."

Diversiteit stimuleert de verspreiding van open-source

Maar het is juist de aanpasbaarheid van de Chinese open-source modellen aan lokale omstandigheden die, samen met de kosten, hun concurrentievoordeel vormt.

Ik vroeg Kai-Fu Lee, een vooraanstaande Taiwanese computerwetenschapper, ooit of het Chinese censuurregime de grote taalmodellen zou vervormen en de realiteit niet nauwkeurig zou weerspiegelen.

In de praktijk, vertelde hij me, zullen taalmodellen overal ter wereld de stempel dragen van cultureel-politieke waarden, niet alleen in China. "Verschillende culturele zones met verschillende waarden zullen verschillende dingen censureren. Terwijl de Chinese staat mogelijk elke kritiek censureert, in het Westen bestaat er een soort cultureel gedreven censuur op gevoelige uitspraken over ras en gender. In de islamitische wereld zal er censuur zijn op godslastering tegen de profeet Mohammed. Elk van deze culturen zal in zijn LLM-algoritmes bepalen wat wel en niet acceptabel is, afhankelijk van de eigen gevoeligheden.”

Kortom, het is diversiteit die de verspreiding van China's open-source modellen stimuleert.

Verspreiding en transparantie

Net als alle technologie is AI een dual-use technologie en kan deze misbruikt worden. De keerzijde van een AI-wereld zonder poortwachters is de kansen die het creëert voor kwaadwillenden zoals repressieve staten, terroristische netwerken, commerciële oplichters en fraudeurs.

"Ik maak me veel meer zorgen over de verspreiding van open source," vertelde voormalig Google-CEO Eric Schmidt aan Noema. "En ik weet zeker dat de Chinezen dezelfde bezorgdheid delen over hoe het misbruikt kan worden tegen hun regering, net als tegen die van ons."

“We moeten ervoor zorgen dat open-source modellen vanaf het begin veilig zijn met vangrails, via wat we ‘reinforcement learning from human feedback’ (RLHF) noemen. Deze vangrails moeten zo verfijnd zijn dat ze niet door kwaadwillenden kunnen worden omzeild. Het mag niet makkelijk zijn om open-source modellen onveilig te maken, zelfs als ze eenmaal veilig zijn gemaakt.”

Net als bij de kernwapenopbouw in de beginjaren van de Koude Oorlog tussen het Westen en de Sovjet-Unie, is het moeilijk voor te stellen dat China en de VS het eens worden over het beperken van elkaars AI-potentieel. Toch, hoe intenser de nieuwe codeoorlog wordt, hoe groter de behoefte aan wederzijds overeengekomen spelregels om veiligheidsproblemen aan te pakken.

“Eén ding waar beide partijen het volgens mij over eens zouden moeten zijn,” stelde Schmidt voor, “is een simpele eis: als je een training gaat doen voor iets dat volledig nieuw is op het gebied van AI, moet je de andere partij daarvan op de hoogte stellen. Met andere woorden, een regel die verrassingen voorkomt.”

Net als tijdens de late Koude Oorlog, toen de groeiende omvang van de nucleaire arsenalen de overleving van de planeet bedreigde als ze ooit gebruikt zouden worden, was transparantie over elkaars capaciteiten de eerste cruciale stap om verdere proliferatie buiten de supermachten te stoppen en met vertrouwen een afschrikkingsevenwicht tussen hen te creëren.

De wereldwijde AI-race is in volle gang. Juist nu – nu beide partijen het gemeenschappelijke belang zien in het hanteren van gemeenschappelijke richtlijnen – is het meest gunstige moment om actie te ondernemen.