Science Fiction Realisme

Kai-Fu Lee, auteur van ‘AI Superpowers: China, Silicon Valley and the New World Order’ en voormalig Google-topman in China, heeft zich aangesloten bij ‘Waste Tide’-auteur Chen Qiufan om het verhaal van AI in de nabije toekomst te vertellen. Lee werd onlangs geïnterviewd door Noema-hoofdredacteur Nathan Gardels over hun nieuwe boek, “AI 2041.”

Gardels: Jij en je co-auteur, de gevierde Chinese sciencefictionschrijver Chen Qiufan, hebben met je boek ‘AI 2041’ een nieuw genre gecreëerd door speculatieve fictie te combineren met analyse van realiseerbare technologieën. Jij noemt dit ‘wetenschappelijke fictie’, en Qiufans werk wordt bestempeld als ‘science fiction-realisme’. Uw mening is vrij positief, zo niet een praktisch utopisch perspectief, in plaats van de dystopische visie op AI die bijvoorbeeld wordt gepromoot door Elon Musk, die denkt dat superintelligente machines ons ooit zullen regeren.

Het boek schetst 10 scenario's voor de toekomst. Kunt u mij een van de meest overtuigende geven?

Lee: Eén gebied dat klaar is voor een grote doorbraak is AI voor de gezondheidszorg: de ontdekking van nieuwe medicijnen en uiteindelijk een nieuwe diagnose en behandeling zouden het hele gezondheidszorgsysteem kunnen vernieuwen op een manier die de levens in de komende decennia verbetert.

Het ontdekken van geneesmiddelen is het makkelijke, laaghangende fruit, omdat er geen substantiële verstoring van de huidige medische praktijk voor nodig is. Klinische onderzoeken zullen hetzelfde zijn, farmaceutische producten zullen hetzelfde zijn. De arts zal nog steeds medicijnen voorschrijven en de resultaten zullen op dezelfde manier worden gemeten als voorheen. Daardoor gaat de vooruitgang sneller. AI kan mogelijke moleculen, doelwitten en potentiële ziekten doorzoeken. Het kan eerdere ervaringen doorzoeken over hoe drugs wel of niet hebben gewerkt. Het kan de moleculaire structuren ontdekken van medicijnen die op verschillende soorten mensen werken. Door dit te doen kan AI nieuwe kandidaten voor klinische onderzoeken afleiden en voorstellen.

Sommige bedrijven zijn zelfs samen met wetenschappers AI gaan gebruiken zonder dat er banen verloren gaan of dat iemand beweert dat machines superieur zijn aan mensen; het is echte symbiose. En de kosten voor farmaceutische bedrijven die onderzoek doen naar behandelingen voor zeldzame ziekten die voorheen te duur waren om te rechtvaardigen, kunnen dankzij AI flink omlaag gaan. Dat betekent dat zeldzamere ziekten kunnen worden aangepakt. Het betekent ook dat er voor veel voorkomende ziekten meerdere medicijnen kunnen worden voorgesteld voor verschillende soorten mensen met verschillende familiegeschiedenissen of allergieën, enzovoort, waardoor mogelijk de snelheid waarmee mensen van hun ziekten kunnen herstellen wordt verbeterd.

De algemene kans voor AI in de geneeskunde is dat het een volwaardige assistent van de arts wordt: het voorstellen van diagnoses en behandelingen voor specifieke gevallen. Dat is precisiegeneeskunde. Ik twijfel er niet aan dat AI uiteindelijk, met voldoende gegevens, beter zal presteren dan de grote meerderheid van de artsen.

Het proces zal lang duren omdat er persoonlijke gegevens zijn die gevoelig zijn, het behandelingsproces verstoringen kan veroorzaken en er juridische, ethische en morele implicaties zijn aan het gebruik van software om mensen te behandelen. Wat zijn bijvoorbeeld de gevolgen als er sprake is van wanpraktijken? De AI-aanwezigheid moet dus zorgvuldig worden vormgegeven als louter een assistent van de dokter, die de laatste beslissing zal nemen. In die zin moeten aanbevelingen en informatie van AI worden beschouwd als een vorm van input voor een menselijke beslissing: gewoon weer een stukje data.

Uiteindelijk neemt de mens alle beslissingen. Maar de komende 20 tot 25 jaar zullen artsen zich realiseren dat AI-hulpmiddelen steeds scherper worden. En dan zullen ze beslissingen van AI gaan ondermijnen – ze kunnen zelfs bang worden om een ​​beslissing van AI terug te draaien of het er niet mee eens te zijn.

Wanneer dat moment aanbreekt, zullen mensen in het algemeen voor een belangrijke beslissing staan. Zijn we bereid ons leven aan AI toe te vertrouwen?

“Ik twijfel er niet aan dat AI uiteindelijk, met voldoende gegevens, beter zal presteren dan de grote meerderheid van de artsen.”

Gardels: Denkt u dat de toepassingen in de komende decennia het sneller zullen maken om vaccins te ontwikkelen voor COVID-achtige pandemieën?

Lee: Dat is mogelijk, maar minder waarschijnlijk omdat we nog niet voldoende historische gegevens over COVID hebben om AI te trainen – al het succes en de mislukkingen van klinische onderzoeken, betrouwbare informatie over wat voor soort mensen met welke soorten onderliggende ziekten en familiegeschiedenissen waren besmet, ongeacht of de behandeling slaagde of niet. De SARS-uitbraak in 2002 leverde te weinig monsters op. De Spaanse griep was te lang geleden.

Maar op termijn zou AI binnenkort een vrijwel gelijkwaardige rol kunnen spelen naast wetenschappers. Ze kunnen bijvoorbeeld een vaccinsjabloon voorstellen en vervolgens software gebruiken om dit te verifiëren.

Gardels: AI-hulp op dit gebied is dus afhankelijk van de beschikbaarheid van gegevens, maar de technologie is er al.

Lee: Ja, dat klopt. AI kan in sommige delen van het probleem al nuttig zijn. Kijk bijvoorbeeld naar AlphaFold van DeepMind, een deep learning-systeem dat voorspellingen doet over eiwitstructuren. Dat is een deelverzameling van het probleem van het bedenken van vaccins. Met zo'n instrument zou een wetenschapper vaccins kunnen bedenken, of op zijn minst inzichten, die de ontdekking versnellen. Dergelijke hulpmiddelen zijn voorlopig secundair, maar ze worden steeds beter.

Dematerialisatie

Gardels: In je analyse van het verhaal van Chen Qiufan, ‘Dreaming of Plenitude’, noem je het idee van ‘dematerialisatie’ – dat gecomprimeerde capaciteit het steeds kleinere apparaten, zoals mobiele telefoons, mogelijk maakt om enorme berekeningen uit te voeren, terwijl het internet der dingen zal vrijwel gratis diensten verlenen.

Dit wordt betwist door de materiaalwetenschapper Vaclav Smil, die mij er onlangs op wees dat mobiele telefoons weliswaar minder wegen dan vroeger, maar dat er nu miljarden meer van over de hele wereld zijn. Hij betoogde dus: “De totale hoeveelheid materiaal die in mobiele telefoons gaat, is gestegen en niet gedaald. Mensen maken altijd een fundamentele fout tussen relatieve en absolute dematerialisatie. Waar het om gaat is de absolute energie-intensiteit en het materiaalgebruik.”

Hij verwees niet alleen naar de energie-intensiteit van het delven en produceren van al die apparaten, maar ook naar het feit dat de servers die gegevens opslaan voor berekeningen enorme hoeveelheden energie verslinden. Veel van die serverfarms bevinden zich op goedkope grond in plaatsen als Kazachstan en worden aangedreven door fossiele brandstoffen.

Is de positieve ontwikkeling van AI in holistische zin uiteindelijk niet afhankelijk van de transitie naar hernieuwbare energie, en van bepaalde beperkingen op de consumptie van diensten die de verspreiding van dergelijke apparaten stimuleren?

Lee: Ik ben het eens met deze zorg. Als we geavanceerde vormen van AI willen blijven ontwikkelen, moet de rekencapaciteit snel groeien. Alleen al het trainen van een AI-algoritme of deep learning-model kan miljoenen dollars kosten en veel druk leggen op serverfarms.

Ik denk dat we op dit moment een beetje vastzitten, omdat de stand van de techniek zoveel rekenwerk vereist. Terwijl gewone bedrijven doorbraken proberen te bewerkstelligen, zoals Microsoft, Google en OpenAI hebben gedaan, zal de benodigde hoeveelheid rekenkracht toenemen. Het is daarom belangrijk om te investeren in efficiënte software en tools die toptechnologieën praktischer kunnen maken, waardoor de prestaties misschien enigszins afnemen en toch de rekenkracht wordt geboden die ze nodig hebben.

Daarnaast moeten we natuurlijk overgaan op schone energiebronnen, die hopelijk ook een stuk goedkoper en overvloediger zijn. In het boek sprak ik over gedistribueerde energie die zonne-energie combineert met geavanceerde batterijtechnologieën die verder gaan dan lithium. Optimistisch gezien zouden we de energiekosten de komende decennia kunnen terugbrengen tot 10% van wat ze nu zijn. Zelfs dat is misschien niet genoeg, maar we moeten die twee in evenwicht brengen.

“Uiteindelijk kunnen artsen beslissingen van AI gaan ondermijnen – ze kunnen zelfs bang worden om een ​​beslissing van AI terug te draaien of het er niet mee eens te zijn.”

Gardels: Er zitten dus twee dimensies aan: het verbeteren van de efficiëntie van de berekeningen en tegelijkertijd overgaan op schonere energie en opslagcapaciteit?

Lee: Juist. Het helpt enorm dat deep learning AI en zijn nakomelingen beter worden met meer data en meer rekencapaciteit. Dus als je het algoritme elke keer een klein beetje aanpast en vervolgens meer gegevens en meer rekenkracht toevoegt, kunnen de prestaties snel veel beter en efficiënter worden. We hebben nog nooit een technologie gezien die zo werkte. Uitvindingen zoals elektriciteit of internet waren nul en één: als je het niet had, had je het niet; toen je het had, had je het. Ze verbeteren niet in het geometrische tempo dat AI doet.

Er is ook de keerzijde. We moeten nadenken over hoe we AI slimmer kunnen maken, zonder er alleen maar meer data en rekenkracht tegenaan te gooien. Tenzij we erachter komen hoe we dat moeten doen, zullen we misschien nooit een echte kunstmatige algemene intelligentie bereiken.

Gardels: Wat zijn de grenzen van deep learning AI? Sommige critici beweren dat, hoewel intelligente machines beter kunnen presteren dan mensen bij allerlei taken, en ook nieuwe taken kunnen leren, ze letterlijk niet ‘begrijpen’ wat ze doen – ‘onnadenkende intelligentie’.

Begrip komt voort uit de context. De unieke menselijke arbeid van het opvullen van de scheuren tussen stukjes data met een onprogrammeerbaar bewustzijn is wat betekenis creëert en een hele realiteit vormt.

Bovendien zeggen sommigen dat hoe meer onze geest door dagelijkse interacties met digitale technologieën wordt getraind om te denken als algoritmen die het begrip ontberen, hoe minder intelligent en kunstmatiger wij zelf ook zullen worden.

“Misschien moeten we rekening houden met de realiteit dat mensen en AI totaal verschillend zijn.”

Lee: Ik denk dat deep learning heeft aangetoond dat het een bepaald begrip van context kan beheersen, maar niet op dezelfde manier als menselijk begrip. Maar als je kijkt naar zelfgestuurd leren, zoals we zien bij GPT-3 en andere technologieën, worden ze in principe zonder toezicht getraind door gebruik te maken van de context van de gegevens waarover ze beschikken. Dat wil zeggen dat je niet tegen de robot zegt: “Dit is een hond, dit is een kat, dit is een persoon.” Je vertelt het niet de grondwaarheid. Je zegt gewoon: "Hier is veel tekst, leer wat je kunt."

Stel dat u het laatste hoofdstuk van een boek leest. Er zijn nu deep learning-algoritmen die de volgende zin kunnen voorspellen of een vraag kunnen beantwoorden over iets dat eerder is gebeurd door gebruik te maken van context. De huidige technologie zal in de meeste gevallen een antwoord opleveren dat net zo goed of zelfs beter is dan het mijne, terwijl het soms gewoon onzin zou zijn. Dat kan niet zonder enig besef van context. Het gaat niet alleen om het onthouden van miljoenen woorden. Je moet weten welke er toe doen. Een AI gebouwd door Microsoft en Alibaba presteerde zelfs beter dan mensen op de Stanford Question Answering Dataset in 2018. Dat is behoorlijk indrukwekkend. Het laat zien dat AI een bepaalde context kan detecteren.

Dat gezegd hebbende, beweer ik niet dat AI een ziel of zelfbewustzijn heeft, weet wat het doet of emoties en overtuigingen heeft en aandachtig communiceert. Ik denk niet dat het dat doet. Het is gewoon een manier vinden om context te vinden.

Maar als je bedenkt hoeveel vooruitgang we al hebben geboekt, denk dan eens na over waar we over twintig of dertig jaar zullen staan. Er zullen nog veel meer verbeteringen plaatsvinden bovenop het huidige zelfgestuurde leren.

Zelfgecontroleerd leren overwint het eerdere probleem van diepgaand leren, waarbij op alles een accuraat deskundig label nodig was. En dat stelde een limiet aan de hoeveelheid gegevens die konden worden verwerkt. Het feit dat AI kan worden getraind zonder toezicht op menselijke etikettering, suggereert hoe krachtig deep learning-technologie is. Als we meer gegevens gebruiken en ernaar gaan rekenen, wordt het steeds beter.

Maar dat AI de context kan herkennen, betekent niet dat het de mens zal overstijgen of singulariteit of AGI zal bereiken. Kunnen wij het zijn? Kan het alles wat wij kunnen doen? In elke ontwikkelingsfase stellen we vragen die zijn geformuleerd in termen van wat wij mensen kunnen doen: Kan het schaken? Als het schaak kan spelen, kan het dan Go spelen? Als het begrijpend lezen kan bereiken, zal het dan in staat zijn een zelfbewustzijn te bereiken zoals wij dat hebben?

Het is enigszins narcistisch, maar natuurlijk, als mensen alles met ons vergelijken. Dat is de reden waarom in de meeste sciencefiction elk object dat je ziet – of het nu buitenaardse wezens, huisdieren of een robot zijn – op de een of andere manier een bekende vorm heeft. We willen alles in ons beeld zien. Misschien moeten we rekening houden met de realiteit dat mensen en AI totaal verschillend zijn.

Vooruitgang op het gebied van AI leidt niet noodzakelijkerwijs tot een superset van menselijke kwaliteiten. We doen de dingen die we doen vanwege de manier waarop we de wereld begrijpen, vanwege de manier waarop onze fysiologie functioneert. Misschien is er, gecodeerd in ons DNA, iets dat een ziel wordt genoemd: duidelijk menselijk zelfbewustzijn en emoties die ons instinct vormden en ons hielpen te overleven. Maar dat betekent niet dat er geen andere vorm van organisme kan bestaan ​​die net zo reëel is. Wij moeten daarvoor openstaan. Waar we ons meer zorgen over moeten maken, is wat AI kan doen waarvan we nooit dachten dat mensen dat zouden kunnen, en hoe we daar gebruik van kunnen maken. Dat is een veel constructievere invalshoek.

“Misschien is er, gecodeerd in ons DNA, iets dat een ziel wordt genoemd – duidelijk menselijk zelfbewustzijn en emoties die het instinct vormden en ons hielpen te overleven.”

Gardels: In uw laatste boek, ‘AI Superpowers’, werd de hoop uitgedrukt op samenwerking tussen de twee leidende landen bij de ontwikkeling van deze technologie, de VS en China. Nu is de concurrentie tussen hen hevig geworden. Zal dat het soort vooruitgang dat u tegen 2041 ziet plaatsvinden, belemmeren of stimuleren?

Lee: De waargenomen concurrentie op geopolitiek niveau is problematisch omdat deze de wereld potentieel in twee groepen technologieën en standaarden verdeelt die niet interoperabel zijn. Dat is duidelijk inefficiënt. Aan de andere kant zorgt die dynamiek voor meer financiering voor de technologie in beide landen, wat een goede zaak is. Ik zou willen beweren dat de Spoetnik op deze manier zowel de Amerikaanse als de Sovjet-ruimtevaart heeft geholpen vooruit te komen.

Toen ik ‘AI Superpowers’ schreef, had ik niet verwacht dat de concurrentie zo zou zijn. Ik had gehoopt dat de vooruitgang op het gebied van AI in het Westen China wakker zou schudden. En als China zijn internetbedrijven, doordrenkt met AI, zou ontwikkelen op manieren die geavanceerder zijn dan het Westen, zou dat het Westen wakker schudden. Ik hoopte dat dat wederzijdse bewustzijn nieuwe manieren van samenwerken zou opleveren. In de gezondheidszorg bijvoorbeeld. China beschikt over meer data, de VS over meer geavanceerde medische technologieën. Het samenbrengen van deze troeven in een gemeenschappelijke richting zou een grote opsteker zijn voor de mensheid als geheel.

Nou, dat is niet gebeurd. Het beste waar we de komende jaren op kunnen hopen, is dat er door beide landen problemen zijn geïdentificeerd die belangrijk genoeg zijn om aan te werken, zoals het klimaat of de gezondheidszorg.

Een helder punt is dat academici en wetenschappers, ondanks de geopolitieke uitdagingen, nog steeds samenwerken. Op grote AI-conferenties zie je dat Amerikaanse, Europese en Chinese onderzoekers hun ideeën blijven delen zodat mensen op de schouders van anderen kunnen gaan staan. Hopelijk bereiken we een toestand waarin China en de VS op bepaalde gebieden zeer concurrerend zullen zijn en op andere gebieden zullen samenwerken. We moeten kijken of we daar kunnen komen.