Frankenstein Today #rektoverso

1816. Het echtpaar Shelley brengt de zomer door aan het meer van Genève, in het gezelschap van Lord Byron. Hij heeft hen uitgedaagd ter verstrooiing griezelverhalen te schrijven, want het regent al dagen onophoudelijk. En dus bespreken Percy en Mary na het vrijen wat hen het meest angst aanjaagt: geesten of vampiers? De Doden of de Ondoden? Percy kiest voor vampiers omdat geesten, zo zegt hij, ooit mens zijn geweest. Mary aarzelt. Later, in het duister van de nacht, bekruipt haar een ander idee: veel beangstigender dan de doden en ondoden is dat wat nooit heeft geleefd maar wat wij tot leven hebben gewekt. Want ‘onze uitvindingen kunnen niet ongedaan worden gemaakt.’ Hun postcoïtale gefilosofeer baart een van de bekendste griezelverhalen ooit: het monster van Frankenstein.

Mary Shelley’s Frankenstein is een tragedie, schrijft Jeanette Winterson in Frankisstein, haar roman uit 2019 waaruit bovenstaande bedscène komt, ‘want in een tragedie komt kennis te laat.’ Zodra de doos van Pandora is geopend, krijgen we het monster er niet meer opnieuw ingeduwd. De parallel tussen Shelley’s monster en de mogelijke impact van artificiële intelligentie (AI) op de toekomst van het menselijk ras is snel getrokken: kan deze uitvinding niet even makkelijk aan onze controle ontsnappen en zich tegen ons keren? Zelfs ons einde betekenen?

De mens is ‘content whose context can change.’

Vlotjes verlegt Winterson de actie naar een robotica-congres in Memphis, waar ongeruste activisten professor Victor Stein interpelleren na zijn TED-talk over AI. ‘Grote kans van wel’, is zijn weinig geruststellende antwoord op de vraag naar het einde van de mens. Want ‘kunstmatige intelligentie is niet sentimenteel – ze zoekt naar de best mogelijke oplossingen. En het menselijke ras is niet de best mogelijke oplossing.’ Net zoals de industriële revolutie een einde maakte aan de macht van de adel, zal ook de digitale revolutie een nieuwe wereldorde scheppen: survival of the fittest zal plaatsmaken voor survival of the smartest. In het tijdperk der robots is de mensheid straks ‘vervallen adel’.

‘WAT IS ER ZO SLIM AAN HET EINDE VAN DE MENSHEID?’ bloklettert een boze activiste tijdens zijn talk. Stein citeert Camus: ‘De dingen verkeerd benoemen is bijdragen tot het ongeluk van de wereld.’ Want wat is het einde van de mens? Wat is de mens werkelijk? Lichaam of gedachte? De robotica-professor droomt ervan onze herseninhoud te scannen, te downloaden en uploadbaar te maken. In zijn ideale wereld zal de nieuwe mens vrij zijn eigen vorm kunnen kiezen. Of, met één van Wintersons betere aforismen: de mens is ‘content whose context can change.’

Monsterlijke update

Wintersons roman was niet de enige hervertelling van de horrorklassieker, afgelopen jaar: Frankensteins monster waart dezer dagen duidelijk door onze gedachten. Ook Johan De Smet en Sara Ostertags kinderproductie Homo Deus Frankenstein, met muziek van componist Frederik Neyrinck, stoeide met het verhaal van de overmoedige wetenschapper die de controle over zijn creatie verliest. Hun kleine robotje was weliswaar schattig en leuk gezelschap, maar de voorstelling wierp evenzeer vragen op over de digitale wereld waarin we leven. Wie zijn we eigenlijk, dezer dagen? Ons oorspronkelijke, analoge zelf, of een ‘verbeterde’ artificiële afspiegeling ervan die we zo graag aan de wereld tonen?

En in De Munt/La Monnaie zette de Amerikaanse componist Mark Grey een high tech Frankenstein-opera op de scène, waarin hij waarschuwde voor de groeiende kloof tussen ons vermogen om uit te vinden en ons onvermogen om te begrijpen. ‘Leven of dood van één man: een geringe prijs voor de kennis die ik zocht’, citeerde hij Mary Shelley’s doorgedraaide wetenschapper. Maar gaat het nog om de dood van één man? Of is het inderdaad het voortbestaan van de menselijke soort die op het spel staat?

De nieuwe hogepriesters van het geloof in technologische vooruitgang zijn in Silicon Valley aan hoog tempo bezig de mens goddelijke kwaliteiten te verlenen.

Zelfs Yuval Noah Harari, nochtans geen pessimist, schat de gevolgen van de digitale revolutie nogal somber in. Vanuit zijn gebruikelijke helikopterperspectief schetst hij in zijn bestseller Homo Deus de opkomst van een nieuwe religie: het dataïsme. Volgelingen geloven blind in de alwetendheid van Big Data en de kracht van algoritmen. De nieuwe hogepriesters van het geloof in technologische vooruitgang zijn in Silicon Valley aan hoog tempo bezig de mens goddelijke kwaliteiten te verlenen. Nieuwe levensvormen scheppen, op afstand communiceren, zich verplaatsen met hoge snelheden en eeuwig leven: deze ‘supervermogens’ zijn niet langer voorbehouden aan goden, maar maken ons steeds meer tot Homo Deus, tot mens-god.

Ook bij Harari volgt meteen de waarschuwing: deze toenemende macht kan paradoxaal genoeg onze ondergang betekenen. Want de grote omwenteling van de 21^e eeuw, schrijft hij, is de ontkoppeling van intelligentie en bewustzijn. We kunnen weliswaar geen robots met gevoelens maken, maar dat doet er niet toe: biologen hebben aangetoond dat bewustzijn, ‘ziel’ voor de romantici, ‘vrije wil’ voor de Verlichten, overbodig is. Een mens is niets meer dan een machine die data verwerkt, en dat kunnen computers beter dan wij. Iemand vertelde me recent dat wetenschappers bezig zijn computers te bouwen op bacteriële moederborden — zo vervangbaar is de mens.

En daar is Frankensteins monster weer. Geschapen om het Goede te doen, gaf het zich toch over aan het Kwade. Wat als de algoritmes zich tegen hun schepper keren? Als we door de datamining van de sociale media afglijden naar een orwelliaanse politiestaat en algoritmes de democratie ondermijnen? Of met Harari: ‘De verschuiving van autoriteit van mensen naar algoritmen gebeurt overal om ons heen, niet als gevolg van een of andere zwaarwegende overheidsbeslissing, maar door een vloedgolf van alledaagse persoonlijke keuzes.’

Net als bij de voorgaande grote Revoluties drijft de mensheid als vanzelf, in haar jacht op meer luxe, een nieuw tijdperk binnen. Maar of dat beter wordt?

 

AI of ai?

Onlangs vertelde iemand me over Squirrel AI Learning, een project dat onderwijzers wil vervangen door interfaces. Jonge kinderen zullen één op één les krijgen van een virtuele leraar, een schermpje dus, dat hun persoonlijke leertraject doorlopend aanpast aan hun vorderingen en hun biometrische data analyseert om hun concentratie te monitoren. Is dat werkelijk een goede evolutie? Willen we dat onze kinderen worden opgeleid door machines? Het zal, ongetwijfeld, rendabeler zijn. En goedkoper. Wellicht ook kwalitatiever dan het uitgeholde analoge onderwijs, waar leerkrachten geen tijd meer hebben voor het opzetten van persoonlijke trajecten en in overvolle klassen moeten proberen een traject te vinden dat voor iedereen haalbaar is.

AI lijkt, net als elk kind, op zijn maker en reflecteert diens persoonlijkheid.

Maar wat met emotionele intelligentie? Of het leren rekening houden met elkaar, al is het maar omdat niet iedereen even snel leert? Wat met leren uit fouten van anderen? Zeker is dat al deze vormen van ‘ontmenselijking’ zullen leiden tot een ander soort mens waarvan de digital native met zijn extreem korte concentratiespanne, verhoogde aanleg voor multitasken en andere nieuwe kenmerken de voorloper is. Alessandro Baricco noemt deze nieuwe ontwikkelingsfase in De barbaren niet-noodzakelijk negatief. Of het echt goed uitdraait, valt nog te bezien.

Veel hangt ervan af, zei mijn gesprekspartner, wie die digitale trainingsprogramma’s programmeert. AI lijkt, net als elk kind, op zijn maker en reflecteert diens persoonlijkheid. Ook dat wisten we al. Precies daarom investeren Alt Right-groeperingen handenvol geld, tijd en trolkracht in het opleiden van algoritmes in hun voordeel: door nature en nurture proberen ze de politieke voorkeuren van de digitale toekomst naar hun hand te zetten. Met succes: als algoritmes zouden mogen stemmen, zouden ze extreemrechts stemmen. Het ligt in hun natuur: ze zijn opgeleid om koopgedrag te consolideren en te verhogen, wat in politieke termen betekent dat ze reactionair gedachtengoed belonen en versterken. En dus aanzetten tot radicalisering.

Als algoritmes zouden mogen stemmen, zouden ze extreemrechts stemmen.

Mijn gesprekspartner bleef positiever. Misschien, zei ze, is AI in staat zijn maker te ontgroeien. Echt te leren. En dus beter te worden dan de mens. Onze fouten en tekortkomingen bij te sturen. Brengt dat ons niet terug bij Wintersons doemscenario? Zou een vorm van intelligentie die ons egoïsme ontstijgt niet geneigd zijn ons als een ecologisch destructieve systeemfout uit te roeien? (Noemden de machines in The Matrix ons geen virus? Een plaag?) Evenmin een zonnig vooruitzicht.

Want zelfs het slimste algoritme suckt als het op zingeving aankomt. Denk maar aan die oerscène uit die andere sciencefictionklassier, A Hitchhiker’s Guide to the Galaxy, waarin de computer Deep Thought een antwoord moet geven op ‘de ultieme vraag over het Leven, het Universum en Alles’. Na 7,5 miljoen jaar rekenen komt hij met dit antwoord: ‘42’. Het zal wel mijn romantische inborst zijn, maar ik hou toch vast aan een mensbeeld met een beetje meer ‘hart’. Of, zoals Winterson dat zo mooi noemt, die ‘carbon-based primitive in a silicon world’. Zodat we de zin van het leven elders kunnen zoeken. In de kunst, bijvoorbeeld.

Gaea Schoeters is journalist, scenarist, librettist & auteur. Momenteel schrijft ze vooral muziektheater & romans.