Een kunstmatige vriend(in)

logoIdW

In de roman Klara en de Zon (2021) van de Japans-Engelse schrijver en Nobelprijswinnaar Kazuo Ishiguro (1954) is de hoofdpersoon een geavanceerde robot: Klara, een artificial (in vertaling) Kunstmatige Vriendin (KV). Als KV heb je niet heel veel te willen. Je staat in een winkel totdat je wordt verkocht en daarna ben je een soort bediende. Klara is een van de KV’s die erop hoopt uitverkoren te worden, maar ze moet wel oppassen, want er is al een heel nieuwe generatie KV’s gearriveerd. Klara vindt het prettig om bij het raam te staan, want dan vangt ze de meeste zonne-energie op en bovendien leert ze veel over de buitenwereld. De Cheffin, met hoofdletter, vertelt hoe ze zich moet gedragen om uitgekozen te worden. Als op een dag een kind in haar geïnteresseerd is, reageert Klara niet op haar, tot ongenoegen van de Cheffin. Klara verontschuldigt zich, legt uit dat ze zo reageerde omdat ze ‘voor dat bewuste kind, misschien niet de beste keus zou zijn.’ De Cheffin wijst haar terecht: ‘Het is de klant die de KV kiest, nooit andersom.’ De Cheffin benoemt Klara’s kwaliteiten: ‘Klara heeft zoveel unieke eigenschappen, we zouden hier de hele morgen kunnen blijven staan. Maar als ik er één zou moeten benadrukken, nou, dan zou het haar lust tot leren en observeren zijn. Haar vermogen om alles wat ze om zich heen ziet in zich op te nemen en te combineren is verbazingwekkend.’ Twee belangrijke gebeurtenissen buiten de winkel zijn bepalend voor het verloop van het verhaal. In de etalage vangt Klara veel zon en daardoor voelt ze zich energiek. Ishiguro gebruikt ook hier een hoofdletter. Klara ziet hoe een zwerver (‘Bedelman’) en zijn hond bewegingsloos in de schaduw op straat liggen. Ze concludeert dat zij dood zijn. De volgende dag ziet ze ‘dat een speciaal soort voeding van de Zon hen had gered.’ Een tweede gebeurtenis heeft te maken met werkzaamheden in de straat. Een grote asfalteermachine – de ‘Cootings-machine’ – stoot zwarte rook uit en verduistert de winkel waardoor de KV’s een tijdje geen energie van de zon meer krijgen.

Vervangbaar?
Klara wordt door Josie, die steeds weer terugkeert bij de KV-winkel, uitgekozen en komt bij haar, haar Moeder en Melania Huishoudster in huis. Zij houdt Josie nauwlettend in de gaten, geprogrammeerd als zij is om dienstbaar te zijn. Ook hier is Klara afhankelijk van de energie van de Zon. Ze ziet dat de Zon ondergaat achter de schuur van McBain en ze interpreteert dat als: de Zon gaat daar slapen. Dan blijkt Josie ziek te zijn. Moeder tegen Klara: ‘Het moet soms prettig zijn om geen gevoelens te hebben. Ik benijd je.’ Klara reageert: ‘Ik geloof dat ik veel gevoelens heb. Hoe meer ik observeer, des te meer gevoelens er voor me beschikbaar komen.’ Klara herinnert zich hoe de Zon Bedelman en zijn hond beter heeft gemaakt. Ze denkt dat de zon ook Josie kan genezen. Daarom wil ze naar de woonplaats van de zon, de schuur van McBain. In die bijna religieuze ruimte met oranje licht en stofdeeltjes dansend in het zonlicht, probeert ze de zon gunstig te stemmen. Ze stelt een overeenkomst voor: stel dat ik in staat zou zijn de vervuilende machine kapot te maken, zou jij dan, in ruil, willen overwegen je speciale hulp aan Josie te geven?

Terwijl Klara haar hoop vestigt op de kracht van de zon is de moeder van Josie bezig met het ergst mogelijke scenario voor Josie. Al eerder is een dochter van haar overleden en ze wil niet nog een keer door zo’n periode van verlies. Om een mogelijk verlies op te vangen heeft ze een kunstenaar de opdracht gegeven om een replica te maken van Josie. De grotere vraag die Ishiguro hier aan de orde stelt, is of een mens vervangbaar is of welke elementen een mens uniek maken. Dezelfde vragen kun je over een robot stellen. Of zoals de moeder van Josie voor waar aanneemt:
De wetenschap heeft inmiddels onomstotelijk bewezen dat er niets zo uniek is aan
mijn dochter dat onze moderne hulpmiddelen het niet kunnen blootleggen, kopiëren,
overbrengen. Dat mensen al die tijd met elkaar hebben geleefd, eeuwenlang, en elkaar
liefhadden en haatten op grond van een verkeerde vooronderstelling. Een soort
bijgeloof dat we in stand hielden terwijl we niet beter wisten.

Onvolmaakt
Het treffende van dit verhaal vind ik, dat Ishiguro duidelijk laat zien en je zelfs zover krijgt dat je kunt houden van een wezen dat beslist geen mens is, ook niet in de roman zelf: robots zoals Klara mogen op mensen lijken, ze blijven herkenbaar als robot. Bijvoorbeeld: de manier waarop Klara haar omgeving ‘scant’, in kegels, driehoeken en andere vormen benadrukken haar robotzijn. Ze ziet de patronen van de Zon op muren en vloeren. Tegelijk oefent de schrijver door de waarnemende Klara ook kritiek uit op de menselijke samenleving. De robots worden gemaakt om de eenzaamheid van kinderen te bestrijden. Het verhaal speelt in een schrikbarend nabijgekomen toekomst waarin kinderen thuis worden geschoold via beeldschermen, waarin ze geen klasgenoten en nauwelijks vrienden hebben en waarbij ouders speciale bijeenkomsten organiseren voor hun kinderen zodat die hun sociale vaardigheden kunnen oefenen. En als de wereld van Klara groter wordt, ze met de familie-uitstapjes maakt, ontdekt ze ook tegenstellingen, blijken kinderen genetisch gemanipuleerd, of zoals ze zegt ‘opgetild.’ Elitekinderen krijgen les via beeldschermen en kunnen later naar de universiteit. Rick, het speelkameraadje van Josie, is niet opgetild en hij kan daarom niet studeren. Klara geeft hem daarom bijles. En er zijn mensen die zich onttrekken aan deze moderne samenleving, zoals de vader van Josie, die in een commune woont waar mensen zich afkeren van de nieuwe technieken. En toch weet Ishiguro de vertelling klein te houden door zich te focussen op de onderlinge verhoudingen en helpt de ietwat naïeve en wereldvreemde blik van Klara het boek aan een zekere luchtigheid.

Artificial Moral Agent
De roman roept een aantal indringende vragen op als: is empathie typisch menselijk? Wat betekent houden van? Wat maakt iemand een mens? De roman maakt duidelijk dat er met kunstmatige intelligentie niet gelijk een nieuwe Socrates opstaat. Tegelijk gaan de ontwikkelingen door, en snel ook. De eerste robots in de jaren zestig bevatten nog geen kunstmatige intelligentie (KI). Ze waren volledig op voorhand geprogrammeerd om repetitieve handelingen uit te voeren. Wel begon al in die tijd KI als onderzoeksveld om menselijke intelligentie in een machine na te bootsen, waarbij het de opzet was machines op een vergelijkbaar niveau taken te laten uitvoeren en te redeneren. Er worden tegenwoordig verschillende categorieën van ontwikkeling van de A(rtificial) M(oral) A(gent) onderscheiden als gradaties van autonomie, complexiteit en morele gevoeligheid, variërend van impliciete morele actor, expliciete morele actor en volledig morele actor. Deze laatste zou volledig autonoom zijn en zelf morele oordelen kunnen vormen over een breed scala aan situaties en deze ook kunnen rechtvaardigen. Dit is een vorm van AI die er wellicht nooit helemaal komt. Maar de ‘Artificial Friend’ die Ishiguro schetst brengt deze ‘virtuele Socrates’, met zelfbewustzijn en een vrije wil, wel dichterbij.

Ambivalentie
Hoe moeten we deze razendsnelle innovatieve technische ontwikkelingen – drones en militaire innovaties, of de zelfrijdende auto’s in het verkeer, of de e-health en de zorgrobots die al gebruikt worden – met hun meervoudige effecten duiden? Enerzijds tellen we allemaal onze zegeningen ervan. De commune van mensen die zich afkeren van nieuwe technieken, wordt, inderdaad soms ook noodgedwongen, alsmaar kleiner. Bovendien, misschien kunnen mens en robot nog enige tijd een duo in complementariteit vormen. De robot is nu eenmaal sterk in routine, werk- en uithoudingsvermogen, consequentheid. De mens heeft creativiteit, kritisch denkvermogen, teamworkskills (toch?) … Tegelijk houd je ook je vragen. Er worden voortdurend nieuwe technieken ontwikkeld waarvan nog niet helemaal is doordacht welke impact ze hebben, waar en wanneer ze schadelijk zijn, in combinatie met welke kwalen of klachten je ze niet moet gebruiken, etc. Maar ondertussen worden ze al in dienst genomen, verkocht en doorontwikkeld. Iemand schreef: het is als een medicijn zonder bijsluiter… En waar stopt het? Er bestaat een robot die geweldig trompet kan spelen. Maar zou het geen schande zijn als we het spelen van de Last Post zouden overlaten aan een robot?

Peter Verbaan

In de Waagschaal, jaargang 51, nr. 6. 28 mei 2022