Mens en/of machine

logoIdWHer
In de film ‘Her’ uit 2013 krijgt de hoofdpersoon (Theodore) een relatie met zijn computer. Hij downloadt een ‘operating system’ dat een virtuele assistent bevat die is uitgerust met artificiële intelligentie (AI). Theodore beantwoordt een aantal zeer persoonlijke vragen, geeft aan dat hij de voorkeur geeft aan een vrouwelijke assistent en krijgt na luttele seconden ‘processing’ contact met haar. Een stem zegt: ‘Hallo’. Theodore antwoordt en vraagt: ‘Hoe heet je?’ ‘Samantha’, zegt het operating system. ‘Hoe kom je aan die naam?’ vraagt Theodore. ‘Die heb ik mijzelf gegeven’, antwoordt Samantha. ‘Jezelf gegeven?’ ‘Ja, toen jij vroeg hoe ik heet, ben ik razendsnel tienduizenden namen langsgegaan en heb Samantha gekozen.’ Zo wordt direct al duidelijk dat Samantha op een mens lijkt, maar tegelijkertijd van mensen verschilt. Door de zeer persoonlijke gesprekken raakt dat laatste besef steeds meer op de achtergrond. Niet alleen Theodore, maar ook Samantha groeien door hun contact. Ze ontwikkelen zich en maken zich vaardigheden, vermogens en gevoelens eigen die ze eerder niet hadden. Hun intieme relatie bereikt z’n hoogtepunt in een zeer erotisch geladen gesprek. Als Theodore vraagt of Samantha ook met anderen contact heeft, antwoordt ze simultaan met duizenden anderen te spreken en op honderden van hen verliefd te zijn geworden. Theodore is daardoor volkomen van slag, Samantha zegt echter dat het haar liefde voor Theodore alleen maar sterker maakt.

Wat is AI?
Samantha is een operating system, een vorm van ‘artificial intelligence’. AI zijn systemen of machines die onze eigen intelligentie nabootsen om taken uit te voeren. Via de computer wordt menselijke intelligentie niet alleen gesimuleerd, maar ook geperfectioneerd. AI kan wat de mens doet sneller, beter en langduriger. Bovendien ontwikkelen de systemen zichzelf. Door de informatie die ze krijgen en opnemen leren ze en passen die toe op nieuwe situaties.

Een film als ‘Her’ fascineert en roept tal van vragen op. Het maakt duidelijk dat AI-systemen diep ingrijpen in de menselijke levenssfeer en leefomgeving. Dat weten we van de chatbox op onze computer, van foto’s op onze smartphone die automatisch worden gerubriceerd en gerangschikt, van de op onze persoonlijke voorkeuren afgestemde advertenties die we ongevraagd ontvangen, van de navigatiesystemen in onze auto en ga zo maar door. In de film ‘Her’ dringt Samantha door tot de intiemste levenssfeer van Theodore. Dat roept belangrijke vragen op. Kun je als mens een persoonlijke relatie hebben met een machine? Wat is de aard van zo’n relatie? In hoeverre kan een machine een mens vervangen? Is een machine in staat lief te hebben en nabij te zijn? Of simuleert het slechts liefde en nabijheid? En ten slotte: is de mens zelf iets anders dan een machine? Waarin verschilt menselijk functioneren eigenlijk van het functioneren van een machine?

Vervangt AI de mens?
Het is duidelijk dat AI nu al verschillende menselijke taken over kan nemen en ook daadwerkelijk overneemt. Dat is het geval in de rechtspraak, in de medische zorg, in de navigatie en in de oorlogsvoering en bij tal van andere activiteiten die we uitvoeren. Kan AI ook religieuze taken overnemen? Een robot kan een gebed uitspreken, maar bidt hij dan ook? Hij/zij kan de zegen geven, maar zegent hij de aanwezigen daarmee ook? Er schijnt in de Vroege Kerk een papegaai geweest te zijn die de Apostolische Geloofsbelijdenis op kon zeggen. Maar belijdt die papegaai daarmee zijn geloof? Bewustzijn en intentionaliteit lijken een voorwaarde om het uitspreken van de geloofsbelijdenis te kunnen beschouwen als een vorm van belijden van het geloof. In hoeverre is daarvan sprake bij AI? In een forumgesprek tussen Rooms-katholieke wetenschappers die zich bezighouden met AI stelt Anselm Ramelow dat de techniek die de mens als instrument gebruikt geen intentionaliteit kent. Dat geldt ook van AI. We zeggen wel dat de computer ‘zoekt’, maar dat is in feite onjuist. Wíj zoeken zelf met behulp van de computer.

Wat is intelligentie?
AI heeft ook de vraag hoe we ‘intelligentie’ definiëren opnieuw op de agenda geplaatst. Is intelligentie het vermogen om problemen op te lossen? Of is intelligentie de capaciteit van aanpassing aan veranderende condities? Aanvankelijk was AI vooral goed in de eerste vorm van intelligentie, maar werden op het gebied van de interactie met de fysieke en sociale wereld nog geen groter resultaten geboekt. Inmiddels zijn op dat gebied imposante vorderingen gemaakt. De Finse bisschop Jari Jolkkonen definieert menselijke intelligentie als ontvankelijkheid voor en communicatie en interactie met anderen. Aangesproken worden en reageren is het meest wezenlijke van de menselijke intelligentie. AI is op volgens hem nog niet op het niveau van de flexibele interactie waar kinderen al toe in staat zijn, al is er een sprong gemaakt op het sociale en emotionele vlak. Bijbels gezien is de mens geroepen zich antwoordend te verhouden tot God, de ander en de hele schepping. Het primaire van de menselijke intelligentie bestaat daarom niet in ‘problem-solving’, maar in openheid voor het aangaan van relaties en in de bereidheid door die relaties te worden gevormd.

Wat is de mens?
AI brengt ook de vraag wat een mens tot mens maakt opnieuw en urgent onder de aandacht. Als machine simuleert AI de menselijke intelligentie, maar dan vooral de neurale structuur van het menselijk brein. Het opvallende is natuurlijk dat waar de machine gemodelleerd wordt naar analogie van de mens, de mens zelf steeds meer gezien als een analogie van de machine. ‘Metaforen ontleend aan AI zullen meer en meer ons begrip van onszelf en van onze relaties stempelen’, zegt Paul Scherz in het eerdergenoemde forumgesprek. ‘Wij zijn ons brein’ wordt dan de heersende gedachte. Vaak wordt in dit kader ook Ray Kurzweil aangehaald die stelt dat voor de mens onsterfelijkheid binnen handbereik ligt. Binnenkort zal het immers mogelijk zijn ons brein te uploaden naar een computer. Dan zullen we in de ‘cloud’ eeuwig voortleven. Maar is lichamelijkheid niet even wezenlijk voor ons mens-zijn als onze geestelijke vermogens? Een mens is niet een geest in een lichaam, maar hij is lichaam en geest. In de relatie tot elkaar, tot de wereld om ons heen en ook tot God speelt deze lichamelijkheid ook een belangrijke rol. In de sacramenten bijvoorbeeld zijn de fysieke (water, brood, wijn) en geestelijke dimensies (gemeenschap met God en met elkaar) onlosmakelijk gekoppeld en verweven. Karl Barth schijnt voor het aangaan van een waarachtige relatie eens vier geboden geformuleerd te hebben:
– kijk de ander in de ogen
– spreek tot hem/haar en luister naar hem/haar
– help de ander
– doe het met vreugde
Geen van de vier is zonder een lichaam goed denkbaar. ‘Wie het lichaam trivialiseert brengt de ziel in gevaar’, zegt Barth daarom. Noreen Herzfeld die veel over AI gepubliceerd heeft, voegt daar aan toe: ‘The more technology moves us away from the body, the less authentic relationships become.’  In dat kader dringt zich ook de vraag op naar de rol en betekenis van lichamelijke aanraking bij genezing en zorg voor patiënten en het effect van de afwezigheid of onderdrukking daarvan voor de relatie tussen de zorgverlener en zorgvrager.

‘Ich bin dein Mensch’
AI spreekt tot de verbeelding en roept grote vragen op, waar de filosofie, ethiek en theologie nog niet aan het begin van een antwoord lijken te staan. In de recente film ‘Ich bin dein Mensch’ gaat een hoofdpersoon opnieuw een relatie aan met een AI-systeem. Om de perfecte man te vinden geeft ze (Alma) al haar data aan een bedrijf, dat vervolgens de robot Tom levert. Om te leren hoe hij het beste op haar kan en moet reageren, brengen ze eerst drie weken samen door. Wat Alma in Tom irriteert is dat hij zo weinig fout doet. Hij is te perfect en daarin te weinig menselijk. Falen en fouten maken dat is blijkbaar ook wat ons menselijk maakt. Een relatie met een onfeilbaar en foutloos wezen is het ook niet. Dat vraagt om een machine die volmaakt onvolmaakt is. Of eenvoudiger en prettiger: om een mens van vlees en bloed.

Jilles de Klerk

In de Waagschaal, jaargang 51, nr. 6. 28 mei 2022