Gerben Stavenga stookt in zijn laatste boek, De creatie van zelfbewuste machines, de discussie op over de ontwikkeling van kunstmatige intelligentie. Hij doet dat niet als doemdenker die waarschuwt voor het onheil dat dergelijke machines de mensheid zullen aandoen, met name wanneer ze gebruikt worden voor militaire doelen, voor economische exploitatie en voor politieke machtsontplooiing. Die gevaren kent hij uiteraard, maar niettemin kijkt hij onbekommerd in een andere richting. Hij volgt de mensen in hun vermogen om de ontwikkeling van kunstmatige intelligentie zover te brengen dat we ooit zullen kunnen spreken van zelfbewuste machines. Bij ‘intelligente machines’ kan je nog denken aan puur rationele handelingen, zoals rekenen en logische redeneringen. Maar bij ‘zelfbewuste machines’ gaat het om meer. Ze kunnen nadenken over zichzelf en over de wereld en ze kunnen er taal voor vinden, ze kunnen de mensen en hun wereld in zich op te nemen en ze kunnen er zich toe verhouden in een bewuste relatie, ze hebben benul van machtsverhoudingen en ook van intimiteit en hun bewustzijn is gebaseerd op een gezond besef van zelfstandigheid en zelfvertrouwen.

De eerste reactie op dit boek is verbijstering. Waar is dit gedachte-experiment goed voor?  Wanneer het stof van de opwinding enigszins is gedaald, kijkt het antwoord je recht in het gelaat. Het is niet alleen ergens goed voor, het is levensnoodzakelijk. Het geeft namelijk de criteria aan voor de bouw van dergelijke machines. Kort gezegd: de machine moet ten dienste staan van de humaniteit. Ze kan dus niet destructief zijn, maar moet creatieve kracht hebben, ze kan niet gericht zijn op de ondermijning van de gemeenschap, maar moet helpen om gemeenschap te vormen en ze kan niet bedoeld zijn om mensen te overheersen, maar om ze vrij te maken.  Wanneer deze criteria worden losgelaten, waren dergelijke machines rond als ongerichte projectielen en zijn de gevolgen rampzalig. Dus, terwijl overal ter wereld koortsachtig gewerkt wordt aan de ontwikkeling van artificiële intelligentie, probeert Gerben Stavenga de ethische grenzen aan te geven en dan niet door de ontwikkeling af te remmen, maar door haar op te voeren tot grote hoogte.  Hoe intelligenter, des te beter – als die intelligentie maar menselijk is. Aldus stookt hij de discussie op, niet met retorische gedachtesprongen, maar – zoals hij zelf zegt – met ‘strenge’ gedachtegangen.

Intussen springen bij mij de gedachten ongegeneerd op. De filosoof Gerben Stavenga verwacht veel van mensen als hij hen in staat acht om machines te bouwen die veel op henzelf lijken. Is dat geen overmoed? Ik zou als theoloog liever zeggen: het is precies de creativiteit die aan de mens gegeven is! Vanaf de eerste bladzij van de Schrift verschijnt de mens als een wezen dat gemaakt is om beeld van God te zijn, dat wil zeggen om op menselijke wijze te doen wat God doet. Mensen moeten ervoor zorgen dat er op aarde voor alles wat leeft genoeg licht, lucht en voedsel is. Diezelfde mensen krijgen bovendien het vermogen om menselijke wezens voort te brengen, ‘naar hun eigen beeld’ (Genesis 5:3). Van dergelijke productieve mensen mag je dus wel wat verwachten. Mensen met zulk leven scheppend vermogen, kunnen ongetwijfeld fantastische machines maken. En die zijn zeker niet bedoeld voor de aardigheid. Ze zullen heel slim moeten zijn, omdat het onderhoud van de wereldwijde samenleving steeds meer intelligentie vergt.

Natuurlijk valt er veel af te dingen aan de fantasie dat een dergelijke machine werkelijk een kloon van een mens zou kunnen zijn. Het blijft een artefact. Menselijk zelfbewustzijn is een groot woord voor zo’n machine. Menselijk bewustzijn kan zich niet ontwikkelen buiten vlees en bloed om, en het kan niet gedacht worden zonder emoties en zonder een driftleven. En kan een machine lijden en deelnemen aan het lijden van anderen? Mijn indruk is dat het communicatieve ‘zelfbewustzijn’, waarvan in dit boek sprake is, toch slechts een variant is van rationele intelligentie, maar dan wel op een hoog niveau.

De meest benauwende gedachte die me bespringt, is dat zelfbewuste machines altijd ook de negatieve sporen zullen dragen van hun ontwerper, de mens. Hoe vind je mensen die zo niet een onfeilbaar, dan toch een ‘rechtvaardig’ artefact voortbrengen?  Een onbevlekte ontvangenis zit er niet in en zeker geen maagdelijke geboorte. De crux zit, zoals altijd, in de macht van het kwaad. Het boek van Gerben Stavenga biedt geen recept tegen dat kwaad, maar het scherpt wel het geweten aan om de criteria voor zelfbewuste machines geen moment uit het oog te verliezen.

Maarten den Dulk

Gerben Stavenga, De creatie van zelfbewuste machines: De mogelijkheid van kunstmatig zelfbewustzijn in historisch perspectief, Eburon 2021. ISBN 978 94 6301 370 3.

In de Waagschaal, jaargang 51, nr. 6. 28 mei 2022