Hoe slim (of eng) is 'kunstmatige intelligentie' nu echt?

Een Boeing die zichzelf spontaan in de aarde boort. Zelfrijdende auto’s die ongeluk na ongeluk veroorzaken. Zorgrobots waardoor bejaarden geen mens meer zien. Gaat het wel goed met al die zogenaamde Artificiële Intelligentie? Voor weekblad Panorama maakte Luuk Koelman een serie van negen interviews met zijn broer Vianney, professor aan de Technische Universiteit Eindhoven. Dit is aflevering 3.

Foto’s: Paul Tolenaar

Vianney Koelman (1961) is professor aan de Technische Universiteit Eindhoven en daarnaast verbonden aan het nationale instituut voor fundamenteel energieonderzoek DIFFER. Daarvoor was hij Chief Scientist bij Shell en adviseerde als zodanig het hoogste management. Hij en zijn studenten zetten machine learning in bij hun onderzoek naar duurzame energietechnologie voor de toekomst.

"De kreet kunstmatige intelligentie is enkel een marketingterm voor een stukje computerwetenschap"

Zeg broer, het lijkt wel alsof computers het leven overnemen. Begint die ‘kunstmatige intelligentie’ niet een beetje eng te worden?
Mensen denken bij kunstmatige intelligentie en termen als ‘machine learning’ direct aan series als Westworld. Of aan Arnold Schwarzenegger in Terminator. Maar ach, wat is nu ‘intelligentie’?

De wereldkampioen schaken verliest de ene pot na de andere van de computer. Dát noem ik intelligentie!
Dat ben ik niet met je eens. Ik ben een belabberde schaker, maar toch zal ik nooit verslagen worden door een schaakcomputer. Ik word wél verslagen door een persoon. Namelijk door de persoon die een specifiek gereedschap in handen heeft; die schaakcomputer.

Dat is flauw.
Nou vooruit, een beetje flauw. Maar het is conceptueel gezien wel belangrijk! Die computer is niet eens in staat me uit te dagen voor een schaakpartij; alleen een mens kan een potje beginnen. Ik hoor vaak: “Wat dacht die computer?” Computers denken niet. We kennen een computer vaak menselijke eigenschappen toe. Maar dan begaan we dezelfde fout die een peuter maakt als hij denkt dat zijn Furby een levend wezentje is.

Maar een computer beschikt toch over kunstmatige intelligentie?
Nee. Kunstmatige intelligentie bestaat niet. De kreet ‘kunstmatige intelligentie’ is niet meer dan een marketingterm voor een stukje computerwetenschap. Het complexe verschijnsel in onze hersenen dat wij in het dagelijkse leven ‘intelligentie’ noemen, daar begrijpen wij nog steeds niets van, laat staan dat we het kunstmatig kunnen oproepen.
Een computer – of noem het een robot of desnoods een neuraal netwerk – is enkel een gereedschap. Stel, ik heb een motorzaag en werk daarmee een enorme boom tegen de vlakte. Is die boom dan geveld door die motorzaag of door mij? Door mij natuurlijk, want zonder mij doet die motorzaag niets. Het is enkel een gereedschap. En als die zaag opeens breekt en daardoor in mijn arm snijdt, dan roep ik niet: “Die zaag viel mijn arm aan!” Aan een zaag kennen we geen menselijke eigenschappen toe. Ook geen kennis of intelligentie. Aan een computer of een robot moet je dat dus ook niet doen. Heeft een computer soms een vrije wil? Gaat een robot straks bedenken dat hij de mens helemaal niet nodig heeft? Hoezo gaat ie wat ‘bedenken’? Het is een gereedschap! Tenzij je natuurlijk vindt dat een motorzaag zichzelf ook van alles in het hoofd kan halen.

Als ik in mijn auto stap, beslist toch ook een computer (TomTom, Waze, Google Maps) hoe ik van A naar B rijd? In alle eerlijkheid: soms weet ik niet eens waar ik ben. ‘Het systeem zegt dat ik linksaf moet…’ Die gedachte. Alsof het een mens is.
Dan gebruik je het gereedschap, dat navigatiesysteem, dus niet goed. Je moet van tevoren weten welk antwoord er ongeveer uit gaat komen. Als je naar een plaats in Groningen moet en TomTom stuurt je naar het zuiden – bijvoorbeeld omdat twee dorpen dezelfde naam hebben – dan is het wel de bedoeling dat je ingrijpt. Jíj blijft verantwoordelijk. Als de navigatie jou een voetgangersgebied in laat rijden, is dat jouw fout. Je moet zelf opletten. Jij beslist, en jij stuurt.

Maar wat nu als mijn auto zelfsturend is?
Zo’n auto heeft inderdaad een zekere autonomie. Een zelfsturende Tesla kan zonder menselijk inmenging best wel veel, maar je kunt aan die wagen in de verste verte geen eigen wil toekennen. Net zomin als dat die TomTom een eigen wil heeft. Het is nog steeds gewoon een auto. Ook in een zelfrijdende auto beslis jij wat de bestemming wordt, maar voor het bepalen van de gedetailleerde route gebruik je een gereedschap, een algoritme. Het klopt dus dat onze gereedschappen steeds meer autonomie krijgen. Ze kunnen steeds meer zonder menselijk ingrijpen.

Precies dat bedoel ik! In Estland worden rechtszaken tot een bedrag van 7.000 euro door een robotrechter beslecht. Door een algoritme.
Nee, de uitspraak wordt gedaan door een persoon (een rechter) die (als gereedschap) een computer gebruikt, voorzien van een rechtspraakalgoritme. En ik mag hopen dat er altijd een hoger beroep mogelijk is. Dat algoritme is veel meer bedoeld om de bulk aan cases weg te werken. Oftewel een stuk gereedschap dat de rechtelijke macht ondersteunt.
Het is dus niet zo dat rechters door computers worden vervangen. Nee, rechters worden vervangen door rechters die met computers werken. En zo gaat het altijd. Ingenieurs met een rekenliniaal werden vervangen door ingenieurs met een rekenmachine. En ingenieurs met een rekenmachine werden vervangen door ingenieurs met een laptop. De mens wordt bijvoorbeeld niet vervangen door een heftruck, maar door een méns met een heftruck. We noemen iets een robot, maar het is een stuk gereedschap.

Maar er zijn genoeg experts die waarschuwen voor de gevaren van kunstmatige intelligentie. Science fiction zou zomaar realiteit kunnen worden.
Onzin. Zoals ik al zei, kunstmatige intelligentie bestaat niet. Het is slechts een marketing term. We hebben het altijd over Artificiële Intelligentie (AI), maar die woorden kun je beter vervangen door ‘Autonome Instrumenten’. Dat geeft dezelfde afkorting, dus wel zo makkelijk. Als je dat doet, klinken veel uitspraken ineens heel vreemd. De zin “wat nu als artificiële intelligentie straks besluit om…” leest opeens heel mal als er staat: “wat nu als een autonoom instrument straks besluit om…” Wat ik maar zeggen wil: het is de term ‘Artificiële Intelligentie’ die angst inboezemt en de fantasie op hol doet slaan. Er kleeft dus ook een taalkundige component aan.

En die experts dan?
Het gevaar waarop experts doelen, is niet zozeer zelfbewustzijn in computersystemen, maar wel dat er fouten kunnen sluipen in het design van complexe computersystemen. Fouten in de programmatuur zelf, maar ook fouten die kunnen ontstaan vanuit de bergen data waarmee deze systemen gevoed worden. Daardoor kunnen bijzonder ongewenste neveneffecten optreden. Die systemen zullen dus uitgebreid getest moeten worden.

En die Boeing 737 Max dan? Die stortte neer omdat de boordcomputer opeens besloot dat er lager gevlogen moest worden.
Die boordcomputer maakte geen fout. Maar hij was wel fout geprogrammeerd. Een computer doet enkel datgene wat hem is opgedragen. Niets meer, niets minder. Trouwens, merk je dat? Nu praten wij ook al over die boordcomputer alsof het een persoon is die zomaar iets besluit. Maar dat is dus niet zo. Zoals ik al eerder zei: kunstmatige intelligentie bestaat niet. Menselijke stupiditeit wel.

Nou, lekker dan. Zo wordt het leven er niet bepaald veiliger op!
Daar heb je volgens mij de hamvraag te pakken: zijn bijvoorbeeld zelfrijdende auto’s straks veiliger dan auto’s die door mensen bestuurd worden? Dáár gaat het om. Stel, een automobilist krijgt een hartaanval. Hij raakt van de weg en schept een moeder met een kinderwagen. Vreselijk! Maar niemand zal die bestuurder iets kwalijk nemen, toch? Maar stel dat het geen mens, maar een computer was geweest die de auto bestuurde. Dan zou iedereen schande spreken van de fabrikant die het waagde met dergelijke ondeugdelijke technologie de weg op te gaan.

En terecht, zou ik zeggen.
Maar wat nu als aangetoond is dat menselijke chauffeurs veel meer dodelijke ongelukken veroorzaken dan zelfrijdende auto’s? Dan zou je rationeel gezien toch moeten besluiten dat je een zelfrijdende auto prefereert boven een auto die door een mens wordt bestuurd? Bovendien wordt er geleerd van fouten, systemen verbeteren daardoor. De zelfrijdende auto wordt door elk ongeluk uiteindelijk weer een beetje veiliger. Terwijl mensen achter het stuur gewoon dezelfde fouten als altijd blijven maken.
Maar je hebt gelijk; autonome systemen kúnnen schade aanrichten. Aan de andere kant: ik denk dat mensen autonome systemen juist heel graag willen. We willen allemaal gemak en luxe, en die systemen bieden dat. Als ik een goede robotstofzuiger kan kopen, nou graag! Dat prefereer ik boven zelf stofzuigen. Maar… die stofzuiger kent het verschil niet tussen een stukje vuil en een diamanten oorbel. Ik wel. De robot zuigt gewoon alles op. Ik niet. Ook iets om over na te denken.

Geen angsten verder?
Iedereen snapt dat een motorzaag een stuk minder autonoom is dan een zelfrijdende auto, maar als je bang bent dat een robot of een neuraal netwerk een eigen wil gaat krijgen, dan moet je ook bang zijn voor je thermostaat. Dat ding doet ook autonoom van alles. Wat nu als die thermostaat op hol slaat en ons gaat ‘koken’? We zijn vertrouwd met het idee van de thermostaat: een heel simpel schakelingetje is dat ik je zo kan uitleggen. Een neuraal netwerk is moeilijker uit te leggen, maar ook dat is in feite niets anders dan een complexe thermostaat. Wanneer zou zo’n complexe thermostaat nu zo complex worden dat het een eigen wil krijgt? Nooit. Het risico dat een thermostaat of een neuraal netwerk zich tegen de mens keert, is nul.
Het kan wél zo zijn dat door alle complexiteit zo’n netwerk een foute uitkomst uitpoept. En er dus een vliegtuig uit de lucht komt vallen. Maar dan heeft de ‘artificiële intelligentie’ zich niet tegen de mens gekeerd. Hooguit zou je kunnen zeggen dat de ‘menselijke stupiditeit’ zich tegen ons keerde.

De overige 8 afleveringen uit deze serie vind je hier.