Rechtsprekende computers?

Donderdagmiddag mochten luisteraars bij BNR een uur lang vragen stellen over rechtsprekende computers. Samen met Pim Haselager, een AI specialist (was erg prettig dit samen te doen met iemand die echt verstand van AI heeft), heb ik antwoorden gegeven. Het is een mooi programma concept, dat leidt tot een enerverende uitzending. Voor wie wil naluisteren, dat kan hier. Hieronder een tekst over het onderwerp rechtsprekende computers, ontleend aan wat ik een jaar of 10 terug schreef voor studenten Kunstmatige Intelligentie.

In 1991 verscheen de oratie van Jaap van den Herik getiteld ‘Kunnen computers rechtspreken?’ Deze vraag is een dankbaar onderwerp voor discussie. In de tweede druk van het Nederlandse handboek “Informatietechnologie voor juristen” (2002) is er een hoofdstuk aan deze vraag gewijd. Van den Herik geeft daarin aan dat er weliswaar nog enkele obstakels zijn, maar dat deze binnen een jaar of 50 wel overwonnen zullen zijn. Zijn collega Hans Franken, een jurist, heeft zijn twijfels en stelt dat computers wel bijzonder nuttig zijn, maar enkel als ondersteunend instrument. Deze laatste visie is gemeengoed, zowel bij juristen als informatici. 

In het onderzoek op het terrein van Kunstmatige Intelligentie en Recht zijn rechtsprekende computers door de meeste onderzoekers al in de jaren tachtig afgedaan als niet realiseerbaar. Eerder, met name in de jaren zeventig en begin jaren tachtig, waren er onderzoekers die na het succes van medische expertsysteem Mycin meenden dat als je de artikelen van wetboeken in een expertsysteem zou stoppen, deze op alle mogelijke rechtsvragen onderbouwde antwoorden kon geven. Dit viel erg tegen. Wat maakt het nou zo moeilijk het recht te automatiseren? [De huidige AI, met name zelflerende systemen, is mogelijk beter in staat dan de hier besproken expertsystemen. Lastig is wel rechtvaardiging, door Haselager toegelicht in de uitzending als “Explainable AI”]

Een van de problemen is het verschil tussen exacte wetenschappen en juristen in hoe naar bewijs wordt gekeken. In de wiskunde kun je een stelling bewijzen. In het recht bestaat het concept ‘dwingend bewijs’, wat prima facie een overtreffende trap lijkt van bewijs, maar ook als pleonasme kan worden gezien. In art. 151 Rv is te lezen: “Dwingend bewijs houdt in dat de rechter: (1) verplicht is de inhoud van bepaalde bewijsmiddelen als waar aan te nemen dan wel (2) verplicht is de bewijskracht te erkennen die de wet aan bepaalde gegevens verbindt” Tot zover is er niet veel aan de hand. In het tweede lid staat vervolgens: “Tegenbewijs, ook tegen dwingend bewijs, staat vrij, tenzij de wet het uitsluit.” Dit is typerend voor juridisch redeneren. Je denkt dat het allemaal duidelijk is en dan komen er uitzonderingen (tegenbewijs) en daar ook weer uitzonderingen op (tenzij de wet het uitsluit). Het is niet de gemakkelijkste materie om te modelleren.

 

Een ander voorbeeld betreft tuinhekjes. In een streek in Engeland was bepaald dat het, om mij niet bekende redenen, verboden was om een tuinhek te hebben. Over de zin van een dergelijke bepaling kun je twijfels hebben, maar hij is glashelder. In aanvulling hierop was echter ook bepaald dat wanneer je wel een hek had, deze dan groen geschilderd moest zijn. In de logica is het lastig aan te geven dat er een verplichting geldt als een verboden situatie zich voordoet.

 

Een ander aspect is de retorica. Zoals Protagoras het mooi uitdrukte: “Elke zaak heeft twee kanten, vertel mij uw kant en ik win de zaak voor u”. Juridische beweringen worden gestaafd aan de hand van retoriek en die laat zich lastig vangen. Er wordt wel voorgesteld dat computers kunnen rechtspreken in eenvoudige gevallen en dat de lastige gevallen aan mensen overgelaten moeten worden. Dit is tot op zekere hoogte mogelijk. In voorkomende gevallen zal de computer na invoer van de feiten met een juridisch verdedigbare uitspraak kunnen komen. 

Echter, hoe eenvoudig de oplossing van een zaak ook moge zijn, voor er een beslissing kan worden genomen zullen in de eerste plaats de feiten moeten worden vastgesteld aan de hand van de in hoofdzaak door partijen aangevoerde weergave hiervan. Dit is alleen anders wanneer partijen het over de feiten eens zijn, wat doorgaans niet het geval is. Na reconstructie van de casus moeten de voor de beslissing relevante feiten worden geselecteerd. De eerste stap (reconstrueren casus) is problematisch voor een computer en vormt een wezenlijk onderdeel van het rechtspreken. Ook de tweede stap (selectie van relevante feiten) is voor een computer niet eenvoudig, hoewel minder lastig omdat wanneer de feiten zijn vastgesteld er sprake is van een gesloten verzameling. In het geval dat de feiten ‘matchen’ met de voorwaarden van de in de computer opgenomen regels, hoeven de feiten niet juridisch geclassificeerd te worden. 

Wanneer na de eerste twee stappen de computer op basis van door mensen ingevoerde gegevens tot een uitspraak komt, kan dit niet echt rechtspreken door de computer worden genoemd. Een essentieel onderdeel is immers door de menselijke invoerder gedaan (het waarderen en selecteren van de feiten en waarschijnlijk ook classificeren). 

Het ligt niet voor de hand dat de taak van de invoerder ooit geautomatiseerd zal worden. Dit veronderstelt immers dat een computer kan lezen, luisteren en ook nog kan begrijpen wat er gezegd en geschreven wordt. Een dergelijke technologische sprong voorwaarts is niet snel te verwachten. 

Een laatste probleem is de beslissing zelf. Rechtspreken is in de regel meer dan het eenvoudigweg relateren van feiten aan bestaande regels. En hier wringt de schoen waarschijnlijk het meest. Juristen hebben een rechtsgevoel en dit speelt een grote rol bij het nemen van beslissingen. Het oplossen van een casus gebeurt vrijwel nooit door het expliciet toepassen van regels. Dat veelal de rechtvaardiging van de beslissing bestaat uit het toepassen van regels doet hier niet aan af. In de eerste plaats omdat niet in alle gevallen bestaande regels kunnen worden toegepast, maar nieuwe regels of interpretaties van bestaande regels worden gebruikt. In de tweede plaats omdat niet in alle gevallen de beslissing volgt uit een bestaande of nieuwe regel. 

Stel dat computers in de toekomst wel kunnen lezen en luisteren, creatief zijn en zelfs een rechtsgevoel hebben (ontwikkeld). Dan kunnen computers rechtspreken. Een rechtsprekende computer voegt dan niet echt iets toe, behalve dat de werkdruk maximaal kan worden opgevoerd: computers worden nooit moe. Theoretisch gezien zou dit betekenen dat het onderzoek naar Kunstmatige Intelligentie en Recht een eindpunt heeft bereikt. Op het moment dat een computer precies dat kan doen wat een mens kan, in dit geval een rechter, is Kunstmatige Intelligentie, in ieder geval qua resultaat, gelijk geworden aan intelligentie. 

Ik denk niet dat het ooit zover komt, maar wil het niet uitsluiten. Tot die tijd zal de mens de computer een handje moeten helpen en blijft de computer niet meer dan een nuttig hulpmiddel.