Leesfragment

Hoe zwaar is licht

  • 23 februari 2017
  • 3m

Fragment uit Hoe zwaar is licht. Meer dan 100 dringende vragen aan de wetenschap, samengesteld door Beatrice de Graaf en Alexander Rinnooy Kan. In Hoe zwaar is licht beantwoorden de beste wetenschappers uit Nederland – jong, oud, gevestigd, aanstormend, alfa, bèta, gamma – meer dan honderd belangrijkste en meest sprekende vragen aan de wetenschap.

Kunnen computers het wetboek interpreteren

Bart Custers

Computers die rechtspreken zijn de laatste decennia al vaker onderzocht, vooral om uitkomsten van rechtszaken te kunnen voorspellen. In de Verenigde Staten worden rechters van het Amerikaanse Hooggerechtshof voorgedragen en benoemd door de president, waardoor ze een politieke kleur hebben. Wanneer er belangrijke uitspraken worden verwacht, is er veel speculatie in de media en door experts of de rechters uitspraak doen in lijn met hun politieke kleur of juist met een verrassende uitspraak komen. De uitspraken kunnen betrekking hebben op allerlei verschillende onderwerpen, zoals belastingrecht, milieurecht, discriminatie, patenten, vrijheid van meningsuiting of strafrecht. Het Hooggerechtshof bestaat uit negen rechters en de uitkomst van een rechtszaak wordt door de meerderheid bepaald.

In 2004 organiseerde de Amerikaanse professor Theodore Ruger een wedstrijd om te kijken wie de uitspraken van het Amerikaanse Hooggerechtshof het beste kon voorspellen: een computer of een team van experts. De computer kreeg als input alle uitkomsten van alle rechtszaken die behandeld waren in het voorgaande jaar. Op basis van ruim 600 zaken werd een model gemaakt dat de uitkomst van nieuwe uitspraken moest voorspellen. Het team van experts bestond uit 83 gerenommeerde rechtenprofessoren en ervaren advocaten. Zowel de computer als de experts moesten voorspellen wat elke individuele hoge rechter zou beslissen en welke meerderheid er zou ontstaan.

Het resultaat was verbluffend. Als het aankwam op het stemgedrag van de individuele rechters voorspellen, deden de computer en de experts het ongeveer even goed, maar bij het voorspellen van de uitkomst van een rechtszaak versloeg de computer de experts met gemak. Het voorspellen van wat negen rechters samen doen, bleek zo lastig voor de experts dat ze nauwelijks in staat waren de uitkomst correct te voorspellen, terwijl de computer met gemak behoorlijk goede voorspellingen kon doen. Bij de rechters met een uitgesproken ideologie herkenden de experts snel welke kant het uitging, maar bij gematigde rechters hadden experts moeite de juiste uitkomst te voorspellen, terwijl de computer toch patronen wist te ontdekken.

In 2014 kwamen professor Daniel Katz en zijn team met een sterk verbeterd model waarvoor bijna 8000 rechtszaken van de afgelopen 60 jaar als input waren gebruikt. Dit model was onafhankelijk van de politieke en economische factoren van het moment. Ook was rekening gehouden met het feit dat rechters soms worden vervangen door andere rechters en met het punt dat sommige rechters in de loop der tijd ideo­logisch opschuiven. In 2016 publiceerden Britse en Amerikaanse wetenschappers ook een accuraat voorspelmodel voor het Europese Hof voor de Rechten van de Mens.

Uiteraard kijken deze voorspelmodellen niet naar de inhoud van een zaak zoals juristen dat doen. De modellen maken geen morele of juridische afwegingen. Ethische beginselen en het interpreteren van wetteksten spelen geen directe rol. De computer kijkt alleen maar naar statistische verbanden, naar welke factoren voorspellen dat een rechter een bepaalde uitspraak doet. Toch kunnen computers inmiddels ook al aardig wetten en regels inhoudelijk interpreteren.

Technologiebedrijf IBM ontwikkelde de supercomputer Watson, die in spreektaal gestelde vragen kan interpreteren en het antwoord kan geven na het raadplegen van een verzameling encyclopedieën, boeken, tijdschriften, wetenschappelijke artikelen en websites. In 2011 mocht Watson deelnemen aan de tv-quiz Jeopardy, waarin deelnemers het antwoord krijgen en daarbij zelf de correcte vraag moeten stellen. Watson mocht spelen tegen de twee beste spelers uit de geschiedenis van het programma. Een van hen wist in de eerste ronde nog gelijk te spelen tegen Watson, maar daarna werden alle rondes door de computer gewonnen. Watson lijkt erg op de boordcomputer van het ruimteschip Enterprise in Star Trek: als de bemanningsleden aan de computer een vraag stellen, kan de computer de vraag begrijpen en een antwoord geven. Dat was ooit sciencefiction, maar bestaat dus al.

Watson is een voorbeeld van kunstmatige intelligentie. De computer wordt gevoed met grote hoeveelheden gegevens en voorzien van software die patronen kan herkennen. Soms wordt wel gedacht dat wetboeken veel exacter moeten worden gespecificeerd in axioma’s en definities wil het voor computers mogelijk zijn om ze te interpreteren, maar dat is niet nodig als er grote hoeveelheden gegevens beschikbaar zijn: de computer kan dan zelf op basis van context zulke de­finities en interpretaties onderscheiden. Overigens is dat bij rechters en rechtswetenschappers niet anders, ook zij geven voortdurend nadere duiding aan allerlei juridische begrippen en wetsartikelen.

Computers die wetboeken kunnen interpreteren, kunnen allerlei voordelen opleveren. Uitspraken worden mogelijk consistenter (en dus eerlijker) en minder afhankelijk van emoties, vooroordelen en andere sub­jectieve factoren – ook een rechter kan een slechte dag hebben. Bovendien wordt het recht toegankelijker, sneller en goedkoper. De gevolgen hiervan zijn in de Verenigde Staten al te zien: door de technologische ontwikkelingen neemt de werkgelegenheid voor juristen de afgelopen jaren aanzienlijk af.

Er zitten echter ook nadelen aan computers die wetboeken interpreteren. Zo blijft er de kans op vergissingen. Computers kunnen verkeerde conclusies trekken, bijvoorbeeld wanneer ze worden gevoed met vertekende informatie. Zulke vergissingen kunnen zeer ernstig uitpakken, bijvoorbeeld wanneer een onschuldige toch wordt veroordeeld. Dat kan bij menselijke rechters ook gebeuren, maar die zullen waarschijnlijk eerder de menselijke maat in ogenschouw nemen. Alleen al om die reden zullen rechters niet snel door computers worden vervangen. Een ander nadeel is dat interpretaties door computers altijd plaatsvinden op basis van gegevens uit het verleden, terwijl maatschappelijke normen en waarden in de loop der tijd kunnen veranderen. Menselijke rechters zijn veel beter in staat om rekening te houden met maatschappelijke ontwikkelingen en daarin mee te bewegen.

Kunnen computers wetboeken interpreteren? Het antwoord is ja. Dat was ooit ondenkbaar, maar de techniek is inmiddels zeer vergevorderd. Echter, daarmee zijn deze computers weliswaar intelligente machines, maar nog geen ethische beoordelaars. Gelet op de voordelen worden computers die wetboeken interpreteren steeds meer gebruikt als hulpmiddel voor juristen. Maar vanwege de risico’s is het onwaarschijnlijk dat ze op termijn rechters zullen vervangen.

 

Bart Custers is associate professor en hoofd onderzoek van eLaw, het centrum voor recht en digitale technologie van de Universiteit Leiden. Hij heeft een achtergrond in rechten en technische natuurkunde en is expert op het gebied van recht en digitale technologie. Hij schreef boeken over onder meer profiling, privacy en discriminatie in Big Data, het gebruik van drones en het gebruik van bitcoins bij het witwassen bij cybercrime. Hij presenteert zijn werk op internationale congressen in de Verenigde Staten, China, Japan, het Midden-Oosten en Europa. Hij publiceerde meer dan honderd artikelen in wetenschappelijke tijdschriften, vakbladen en kranten.


Nieuws

Leesfragment ‘smoeder’ van Maria Goos

Je hebt een boek in je handen dat op een bijzondere manier tot stand is gekomen. Het zijn de aantekeningen van een dochter die rouwt om haar overleden moeder. Die dochter ben ik. De aantekeningen zijn uit 1985-1986, het eerste jaar na de dood van mijn moeder. Ik was toen negenentwintig jaar en met haar dood werd ik wees. Ik …

Lees verder