Gepubliceerd op 26 juni 2019 categorieën Litigation
Vorige week schreef ik een blog over regulering van algoritmes,
Afhankelijk van bijvoorbeeld het domein waar een (zelf)lerend algoritme wordt toegepast, is een mogelijke vorm van regulering het verbieden. Zojuist las ik dat in maart er al een dergelijk verbod, of eigenlijk breder, in Frankrijk van kracht is. En het is niet een terrein waar ik het verwacht had, hoewel ik in 2014 in een WODC rapport over Big Data wel heb aangegeven dat het iets is waar we over moeten nadenken, of en in hoeverre we dat willen.
“Het monitoren van de werkzaamheden van rechters moet met de nodige terughoudendheid worden toegepast,..Big Data analysis opent de mogelijkheid om allerhande conclusies te verbinden aan bijvoorbeeld de toetsaanslagen, internetgebruik of de wijze waarop een vonnis geconcipieerd wordt zoals al dan niet gebruik makend van standaardteksten of stukken uit eerdere vonnissen. Aan gedrag gerelateerde activiteiten monitoren en analyseren past goed binnen de mogelijkheden van Big Data… De mogelijkheden tot in detail allerhande eigenschappen en kwaliteiten van een rechter bloot te leggen dienen zich aan, maar is enkel toelaatbaar als nagedacht is over het probleem waarvoor de analyse wordt ingezet en het doel dat met de gegevensverwerking beoogd wordt”
Dit ging dan over analyse binnen de rechterlijke macht zelf. Het volgende ging ook over mogelijke externe analyses:
“In Nederland is het niet ondenkbaar dat de sociale achtergrond van partijen en verdachten mogelijk ongewild en onbewust meespelen in de oordelen van de rechter. De vraag is of en hoe gepreciseerd (naar rechter) er behoefte aan dergelijke informatie is en wederom moet hier over de wenselijkheid van dergelijke informatie worden nagedacht.”
In Amerika wordt al vrij lang geanalyseerd welke zaak het beste bij welke rechter op welk moment kan worden aangebracht. Rechter A (beter niet onrechtmatige daad op maandagmorgen) Rechter B (maandag en vrijdag gunstig voor domeinnaamhouder), etc. Ik dacht toen nog dat eventuele regulering niet voor bedrijven zou gelden:
“De hierboven aangegeven terughoudendheid ten aanzien van de analyse van informatie rond rechterlijke uitspraken zal voor bedrijven die zich hier op richten niet opgaan. De verbanden die blootgelegd worden zouden bezwarend of compromitterend kunnen zijn.”
In Frankrijk is dat nu dus wel zo. Het is een misdrijf waar 5 jaar op staat:
It is now a criminal offence to ‘evaluate, analyse, compare or predict’ the behaviour of individual judges.
De aanleiding voor deze regelgeving is geweest:
This new harsh regulation was triggered in part by the use of machine learning to compare the behaviour of judges in asylum cases – a study which found great discrepancies among individual justices.
Zie verder deze blog Research on Judges van Malcolm Langford, Mikael Rask Madsen: https://verfassungsblog.de/france-criminalises-research-on-judges/
Deze blog is automatisch geïmporteerd uit een oudere versie van deze website. Daarom is de lay-out mogelijk niet perfect.
