- Vooroordelen in big data leiden tot vooroordelen in beslissingen
- Kan KI de gerechtelijke achterstand terugdringen en rechtszaken versnellen?
- KI helpt met verlagen van juridische kosten
- Chatbot helpt met het zetten van juridische stappen
- De automatisering van de rechtspraak – goede of kwalijke zaak?
Dat veel rechtssystemen in de wereld inefficiënt zijn is een understatement. En overvolle gevangenissen, gerechtelijke achterstand en overbelaste pro-deo-advocaten zijn maar een paar voorbeelden van waar het wereldwijd op juridisch gebied aan schort. Het kan bijvoorbeeld twee jaar duren voordat rechtbanken in Duitsland een beslissing nemen met betrekking tot een asielaanvraag. En in de VS zitten ongeveer 2,3 miljoen mensen in de gevangenis – dat zijn meer mensen per hoofd van de bevolking dan waar ook ter wereld. Bovendien zijn ongeveer 540.000 van deze gedetineerden nog niet eens veroordeeld. In Europa is de situatie iets beter. Volgens een recent rapport van de Raad van Europa daalde het percentage van inhechtenisneming in Europa tussen 2016 en 2018 met 6,6 procent. Maar als we het per land bekijken zien we dat gevangenissen in bijvoorbeeld Italië en Frankrijk nog steeds overvol zitten. Dit toont aan dat veel rechtsstelsels wereldwijd nog steeds niet efficiënt genoeg zijn en autoriteiten kiezen er dan ook steeds vaker voor om kunstmatige intelligentie in te zetten.
Er worden bij juridische zaken verschillende soorten op KI gebaseerde software gebruikt. Sommige KI-systemen maken schattingen van de kans dat een persoon een misdrijf herhaalt en helpen rechters bij het vaststellen of weigeren van borgtocht. Andere beslissen over geschillen met kleine schadegevallen. Advocaten maken gebruik van KI om hun klanten efficiënter van dienst te kunnen zijn. Bovendien zijn er slimme chatbots die ‘de gewone man’ kunnen helpen met het creëren van gratis juridische documenten waarmee langzaam maar zeker een eind komt aan de forse bedragen die we juridische professionals hiervoor betalen. Maar naast de vele voordelen van kunstmatige intelligentie in de rechtspraak zijn er ook potentiële duistere kanten en blijft het een kwestie waarover de meningen uiteenlopen.
Vooroordelen in big data leiden tot vooroordelen in beslissingen
Neem bijvoorbeeld de algoritmes voor criminele risicobeoordeling die voorspellingen doen over de kans op (herhaling van) crimineel gedrag. De software wordt gevoed met historische data over criminaliteit waarmee aangetoond kan worden dat arme mensen of mensen in bepaalde buurten meer geneigd zijn tot crimineel gedrag. Hoewel correlatie niet hetzelfde is als oorzaak, kan een hoge risicoscore een rechter bijvoorbeeld doen besluiten een borgtocht te weigeren en een verdachte in afwachting van zijn of haar strafzaak in voorarrest te houden. Dit kan verstrekkende gevolgen hebben voor de verdachte, die bijvoorbeeld zijn of haar baan kan verliezen en zich vervolgens tot criminaliteit wendt om toch aan geld te komen – waardoor de bestaande vooringenomenheid verder wordt versterkt.
Bovendien weten we niet eens hoe algoritmen voor risicobeoordeling precies werken. In 2013 werd Eric Loomis, een gedaagde in een schietzaak, in Wisconsin veroordeeld tot zes jaar gevangenisstraf, onder andere gebaseerd op een algoritme dat risico op herhaling voorspelde. Deze uitspraak werd later aangevochten, op grond van het feit dat zijn advocaten die risicobeoordeling op geen enkele manier konden weerleggen. Het verzoek om (de werking van) het algoritme van het techbedrijf Equivant (voorheen Northpointe) te onderzoeken werd echter van de hand gewezen op grond van het feit dat dit bedrijfsgeheimen zou onthullen. Het Amerikaanse Hooggerechtshof weigerde Loomis’ zaak te behandelen, liet het vonnis van de lagere rechtbank in werking treden en de man ging achter slot en grendel. Zelfs als de rechters de aanbeveling van het algoritme niet hadden opgevolgd, brengt deze ontwikkeling toch een hele nieuwe reeks problemen met zich mee. Dory Reiling, voormalig rechter in Amsterdam en eigenaar van KeI-IT Civiel, het digitaliseringsprogramma van de rechtspraak, vertelt dat “Zodra mensen kunstmatige intelligentie beginnen te gebruiken, verwachten ze dat de uitkomsten daadwerkelijk voorspellen wat de juryleden gaan doen. En dus als rechters niet volgens de verwachtingen van de kunstmatige intelligentie werken, zal dit een legitimiteitsprobleem voor de rechtbank zijn”.
Maar ondanks de onvolkomenheden biedt kunstmatige intelligentie veel voordelen. In tegenstelling tot rechters, worden op algoritmen gebaseerde beslissingen niet beïnvloed door verkiezingen, voetbalwedstrijden of het weer. Simulaties van machine learning-beleid tonen ook aan dat slimme algoritmen misdaadcijfers tot 24,8 procent kunnen terugdringen zonder veranderingen in de percentages van inhechtenisneming of dat ze de gevangenispopulatie met wel 42 procent kunnen verminderen zonder toename van criminaliteitscijfers. En doordat men crimineel gedrag met KI beter kan voorspellen, kan het rechtsstelsel middelen efficiënter inzetten en de gerechtelijke achterstand verminderen.
Kan KI de gerechtelijke achterstand terugdringen en rechtszaken versnellen?
Er wordt in de juridische sector al op verschillende manieren van kunstmatige intelligentie gebruikgemaakt. Advocaten gebruiken KI bijvoorbeeld voor tijdrovende onderzoeks- en revisiedocumenten waardoor juniormedewerkers zich bezig kunnen houden met belangrijkere taken. In rechtszalen maken rechters gebruik van softwareoplossingen die snel en eenvoudig toegang bieden tot een database van eerdere rechtszaken. Techbedrijven zijn bezig met de ontwikkeling van algoritmen die de resultaten van strafrechtelijke processen voorspellen. En hoewel algoritmen met name gebruikt worden voor het inschatten van misdaadrisico’s is de wereldwijde legaltech KI-markt aan een duidelijke opmars bezig. Sterker nog, als gevolg van de vraag van zowel de publieke als de private sector zal deze markt tegen 2026 naar schatting een waarde van $37,85 miljard bereiken.
Het ministerie van Justitie in Estland is een van de instellingen die het potentieel van KI met betrekking tot het terugdringen van de gerechtelijke achterstand heeft erkend. Het ministerie heeft Ott Velsberg, de 28-jarige chief data officer van het land, opgedragen software te ontwikkelen voor het oplossen van kleine geschillen zoals het in de VS en Canada voorkomende Small Claims Court, waar rechters, slachtoffer en daders zonder advocaten of andere rechtshulpverleners bij elkaar komen. De bedoeling is dat twee partijen documenten en andere relevante informatie uploaden, waarna KI de informatie analyseert en een beslissing neemt. Als de partijen niet tevreden zijn met de uitspraak van de ‘robotrechter’, kunnen ze alsnog naar een menselijke rechter stappen. Velsberg hoopt dat de eerste pilot – met een focus op contractgeschillen – in 2019 gelanceerd kan worden. Na feedback van rechters en advocaten kan de software eventueel worden aangepast.
Een rechtbank in Shanghai gebruikt kunstmatige intelligentie op een hele andere manier. De No. 2 Intermediate People’s Court maakt gebruik van de 206 System-software die op spraakopdrachten reageert en relevante informatie weergeeft op digitale schermen in een rechtszaal. De software wordt ook gebruikt om gerechtelijke procedures te transcriberen en biedt rechters toegang tot dossiers en procesverslagen. “Het kan de rechter tijdens het proces helpen om feiten vast te stellen en bewijsmateriaal te vinden. Bovendien kan het ervoor zorgen dat ‘het recht om te vervolgen’ en ‘het recht op een eerlijke uitspraak’ beschermd wordt en dat schuldigen terecht worden gestraft en onschuldigen niet aan een strafrechtelijk onderzoek worden onderworpen”, zegt Guo Weiqing, de president van de rechtbank in Shanghai.
Het Openbaar Ministerie van de Verenigde Arabische Emiraten is ook van plan om KI te gebruiken in het rechtsstelsel van het land. Hoewel details over deze plannen niet bekend zijn, hebben de procureur-generaal dr. Hamad Al Shamsi en de staatssecretaris van kunstmatige intelligentie Omar Al Olama onlangs hun samenwerking op dit gebied geïntensiveerd door personeel te op te leiden met betrekking tot het gebruik van de nieuwste technologieën op juridisch gebied. Het land beschikt ook over nieuwe digitale rechtszalen waar getuigen, advocaten of aanklagers uit de hele wereld aan een hoorzitting kunnen deelnemen.
KI helpt met verlagen van juridische kosten
Burgers en bedrijven zullen vooral blij zijn met het feit dat robotadvocaten hen veel geld kunnen besparen. Met de robotadvocaat LISA (Legal Intelligence Support Assistant) kunnen mensen bijvoorbeeld zelf verschillende juridische documenten produceren. Advocaten in het Verenigd Koninkrijk rekenen bijvoorbeeld tussen $2.600 en $13.000 voor een commercieel lease-document, maar dankzij de LISA-software kunnen die kosten met wel 90 procent omlaag. Het programma kan gebruikers ook helpen bij het opstellen van juridisch bindende geheimhoudingsovereenkomsten, residentiële huurovereenkomsten en huurovereenkomsten die worden gebruikt door makelaars, managementfirma’s, verhuurders, landmeters, investeerders en andere bedrijven.
Ook het Nederlandse technologiebedrijf SemLab heeft indrukwekkende software ontwikkeld met de naam Juribot. Deze eerste Nederlandse kunstmatig intelligente jurisprudentie-zoekmachine maakt gebruik van natuurlijke taalverwerking, computationele linguïstiek en KI-technologieën om relevante data uit juridische documenten te verzamelen, begrijpen en structureren. De informatie wordt in real time aangevuld met informatie uit algoritmes. Juribot werkt door het invoeren van een zoekterm, waarna je alle juridische documenten en relevante wetsartikelen met deze term te zien krijgt. Je kunt ook zoeken op rechter, advocaat, instantie of wetsartikel. Met Juribot kun je kenmerken van aanklagers of daders bekijken, gegevens van vrijspraken en veroordelingen inzien of de advocaat van de wederpartij opsporen. Als je de zoekresultaten verder wilt verfijnen kun je specifieke opties aanvinken – zoals bijvoorbeeld wel of geen causaal verband, bewijsuitsluiting, of een verdachte die bekent of ontkent. Je kunt ook in chatvorm zoeken – je stuurt je vraag dan via een tekstvenster in. Juribot is vooral praktisch voor strafpleiters omdat de software kan “inschatten welke advocaat – bij welke rechtbank en voor welk type overtreding – de meeste kans heeft om een vrijspraak te krijgen”. Het systeem is momenteel in bètatest en bevat alle publieke jurisprudentie voor strafrecht en gerelateerde rechtsgebieden. SemLab hoopt overige rechtsgebieden binnenkort toe te voegen.
Chatbot helpt met het zetten van juridische stappen
Mocht je onterecht een parkeerboete gekregen hebben of komt je pakketbezorger veel te laat – dan kan de gratis KI-chatbot DoNotPay je helpen om hier met een druk op de knop iets tegen te doen. De chatbot genereert officiële brieven die je kunt afdrukken, ondertekenen en naar de rechtbank sturen. DoNotPay is ontworpen door Joshua Browder, die beweert dat met zijn software binnen twee jaar maar liefst 375.000 parkeerboetes aangevochten zijn. Met het DoNotPay-systeem, dat in het Verenigd Koninkrijk en in 50 staten van de VS in gebruik is, kun je honderden juridische problemen aanvechten. Hoewel Browder momenteel niets verdient met zijn app, vertelt hij dat hij in de toekomst mogelijk wel zal rekenen voor meer gespecialiseerd juridisch advies.
Ook het advocatenkantoor Norton Rose Fulbright uit Australië maakt gebruik van een KI-chatbot – Parker – om mensen te helpen geld te besparen. Advocaten factureren klanten vaak zelfs voor het beantwoorden van simpele vragen als “Hoe ga ik om met een datalek?” Maar dankzij Parker kun je nu eerst informatie ontvangen waarmee je kunt beslissen of je überhaupt juridische hulp nodig hebt. Mocht dat inderdaad het geval zijn kun je een van Parker’s drie pakketten met juridisch advies kopen. In de eerste 24 uur na de lancering van de chatbot werd er voor maar liefst $10.700 aan pakketten verkocht.
De manier waarop Norton Rose Fulbright Parker gebruikt illustreert waarom KI in advocatenkantoren steeds populairder wordt. De chatbot bespaart zowel het bedrijf als klanten een hoop tijd en geld door basisinformatie te verstrekken en mensen naar de juiste advocaat te verwijzen. Chatbots kunnen advocaten bovendien helpen analyseren in welke juridische onderwerpen mensen het meest geïnteresseerd zijn. Met deze inzichten kan het bedrijf waardevolle websitecontent creëren en meer potentiële klanten aantrekken.
De automatisering van de rechtspraak – goede of kwalijke zaak?
Niet in alle gevallen heeft het niet optimaal functioneren van een algoritme verstrekkende gevolgen. Een irrelevante advertentie in je newsfeed is bijvoorbeeld geen reden tot paniek. Maar wanneer een onschuldig persoon door toedoen van een fout in een algoritme in de gevangenis terechtkomt is dat natuurlijk een hele andere kwestie. Het is duidelijk dat geavanceerde technologieën ons kunnen helpen met het creëren van een efficiënter juridisch systeem, maar het antwoord ligt niet in het “met kunstmatige intelligentie ‘verwerken’ van grote hoeveelheden mensen. Dat is het tegenovergestelde van rechtvaardigheid”, zegt Song Richardson, de decaan van de University of California-Irvine School of Law.
In het geval van voorspellende rechtspraak is het cruciaal dat algoritmen zich houden aan belangrijke principes zoals respect voor mensenrechten en non-discriminatie. KI-hulpmiddelen moeten toegankelijk en begrijpelijk zijn en onderworpen (kunnen) worden aan externe audits. En om ervoor te zorgen dat iedereen een eerlijk proces krijgt, moeten zowel advocaten als rechters worden getraind in het gebruik van deze nieuwe technologie. De juridische uitdagingen van vandaag zijn slechts een glimp van de toekomst waarin kunstmatige intelligentie alle facetten van ons leven zal doordringen. De manier waarop we met deze technologie omgaan heeft een levensveranderende invloed op zowel de huidige als toekomstige generaties.
