Logo Universiteit Utrecht

ALGOPOL: Research into Value-Sensitive and Transparent Algoritmization in the Police

Nieuws

Vertrouwen in de politie vergroten: onderzoek draagt bij aan de Intelligent Crime Reporting tool van de Nationale Politie

Recent heeft dit onderzoeksproject direct bijgedragen aan het verfijnen van het gebruik van de Intelligent Crime Reporting (ICR) tool van de Nationale Politie. Deze directe toepassing van de resultaten van het onderzoek kan bijdragen aan het versterken van het vertrouwen van burgers in het gebruik van algoritmen door de politie.

Algoritmische beslissingen uitleggen

In het eerste onderzoek binnen het ALGOPOL-project wilden we het effect van algoritmische verklaarbaarheid op het vertrouwen van burgers bepalen. Hoe kan de politie het vertrouwen van burgers in haar Intelligent Crime Reporting (ICR) tool versterken? Promovendus Esther Nieuwenhuizen onderzocht samen met het Utrecht Policelab AI deze vraag. Dr. Stephan Grimmelikhuijsen en prof. dr. Floris Bex begeleidde het onderzoek.

Intelligent Crime Reporting

De Intelligent Crime Reporting tool is een slim besluitvormingssysteem van de Nederlandse politie. Het systeem gebruikt algoritmen om meldingen van online handelsfraude, zoals nepwebwinkels, te beoordelen. Door middel van een experiment hebben we getest hoe verschillende soorten verklaringen het vertrouwen van de burger in de beslissingen van de ICR-tool beïnvloeden.

Het geven van specifieke motivaties vergroot het vertrouwen aanzienlijk

Esther Nieuwenhuizen: “De resultaten van ons onderzoek laten zien dat een rechtvaardigingsverklaring – een motivering voor de specifieke beslissing van de ICR-tool – een inhoudelijk positief effect had op vertrouwen. Een procedurele verklaring – informatie over hoe het algoritme tot zijn beslissing kwam – alleen had een klein positief effect.” Op basis van deze bevindingen heeft de politie Esther gevraagd om de aanbevelingen in praktijk te brengen.

Impact creëren bij de politie

Esther herschreef alle beslissingen van de ICR-tool waarin burgers wordt afgeraden hun zaak te melden. In elk geval voegde ze een rechtvaardigingsverklaring toe om de gebruiker te laten zien waarom het geen geval van online fraude is. Bijvoorbeeld omdat de door hen opgegeven webshop in het politiesysteem als “betrouwbaar” wordt vermeld of omdat de persoon niet lang genoeg heeft gewacht voordat aangifte kan worden gedaan.

Voordat deze wijzigingen waren aanbracht (met de eerdere originele uitleg gegeven door de ICR-tool), koos 72% van de mensen die het advies kregen om geen aangifte te doen, toch voor aangifte. Het geven van een motivering kan dit percentage terugbrengen tot 9,4%, zoals blijkt uit het experiment. Nieuwenhuizen: “De komende maanden zullen we leren of de uitkomsten in de praktijk net zo wezenlijk zijn als de resultaten van ons experimenteel onderzoek. Hopelijk helpt het herschrijven van de uitleg in het besluitvormingssysteem bij het opbouwen van vertrouwen bij gebruikers van de ICR-tool.”

Het vertrouwen van burgers behouden

Dit onderzoek leverde waardevolle nieuwe inzichten op over hoe het vertrouwen in algoritmen bij de politie kan worden versterkt. Gezien het toenemende gebruik van algoritmen door de politie zal het ALGOPOL-onderzoeksteam verder onderzoek doen naar de bewering dat waardegevoelige en transparante algoritmisering nodig is om ervoor te zorgen dat publieke organisaties, zoals de politie, het vertrouwen van burgers behouden.

Lees meer