Nieuwe publicatie over de invloed van (uitlegbare) AI op oordeelsvorming van politieagenten

Verandert de oordeelsvorming van politieagenten door AI gegenereerde aanbevelingen, zoals predictive policing systemen? In een recent gepubliceerd artikel laten onderzoekers Friso Selten (Universiteit Leiden), Marcel Robeer (Universiteit Utrecht & Nationaal Politielab AI) en  Stephan Grimmelikhuijsen (Universiteit Utrecht) zien dat politieagenten hun intuïtieve professionele oordeel volgen, zelfs wanneer een voorspellend AI systeem een aanbeveling doet dat hier tegenin gaat. Het systeem wordt alleen vertrouwd wanneer deze het eigen professionele oordeel bevestigd, zelfs wanneer een AI-aanbeveling wordt ondersteund door uitlegbare AI (XAI).

Meer information over dit onderzoek, de methodologie en conclusies zien hier te vinden