Rechtvaardige algoritmes

Selectie-algoritmes worden steeds vaker gebruikt, bijvoorbeeld bij het werven van nieuwe medewerkers. Het voordeel is dat een algoritme zich volledig richt op het resultaat en enkel beslist op basis van gegevens. Maar het kan ook leiden tot ongelijke kansen doordat bepaalde groepen vaker niet en anderen weer frequenter wel worden geselecteerd. Onder meer het Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA) en het Toetsingskader Algoritmes, proberen dit te ondervangen met procedures en het bij twijfel weglaten van bepaalde gegevens.

Het weglaten van bepaalde informatie lijkt een voor de hand liggende oplossing, zo stellen de onderzoekers, maar in de praktijk heeft het niet altijd het gewenste effect. Het onderzoek van het CPB laat zien dat een representatieve selectie mogelijk is door daarop te sturen, door aan te geven welk aandeel een bepaalde groep krijgt.

In het onderzoek is gekeken naar de toelating tot de studie geneeskunde. Een data-gedreven model is effectiever dan een loting: het aantal studenten dat binnen 6 jaar afstudeert ligt op deze manier 10% hoger dan bij loting. Een verschil van 300 extra basisartsen per jaar. De onderzoekers gebruikten hiervoor een methode waarbij, om ondervertegenwoordiging van bijvoorbeeld studenten met een migratieachtergrond te voorkomen, hun aandeel in de selectie wordt bijgestuurd.

Het onderzoek Rechtvaardige Algoritmes laat zien dat het kan: algoritmes gebruiken voor representatieve selectie. Dat vraagt wel keuzes. Zorg je dat er aandacht is voor de achtergrond van iemand of kijk je bijvoorbeeld naar gender? En wat is de gewenste mate van representativiteit? Ook moet er overeenstemming zijn over welke uitkomst het meest relevant is. Is het bijvoorbeeld belangrijk dat iemand binnen 6 jaar afstudeert, of juist dat iemand als arts gaat werken?
Die keuzes blijven mensenwerk want er bestaan geen objectief juiste antwoorden. Bij het opzetten van het selectie-algoritme moet daarover overeenstemming komen. Pas dan kan de effectiviteit van een selectie-algoritme worden gecombineerd met representativiteit van de selectie.

Het CPB hoopt dat de uitkomsten van het onderzoek onderdeel worden van het huidige instrumentarium om algoritmes te reguleren.