Veel – zo niet de meeste – Nederlanders zullen het uitgangspunt onderschrijven dat discriminatie moreel verwerpelijk is. Discrimineren betekent letterlijk ‘het maken van onderscheid’. Iemand die discrimineert, maakt een onderscheid tussen elementen, objecten of eigenschappen. De term discriminatie heeft in de juridische context een specifieke betekenis. Iemand die discrimineert maakt een ongerechtvaardigd onderscheid met als gevolg dat gelijke gevallen ongelijk worden behandeld. Discriminatie is o.a. verboden op grond van artikel 1 van de Grondwet. In de praktijk wordt het verbod op discriminatie in Nederland niet in alle gevallen nageleefd. In veel gevallen wordt het in artikel 1 van de Grondwet neergelegde gelijkheidsbeginsel geschonden.
Discriminatie lijkt een permanent sociaal verschijnsel te zijn. Men is op basis van morele en juridische gronden niettemin verplicht om de gevallen van discriminatie zoveel mogelijk te beperken. Er moet–zij het binnen redelijke grenzen – worden gezocht naar methoden waarmee discriminatie effectief kan worden bestreden. Vandaag de dag beschikt men over nieuwe methoden om discriminatie te bestrijden. In de afgelopen jaren heeft de ontwikkeling van artificiële intelligentie (AI) een sneltreinvaart doorgemaakt, AI kan worden ingezet in de strijd tegen discriminatie.
AI kan, met het oog op de bestrijding van discriminatie, worden ingezet tijdens het maken van beleid. AI kan beleidsanalyses, zogenaamde ‘risk assessments’ en effectenanalyses uitvoeren. Het is de vraag hoe de inzet van AI precies verschilt van de inzet van het gebruikelijke denkwerk van vlees en bloed. Het spreekt voor zich dat men hoopt op betere resultaten. Men wil beslist niet dat de inzet van AI leidt tot een toename, in plaats van een afname van het aantal gevallen van discriminatie. Dat zou de omgekeerde wereld zijn.
Het kwaad is echter al geschied. Uit onderzoek blijkt dat AI in staat is tot discriminatie. In de gezondheidszorg wordt bijvoorbeeld regelmatig door AI-algoritmen gediscrimineerd. In het gevangeniswezen worden gedetineerden, bij de beoordeling van recidivegevaar, regelmatig gediscrimineerd door AI-algoritmen. In het bedrijfsleven worden sollicitanten regelmatig gediscrimineerd door AI-algoritmen. Zelfs AI-algoritmen in zelfrijdende auto’s blijken in staat te zijn tot discriminatie.
Het feit dat de inzet van AI kan leiden tot een toename van het aantal gevallen van discriminatie, roept een aantal fundamentele vragen op. Zijn wij wel in staat om AI te ontwerpen die volledig doet wat wij willen? Is AI feilbaar, in die zin dat AI (nog) enige gelijkenis vertoont met de mens? Het is belangrijk dat antwoorden op dergelijke vragen worden gevonden. Het is in ieder geval van belang dat men blijft zoeken naar antwoorden, want daadkracht is op z’n plaats. Wij zijn tot deze zoektocht verplicht als wij voor een samenleving staan waarin de gelijkwaardigheid van elk individu het uitgangspunt is, in een dergelijke samenleving is geen plaats voor discriminatie en alle gevolgen van dien.
Written by: Hannes Brown