Bij het toeslagenschandaal werd pijnlijk duidelijk hoe geautomatiseerde besluitvorming op basis van data en algoritmen tot schending van mensenrechten kan leiden. Zo werden vele Nederlanders slachtoffer van racisme en discriminatie door de Belastingdienst. Maar ook andere overheidsinstanties en overheden maken gebruik van algoritmes, zonder dat mensenrechten voldoende gewaarborgd worden. Daar brengt deze motie verandering in.
Tweede Kamerlid Kauthar Bouchallikht (GroenLinks): “Het is eigenlijk absurd dat deze mensenrechtentoets niet veel eerder werd toegepast, de overheid moet iedereen gelijkwaardig behandelen. Dat zou ook het minste moeten zijn in het gebruik van geautomatiseerde besluitvorming via algoritmen. Het gaat namelijk te vaak nog mis, met alle gevolgen van dien.
Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties heeft deze mensenrechtentoets ontwikkeld. De toets helpt ambtenaren om een afweging te maken of een algoritme al dan niet ingezet wordt, en zo ja, hoe dat op een verantwoorde manier te doen. Het gebruik van deze toets wordt vanaf nu bindend.