Het algoritme kan een aanzienlijke tijdsbesparing opleveren voor het ministerie, waardoor er meer visumaanvragen efficiënt kunnen worden verwerkt. Zonder het systeem zouden er enkele tientallen extra medewerkers nodig zijn om de aanvragen handmatig te beoordelen. Bovendien zou het algoritme mogelijk objectiever zijn dan menselijke beoordeling, wat kan leiden tot eerlijkere beslissingen.

Discriminatie

De AP heeft echter ernstige bedenkingen bij het gebruik van het algoritme. Een belangrijk punt van zorg is het risico op discriminatie op basis van bijvoorbeeld nationaliteit. Hoe kan de kans op misbruik van een visum op basis van dergelijke gegevens worden berekend? Waar is de rechtvaardiging voor het gebruik van deze gegevens in het besluitvormingsproces?

Onterecht risicovol

Roept het gebruik van profileringssoftware in de visumaanvraagprocedure ongelijke behandeling op en leidt het mogelijk zelfs tot discriminatie? Het verhaal van Saadia in de NRC op 23 april 2023, toont de problemen met het huidige systeem. Saadia is een Marokkaans-Nederlandse vrouw uit Purmerend die een visum wilde regelen voor haar tante, zodat zij bij de geboorte van haar kind aanwezig zou kunnen zijn. Saadia kreeg onmogelijk een afspraak met VFS Global, het bedrijf dat voor de Nederlandse overheid digitaal visumaanvragen wereldwijd verwerkt. Ze werd van het kastje naar de muur gestuurd, wat suggereert dat het algoritme haar aanvraag mogelijk onterecht als risicovol heeft bestempeld.

Transparantie nodig

Het ministerie dient een grondige evaluatie uit te voeren van het algoritme en de onderliggende methoden om mogelijke discriminatie of ongelijke behandeling te identificeren. Indien dergelijke problemen worden vastgesteld, moeten er aanpassingen worden gedaan om dit te voorkomen. Daarnaast moet het ministerie transparanter zijn over het gebruik en de werking van het algoritme. Alleen zo kan er beter toezicht worden gehouden en kunnen de rechten van visumaanvragers worden beschermd.

Grondrechten beschermen

Het instellen van een moratorium op profileringssoftware is op zijn plaats: het benadrukt het belang van transparantie, zorgvuldige evaluatie en toezicht op dergelijke technologieën. Hoewel er voordelen zijn, zoals snellere verwerking en verbeterde objectiviteit, moeten we de grondrechten van individuen beschermen. Het tijdelijk opschorten van het gebruik van de profileringssoftware biedt tijd om een evenwichtige benadering te ontwikkelen. Op deze manier kunnen we het potentieel van zulke technologieën benutten, zonder in te boeten aan privacy en rechtvaardigheid voor alle betrokkenen.