Recruiters in de wereld van vandaag gebruiken filtersystemen die worden aangedreven door kunstmatige intelligentie (AI), die naar verluidt “algoritmisch discrimineert” tegen mensen op basis van hun ras, geslacht, taal en religie.

Yeliz Bozkurt Gumrukcuoglu, een professor in privaatrecht aan de Ibn Haldun Universiteit in Istanbul, vertelde aan Anadolu Agency dat techgiganten zoals Meta, Google en Amazon bekend staan om het gebruik van dergelijke tools, omdat deze automatische filtertools tijdsefficiëntie opleveren.

Gumrukcuoglu zei dat er sprake is van “algoritmische discriminatie” wanneer de gegevens waarop de AI is getraind al vooroordelen bevatten tegen bepaalde groepen, waardoor er ongunstige beslissingen tegen hen worden genomen.

De vooroordelen van degenen die deze tools ontwikkelen dragen ook bij aan de oneerlijkheid van AI-gestuurde werving en selectie, zei Gumrukcuoglu, en als gevolg daarvan, zo betoogde ze, komen aanzienlijk minder gekleurde mensen en vrouwen door de AI-filtering.

Ze zei dat deze kwestie tot nu toe het onderwerp is geweest van meerdere rechtszaken in veel landen, voor het eerst naar voren gekomen in een zaak met betrekking tot Amazon.

“Amazon ontwikkelde zijn wervingsalgoritme met de data getraind door de kandidaten die in de afgelopen tien jaar werden aangenomen, de meeste van hen waren mannen. En toen het in gebruik werd genomen, werden vrouwelijke kandidaten er direct uitgefilterd,” zei ze.

“Facebook heeft op dezelfde manier zijn discriminerende filtering doorgedrukt die in 2018 als een zaak in de VS naar voren kwam, en de Deense overheid heeft het sociale mediaplatform om dezelfde reden een administratieve boete opgelegd”, voegde ze eraan toe.

Over muziek en kapsels

Maar daar houdt het niet op, want Gumrukcuoglu merkte op dat sommige kandidaten door wervingsalgoritmes werden geweigerd omdat ze een traditioneel zwart kapsel hadden, in regio's woonden waar zogezegd veel immigranten wonen of zelfs omdat ze naar bepaalde artiesten en muziekgenres luisterden.

Ze zei dat ontwikkelaars en bedrijven die deze wervingsfiltertools gebruiken de mensenrechten en waarden in acht moeten nemen en dat de bevoegde autoriteiten en overheden de ethische schendingen nauwlettend in de gaten moeten houden.

“De EU heeft bijvoorbeeld besloten om een verordening in te voeren over het risico dat AI op dit gebied wordt gebruikt,” zei ze

Ze merkte op dat een wereldwijde toezichthouder op het gebruik van AI bij het werven van banen nodig kan zijn om discriminatie te voorkomen.

“Zolang onze gegevens niet goed worden beschermd, komt onze digitale voetafdruk in handen van bedrijven en kan deze dus worden gebruikt om ons te beoordelen, omdat we niet langer alleen op onze cv's worden beoordeeld. Dat is ook het geval in Turkije,” zei ze.

“Filteralgoritmen moeten transparanter worden en verantwoording afleggen voor hun beslissingen, dus er liggen twee keuzes voor ons:

Laten we AI zich zo snel ontwikkelen als nu, of trappen we een beetje op de rem en gaan we langzaam vooruit in een ethisch kader? We zullen het antwoord de komende tijd zien,” voegde ze eraan toe.