VUB-onderzoek: AI kan ongelijkheid versterken

Artificiële intelligentie wordt vaak gezien als een krachtig hulpmiddel dat ons leven verbetert, van smartphones tot wervingsalgoritmen, maar er zijn ook zorgen rond vooringenomenheden (bias) in de systemen. Onderzoekers van de VUB wijzen nu op een dieperliggend probleem: die bias is niet zomaar een technisch mankement, maar wordt beïnvloed door maatschappelijke machtsdynamieken.

Dat zit zo: AI wordt getraind met historische gegevens, en die zijn al gevormd door menselijke vooroordelen. De systemen nemen dus die discriminatie over en verspreiden ze verder. AI creëert met andere woorden geen ongelijkheid, maar reproduceert en versterkt ze eerder.

Mannen en migranten

“Onze studie belicht pertinente voorbeelden waarin AI bestaande vooroordelen heeft versterkt”, zegt professor Tuba Bircan van het Brussels Institute for Social and Population Studies (BRISPO). “Een opvallend voorbeeld is het AI-gestuurde wervingshulpmiddel van Amazon, dat mannelijke kandidaten bevoordeelde en zo genderongelijkheid op de arbeidsmarkt versterkte.”

Bircan verwijst ook naar AI-systemen van de overheid voor fraudedetectie, die ten onrechte gezinnen, met name migranten, beschuldigt van fraude, met ernstige gevolgen voor de betrokkenen.

“Die voorbeelden tonen aan dat AI, in plaats van vooroordelen te elimineren, discriminatie kan versterken als er geen controle en transparantie is”, zegt ze. “Zonder verantwoordelijkheid en transparantie loopt AI het risico een instrument te worden dat bestaande sociale hiërarchieën verstevigt in plaats van ze uit te dagen.”

Inclusiviteit centraal

Het onderzoek benadrukt dat AI-beheer verder moet reiken dan techbedrijven en ontwikkelaars. Omdat alles afhangt van data die door gebruikers worden gegenereerd, moeten transparantie en inclusiviteit centraal staan in het ontwerp van de technologie en de regulering ervan.

Ondanks de uitdagingen biedt de studie ook hoop. “In plaats van de tekortkomingen van AI als onvermijdelijk te accepteren, pleiten we in ons werk voor proactieve beleidsmaatregelen en kaders die ervoor zorgen dat AI sociale rechtvaardigheid bevordert in plaats van ondermijnt”, zegt Bircan. “Door eerlijkheid en verantwoordelijkheid vanaf het begin in AI te verankeren, kunnen we het potentieel ervan benutten voor positieve verandering, in plaats van het te laten bijdragen aan systemische ongelijkheden.”