Nieuw VUB-onderzoek onthult hoe kunstmatige intelligentie ongelijkheid kan versterken

De onderzoekers dagen de wijdverspreide opvatting uit dat AI-bias een technisch mankement is. In plaats daarvan stellen ze dat AI diepgaand wordt beïnvloed door maatschappelijke machtsdynamieken. AI leert van historische gegevens die gevormd zijn door menselijke vooroordelen en neemt deze discriminatie over en verspreidt ze verder. Dit betekent dat AI niet zozeer ongelijkheid creëert, maar ze eerder reproduceert en versterkt.

“Onze studie belicht pertinente voorbeelden waarin AI bestaande vooroordelen heeft versterkt,” zegt professor Bircan. “Een opvallend geval is Amazons AI-gestuurde wervingshulpmiddel, dat mannelijke kandidaten bevoordeelde en zo genderongelijkheid op de arbeidsmarkt versterkte. Evenzo hebben door de overheid gebruikte AI-systemen voor fraudedetectie ten onrechte gezinnen, met name migranten, beschuldigd van fraude, met ernstige gevolgen voor de betrokkenen. Deze voorbeelden tonen aan dat AI, in plaats van vooroordelen te elimineren, discriminatie kan versterken als er geen controle en transparantie is. Zonder verantwoordelijkheid en transparantie loopt AI het risico een instrument te worden dat bestaande sociale hiërarchieën verstevigt in plaats van ze uit te dagen.”

AI wordt ontwikkeld binnen een breder ecosysteem, waarin bedrijven, ontwikkelaars en beleidsmakers cruciale beslissingen nemen over het ontwerp en gebruik ervan. Deze keuzes bepalen of AI ongelijkheid vermindert of juist verergert. Wanneer AI wordt getraind op gegevens die maatschappelijke vooroordelen weerspiegelen, wordt discriminatie gereproduceerd in cruciale domeinen zoals werving, politieoptreden en sociale voorzieningen. Het onderzoek van professor Bircan benadrukt dat AI-beheer verder moet reiken dan techbedrijven en ontwikkelaars. Omdat AI afhankelijk is van door gebruikers gegenereerde data, moeten transparantie en inclusiviteit centraal staan in het ontwerp, de inzet en de regulering ervan. Zonder deze maatregelen zal AI de digitale kloof verder vergroten en socio-economische ongelijkheden verdiepen.

Ondanks de uitdagingen biedt de studie ook hoop. “In plaats van de tekortkomingen van AI als onvermijdelijk te accepteren, pleiten we in ons werk voor proactieve beleidsmaatregelen en kaders die ervoor zorgen dat AI sociale rechtvaardigheid bevordert in plaats van ondermijnt. Door eerlijkheid en verantwoordelijkheid vanaf het begin in AI te verankeren, kunnen we het potentieel ervan benutten voor positieve verandering, in plaats van het te laten bijdragen aan systemische ongelijkheden,” concludeert professor Bircan.

Referentie: Tuba Bircan, Mustafa F. Özbilgin, (2025) Unmasking Inequalities of the Code: Disentangling the Nexus of AI and Inequality. Technological Forecasting and Social Change, Volume 211, 123925. https://doi.org/10.1016/j.techfore.2024.123925.