Artificiële Intelligentie (AI) wordt vaak gezien als een terrein waar vooral mannen de dienst uitmaken. Klopt dat? En zo ja, houdt die genderbias een ethisch risico in voor de AI-tools die we ontwikkelen? En hoe gaan we hier als maatschappij het beste mee om? Karen Boers, managing director van FARI-AI for the Common Good Institute (FARI) en Pieter Ballon, vicerector Onderzoek aan de Vrije Universiteit Brussel (VUB) zijn het alvast eens over één ding: “Hoe diverser de instroom van profielen in AI, hoe groter de kans dat we objectieve, op publieke waarden geïnspireerde AI-systemen bouwen die een positieve maatschappelijke impact hebben. AI for the public good.” De bachelor Artificiële Intelligentie aan de VUB, uniek in Vlaanderen, biedt alvast een sterke troef om die diversiteit te bevorderen.
Karen Boers, managing director bij FARI
De AI-wereld straalt een mannelijk aura uit. Recent onderzoek van Hogeschool Rotterdam* toont aan dat het vooral witte, hoogopgeleide mannen zijn die AI-toepassingen ontwikkelen.
Karen: “Als je kijkt naar het ontwikkelen van tools, dan geldt die stelling niet alleen voor generatieve AI, maar voor het merendeel van de IT-wereld.”
Schuilen hier geen ethische gevaren in, zoals het ontbreken van vrouwelijke perspectieven of discriminatie?
Karen: “De genderbias komt niet per sé rechtstreeks van de ontwikkelaars, maar van de datasets waarmee AI wordt getraind. Zelfs de taal en literatuur waarop modellen steunen spelen een rol: als die bevooroordeeld zijn, versterkt AI dat. Neem de Amerikaanse presidentsverkiezingen. Vroeg je destijds aan ChatGPT wie de volgende president zou worden, dan voorspelde die vaak Donald Trump, simpelweg omdat de Amerikaanse geschiedenis alleen maar mannelijke presidenten kent. Die onbewuste vooringenomenheid of statistische correlaties willen we eruit halen.”
Pieter: “Om onbewuste patronen te vermijden, moeten we AI-systemen voortdurend vergelijken met een norm en afwijkingen opsporen. Het gaat niet alleen om de datasets en implementatie, maar ook om de resultaten en hoe die al dan niet afwijken van de verwachtingen. Bias bestrijden is niet enkel een taak voor vrouwen; ook mannelijke onderzoekers aan de VUB, zoals Rob Heyman en Vincent Ginis, zetten zich hiervoor in. Hoe diverser de instroom van profielen in AI, hoe groter de kans dat we objectieve, op publieke waarden geïnspireerde AI-systemen bouwen die een positieve maatschappelijke impact hebben.”
Kijken vrouwen anders dan mannen naar AI?
Karen: “Als ik afga op mijn gevoel vanuit de trainingen die we bij FARI geven, dan zou ik zeggen dat mannen meer durven experimenteren en vrouwen iets sneller bezorgd zijn over de maatschappelijke risico’s. Patronen die cultureel ingebed zijn en die we moeten trachten te doorbreken.”
Pieter: “Misschien kijken vrouwen vaker naar de toepassingen, terwijl mannen meer de neiging hebben om de technologie te ontleden? Maar ook dat is opnieuw een generalisatie, want er zijn uiteraard wel heel wat meisjes en vrouwen die de motorkap opendoen en gaan sleutelen.”
Aan de VUB hebben we sinds academiejaar 2022-2023 als enige Vlaamse universiteit de bachelor Artificiële Intelligentie. Hoe belangrijk is die voor de VUB?
Pieter: “De VUB biedt al langer AI-gerelateerde vakken aan, verspreid over verschillende opleidingen zoals Wiskunde en Data Science, Informatica en Computerwetenschappen. Maar wat deze bachelor bijzonder maakt, is de geïntegreerde focus op AI: we leren studenten de verschillende aspecten van intelligentie onderzoeken en die inzichten gebruiken om zelf intelligente systemen te ontwikkelen binnen een ethisch verantwoord en juridisch correct regionaal kader. Ook disciplines als psychologie, taalkunde en wiskunde komen aan bod om een holistisch inzicht in AI te bieden.”
Pieter Ballon, Vicerector Onderzoek aan de VUB
Heeft het werkveld nood aan die breder opgeleide AI-profielen?
Karen: “Absoluut. De vraag naar geschoolde AI-experts is al enorm en groeit alleen maar, zeker nu we nog maar aan het begin staan van wat AI-technologie kan betekenen. We hebben daarom niet alleen ontwikkelaars nodig, maar ook humane wetenschappers die de missing link kunnen zijn tussen de technologie en de toepassing. Zij zijn de vertalers-tolken die de brug vormen.”
Pieter: “Precies. Om een brede instroom van wetenschappers te hebben, is het belangrijk dat ook zij zich aangesproken voelen door het studieprogramma. Die multi-disciplinaire dimensie die de bacheloropleiding AI aan de VUB biedt, lijkt mij dan ook een sterke troef.”
Om even in te haken op het topic van zonet: de bachelor Artificiële Intelligentie aan de VUB trekt duidelijk meer mannen dan vrouwen aan, met driekwart mannelijke studenten. Dat weerspiegelt een bredere trend binnen de faculteit Wetenschappen en Biowetenschappen, waar tweederde van de bachelorstudenten man is. Een aandachtspunt?
Karen: “Toch wel. Als we een beter genderevenwicht willen in het werkveld, moeten we dat al in de opleidingen creëren. Het vraagt actieve inspanningen om meisjes en jonge vrouwen aan te moedigen voor technische richtingen te kiezen. Dat begint bij het bieden van inspirerende verhalen over vrouwen in techniek, zodat ze van jongs af aan genoeg rolmodellen zien.”
Pieter: “De Kinderuniversiteit, Dag van de Wetenschap, de Wiskunnend Wiske-wedstrijd: het zijn slechts enkele van de initiatieven waarmee we als universiteit jongeren, en dus ook meisjes, zo vroeg mogelijk proberen te enthousiasmeren voor STEM-richtingen. Momenteel werken we ook aan een campagne die vrouwen in STEM-richtingen in de kijker zet, zodat we vrouwelijke studiekiezers inspireren om dat pad te volgen. We doen dus zeker inspanningen, maar het is niet genoeg.”
Zijn er vrouwelijke AI-rolmodellen aan de VUB?
Pieter: “Met trots kan ik zeggen dat we aan de VUB zowel in het verleden als vandaag sterk staan wat vrouwelijke leiders in AI of in digitalisering in het algemeen betreft. Denk aan toppers als Ingrid Daubechies, Pattie Maes, Ann Dooms, Ann Nowé, An Jacobs, Mireille Hildebrandt en Karen (Boers). Zij nemen zowel inhoudelijk als organisatorisch cruciale posities in. Ik durf te stellen dat je dat aan weinig andere Vlaamse universiteiten zal vinden.”
Heb je nog een boodschap voor vrouwen die een studie AI overwegen?
Karen: “Absoluut. Besef hoe groot de hefboomwerking van technologie is. Met AI-tools kun je enorme maatschappelijke impact hebben, zoals het sneller ontwikkelen van medicijnen of het detecteren van ziektebeelden via patroonherkenning. Je krijgt de kans om écht een verschil te maken in de wereld.”
Het belang van FARI als onderzoeksinstituut
Op maandag 18 november vindt in Brussel het FARI-congres plaats met als thema “AI: a public good?”. Een event waarbij experten hun kennis over kunstmatige intelligentie delen met overheden, de industrie en burgers en waarbij de deelnemers hun ervaringen delen met elkaar en bouwen aan verbinding. Voor de mensen die FARI misschien nog niet zo goed kennen: waar staat het onderzoeksinstituut voor?
Karen: “FARI bundelt de expertise van meer dan 400 onderzoekers aan zowel de VUB als de ULB en dit vanuit verschillende disciplines zoals AI, data, robotica, sociale wetenschappen, ethiek en rech
Pieter: “Die expertise is rijkelijk aanwezig omdat beide instellingen een sterke onderzoekstraditie naar AI kennen. Zo is het VUB-AI lab, opgericht in 1983, één van de oudste AI-onderzoekscentra in Europa. Hoewel we die absolute uitzonderingspositie vandaag niet meer bekleden, is het toch bemoedigend om te zien dat vele van de onderzoeksthema’s van toen zoals Conversational AI (computers die praten met elkaar en mensen die praten met computers) ook nu nog superactueel zijn.”
Karen: “Mensen realiseren zich vaak niet dat die expertise al meer dan 40 jaar in Brussel aanwezig is, en dat terwijl de technologie een belangrijke hefboom kan zijn naar oplossingen voor grootstedelijke uitdagingen als mobiliteit en gezondheid. We zijn hiervoor nu nog veel te afhankelijk van Amerikaanse en Chinese bedrijven.”
Pieter: “ We hebben nood aan regionale systemen die rekening houden met onze Europese waarden en normen. Geen betere plek dan Brussel, een draaischijf van nationale en internationale bedrijven van allerhande vormen en formaten die kampen met grote complexe problemen, om dit te realiseren. AI for he public good.”
Karen: “Een ambitie die we enkel kunnen realiseren met behulp van die lokale overheden, bedrijven en burgers. Zij kunnen aangeven wat werkt en niet werkt, op voorwaarde dat ze zicht hebben op wat AI-systemen wel en niet voor hen kunnen betekenen. Daarom zet FARI ook volop in op sensibilisering via trainingen, om hen de technologieën te helpen begrijpen, testen en gebruiken. Het FARI-congres op 18 november is daar een voorbeeld van.”
Pieter: “Met FARI hebben we eigenlijk een soort van one stop-shop gecreëerd in het Brusselse Gewest die de commerciële belangen overstijgt. Het is net die mix van onderzoek, onderwijs en communitybuilding die FARI uniek maakt.”
Benieuwd naar wat Karen Boers en andere experten nog meer te vertellen hebben over “AI: A public good?”. Inschrijven voor het FARI-congres kan via deze link: https://www.conference.fari.brussels/
*“Op de tweede plaats: een verkennende studie naar de rol van gender in de ontwikkeling van verantwoorde AI” (19 april 2024) - Onderzoek uitgevoerd door Maaike Habers, lector AI en Society aan Hogeschool Rotterdam : https://www.hogeschoolrotterdam.nl/globalassets/documenten/gender-en-ai-rapport_final.pdf
**FARI werd opgericht in 2021
***dit artikel werd gemaakt met een beetje hulp van ChatGPT