De complexe relatie tussen AI en discriminatie: een kritische blik op algoritmen
- Nieuws
- De complexe relatie tussen AI en discriminatie: een kritische blik op algoritmen
Vorige week verwelkomde Dounia Maakor, AI-ethicus en data scientist Oumaima Hajri in Suhoor Stories. De uitzending stond in het teken van kunstmatige intelligentie (AI) en discriminatie, een onderwerp dat steeds urgenter wordt in onze samenleving. Hajri deelde inzichten over algoritmen en hun impact op racisme en discriminatie.
Wat zijn algoritmen?
Oumaima Hajri legde eerst uit wat algoritmen zijn: een set regels en instructies die een computer moet volgen, vergelijkbaar met een recept in de keuken. Ze benadrukte dat algoritmen twee essentiële elementen nodig hebben: data en een definitie van succes. De data fungeren als ingrediënten, de tijd en middelen als de bereidingswijze, en het uiteindelijke gerecht als het succes.
Praktijkvoorbeeld: discriminatie in algoritmen
Een praktijkvoorbeeld dat tijdens de uitzending werd besproken, werpt licht op de problematiek rond algoritmen en discriminatie. Robin Pocornie, een student bio-informatica aan de VU Amsterdam, werd herhaaldelijk geconfronteerd met discriminatie tijdens tentamens. De software weigerde haar toegang te verlenen tenzij ze een felle lamp op haar gezicht richtte, wat suggereerde dat de software haar donkere huidskleur niet herkende als een geldig gezicht. Hoewel het College voor de Rechten van de Mens erkende dat er mogelijk sprake was van discriminatie, werd uiteindelijk geconcludeerd dat de universiteit niet verantwoordelijk was voor het vermeende falen van de software fabrikant.
Juridische uitdagingen bij bewijzen van discriminatie door algoritmen
Naomi Appelman, een jurist en voorzitter van het Racism and Technology Centre, benadrukte de uitdagingen bij het juridisch bewijzen van discriminatie door algoritmen. Ze wees op wetenschappelijk bewijs dat gezichtsdetectie minder nauwkeurig is bij mensen met een donkere huidskleur. Hoewel het College in dit specifieke geval geen discriminatie kon vaststellen, erkende het de potentiële risico's van het gebruik van vergelijkbare AI-software in de toekomst.
Streven naar ethische AI
De uitzending onderstreepte de noodzaak om kritisch te blijven kijken naar de impact van AI op onze samenleving. Het benadrukte de complexiteit van het identificeren en aanpakken van discriminatie in algoritmen, en pleitte voor een ethische benadering bij de ontwikkeling en implementatie van kunstmatige intelligentie. Als we streven naar een rechtvaardigere en inclusievere wereld, moeten we blijven streven naar AI-systemen die gebouwd zijn met respect voor ethische normen en gelijkheid voor iedereen
Download de NPO Radio 1-app
Met onze app mis je niks. Of het nou gaat om nieuws uit binnen- en buitenland, sport, tech of cultuur; met de NPO Radio 1-app ben je altijd op de hoogte. Download 'm hier voor iOS en hier voor Android.
