Vechten tegen racistische algoritmes

Algoritmes worden, mede door de digitalisering – of beter: automatisering – van de samenleving, steeds belangrijker. De wiskundige reeksen worden voor alles gebruikt waar automatisering bij komt kijken. Dat de reeksen derhalve neutraal moeten zijn, is iedereen het wel over eens. Maar, zo waarschuwt Joy Buolamwini, onderzoeker aan het MIT Media Lab en oprichter van Algorithm Justice League, dat zijn ze niet. Het is belangrijk dat er bewustwording gecreëerd wordt over het racistische gehalte van algoritmes.

Het gevaar van vooroordelen in algoritmes is dat die vooroordelen razendsnel verspreid kunnen worden, en groepen kunnen uitsluiten, waarmee de vicieuze cirkel rond is.

Buolomwini kwam de werking van de vooroordelen op het spoor in haar werk met gezichtsanalysesoftware. De software kon haar gezicht maar niet detecteren, omdat de mensen die het algoritme hadden gecodeerd, geen rekening met haar huidskleur en gezichtsstructuur hadden gehouden. Ze dacht dat het om een foutje ging, maar kwam er al snel achter dat het een veel vaker voorkomend ‘foutje’ is.

The Guardian: When algorithms are racist