Overslaan en naar de inhoud gaan

Automatisch checken op bias is goed, maar niet volledig

Dat AI-systemen bias kunnen bevatten, is een veelbesproken onderwerp. Steeds meer leveranciers komen daarom met tools waarmee automatisch bias kan worden gedetecteerd. Kun je een IT-tool inzetten om bias te ontdekken in een IT-tool? Zo’n detectietool zorgt voor bewustwording, zeggen experts, maar haalt niet alle bias uit de data of het algoritme.
Checklist
© CC0/Pixabay License
CC0/Pixabay License

Voorbeelden van IT-systemen die bias bevatten zijn er genoeg en ze zijn allemaal pijnlijk. Een sollicitatiesysteem dat vooral CV’s van mannen er uit haalt, omdat het zich baseert op historische data en in het verleden zijn veel mannen aangenomen. Een Amerikaans preventiesysteem dat zich baseert op data van verzekerden en alleen preventie-advies aan witte mensen kan geven, omdat in de trainingsdata te weinig data van zwarte mensen zit. Het aantal verzekerden onder de zwarte bevolking is namelijk lager omdat zij zich vaak niet kunnen verzekeren.

Lees dit PRO artikel gratis

Maak een gratis account aan en geniet van alle voordelen:

  • Toegang tot 3 PRO artikelen per maand
  • Inclusief CTO interviews, podcasts, digitale specials en whitepapers
  • Blijf up-to-date over de laatste ontwikkelingen in en rond tech

Bevestig jouw e-mailadres

We hebben de bevestigingsmail naar %email% gestuurd.

Geen bevestigingsmail ontvangen? Controleer je spam folder. Niet in de spam, klik dan hier om een account aan te maken.

Er is iets mis gegaan

Helaas konden we op dit moment geen account voor je aanmaken. Probeer het later nog eens.

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in