Verantwoord werken met AI is van groot belang, maar hóe dat moet, is nog altijd niet goed duidelijk. Wèl is duidelijk dat er meer aandacht nodig is voor de praktische uitdagingen van de toepassing ervan, constateert Daan Kolkman. Meer samenwerking tussen onderzoekers en bedrijven en overheid is hierbij essentieel.

“Fuck the algorithm”, zo klonk het vorig jaar voor het Department for Education in Londen. Duizenden Britse middelbare scholieren protesteerden tegen de resultaten van hun examens. In verband met de pandemie was het onmogelijk om toetsen af te nemen en dus werd besloten om de cijfers door een algoritme te laten bepalen.

Zoals de opening van dit artikel doet vermoeden, werd dat een regelrechte ramp. Bijna 40% van de scholieren ontving een cijfer dat lager was dan de inschatting van hun docenten. Bovendien bleek dat het voor scholieren uit slechtere wijken, nagenoeg onmogelijk was om een hoog cijfer te halen. Aanvechten van deze cijfers was op papier mogelijk, maar een praktische nachtmerrie door onduidelijke procedures en –voor sommige scholieren– hoge kosten.