Het kan, maar moet het ook?

De ontwikkelingen in technologie gaan snel. Dat is niet nieuw, maar al decennia het geval. En dat feit op zich zorgt voor enthousiasme. Want wat is er nog meer mogelijk? Wat kunnen wij als mensheid nog meer bereiken?

Eveline Meijer Redacteur Meer van deze auteur

Zeker in IT merk je die nieuwsgierigheid. Juist hier werken mensen met een drang om nieuwe dingen te maken. Om zaken uit te proberen. Om te zien wat er nog meer mogelijk is. Dat is mooi, want het levert regelmatig nieuwe ontwikkelingen op die onze levens vereenvoudigen of zelfs verbeteren.

Maar wat we in ons enthousiasme soms lijken te vergeten is de vraag: is dit wel een goed idee? Dat iets kán, betekent niet direct dat het ook moet. Niet alles hoeft geschapen te worden of losgelaten in de samenleving.

Ik denk bijvoorbeeld aan Mythos of de tweede versie van GPT. Over beide AI-modellen werd in eerste instantie gezegd dat ze ‘te gevaarlijk zijn’ om zomaar uit te rollen. In beide gevallen waren dat waarschijnlijk marketingtrucs: GPT-2 is allang breed beschikbaar en ook Mythos moet op den duur algemeen beschikbaar worden. Zo gevaarlijk zijn ze blijkbaar toch niet.

Je kunt je afvragen: als zulke modellen écht zo risicovol zijn, zo ontwrichtend dat ze absoluut niet in verkeerde handen mogen vallen, moet je ze dan überhaupt wel maken? Zolang ze niet bestaan, kunnen ze immers ook geen schade toebrengen.

Natuurlijk zijn er redenen om het toch te doen. Nieuwsgierigheid, bijvoorbeeld — is dit überhaupt mogelijk? Of de angst dat als jij iets niet doet, een ander het wel doet. En natuurlijk speelt geld een rol: bedrijven willen verdienen, en ethische vragen over of iets een goed idee is, verdwijnen dan al snel naar de achtergrond. Soms realiseren we ons pas later dat iets geen goed idee was.

Het is daarom te gemakkelijk om de ethische vraagstukken alleen bij de makers neer te leggen. Naïef zelfs. Wij als samenleving moeten ons steeds weer afvragen: moeten we dit wel willen? Willen we wel AI-modellen die al het creatieve werk – het leuke werk – van ons overnemen? Willen we wel telefoons die constant onze aandacht opeisen? Willen we wel algoritmes die ons steeds verder bepaalde fuiken in trekken? Is dat goed voor ons? Is dat goed voor onze samenleving?

Technologische ontwikkelingen gaan snel. Er blijkt steeds meer te kunnen. Maar we moeten in ons enthousiasme niet vergeten: dat iets kan, maakt het nog geen goed idee.