AI Lab for Cybersecurity ontwikkelt landelijke AI-inkooprichtlijn voor gemeenten

Het AI Lab werkt hiervoor samen met de gemeente Utrecht, de Vereniging van Nederlandse Gemeenten (VNG) en het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK).

AI komt niet alleen een organisatie binnen met eigen AI-pilots of via een bewuste aanbesteding. Een leverancier kan via een reguliere software-update ook ineens een AI-assistent, automatische samenvatting of generatieve zoekfunctie activeren. Dit brengt risico's met zich mee op het gebied van privacy, digitale soevereiniteit, onvoorziene kosten en onduidelijke ketenverantwoordelijkheid.

Medewerkers die met de software werken voeren zo mogelijk gevoelige informatie in, terwijl nog niet duidelijk is waar die gegevens worden verwerkt, welke andere leveranciers betrokken zijn, wat de extra kosten zijn en wie verantwoordelijk is als er iets misgaat. Bovendien heeft een organisatie ook de keuze, als het software van Big Tech betreft, voor een alternatief softwareproduct te kiezen.

Het initiatief moet een integraal beslis- en toetsingsinstrument opleveren waarmee gemeenten AI-software beter kunnen beoordelen, nieuwe software-releases kunnen auditen en duidelijke voorwaarden voor digitale autonomie kunnen afdwingen. De richtlijn is vergelijkbaar met de richtlijnen die eerder voor cloudinkoop zijn opgesteld.

Het AI Lab for Cybersecurity is een samenwerking tussen Universiteit Utrecht en Hogeschool Utrecht. Het brengt onderzoekers, praktijkprofessionals en partnerorganisaties samen om wetenschappelijke kennis en praktische tools te ontwikkelen die Europa’s capaciteit versterken om veilige, betrouwbare en soevereine digitale systemen op te bouwen en te onderhouden.