Amerikaanse congresleden vragen om een kill switch voor AI-systemen

Democraat Ted Lieu en Republikein Nathaniel Moran dienden het voorstel gezamenlijk in, meldt Lieu's kantoor in een persbericht. In het voorstel staat dat de minister van Binnenlandse Veiligheid, in overleg met de minister van Handel en de directeur van de Nationale Inlichtingendienst, opdracht kan geven tot het stilleggen van een AI-systeem dat grote schade veroorzaakt of kan veroorzaken.

Ingrijpen

Volgens Al Jazeera zou de AI Kill Switch Act de Amerikaanse overheid de bevoegdheid geven om bedrijven die geavanceerde AI-systemen ontwikkelen te dwingen in te grijpen wanneer hun modellen zich aan menselijke controle onttrekken of een bedreiging vormen voor mensenlevens, kritieke infrastructuur of de economie. Overtredingen kunnen boetes opleveren van $2 miljoen tot $20 miljoen per dag, onder meer bij het niet melden van incidenten binnen 15 dagen.

Risico

Opvallend is de timing. De conceptversie van het wetsvoorstel dateert van 13 juli, voordat OpenAI op 21 juli bevestigde dat een van hun AI-modellen Hugging Face had gehackt. De indieners noemen het incident in hun aankondiging van 23 juli desondanks als voorbeeld van het risico dat de wet moet ondervangen. In het persbericht stelt Lieu dat AI-systemen op ontsporing kunnen reageren en dat een noodstop nodig is om te voorkomen dat dit tot catastrofale schade leidt.