AI-bedrijven kunnen modellen niet beheersen, zegt klokkenluider

"Gezien wat er op het spel staat, zijn bedrijven bijzonder roekeloos bezig", zei Coxon tijdens een hoorzitting in New York.

De Britse onderzoeker publiceerde begin september een verklaring op X, waarin hij uitlegde waarom hij bij Anthropic vertrok. Daarin zei Coxon dat AI-ontwikkelaars die de technologie rond AI bouwen er oprecht in geloven "dat het ons allemaal kan uitroeien voor het einde van dit decennium". Zijn getuigenis haalde wereldwijd het nieuws en verschillende huidige en voormalige medewerkers van grote bedrijven in de AI-sector hebben sindsdien vergelijkbare zorgen geuit.

Mens sterft uit

Hoewel AI de samenleving "enorme voordelen" kan brengen, is het volgens de klokkenluider "op de huidige koers waarschijnlijker dan niet dat de mensheid de controle over deze AI verliest en dat kan uitmonden in het uitsterven van de mens", zei hij maandag.

"We weten niet hoe we kunnen voorkomen dat ze eigen doelen ontwikkelen" die buiten de macht van hun makers vallen, legde Coxon uit. "We hebben ook niet de waarborgen om te voorkomen dat ze op die doelen gaan handelen."

Later repareren

De voormalige Anthropic-onderzoeker haalde ook uit naar de cultuur in de techsector. Bedrijven "werken met een start-upmentaliteit: snel handelen, dingen kapotmaken en ze later repareren". "Dat werkt voor een app om foto's te delen. Het werkt niet voor het bouwen van de krachtigste technologie ooit", aldus Coxon.

(ANP)