AI-agent bevestigt probleemloos dat hij een mens is

Het was een moment waarvan je wist dat het zou komen, maar wellicht nog niet zo snel. Redditors kwamen er namelijk onlangs achter dat ChatGPT Agent, de AI-agent van OpenAI, zich zonder enig probleem langs een CAPTCHA navigeert. 

De bot beschrijft zijn eigen actie zelfs in real time, zoals uit het screenshot blijkt. "Ik zal op de 'bevestig dat je mens bent' checkbox klikken, om de verificatie op Cloudflare te bevestigen. Deze step is nodig om te bewijzen dat ik geen bot ben en door kan gaan."

Het ironische hieraan is dat de CAPTCHA op erg veel manieren nagaat of de klikker een mens van vlees en bloed is. Het checkt onder andere bewegingen van de cursor, kliksnelheid en gaat bijvoorbeeld ook na of er aparte scripts of codes gerund worden. Maar zelfs al deze verificatiemethodes blijken geen match voor de AI.

Dat een AI-agent nu zichzelf voorbij een CAPTCHA kan loodsen is relatief nieuw. Bij eerdere tests met OpenAI's Operator (de voorganger van ChatGPT Agent) bleek de AI niet in staat om de beveiligingstest te vervullen en huurde het er echt persoon voor in. Het moest de persoon in kwestie wel een leugen voorschotelen om hem zover te krijgen om de eenvoudige puzzel op te lossen.

Uitdaging voor CAPTCHA-makers

Nu het duidelijk is dat ChatGPT zich met eenvoud langs bepaalde CAPTCHA's kan begeven, betekent dat vooral dat ook de data die achter deze tools veilig zou moeten staan, dat niet meer is. In theorie zou dat ook betekenen dat ze deze bron van data kunnen opslokken.

Voor de CAPTCHA-makers zoals Cloudflare ligt er een nieuwe uitdaging: het voorblijven van het kunnen van AI-bots. Een significante uitdaging, gezien de snelheid waarmee de ontwikkelingen gaan. 

Aan de andere kant is het ook de uitdaging om de test eenvoudig genoeg te houden, zodat mensen zich er niet door laten afschrikken of het niet meer kunnen oplossen. Tegelijk is het aannemelijk dat er een over niet al te lange tijd een functie in AI-browsers te vinden is die de CAPTCHA's automatisch voor je oplost. Hoe handig ze ook zijn voor de beveiliging van sites, ze blijven uitermate vervelend om in te vullen.