Overslaan en naar de inhoud gaan

ChatGPT-detector in de maak, door ChatGPT-maker OpenAI

AI-ontwikkelaar OpenAI erkent impliciet het risico van fraude met zijn ChatGPT-model door te werken aan een detectiemogelijkheid voor die AI-tool. Dit volgt op bans door ontwikkelaarsplatform StackOverflow en een grote scholengemeenschap in de VS. Inzet van tools als ChatGPT zou ondermijnend werken en voor veel controlewerk zorgen. Dat valt te automatiseren, meent OpenAI.
robot aided writing
© Shutterstock
Shutterstock

De makers van de nu geruchtmakende AI die teksten kan schrijven, vragen kan antwoorden en software kan schrijven werkt aan 'beperkende maatregelen'. Deze zogenoemde mitigations moeten duidelijk maken waar en wanneer ChatGPT is ingezet. Ongeacht of dat nu door luie studenten, goedgelovige leken, overwerkte developers, bezuinigende managers of andere eindgebruikers wordt gedaan.

AI-inzet en wapenwedloop?

De ontwikkeling van herkenningsmiddelen voor ChatGPT-gegenereerde output is medegedeeld aan de Amerikaanse technieuwssite TechCrunch. Overigens zonder details over de beoogde werking ervan, laat staan de mogelijke releasetiming van deze detectiemogelijkheden. TechCrunch heeft eerder al wel weten te melden dat OpenAI experimenteert met een technologie om tekst van ChatGPT te voorzien van een watermerk. Daarmee valt dan te zien dat het output van deze AI-tool is.

Gebruikers die om wat voor reden dan ook hun AI-inzet willen verhullen, zal er veel aan gelegen zijn om zo'n watermerk te verwijderen of te omzeilen. De ontwikkeling van software om teksten van ChatGPT te detecteren, kan een krachtig tegenmiddel zijn. OpenAI benadrukt dat zijn huidige aanpak met ChatGPT nog is om te leren en de krachtige AI-tool door te ontwikkelen. De publieke beschikbaarheid is dan ook om uit de echte wereld input en feedback te krijgen.

Is ChatGPT nou zo slim?

ChatGPT heeft wereldwijd indruk gewekt met antwoorden op vragen, artikelen in opdracht van eindgebruikers en softwarecode op basis van tekstuele instructies. Daarbij weet deze AI-software overtuigende output te geven, die soms zeer overtuigend is maar soms bij nadere beschouwing tekort schiet. Zo weet ChatGPT in welluidende taal eloquente formuleringen te bezigen over bepaalde onderwerpen die dan voor leken op zo'n gebied indrukwekkend kunnen zijn.

In sommige gevallen kan ChatGPT dus dommer zijn dan je denkt. In andere gevallen kan de AI-tool goed dienst doen, of goed genoeg. Zoals voor bijvoorbeeld essay-schrijfopdrachten die studenten dan in recordtijd kunnen laten maken. Aan de andere kant zijn tools als ChatGPT ook goed te gebruiken door docenten, bijvoorbeeld om vlot voorbeelden te laten genereren.

Reacties

Om een reactie achter te laten is een account vereist.

Inloggen Word abonnee

Bevestig jouw e-mailadres

We hebben de bevestigingsmail naar %email% gestuurd.

Geen bevestigingsmail ontvangen? Controleer je spam folder. Niet in de spam, klik dan hier om een account aan te maken.

Er is iets mis gegaan

Helaas konden we op dit moment geen account voor je aanmaken. Probeer het later nog eens.

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in