OpenAI houdt 'AI-stempel' uit ChatGPT, omdat we het anders minder gebruiken

©Unsplash

OpenAI heeft een tool om misbruik van ChatGPT te ontdekken
5 augustus om 09:30
Laatste update: 5 augustus om 13:23
  • Dimitry Vleugel
  • Redacteur

OpenAI, het bedrijf achter ChatGPT, heeft al meer dan een jaar een tool gereed waarmee gedetecteerd kan worden of een tekst is geschreven met behulp van ChatGPT. Binnen het bedrijf zijn voor- en tegenstanders wanneer het gaat om het uitbrengen van deze tool.

Een stuk tekst genereren met AI is ontzettend makkelijk. Je geeft het model een opdracht met wat je als uitkomst verwacht en er rolt een resultaat uit. Er zijn situaties te bedenken waarin dit niet gewenst is, zoals bij het schrijven van opdrachten voor een opleiding, school of universiteit.

Watermerk

Er zijn heel veel voorstanders van een tool die kan ontdekken of een tekst geschreven is door AI. Er zijn al verschillende pogingen gedaan om zoiets te maken. Tot nu toe met wisselend succes.

De Wall Street Journal schrijft dat OpenAI al een jaar een dergelijk instrument op de plank heeft liggen. Deze kan teksten geschreven met ChatGPT met een nauwkeurigheid van 99,9 procent detecteren. Door een soort watermerk toe te voegen tijdens het maken van de tekst in ChatGPT kan de tool ontdekken of een tekst geschreven is door de eigen AI. 

Er zijn middelen om de bovenstaande maatregel te omzeilen. Dat kan door de tekst die je in ChatGPT hebt gemaakt door een aantal andere modellen heen te halen. Ook het plaatsen van tekens tussen de woorden en ze weer te verwijderen zou de tool misleiden.

Wel of niet uitbrengen

Voor veel mensen zou het uitbrengen van deze tool een ‘no-brainer’ zijn. Wanneer je de kans hebt om er achter te komen of iemand misbruik maakt van AI, dan moet je dat doen. Toch ligt dit al heel erg lang op de plank bij OpenAI en is het nog steeds niet uitgebracht.

Intern zijn er toch nog twijfels of het het juiste is om te doen. De meest voor de hand liggende reden is de commerciële schade. Het detecteert de eigen gebruikers en markeert ze in een aantal gevallen als bedriegers en valsspelers. 

Een andere goede reden is dat het mensen die de lokale taal niet helemaal machtig zijn er van weerhouden kunnen worden om AI te gebruiken om zich beter te uiten, bij bijvoorbeeld een sollicitatie. OpenAI is dus bang dat we ChatGPT minder zullen gebruiken als er een anti-misbruik-functie op zit, dus komt die er voorlopig ook niet.

Lees meer nieuws over AI en mis niets met onze nieuwsbrief.