Bepaalde namen laten ChatGPT vastlopen: dit is er aan de hand

Gebruikers van ChatGPT hebben ontdekt dat het noemen van sommige namen ervoor zorgt dat de chatbot niet meer reageert. Dit treedt bijvoorbeeld op bij namen als Jonathan Zittrain, Brian Hood, Guido Scorza, David Faber en Jonathan Turley. Het maakt niet uit in welke context je de namen gebruikt, het resultaat is telkens dat OpenAI’s AI-assistent reageert met 'Ik kan geen antwoord produceren' of 'Er is een fout opgetreden bij het genereren van een antwoord'.

Wat is de oorzaak van het vastlopen van ChatGPT door deze namen? Het lijkt het gevolg van juridische problemen. De namen worden mogelijk gefilterd vanwege klachten over valse bewerkingen die ChatGPT eerder over personen heeft gedaan. 

Bij Brian Hood is de verklaring dat een Australische burgemeester met die naam OpenAI vorig jaar wilde aanklagen nadat hij ontdekte dat ChatGPT ten onrechte beweerde dat hij gevangen was gezet wegens omkoping. OpenAI ging in die zaak akkoord met het filteren van zulke valse uitspraken over Hood. Het bedrijf lijkt zodoende een soort ingeprogrammeerd naamfilter te gebruiken. Het vastlopen gebeurt echter niet bij alle personen die een smaadzaak tegen OpenAI hebben aangespannen, merkt Ars Technica op.

David Mayer

Berichten over dit probleem gingen maandag viral, nadat gebruikers ontdekten dat de naam 'David Mayer' ChatGPT deed crashen. Bij OpenAI kwamen ze in actie, want inmiddels lijkt de blokkade op 'David Mayer' weer te zijn opgeheven. Er zijn waarschijnlijk honderden of zelfs duizenden mensen die ook zo heten.

OpenAI heeft zelf geen opheldering gegeven, maar het bedrijf zal hoe dan ook aan het werk moeten om een betere oplossing te vinden dan deze 'harde' naamfilters.

Bekende hoogleraren

Dat het probleem optreedt bij Zittrain en Turley is ook curieus. Beide zijn prominente hoogleraren die uitgebreid over ChatGPT hebben geschreven. Bij Turley is er ook een verband met laster en smaad, want hij schreef in 2023 dat hij 'door ChatGPT werd belasterd'. "Ik kwam erachter dat ChatGPT ten onrechte melding heeft gemaakt van een claim van seksuele intimidatie die nooit tegen mij is gedaan tijdens een reis die nooit heeft plaatsgevonden terwijl ik op een faculteit zat waar ik nooit les heb gegeven." Turley heeft OpenAI hiervoor niet aangeklaagd, laat hij weten.

Zittrain schreef onlangs een artikel waarin hij oproept tot strenge regels voor AI-assistenten, waarin ChatGPT en OpenAI uitgebreid worden besproken. Maar er is geen duidelijke reden waarom ChatGPT zou weigeren zijn naam in een antwoord te noemen.

Lees meer nieuws over ChatGPT en blijf op de hoogte met onze Bright-app.