Makers AI-tool grijpen in na nepbeelden van vreemdgaande politici

Nepfoto van politicus Bernie Sanders.

3 juli 2023 om 13:34

De makers van de populaire AI-plaatjesgenerator Midjourney hebben ingegrepen nadat een gebruiker nepbeelden had verspreid van bekende Amerikaanse politici die hun echtgenoten bedrogen.

Videomaker Justin Brown genereerde met Midjourney een reeks nepfoto’s van politici die aan het zoenen waren met hun zogenaamde 'minnaars', waaronder Joe Biden, Donald Trump en Bernie Sanders. Brown zegt met zijn fotoserie - die hij de titel 'AI zal een revolutie teweegbrengen in de chantage-industrie' gaf - de aandacht te willen vestigen op door AI gegenereerd nepnieuws. "AI kan een wapen zijn", zegt hij.

De makers van Midjourney hebben Brown inmiddels permanent verbannen. Dat gebeurde pas nadat hij de nepbeelden op Reddit had gepost. De AI-tool heeft zelf nog geen goed systeem om het genereren van nepbeelden van beroemde personen te beperken. "Ik ben eerder wel geblokkeerde prompts tegengekomen - voor ondeugende woorden of controversiële figuren - maar heb nooit een ban gekregen", zegt Brown tegen PetaPixel.

Zonder context gedeeld

In de VS wordt gevreesd dat door AI gemaakte nepbeelden massaal ingezet zullen worden om de publieke opinie te beïnvloeden in de aanloop naar de Amerikaanse verkiezingen van 2024.

De beelden in de serie van Brown verschillen nogal qua geloofwaardigheid, maar volgens hem zijn sommige plaatjes toch al misbruikt via sociale media. "Anderen hebben sommige van de beelden uit hun context gehaald en verspreid."

Plaatjesmakers worden snel beter

AI-beeldgeneratoren zijn de laatste maanden steeds beter en populairder geworden. Door een aantal commando's te schrijven zijn binnen mum van tijd steeds mooiere plaatjes te creëren. Ook Adobe voegde onlangs AI-functies toe aan Photoshop en verbood daarbij het genereren van naaktbeelden.

Gebruikers plaatsen de resultaten massaal op sociale media, waar ze regelmatig viral gaan. Dat gebeurde bijvoorbeeld met AI-beelden van een hardhandige arrestatie van Donald Trump, die nooit heeft plaatsgevonden. Ook een nepfoto van de paus in een hippe winterjas ging de hele wereld over.

Verboden termen

In maart verscheen de verbeterde versie van Midjourney, die fotorealistische plaatjes mogelijk maakt, die er veel levensechter uitzien. Gebruikers van Midjourney mogen allerlei termen niet gebruiken in hun commando's om plaatjes te genereren. Inmiddels staan woorden als 'arrestatie' en 'gearresteerd' op die zwarte lijst. Ook commando's over de Chinese leider Xi Jinping zijn verboden.

Concurrent Stable Diffusion lijkt minder strenge regels te hanteren. DALL-E van OpenAI heeft als beleid dat alle gegenereerde afbeeldingen kindvriendelijk moeten zijn.

Luister ook onze podcast over Netflix-serie Black Mirror: