Adobe verbiedt maken naaktbeelden met AI-functie in Photoshop

25 mei 2023 om 13:34

Adobe voegde deze week een AI-functie toe aan Photoshop waarmee op commando beelden zijn te genereren. Gebruikers mogen daar niet alles wat ze bedenken mee creëren. Zo zijn beelden met 'expliciete naaktheid' verboden.

De nieuwe AI-functie 'Generative Fill' is sinds dinsdag te gebruiken in een nieuwe testversie van Photoshop. Door een commando te schrijven kun je vrij realistisch ogende objecten, dieren of mensen toevoegen aan de afbeelding waar je aan werkt. Ook kun je de AI bijvoorbeeld nieuwe delen buiten de kaders van je afbeelding automatisch laten invullen.

Met de introductie van de AI-functie heeft Adobe ook nieuwe gebruikersrichtlijnen ingevoerd. Daarin staat wat voor soort beelden verboden zijn om te genereren met het AI-systeem. Zo zijn 'pornografisch materiaal of expliciete naaktheid' niet toegestaan.

Onder meer beelden van geweld, terrorisme, haatdragende of 'zeer aanstootgevende' uitingen en illegale activiteiten zijn ook verboden.

Handhaving

De stap is opvallend omdat Adobe zich tot nu toe niet zozeer bemoeide met wat gebruikers met Photoshop creërden. Bovendien wijzen media erop dat de grens tussen porno en kunst soms nogal vaag is.

Het is nog onduidelijk hoe streng Adobe de nieuwe richtlijnen gaat handhaven. Het bedrijf lijkt vooral te reageren op meldingen van gebruikers. "Als je denkt dat iemand deze richtlijnen heeft geschonden, kunt u dit melden", staat er in de nieuwe richtlijnen.

Bij overtreding kunnen gebruikers hun Adobe-account kwijtraken. Adobe zegt in de richtlijnen ook accounts te blokkeren die 'misleidend of schadelijk gedrag vertonen'.

Firefly

'Generative Fill' moet in het najaar de bètafase verlaten en dan officieel onderdeel van Photoshop worden. De AI-functie is ook beschikbaar als een module in de web-app van Adobe's AI-beeldengenerator Firefly.

Adobe gebruikt AI-modellen die zijn getraind met beelden van de eigen Adobe Stock-dienst en met rechtenvrije afbeeldingen uit het publieke domein. Tijdens de testfase zijn de met AI gemaakte beelden alleen voor persoonlijk gebruik toegestaan en niet voor commercieel gebruik.

Luister ook onze podcast: