Midjourney komt met een webtool om afbeeldingen te bewerken met AI

Midjouney-ceo David Holtz verwacht de tool over een paar dagen te kunnen uitrollen en de bedoeling is dat je het bijvoorbeeld gebruikt om de kleuren en details aan te passen met AI. Op Discord laat hij weten dat de tool wel restricties heeft en dat er nieuwe AI-moderators aanwezig zijn naast menselijke AI-moderators om het misbruik ervan in de gaten te houden. 

Restricties zijn moeilijk

Maar hij zegt ook: “Eerlijk is eerlijk, we weten niet zeker hoe we de toepassing van deze nieuwe mogelijkheid precies van restricties kunnen voorzien.” In ieder geval is het waarschijnlijk niet meteen voor iedereen beschikbaar: in een poll vraagt het aan de community welke gebruikers er eerst toegang moeten krijgen.

Het is vaak niet te zien dat een afbeelding met AI is gemaakt als het om Midjourney gaat: het past namelijk geen C2PA toe, dat is een systeem waarmee de metadata achter een foto aantoont waarmee de afbeelding gemaakt is en dat verder juist vrij populair is om mensen te laten bewijzen dat het een AI-afbeelding is. Nu je straks bestaande afbeeldingen met AI kunt aanpassen op Midjourney, wordt het sowieso extra moeilijk te zien of je kijkt naar iets dat echt is, of toch nep. 

Midjourney

Daarnaast is er angst voor het overtreden van copyright op grote schaal en dat er makkelijk deepfakes kunnen worden gemaakt die weer volop worden gedeeld, zoals dat ook met Taylor Swift AI is gebeurd. En nog recenter met de orkaan Helene en hoeveel schade dit natuurgeweld nu werkelijk heeft veroorzaakt. Er wordt in veel Amerikaanse staten wel gewerkt aan de bestrijding van deepfakes, maar het blijft veel grijze gebieden houden, naast een moeilijke bewijsbaarheid. Dat zal deze nieuwe tool, hoe mooi en tof de toepassingen ook kunnen zijn, waarschijnlijk alleen nog maar moeilijker maken.

Lees meer over kunstmatige intelligentie.