Google speelt verstoppertje: nieuw AI-watermerk zie je als mens niet
©Google Deepmind
Google test een watermerk voor AI-afbeeldingen, dat voor mensen onmogelijk is te zien maar voor computers makkelijk is te herkennen. Het watermerk moet worden getest, om te zien of het ook waterdicht is.
Het watermerk heet SynthID en is ontwikkeld door DeepMind, één van de AI-takken van Google. DeepMind richt zich niet zozeer op de grote taalmodellen als op meer zelflerende en visuele kanten van kunstmatige intelligentie. Daar horen ook deepfakes bij: overtuigende afbeeldingen die met AI zijn gemaakt.
En bij de mogelijkheid om zulke afbeeldingen te creëren, hoort ook de verantwoordelijkheid van een detectiemiddel, vindt DeepMind. Dat detectiemiddel is SynthID, dat een voor mensen onzichtbaar watermerk toevoegt aan AI-gegenereerde afbeeldingen. Voor computers is het watermerk wel te zien, ook na aanpassingen zoals bijsnijden en het veranderen van kleuren of helderheid,
Eerst voor een beperkte groep
Volgens DeepMind-topman Demis Hassabis wordt het watermerk zelfs steeds onzichtbaarder voor mensen naarmate de technologie achter SynthID vordert, maar juist beter te detecteren voor DeepMind. Het bedrijf treedt niet in technische details, om het kwaadwillenden niet makkelijk te maken. Veel mensen zullen het watermerk immers willen omzeilen.
SynthID wordt eerst getest onder Google Cloud-klanten die het Vertex AI-platform met Imagen-beeldgenerator gebruiken. Zij kunnen het SynthID-watermerk toevoegen aan hun afbeeldingen, en plaatjes laten controleren op de aanwezigheid van het watermerk. Met die eerste test wil DeepMind het systeem verbeteren, zodat het op meer plekken kan worden toegepast. Pas dan zal het bedrijf meer details prijsgeven over de werking.
Grote ambities, onzekere toekomst
"SynthID is niet onfeilbaar tegen extreme beeldmanipulaties, maar het biedt wel een veelbelovende technische aanpak om mensen en organisaties in staat te stellen op verantwoorde wijze om te gaan met dingen die door AI-zijn gegenereerd", schrijft DeepMind. "Deze tool kan ook evolueren naast andere AI-modellen die verder gaan dan beelden zoals audio, video en tekst."
Of SynthID op termijn een universele standaard wordt, valt nog te bezien. Het is goed denkbaar dat er een wedloop komt, met AI-systemen die het watermerk uit afbeeldingen kunnen strippen, of een markt met AI-beeldgeneratoren die expres geen watermerk toevoegen.