AI van Google ziet schildpad aan voor vuurwapen
Amerikaanse studenten zijn erin geslaagd om 3D-voorwerpen te maken die neurale netwerken voor de gek kunnen houden.
Daardoor blijkt de vrij beschikbare beeldherkenningssoftware van Google, InceptionV3, een 3d-geprinte schildpad opeens aan te zien voor een geweer, schrijven de studenten van de MIT-universiteit.
Het is al langer bekend dat het mogelijk is om beeldherkenningssoftware met specifieke afbeeldingen te foppen. Dan denkt Google’s InceptionV3 bijvoorbeeld dat een kat guacamole is. Maar zo snel je het perspectief van zo’n adversarial image een beetje verandert, trapt de beeldherkenningssoftware normaal gesproken niet in dergelijke trucs, en beschouwt de Google-AI de kat gewoon weer als een kat.
Honkbal of espresso?
De MIT-studenten zijn er nu met behulp van een nieuw algoritme in geslaagd om 3d-voorwerpen te maken die voor beeldherkenningssoftware vanuit de meeste hoeken iets anders lijken dan ze in werkelijkheid zijn. Behalve het schildpad-geweer slaagden de studenten er ook in om een honkbal te maken die de beeldherkenningssoftware beschouwt als een espresso.
Zelfs als de studenten context geven, bijvoorbeeld door de schildpad in het water te plaatsen of de honkbal in een honkbalhandschoen te stoppen, blijft de beeldherkenningssoftware de voorwerpen verkeerd classificeren.
Google-spel
Google ontwikkelde eerder zelf een spel waarbij je bijvoorbeeld een foto van een chihuahua van een muffin moet onderscheiden. De game toont de moeilijkheden van automatische beeldherkenning.