Google weer door het stof: app tagt mensen als gorilla's
Computers die dingen moeten herkennen, het gaat lang nog niet altijd goed. Google Foto's tagt donkere mensen als gorilla's.
Google kwam vorige maand met een nieuwe Foto's-app, beschikbaar voor Android en iOS. Eén van de functies daarvan is dat de app automatisch foto's herkent, zodat hij automatisch albums kan maken op basis van objecten of locaties. Ook kun je in de app zoeken op bepaalde woorden, Foto's filtert je plaatjes daar vervolgens op. Dat dat niet vlekkeloos werkte, schreef David al in deze Bright-blog.
De voorbeelden van David zijn gewoon grappig ('ha ha, robots zijn dom'), maar blijkbaar heeft Google Foto's donkere mensen als gorilla's ingedeeld. Dat is minder leuk. Eerder kampte Flickr ook al met dit soort falen van gezichtsherkenning.
Gorilla
Een 21-jarige programmeur uit Brooklyn, Jacky Alcine, zette het bewijs van Google Foto's falen op Twitter. "Google Foto's, je bent flink in de war", schreef hij. "Mijn vriendin is geen gorilla." Daarna postte hij nog meer plaatjes van verkeerd getagde mensen.
Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4
— diri noir avec banan (@jackyalcine) 29 juni 2015Fouten
Al snel reageerde Google's ontwikkelaar Yonatan Zunger op de tweets. "Holy fuck. Nee, dit is niet hoe het moet. Dit is honderd procent niet oké." De ontwikkelaar raakte in gesprek met Alcine en beloofde hem snel een fix uit te rollen voor het probleem. Nog steeds worden mensen soms als dieren getagd, laat Zunger weten. Zo werden mensen eerder ook herkend als hond. Google blunderde al eerder door mensen op Maps naar het Witte Huis te leiden als ze zochten op 'nigger house'.
Lees ook:
'Flickr eens op met die racistische robots'