Tesla Full Self Driving speelt vals: 'routes afgestemd op Elon Musk en influencers'

Business Insider heeft vandaag een verslag uitgebracht waarin wordt omschreven hoe de neural nets (het digitale brein) van Tesla's zouden zijn verbeterd voor specifieke personen, waaronder Elon Musk zelf. Het zou daardoor een vertekend beeld geven van de werkelijke capaciteiten en daardoor misleidend zijn. "Na met een tiental medewerkers te hebben gesproken, lieten zij weten dat het voertuig van Elon Musk en een aantal populaire YouTubers een voorkeursbehandeling kregen wanneer het aankwam op het vaststellen en verhelpen van bepaalde problemen in de software", aldus Business Insider.

Handmatig annoteren

Medewerkers zouden volgens ingewijden de instructies hebben gekregen om zich op twee categorieën te concentreren: het voertuig van Elon Musk en dat van een selecte groep VIP's. Bovendien werden de medewerkers vooral ingezet op routes die inmiddels bekend waren, zoals de wegen rondom Tesla, SpaceX, Twitter (X) en een pand dat ooit in het bezit was van Musk. Dat zou er volgens de medewerkers dan ook voor hebben gezorgd dat Musk een betere ervaring zou hebben gekregen dan de gemiddelde Tesla-bestuurder. Met andere woorden: door selectief te zijn in de auto's en de omgeving, werd er een positiever beeld geschetst dan hoe het systeem in werkelijkheid functioneerde.

'Het voelde oneerlijk'

Een voormalig medewerker laat weten: "Het leek alsof we opzettelijk zijn auto beter maakten om Autopilot anders te laten lijken dan het was. Het voelde oneerlijk." Daarnaast zouden de testvoertuigen regelmatig dezelfde wegen hebben gebruikt die de content creators gebruiken om hun filmpjes op te nemen. Hoewel anderen beweren dat de content creators bijdragen aan de verbetering van het systeem, kun je erover discussiëren of zij dan niet vervolgens een betere ervaring krijgen om daardoor betere filmpjes uit te brengen. Bovendien zou Elon Musk zelf regelmatig verwijzen naar dit soort filmpjes, waardoor het in feite een kwestie van misleiding is.

Gevalletje Mechanische Turk

Het verhaal heeft veel weg van een ander recent bericht waaruit bleek dat de winkels van Amazon helemaal niet volledig op AI draaiden, maar in werkelijkheid medewerkers hadden ingehuurd die massaal op videobeelden meehielpen bij het vaststellen van klanten en producten. Dit viel dan ook in slechte smaak bij veel  klanten, die dachten dat zij zojuist een voorproefje van de toekomst hadden gekregen. Het fenomeen van een machine zich beter laten voordoen dan de realiteit, terwijl er eigenlijk mensen achter de knoppen zitten, is overigens ook niet nieuw. Het trucje dateert zelfs uit de 18e eeuw, waar een schaakmachine werd ontmaskerd, nadat bleek dat er gewoon een goede schaker in het kastje zat verstopt.

Lees meer over Tesla, of blijf op de hoogte via de Bright Nieuwsbrief.