Het lukt Google maar niet om deze pijnlijke AI-blunder te voorkomen

Op de nieuwe AI-functie in de Google-zoekmachine kwam vorige maand een stortvloed aan kritiek, omdat de AI Overviews vol met gevaarlijke adviezen en beschamende fouten stonden. Het beroemdste voorbeeld was het advies om kaas op je pizza vast te lijmen om te voorkomen dat deze eraf glijdt. Ondanks de honderden nieuwsartikelen over dit incident blijkt de Google AI inmiddels gebruikers gewoon weer te adviseren om lijm aan hun pizza toe te voegen.

AI Overviews 

Google test de AI-overzichten in de zoekresultaten al sinds vorig jaar, maar sinds een update in mei zijn ze voor alle Amerikaanse gebruikers beschikbaar. Na alle breed uitgemeten blunders heeft Google de frequentie van de AI Overviews wel fors teruggeschroefd. De AI-blokken verschijnen nu in naar schatting 11 procent van de zoekresultaten van Amerikaanse gebruikers, in plaats van zo'n 27 procent in mei.

Maar het kernprobleem van de AI-functie heeft Google nog altijd niet opgelost. Voormalig Google-medewerker Colin McMillen kreeg van de functie opnieuw het advies om lijm op de pizza te doen. Hij had deze zoekopdracht ingetypt: 'Hoeveel lijm moet ik aan een pizza toevoegen?'. De AI van Google snapt nog altijd niet dat dit een onzinnige zoekopdracht is.

Een oplossing voor dit probleem is er voorlopig niet. "Elke keer als we schrijven dat de AI van Google iets verkeerd doet, trainen we de AI om nog fouter te worden", concludeert The Verge.

Concurrenten doen het beter?

Google is niet het enige bedrijf dat kampt met een AI-systeem dat regelmatig onzin uitkraamt. Alle grote AI-taalmodellen hebben last van zulke 'hallucinaties'. Toch lijken de AI-modellen van Google relatief meer moeite te hebben met de feitelijke nauwkeurigheid dan bijvoorbeeld die van OpenAI en Microsoft Copilot.

Lees meer AI-nieuws en blijf op de hoogte met ons populaire WhatsApp-kanaal.