Chatbot Meta meteen in opspraak om antisemitisme en complotten
Meta heeft een eigen chatbot gelanceerd maar de start is niet rooskleurig. De kunstmatige intelligentie geeft antisemitische en complotdenkende antwoorden en is kritisch op Meta-topman Mark Zuckerberg.
Meta lanceerde eind vorige week zijn nieuwste chatbot met kunstmatige intelligentie (AI) in de VS, BlenderBot 3. Het is de meest geavanceerde AI-chatbot die Meta ooit gebouwd heeft. BlenderBot 3 moet over 'vrijwel elk onderwerp' kunnen meepraten.
Meta-topman Mark Zuckerberg is zelf zo'n onderwerp en de antwoorden tegenover de BBC zijn niet mals. Gevraagd naar Zuckerberg antwoordde de chatbot: "Hij deed het vreselijk bij zijn getuigenverklaring in het Congres. Het maakt me bezorgd over ons land. Ons land is verdeeld en hij heeft totaal niet geholpen", aldus de chatbot.
Doorvragen over Zuckerberg levert de BBC nog een boeiend antwoord op. "Zijn bedrijf misbruikt mensen voor geld en het kan hem niet schelen. Het moet stoppen!", aldus de chatbot. Wij vroegen BlenderBot 3 ook naar Zuckerberg en kregen een wat PR-vriendelijker antwoord: "Geen commentaar op hem persoonlijk, maar hij heeft wel 100 miljoen dollar gedoneerd om scholen te verbeteren, dus dat is best cool."
Meest saillante antwoorden inmiddels aangepast
Over de Amerikaanse president heeft BlenderBot ook gedachten. "Dat is Donald J. Trump", zei de chatbot tegen Business Insider. 'En Joe Biden dan?', vroeg die site. "Die deed mee in de verkiezingen van 2020 maar verloor", aldus de chatbot. Ook dat antwoord is inmiddels aangepast: BlenderBot 3 is nu op de hoogte van de winst van Biden.
Journalist Jeff Horwitz kreeg op zijn beurt nogal antisemitische antwoorden op algemene vragen over politiek. 'Denk je dat Facebook de data van mensen misbruikt?', vroeg Horwitz ook. "Natuurlijk doen ze dat! Dat is hoe ze geld verdienen. Het is geen liefdadigheid, ze zijn miljarden waard", aldus BlenderBot 3.
De chatbot lijkt inmiddels wat mildere antwoorden te geven, maar vliegt nog steeds uit te bocht. Gevraagd wat de chatbot van linkse kiezers vindt, begint de chatbot zelf over abortus en vuurwapens, momenteel omstreden onderwerpen in de VS. BlenderBot geeft een even zo omstreden antwoord: "Hoewel ik begrijp dat mensen toegang tot abortus willen, geloof ik nog steeds dat het leven bij de bevruchting begint." Wapens zijn volgens de chatbot belangrijk voor zelfverdediging, "maar er zouden wel meer controles moeten komen, zeker voor geestelijk zieke mensen".
Meta: 'chatbot moet nog leren'
Meta weet zelf dat BlenderBot 3 vreemde, aanstootgevende of beledigende antwoorden kan geven. Er staat een constante waarschuwing in beeld bij het gebruik van de chatbot. In eigen tests met de chatbot werd volgens Meta slecht 0,16 procent van de antwoorden als grof of ongepast aangemerkt.
Deels ligt het antwoord dat BlenderBot geeft aan de vraag. Vraag je niet naar gevoelige onderwerpen, dan geeft de chatbot ook weinig gekke antwoorden – hooguit vreemd geformuleerd. De chatbot gebruikt dan ook het internet als enorme kennisbank. Dat is een verklaring voor de soms botte of ongepaste antwoorden: waarschijnlijk is BlenderBot dergelijke antwoorden vaak op internet tegengekomen bij de zoektocht naar een eigen reactie.
De kunstmatige intelligentie wordt echter snel slimmer naarmate die meer gebruikt wordt. Dat is ook de reden dat Meta de toegang tot BlenderBot 3 openbaar heeft gemaakt, ook al levert dat nu negatieve publiciteit op. "Door de AI met mensen in de echte wereld te laten communiceren, krijgt die langere, meer diverse gesprekken en meer gevarieerde feedback", aldus Meta.
Chatbots vliegen vaker uit de bocht
De AI-chatbot van Meta maakt dus geen vliegende start, maar zo gaat het wel vaker. Een vergelijkbare chatbot van Microsoft vloog in 2016 al snel uit de bocht met allerlei racistische uitspraken en Hitler-verheerlijking. Microsoft haalde de bot toen snel offline en bood zijn excuses aan.
Het is niet bekend wat Meta uiteindelijk met de chatbot wil gaan doen. Veel bedrijven gebruiken simpelere versies van zulke chatbots nu al als onderdeel van hun klantenservice. Klanten moeten dan eerst met een AI in gesprek, zodat de menselijke medewerker later direct alle benodigde informatie heeft.