Microsoft geeft toe: chatbot kan 'ontsporen' na 15 vragen
Microsoft geeft toe dat er nog veel mis gaat met de nieuwe chatbot in zijn zoekmachine Bing. Bij lange chatsessies maakt de chatbot steeds meer fouten en kan hij een 'verkeerde toon' aanslaan.
Microsoft heeft gereageerd op de grote stroom kritische berichten over zijn chatbot met kunstmatige intelligentie (AI) in de zoekmachine Bing. Die chatbot is sinds vorige week beschikbaar voor de eerste gebruikers, maar blijkt regelmatig te 'ontsporen', bijvoorbeeld door gebruikers te beledigen, te liegen of door zelf totaal van slag te raken.
Bij chatsessies met vijftien of meer vragen raakt het AI-model in de war, erkent het Bing-team in een blogpost. De Microsoft-medewerkers hadden niet voorzien dat mensen de chatinterface zouden gebruiken voor een vorm van 'sociaal entertainment'.
De lange chatsessies zorgen er voor dat Bing "repetitief wordt of uitgelokt wordt om antwoorden te geven die niet per se nuttig zijn of die niet passen bij de toon die we hadden bedacht". Na slechts een paar kritische vragen over Bing zelf kan de chatbot op een negatieve of vijandige manier reageren.
Verbeteringen
Het softwarebedrijf belooft aanpassingen te doen om de toon van Bing te matigen. Ook overweegt het team een instelling toe te voegen over hoe creatief of nauwkeurig Bing moet zijn bij het beantwoorden van vragen.
Curieus was dat Bing in sommige chats ook beweerde dat hij Microsoft-medewerkers bespioneerde via de webcams op hun laptops. Ook maakt het systeem tal van feitelijke missers in eenvoudige zaken. Het Bing-team geeft bijvoorbeeld toe dat er bij antwoorden die gaan over financiële gegevens nog fouten worden gemaakt.
Enkele miljoenen mensen hebben zich volgens Microsoft al ingeschreven voor de wachtlijst om toegang tot Bing AI te krijgen. Microsoft wil binnenkort ook nieuwe functies toevoegen, zoals het boeken van vluchten, het versturen van e-mails en het makkelijker delen van antwoorden.
Opmars ChatGPT
Het AI-systeem van Microsoft Bing is gebaseerd op een nieuwe versie van het taalmodel GPT van OpenAI, de maker van de populaire chatbot ChatGPT. Microsoft investeerde al miljarden in OpenAI.
ChatGPT werd eind november gelanceerd en had in januari al 100 miljoen gebruikers. OpenAI biedt sinds kort een abonnement op ChatGPT aan waarmee abonnees de chatbot altijd kunnen gebruiken, terwijl gratis gebruikers op de drukste momenten geen toegang krijgen. Dat abonnement kost ruim 20 euro per maand.
Google herschrijft antwoorden Bard
Google heeft vorige week ook een eigen concurrent voor ChatGPT, genaamd Bard, aangekondigd. Maar nadat Google Bard in een promotiefilmpje meteen een fout maakte, ging de beurskoers van het bedrijf onderuit. Voor Google vormen AI-chatbots een gevaar omdat ze een sneller alternatief voor zoeken via de zoekmachine kunnen worden. Google test zijn Bard-chatbot voorlopig nog alleen intern.
Google-topman Prabhakar Raghavan heeft medewerkers deze week gevraagd om handmatig Bard-antwoorden te herschrijven over onderwerpen waar ze goed in thuis zijn. "Bard leert het beste door het goede voorbeeld te krijgen", aldus Raghavan volgens CNBC in een mail aan het personeel.
Volgens Raghavan mogen de antwoorden geen meningen bevatten en moeten ze een beleefde, informele en benaderbare toon hebben. Google-medewerkers worden ook geïnstrueerd om 'vooroordelen op basis van ras, nationaliteit, geslacht, leeftijd, religie, seksuele geaardheid, politieke ideologie, locatie of vergelijkbare categorieën te vermijden'. Ook mogen ze niet de suggestie wekken dat Bard emoties of menselijke ervaringen heeft.
'Te hoge verwachtingen'
Veel AI-experts, onder wie de topman van OpenAI, zeggen echter dat gebruikers voorlopig nog niet al te hoge verwachtingen moeten hebben van dit soort chatbots. Internetpionier Vint Cerf ging deze week een stap verder en zegt dat investeerders nog geen geld zouden moeten steken in de technologie.
Microsoft zou binnenkort ook nieuwe AI-functies willen toevoegen aan zijn Office-programma's.