Microsoft-chatbot maakt ook veel fouten: 'Pas op voor hype rond AI'

De nieuwe chatbot met kunstmatige intelligentie van Google, Bard, maakte vorige week in een promotievideo een dure fout. Onjuiste informatie werd als feit gepresenteerd, waarna de aandelenprijs van Google meteen een flinke tik kreeg. Maar ook de nieuwe AI-chatbot in Microsoft Bing, mogelijk gemaakt door een nieuwe versie van het AI-model achter het populaire ChatGPT van OpenAI, blijkt vergelijkbare fouten te maken.

De fouten in de Microsoft-demonstratie komen nu pas aan het licht. Ze zijn ontdekt door AI-onderzoeker Dmitri Brereton. "Ze vielen niemand op, dus sprong iedereen op de hype-trein van Bing", aldus Brereton.

In een demonstratie maakte Microsoft Bing bijvoorbeeld met AI een reisplanning voor een weekendje Mexico Stad. Wie die planning naloopt, stuit op allerlei praktische obstakels: restaurants die al niet meer bestaan, niet op de aangegeven tijden open zijn, of zonder enig bewijs 'populair zijn onder jongeren'.

Rekenfouten en 'bedachte' antwoorden

Bing maakte ook een aantal rekenfouten bij het samenvatten en vergelijken van financiële gegevens. En ook een geautomatiseerde zoekopdracht naar een stofzuiger voor huisdierenhaar levert ogenschijnlijk betrouwbare resultaten op – wie het naloopt, ontdekt echter dat er niets van klopt.

Een woordvoerder van Microsoft heeft de fouten inmiddels erkend. "We verwachten dat het systeem fouten maakt tijdens deze previewperiode. De feedback is van cruciaal belang om te helpen bepalen waar dingen niet goed werken, zodat we ervan kunnen leren en de modellen kunnen verbeteren."

Topmannen OpenAI en Google

Dat kunstmatige intelligentie nog niet betrouwbaar is, zei de topman van ChatGPT-maker OpenAI vorige maand al. "We kunnen de verwachtingen nog niet waarmaken", aldus topman Sam Altman.

Ook Google-zoekchef Prabhakar Raghavan stipte de tekortkomingen van AI aan. "Het soort kunstmatige intelligentie waar we het nu over hebben, kan soms leiden tot iets dat we 'hallucinatie' noemen: een apparaat geeft een overtuigend maar volledig fictief antwoord", aldus Raghavan.

Voorzitter van Google-moederbedrijf Alphabet John Hennessy zei dat er nog veel problemen rond 'onnauwkeurigheid en toxiciteit' moeten worden opgelost voordat dit soort AI-systemen geschikt voor het grote publiek zijn.

Pionier waarschuwt

Internetpionier Vint Cerf deelt de sceptische houding van de topmannen en gaat een stap verder. Cerf waarschuwt voor grote investeringen in AI, omdat de technologie volgens hem nog lang niet volwassen genoeg is. Cerf geldt samen met collega Bob Kahn met een aantal andere wetenschappers als grondlegger van het wereldwijde web. Cerf heeft inmiddels een adviserende rol binnen Google.

Tijdens een toespraak in Google-thuisstad Mountain View had Cerf een boodschap voor investeerders die hun geld in AI willen steken: "Doe het niet". "Er is een ethisch probleem dat jullie hopelijk overwegen", zei Cerf over de hausse rond AI.

Verschil tussen welbespraakt en juist

"Iedereen heeft het over ChatGPT of Googles versie en we weten dat het niet altijd werkt zoals we zouden willen. Dat is het probleem… je ziet het verschil niet tussen een welbespraakte reactie en een juiste reactie", aldus Cerf. "We zijn nog een eind verwijderd van bewustzijn of zelfbewustzijn." 

Volgens Cerf ogen AI-chatbots in eerste instantie indrukwekkend. "Als je dan denkt 'man, dit kan ik aan investeerders verkopen omdat het populair is en iedereen me geld zal toegooien', doe het dan niet. Wees behoedzaam. Jullie weten dat we niet altijd kunnen voorspellen wat er gebeurt met dit soort technologieën en om eerlijk te zijn ligt het probleem bij mensen – we zijn niet veranderd in de afgelopen 400 jaar, of zelfs in 4000 jaar."

Luister ook de Bright Podcast: