©Unsplash
'Mysterieuze AI-doorbraak ging vooraf aan heisa rond OpenAI-top'
Er wordt meer bekend over de oorzaak van de rel rondom het leidershap van OpenAI. Onderzoekers zouden het bestuur hebben gewaarschuwd voor een mysterieuze, eigen doorbraak op het vlak van wiskundige AI.
De heisa rondom OpenAI is inmiddels ruim beschreven. Lang verhaal kort: topman Sam Altman werd door het bestuurd de laan uit gestuurd, het bestuur werd door het personeel opgegeven en met een nieuw bestuur kan Altman weer aan de slag. Maar wat was nou de aanleiding voor al dat gedoe? Persbureau Reuters heeft wel een idee: het zou gaan om een waarschuwingsbrief die OpenAI-wetenschappers naar de top zouden hebben gestuurd, daags voordat de bom barstte.
Die brief zou draaien om het project Q*, (spreek uit: Q Star). Die doorbraak in kunstmatige intelligentie zou een model zijn dat zelfstandig wiskundige problemen kan oplossen. Daarmee zou AI in één klap allerlei hooggeplaatst mensenwerk kunnen vervangen. Wiskundige nauwkeurigheid is nu nog een zwakke plek van de huidige modellen, die vooral imponeren met hun taalgevoel. Daarbij wordt simpel gezegd een zin 'voorspeld', op basis van allemaal bestaande tekst. Dan zijn meerdere variaties acceptabel – wiskunde is absoluut, en complexe wiskunde vereist intelligentie berekening.
Tel zulke beredenering op bij een taalgevoel en je komt dichtbij de zogenoemde algemene kunstmatige intelligentie, ook wel AGI. Volgens OpenAI is AGI een autonoom systeem dat 'de mens voorbijstreeft' bij de meeste 'economisch waardevolle taken'.
Afremmen of doorzetten
En die doorbraak van de eigen onderzoekers zou de boel op scherp hebben gezet bij OpenAI. Een deel van de top zou namelijk terughoudend willen zijn. De onderzoekers van OpenAI zouden het bestuur hebben gewaarschuwd voor de potentiële gevaren van zo'n AGI.
Het bestuur zou op zijn beurt bezorgd zijn geweest over de vroegtijdige commercialisering van zulk soort doorbraken. OpenAI is ooit opgezet als non-profit, maar kan zijn doorbraken ontwikkelen door miljarden van Microsoft – en voor wat hoort wat. Het voormalige bestuur van OpenAI zou de gevolgen van de eigen doorbraken dus liever langer hebben willen afwegen, maar daar is het nu te laat voor.
Mis niks, volg ons WhatsApp-kanaal of abonneer je op de Bright Daily nieuwsbrief.