©Xu Haiwei

ChatGPT-maker wil 'superintelligente AI' kunnen beheersen

6 juli 2023 om 10:41

ChatGPT-maker OpenAI heeft een team opgericht dat moet uitzoeken hoe 'superintelligente' kunstmatige intelligentie straks onder controle gehouden kan worden.

OpenAI verwacht dat kunstmatige intelligentie binnen tien jaar het menselijke intellect voorbij zal gaan. En die AI zal niet per se goedaardig zijn, denkt het bedrijf. Daarom moet er gewerkt worden aan manieren om een AI die slimmer is dan wij onder controle te houden.

"Momenteel hebben we geen oplossing voor het bijsturen of controleren van een potentiële superintelligente AI, en om te voorkomen dat die zelfstandig gaat handelen", aldus Ilya Sutskever, medeoprichter van OpenAI en hoofdwetenschapper van het bedrijf. "Onze huidige technieken voor het bijsturen van AI, zoals versterkend leren of feedback van mensen, vertrouwen allemaal op het menselijk vermogen om AI in de gaten te houden. Maar dat kunnen mensen niet betrouwbaar doen als AI slimmer is dan wij."

20 procent van computervermogen

Een nieuw team gaat zich dus richten op manieren om een kwaadaardige, superintelligentie AI te kunnen controleren. Dat team staat onder leiding van Sutskever en van Jan Leike, die nu ook al leiding geeft aan het team dat bijvoorbeeld ChatGPT bijstuurt als die vreemde dingen zegt. Het nieuwe team heet dan ook 'Superalignment', oftewel superbijsturing.

Het nieuwe team moet nog opgetuigd worden en OpenAI zoekt actief naar nieuwe experts op het gebied van machine learning. Het bedrijf stelt 20 procent van zijn huidige computercapaciteit beschikbaar aan dat team. Het project zou vier jaar in beslag nemen.

AI die AI controleert

Het resultaat zal een verzameling AI-systemen zijn die mensen zou kunnen bijstaan in het onder controle houden van een veel slimmer AI-systeem. De AI-systemen vormen dan als het ware de tolk tussen mens en superintelligente AI. Het idee is dat AI dan altijd inzichtelijk blijft voor mensen, ook al overstijgt de intelligentie van de AI die van ons.

Die aanpak heeft ook weer zwakke plekken, maar Sutskever en Leike zien er wel heil in, ook voor concurrerende AI-systemen. "Het bijsturen van superintelligentie is een fundamenteel machine learning-probleem. We zijn van plan de vruchten van deze inspanning in grote lijnen te delen en beschouwen het bijdragen aan de afstemming en veiligheid van niet-OpenAI-modellen als een belangrijk onderdeel van ons werk."

Luister ook onze podcast: