Duizend experts slaan alarm over AI: pauzeer de ontwikkeling

In de open brief wordt opgeroepen voor een pauze van minstens zes maanden in de ontwikkeling van AI-systemen die krachtiger zijn dan GPT4. Dat is het nieuwste AI-systeem van OpenAI, dat onder meer in ChatGPT en een groeiend aantal Microsoft-diensten zit, zoals Bing, Outlook en Windows. De snelle groei van ChatGPT beweegt concurrenten als Google om ook hun AI-systemen sneller op de markt te brengen.

De experts vrezen een ongecontroleerde wedloop, zonder oog voor de langetermijngevolgen. "Kunstmatige intelligentie wordt nu concurrerend op het gebied van menselijke taken en dus moeten we onszelf afvragen: moeten we machines onze informatiekanalen laten overspoelen met propaganda en onwaarheden? Moeten we al onze banen weg-automatiseren, ook de banen die voldoening geven? Moeten we kunstmatige breinen ontwikkelen die straks met meer zijn dan wij, slimmer dan wij en die ons zullen vervangen? Moeten we het risico lopen dat we de controle over onze beschaving kwijtraken?", vragen de ondertekenaars van de brief zich af.

'Geen besluit voor ongekozen tech-leiders'

"Zulke beslissingen moeten niet genomen worden door ongekozen tech-leiders. Krachtige AI-systemen zouden alleen ontwikkeld moeten worden als we er zeker van zijn dat hun effecten positief zijn, en de risico's te overzien", aldus de open brief.

Naast Elon Musk en Steve Wozniak is de brief ondertekend door AI-zwaargewichten als Emad Mostaque, ceo van Stability AI en een groep onderzoekers van DeepMind, een AI-maker van Google-moederbedrijf Alphabet. Schrijver en futuroloog Yuval Noah Harari heeft ook getekend, net als de Nederlander Frits Vaandrager, hoofd van de afdeling softwarewetenschappen aan de Radboud Universiteit. Ook bekende AI-onderzoekers Yoshua Bengio en Stuart Russell hebben de brief getekend, net als Gary Marcus, emeritus professor psychologie en neurowetenschap aan de New York University.

"De brief is niet perfect, maar de bedoeling is juist: we moeten het langzamer doen tot we de gevolgen beter begrijpen", aldus Marcus. "Ze kunnen serieuze schade aanrichten", zegt Marcus over AI, "de grote spelers worden steeds geheimzinniger over wat zij doen, waardoor het voor de samenleving moeilijk is om zich tegen eventuele schade te wapenen."

'Politiek moet desnoods ingrijpen'

Nu al zijn er bedrijven die sommige taken deels laten invullen door kunstmatige intelligentie. De verwachting is dat dat alleen nog maar zal toenemen. AI-systemen zoals ChatGPT zijn in het afgelopen halfjaar alleen al sterk verbeterd. Makers van zulke systemen weten zelf ook niet precies hoe die werken: AI wordt wel getest, maar pas in de praktijk blijkt wat er allemaal mogelijk is – en wat er fout gaat.

Als bedrijven niet zelf pauzeren, zouden overheden dat moeten afdwingen, stellen de ondertekenaars. Europa werkt momenteel aan AI-regels, maar die gelden voorlopig nog niet. En in de VS zijn er wel zorgen, maar is met niet actief bezig met regels rond kunstmatige intelligentie. Bovendien zijn enkele van de grootste makers van AI-systemen ook de bedrijven die het meeste geld in hun politieke lobby steken.

Luister ook de Bright Podcast: