AI-pionier vertrekt bij Google om te waarschuwen voor zijn werk
Geoffrey Hinton, pionier op het gebied van kunstmatige intelligentie (AI), is na tien jaar vertrokken bij Google. Hij waarschuwt nu voor de gevaren die AI met zich meebrengt.
Luister ook:
In 2012 bedacht Hinton als hoogleraar samen met twee leerlingen de technologie waarmee computers grote hoeveelheden gegevens kunnen analyseren. Deze technologie ligt aan de basis van veel moderne AI-systemen. Door met Hintons systeem bijvoorbeeld naar heel veel illustraties te kijken, kan de computer leren om zelf zulke illustraties te maken.
De hoogleraar werkte bij Google, maar is nu bij de techreus vertrokken omdat hij wil waarschuwen voor de gevaren van AI, zegt hij tegen The New York Times. Daarmee slaat Hinton alarm voor zijn eigen creatie. "Ik troost mezelf met het gebruikelijke excuus: als ik het niet gemaakt had, dan had een ander het wel gedaan."
AI-race
Grote techbedrijven haasten zich om zo snel mogelijk nuttige toepassingen met AI te ontwikkelen. Zo integreerde Microsoft recent de software van OpenAI in zijn zoekmachine Bing, waardoor deze slimme, contextgevoelige antwoorden kunnen geven.
Uit interne berichtgeving bleek onlangs dat bij Google sindsdien paniek is uitgebroken. Het techbedrijf probeert nu sneller dan ooit AI-toepassingen te bouwen, waarbij het volgens kritische medewerkers minder voorzichtig te werk zou gaan dan voorheen.
'Slechte dingen'
Hinton vreest dat bij de snelle ontwikkeling van AI allerlei zaken verkeerd zullen lopen. Eerder bleek al dat zulke software misbruikt kan worden voor desinformatie, bijvoorbeeld door nepfoto's te genereren van beroemdheden. "Ik zie niet hoe we kunnen voorkomen dat slechte mensen er slechte dingen mee gaan doen", duidt de hoogleraar.
Daarnaast zou de banenmarkt verstoord kunnen raken, doordat AI steeds meer werk van mensen kan gaan overnemen. Hinton: "Op dit moment neemt AI al 'hersenloos' werk over, maar mettertijd neemt het misschien wel meer taken over."
Brandbrief over gevaren AI
De AI-pionier is niet de enige die vreest voor de gevolgen van AI-technologie. In maart stuurden ruim duizend experts een brandbrief, waarin ze opriepen de ontwikkeling van AI te pauzeren, zodat er goede wetgeving voor kan worden aangenomen. Die oproep is inmiddels door bijna 28.000 mensen wereldwijd ondertekend.
Onder andere de EU en de VS werken intussen aan strengere regelgeving rond AI.