Experts dreigen met boycot om Koreaanse 'killer-robots'
Wetenschappers dreigen met een boycot van een Zuid-Koreaanse universiteit die aan 'killer-robots' zou werken.
Meer dan 50 experts op het gebied van kunstmatige intelligentie (AI) zijn tegen de plannen van de Zuid-Koreaanse KAIST-universiteit om wapens met AI te ontwikkelen. De groep experts dreigt met een boycot in aanloop naar een vergadering van de Verenigde Naties in Wenen, waar volgende week internationale restricties op 'killer-robots' worden besproken.
De aanleiding voor de boycot is de opzet van een gezamenlijk onderzoekscentrum van KAIST en het Zuid-Koreaans defensiebedrijf Hanwha Systems. Het centrum gaat AI-wapens ontwikkelen die 'doelen zoeken en elimineren zonder menselijke controle'. De wapens worden 'de derde revolutie op het slagveld' genoemd, na het buskruit en nucleaire wapens.
Menselijke controle
De boycot is een idee van de Australische hoogleraar Toby Walsh. "Er worden al prototypen van autonome wapens ontwikkeld door veel landen, waaronder de VS, China, Rusland en het Verenigd Koninkrijk", aldus Walsh. "We zijn al verzeild in een wapenwedloop die niemand wil laten gebeuren. De acties van KAIST zullen deze wapenrace alleen maar versnellen. We kunnen dit niet tolereren."
Walsh en andere vooraanstaande experts op het gebied van AI willen met de boycot alle contacten en academische samenwerkingen met KAIST verbieden. Zo willen de experts de Zuid-Koreaanse universiteit dwingen om 'wezenlijke menselijke controle' aan hun zelfdenkende wapensystemen toe te voegen.
Ethische normen
KAIST-hoofd Sung-Chul Shin is volgens Times Higher Education 'teleurgesteld' door het dreigement met een boycot. Hij ontkent dat de universiteit werkt aan autonome wapens. "Als academische instelling waarderen we mensenrechten en ethische normen in hoge mate", Shin. "KAIST zal geen onderzoeksactiviteiten uitvoeren die in strijd zijn met de menselijke waardigheid, inclusief autonome wapens zonder wezenlijke menselijke controle."
Eerder waarschuwde Tesla-topman Elon Musk samen met 115 experts voor de gevaren van killer-robots in een brief aan de VN. Musk en de experts pleitten voor strengere regels. Maar landen als de VS en het Verenigd Koninkrijk zien internationale regelgeving niet zitten en wijzen op wapens die nu al in de praktijk deels autonoom werken, zoals drones.
Doos van Pandora
Professor Walsh waarschuwt met zijn boycotdreigement echter voor een 'versnelling van oorlogsvoering op veel grotere schaal' wanneer autonome wapens worden gebruikt. "Dit een doos van Pandora die eenmaal geopend nog maar moeilijk gesloten kan worden."
Lees ook:
'Killer-robots kunnen mensenlevens redden'