15

Experts smeken: ‘Stop de ontwikkeling van robots die moorden’

In een open brief aan de Verenigde Naties vraagt een grote groep tech-ondernemers, waaronder die van Google en Tesla, om maatregelen te nemen tegen de opkomst van zogeheten ‘moordende robots’, wapensystemen die geheel autonoom opereren en mensen om het leven brengen.

Trouw schrijft:

Het voordeel van de volautomatische wapens is wel dat er geen militairen meer naar oorlogsgebieden hoeven af te reizen. Het zijn vliegtuigen of wapens die zelf vliegen, zelf hun doel kiezen en zelf besluiten te schieten. Er komt geen ingrijpen van mensen aan te pas. Een dergelijk systeem (SGR-A1) is op de grens van Noord- en Zuid-Korea al actief. De mitrailleur scant zijn omgeving en lost zelf schoten op personen. In onder andere China en de VS zijn ze ook bezig met de ontwikkeling van soortgelijke wapens. De Amerikaanse X-47B, een soort vliegende vleugel die vanuit de lucht zelf vijanden opspoort en vernietigt, zou in 2020 de eerste gevechtsmissies moeten uitvoeren.

De technici maken zich grote zorgen over dergelijke systemen omdat ze kunnen lieden tot geweld op ongekend grote schaal. De aanvallers riskeren immers niet meer hun eigen leven maar maken alleen maar slachtoffers. Het is een soort mechanische neutronenbom, het beruchte massavernietigingswapen dat al het leven doodde maar de infrastructuur intact liet.

De tekst van de brief:

Als bedrijven die de technieken in kunstmatige intelligentie en robotica bouwen die aangewend kunnen worden om autonome wapens te ontwikkelen, voelen we ons speciaal verantwoordelijk om alarm te slaan. We verwelkomen van harte het besluit van de VN Conferentie van de Conventie aangaande Bepaalde Wapens om een Groep van Overheidsexperts (GGE) in te stellen op het gebied van dodelijke autonome wapensystemen. Veel van onze onderzoekers en technici kijken er naar uit om technisch advies te geven tijdens uw beraadslagingen.

We bevelen de aanstelling van de Indiase ambassadeur Amandeep Singh Gill aan te stellen als voorzitter van de GGE. We smeken de verdragsondertekenaars die deelnemen in de GGE om er hard aan te werken middelen te vinden om een wapenwedloop in deze wapens te voorkomen, om burgers te beschermen tegen misbruik er van en om de destabiliserende effecten van deze technologieën te vermijden. Het spijt ons dat de eerste vergadering van de GGE die vandaag, 21 augustus 2017, zou beginnen is afgelast omdat een klein aantal staten hun financiële bijdragen aan de VN niet betaald hebben. We dringen er bij de verdragsondertekenaars daarom op aan hun inspanningen te verdubbelen op de eerste vergadering van de GGE die nu gepland staat voor november.

Dodelijke autonome wapens dreigen de derde revolutie in oorlogvoering te worden. Eenmaal ontwikkeld maken ze een gewapend conflict mogelijk dat uitgevochten wordt op een schaal die groter is dan ooit tevoren en in tijdspannes die voor mensen te snel gaan om te begrijpen. Het kunnen terreurwapens zijn, wapens die despoten en terroristen gebruiken tegen onschuldige bevolkingen en wapens die gehackt zijn om ze op ongewenste manieren te laten werken. We hebben niet veel tijd om te handelen. Als deze doos van Pandora eenmaal geopend is, zal het moeilijk zijn die te sluiten. We verzoeken de verdragsluitende partijen dan ook dringend een manier te vinden om ons allemaal te beschermen tegen deze gevaren.

Onder de ondertekenaars zijn ook vier Nederlanders: Koen Hindriks en Joachim de Greeff, van Interactive Robotics; Maja Rudinac van Robot Care Systems en Jaap van Leeuwen van Blue Ocean Robotics Benelux.

cc-foto: Wafna’s Custom Shots

Geef een reactie

Laatste reacties (15)