Robots die moorden, willen we dat?

Oorlog dreigt nog macaberder te worden door de opkomst van LAR’s. Die afkorting staat voor Lethal Autonomous Robots, oftewel robots die op eigen houtje kunnen doden. Dat klinkt als Hollywood-achtige science fiction maar dergelijke machines staan op het punt tot wasdom te komen. Denk bijvoorbeeld aan drones die niet meer op afstand bestuurd worden maar zelfstandig patrouilles uitvoeren en ‘doelwitten’ selecteren. Bij dat laatste begint het probleem.

Christof Heyns, de speciale rapporteur van de Verenigde Naties op het gebied van standrechtelijke en onwettige executies, waarschuwde deze week in New York voor de opkomst van de moordmachines. Hij stelde de Mensenrechtenraad van de VN voor dat er een moratorium komt op dergelijke machines en er eerst na uitgebreide discussie een raamwerk wordt bedacht waarbinnen de machines gaan opereren. De consequenties van de technologie zijn volgens Heyns enorm :

Het maakt het voor staten makkelijker om oorlog te voeren en roept de vraag op of ze wel geprogrammeerd kunnen worden om zich te houden aan de internationale wetgeving, speciaal op het gebied van onderscheid tussen strijders en burgers en ‘collateral damage’ . Oorlog zonder nadenken is mechanisch slachten. Zoals het ontnemen van iemands leven minstens een minimale overdenking vereist, zo verdient de beslissing om machines in te zetten die mensen gaan doden wereldwijd een collectieve pauze.

Volgens Heyns is er nu nog de kans om tot bezinning te komen.

Henny van der Pluijm, auteur van het deze week verschenen boek Rechten en Plichten voor Robots , sluit zich volledig aan bij Heyns: “Het is een illusie te denken dat je ze kunt tegenhouden, die machines gaan er nu eenmaal komen, maar het is wel noodzakelijk dat we er over discussiëren wat we er mee doen. En of we er aan mee willen doen. Het moet een optie zijn om er niet aan te beginnen. Het is geen gek idee om als Nederland te beginnen met de stelling dat we ze niet willen. En dan kijken wie we mee kunnen krijgen.”

Van der Pluijm maakt de vergelijking met kernenergie. “Daarvan is de toepassing ook beperkt vanwege de gevaren. Dat kun je niet in de supermarkt kopen. Er zijn nu nog geen wapens die zelfstandig beslissingen nemen. Dus we hebben nog de kans,” verklaart hij tegenover Joop.

Volgens Van der Pluijm is het een illusie te denken dat robots de strijd in de toekomst onderling zullen uitvechten en zo oorlogen minder gruwelijk zullen maken. “Alleen al omdat niet ieder land robots zal hebben. Kijk naar de laatste oorlogen, die gaan meestal om een grootmacht of een coalitie die in conflict raakt met een land of een groepering.  Die robots gaan zich echt niet beperken tot het uitschakelen van andere robots.”

Van der Pluijm wijst op het belangrijkste misverstand dat rondom dit soort ‘intelligente’ robots bestaat en waar ook de heer Heyns mee te kampen heeft. De robots van de nabije toekomst zijn niet regel voor regel geprogrammeerd, maar hebben lerende eigenschappen. Hun basisarchitectuur bestaat uit het simuleren van de werking van de menselijke hersenen. Dat betekent dat de menselijke leiding de controle over hun gedrag verliest. “Het wordt ook moeilijk te achterhalen wie er verantwoordelijk is. De programmeur? Die kan bij zelflerende systemen de gevolgen niet overzien. En dan is de vraag of je al bij de software kunt komen. Wat in elk geval duidelijk moet worden is dat robotsoldaten zo gebouwd worden dat ze verplicht zijn hun gegevens, zoals broncode, data en video-opnamen vrij te geven als daarom wordt gevraagd. Maar dan nog, het lastige bij zelflerende systemen blijft dat je eigenlijk geen grip hebt op hoe ze zich ontwikkelen. Dat is bij financiële software al lastig maar helemaal bij een gewapende machine.”

De Nederlandse  vredesorganisatie IKV Pax Christi heeft zich overigens al aangesloten bij een campagne van Human Rights Watch om de dodelijke robots te stoppen.

cc-foto: U.S. Navy photo by Mass Communication Specialist 3rd Class Amanda S. Kitchner, militairen checken een BQM-74 target drone tijdens een marine-oefening bij Indonesië.