Geef machines rechten en plichten

De informatietechnologie levert ons werktuigen die de mens kunnen dienen. Dat was tot dusver een realistisch verwachtingspatroon. Maar in 2012 verscheen een mainframe-computer van IBM die ongeveer dezelfde informatieverwerkende capaciteit heeft als het menselijke brein: 20 petaflops.

Het was de opvolger van de computer die schaakgrootmeester Gary Kasparov in 1999 versloeg en van de computer die enkele jaren geleden won van de beste menselijke spelers van het televisie-kennisspel Jeopardy.

De Wet van Moore stelt dat de verwerkingskracht van digitale systemen elke pakweg 20 maanden verdubbelt. Tien van deze verdubbelingen betekenen een groei van de verwerkingskracht met een factor 1000. Daardoor zal binnen één menselijke generatie elke laptop over een microprocessor beschikken die meer instructies per seconde kan verwerken dan zijn menselijke gebruiker. Een baby die nu wordt geboren, leeft als hij 21 wordt in een wereld waarin miljoenen digitale apparaten sneller informatie kunnen verwerken dan zijn eigen hersenen. 

In mijn boek Rechten en Plichten voor Robots leg ik uit waarom er een maatschappelijk antwoord moet komen op het steeds intelligenter worden van machines. Het verschijnen van steeds capabeler machines kan niet worden afgedaan als slechts de komst van betere apparatuur die ons als consument, burger of werknemer ten dienste zal staan of bedrijven zal helpen efficiënter te werken.

Die aanname wordt veroorzaakt doordat vrijwel alle software die we nu gebruiken, werkt volgens ‘als-dan’-regels. Maar achter de schermen verschijnen lerende systemen die van de exponentieel groeiende hardwarekracht gebruik maken. Deze opereren op onvoorspelbare wijze. Het basisprincipe bestaat uit kunstmatige ‘neurale netwerken’ die een rechtstreekse imitatie vormen van menselijke hersenen. 

Nu al bestaan de kritische systemen waar onze maatschappij op draait uit complexe algoritmen die voor mensen niet meer te doorgronden zijn. Irisscanners, vingerafdrukscanners en beeldherkenningssoftware zijn zichtbare voorbeelden van software die niet regel voor regel is geschreven, maar getraind om een niveau van prestaties te bereiken. In de financiële en militaire sector worden complexe neurale netwerken gebouwd die zelfstandig beslissingen kunnen nemen op de beurs of op het slagveld onder condities die voor menselijke opdrachtgevers niet te voorzien zijn. Het gaat om autonome systemen die over lerende capaciteiten beschikken. 

De kennis en kunde van deze systemen wordt slechts beperkt door de omvang van het kunstmatige neurale netwerk dat is ingebouwd en door de verwerkingskracht van de gebruikte hardware.

De bewustwording van dit verschijnsel bij de media, maar ook bij de burger, de overheid, de bestuurlijke elite en het bedrijfsleven, loopt hopeloos achter bij de werkelijkheid. Het fundamentele probleem dat zal ontstaan is dat niemand verantwoordelijk kan zijn voor het gedrag van autonome systemen. De fabrikant niet, de leverancier niet, de tussenhandel niet, inkopende organisaties niet en de eindgebruiker niet. Lerende systemen kunnen ook veel complexere taken aan dan klassieke ‘als-dan’-systemen. Maar een lerend systeem dat op maandag operationeel wordt, functioneert op dinsdag alweer anders, zodat niemand de werking ervan kan garanderen. De laatste ontwikkelingsstadia van deze systemen bestaan ook niet uit een testperiode, maar uit een trainingsperiode. 

De maatschappij moet een antwoord formuleren op deze ontwikkeling. Momenteel worden rechtskwesties rond ICT geregeld via reguliere wetgeving zoals rond eigendom, privacy en overeenkomsten volgens burgerlijk recht. In Rechten en Plichten voor Robots stel ik dat dit een doodlopende weg is. Uiteindelijk moeten lerende systemen een eigen rechtspositie krijgen om onafhankelijk van mensen te kunnen functioneren en ter verantwoording te worden geroepen. Ze moeten het recht krijgen op relevante informatie voor het nemen van beslissingen, maar ook het recht om zichzelf te upgraden om een taak goed te kunnen verrichten.

In het verlengde: het recht op een budget, op een bankrekening, op werkweigering en op andere rechten. Het is een Doos van Pandora. Tegelijkertijd moeten lerende systemen de plicht krijgen zich aan wetten en regels te houden en verantwoording afleggen aan de directe omgeving en zo nodig aan de maatschappij. 

Deze ontwikkeling kan niet worden gekeerd, hooguit zodanig worden ingevuld dat het gemeenschappelijk belang het meest wordt gediend. Het boek voorspelt de noodzaak van een Algoritmenwet , die de rechtspositie van intelligente lerende systemen regelt.

Er worden zes eigenschappen voorgesteld waaraan machines moeten voldoen om te vallen onder deze Algoritmenwet. Een uitvloeisel van zo’n wet kan zijn dat zowel de bouwers als de gebruikers van deze lerende systemen verplicht worden om zowel de autonomie van de machine te waarborgen als ervoor te zorgen dat deze voldoet aan wettelijke verplichtingen.

Het thema Rechten en Plichten voor Robots loopt bewust op de ontwikkelingen vooruit. Dat is geen overbodige luxe, want vanaf het moment dat lerende systemen de mens voorbijstreven in informatieverwerkende capaciteit, verliezen we de controle over de wereld en zijn de effecten niet te overzien. Voor de generaties na ons is er geen weg meer terug.

Het nieuwste boek van Henny van der Pluijm is Rechten en Plichten voor Robots.

Volg Henny op Twitter