804
33

technologie-analist en publicist

De laatste revolutie

Joop-Debat: De mens verliest de controle over de machine. De consequentie is dat machines burgerrechten en -plichten moeten krijgen

Op 6 mei 2010 was de effectenbeurs van Wall Street rumoerig, maar grote koersbewegingen deden zich niet voor. Analisten maakten zich zorgen over de Griekse economie, maar het gevoel heerste dat het ergste deel van de kredietcrisis voorbij was. Geen dag waarop iets raars kon gebeuren.

Dan, om kwart voor drie in de middag, begint de Dow Jones plotseling te dalen. De eerste paar minuten langzaam, maar vanaf een stand van 10.500 maakt de index plots een duikeling van 1100 punten. Op de computerschermen tekent zich een krater af. Meer dan 9 procent van de beurswaarde, 700 miljard dollar, verdwijnt in dezelfde tijd als een handelaar nodig heeft om een rondje om het beursgebouw te joggen.

Zelfs bij ervaren handelaren vallen de monden open. Wat echt eng is: er is geen nieuws dat deze beweging veroorzaakt. Er was geen rentestijging aangekondigd. Er was geen aanslag op een oliepijpleiding in Nigeria. Geen groot bedrijf met een winstwaarschuwing. Niets van dat al.

Dan herstelt de index zich even snel als hij was gedaald. Nog voor de handelaren zijn bijgekomen, is de Dow terug op zijn oorspronkelijke niveau. De handelaren kijken elkaar verbijsterd aan en gaan over tot de orde van de dag. Maar ze zouden er nog lang over praten.

De gebeurtenis staat nu bekend als de flash crash. Volgens een onderzoek van onder meer de Securities and Exchange Commission (SEC, de Amerikaanse AFM) ging het om “een enkele grote order”. Een order van 4,1 miljard dollar, maar één enkele order. Een automatisch verkoopprogramma had 75.000 zogenoemde “E-mini futures” gedumpt.

Wat de krantenkoppen niet meldden was dat de order alleen de daling in gang had gezet, maar haar niet veroorzaakt had. De verkoopgolf werd veroorzaakt door de computerprogramma’s die zich bezighielden met high frequency trading.

High frequency trading is beurshandel waarbij een computerprogramma voor extreem korte tijd posities inneemt. Er wordt bijvoorbeeld 20 keer per seconde gehandeld in een bepaald aandeel. Op het moment dat de grote order aan de markt werd aangeboden, waren er te weinig kopers. Een pandemonium ontstond waarbij het verkoopprogramma de resterende positie wilde verkopen tegen elke prijs. De high frequency handel kocht gedeelten van de verkooporder op, maar probeerde deze plukjes meteen weer door te verkopen. Tevergeefs. Een half uur lang waren de high frequency programma’s  onophoudelijk bezig gedeelten van het contract aan elkaar door te verkopen zonder echte vraag in de markt.

De prijsdaling op de Chicago Mercantile Exchange sloeg volautomatisch over naar andere beurzen zoals de NYSE en de Nasdaq. Veel computerprogramma’s lassen een handelspauze in bij ongewone bewegingen. Zo droogde de vraagkant ook op de grote effectenbeurzen op. De aandelen van sommige bloedsolide bedrijven, zoals Procter & Gamble, kostten op een bepaald moment nog maar 1 cent. Maar de gekte hield even plotseling op als hij begonnen was. Toen een computersysteem de handel voor vijf seconden stillegde, keerde de beweging zich om 5 minuten later waren de koersen weer waar ze begonnen.

Het enge van high frequency trading is niet dat computers het doen, want computerhandel bestaat al sinds de jaren zeventig. Het enge is dat de opmars van de computer op de beurs nu tot bewegingen kan leiden die niet alleen volkomen onvoorspelbaar zijn, maar ook achteraf amper verklaarbaar. De belangrijkste beursautoriteiten deden er vijf maanden over om uit te vissen wat zich binnen dat halve uur op de beurs afspeelde, zodat rustig kan worden gesproken van een nieuwe werkelijkheid. Op 6 mei werd de neergang na een kwartier volautomatisch gestopt bij 9 procent. Het had even goed 49 procent kunnen zijn, wat een complete catastrofe voor de wereldeconomie had betekend.

Zowel de Amerikaanse als Nederlandse beursautoriteiten stellen dat high frequency trading niet verboden hoeft te worden. Hun redenering is: er bestond geen schadelijke ‘informatie-asymmetrie’ tussen de flitshandelaren en andere handelaren. Fijn, maar dat is niet de kwestie. De essentie is de informatie-asymmetrie tussen de mens en de computer, die compleet uit de hand loopt.

In de toekomst zal het zo goed als onmogelijk worden vast te stellen wat de oorzaak van een krach geweest is. Niet alleen omdat de beurzen verder vervlechten, maar de allernieuwste handelssystemen zijn niet meer gebaseerd op computerprogramma’s. De lerende systemen doen hun intrede. Deze systemen “leren” van succes en falen, winst en verlies. Programma’s kun je die systemen niet eens meer noemen, want die aanduiding veronderstelt onveranderlijk gedrag. Een betere aanduiding is algo’s. Algo’s passen hun werking voortdurend aan zonder dat de bedenker van de algo’s dat weet. Zo zijn ze ontworpen.

De financiële wereld is slechts één terrein waar de mens de controle begint te verliezen over de gedragingen van de digitale systemen die hij heeft gebouwd. Andere terreinen waar deze ontwikkeling optreedt zijn de militaire sfeer, de gezondheidszorg, verkeer en mobiliteit, search engines en sociale netwerken. In de militaire wereld is het binnen enkele jaren niet meer de vraag wíe er op de knop heeft gedrukt, maar wát. In de gezonheidszorg is straks niet de vraag wíe besloten heeft de patiënt een injectie te geven, maar wát. Bij search engines is het straks niet alleen de vraag welke informatie je vindt, maar waarom.

Op al deze terreinen verliest de mens momenteel de controle over de ICT. Het duurt niet lang meer of we zijn letterlijk overgeleverd aan de machines. De implicatie is dat binnen niet al te lange tijd de menselijke makers of eigenaren van deze systemen niet meer verantwoordelijk kunnen worden gehouden voor hun functioneren.

De onvermijdelijke uitkomst is dat machines rechten en plichten moeten krijgen.

Misschien niet nu meteen, maar de discussie daarover moet wel nu beginnen. Wij mensen zullen dat eisen omdat het de enige manier is om onze leefomgeving veilig te stellen.

Hoe deze toekenning van rechten en plichten aan machines er precies uit zal moeten zien, daar moeten we een lange en brede maatschappelijke discussie over voeren. De invulling zal per situatie verschillen, maar het toekennen van rechten en plichten moet steeds meer gaan omvatten. Zo zal handel op de beurs door algo’s alleen nog door andere algo’s gecontroleerd kunnen worden. Het controlerende algo zal echter zelf de beslissing moeten kunnen nemen hoeveel computerkracht het nodig heeft. Die beslissing kan het algo alleen nemen als het recht heeft op een budget. Maar het recht op een budget impliceert het recht op een bankrekening. En dat impliceert het recht op privacy.

En zo roept het ene recht het andere op.

Het toekennen van rechten en plichten aan machines zal niets minder dan zijn dan een revolutie. Het zal tevens de laatste revolutie in de geschiedenis zijn die door de mens kan worden vormgegeven. De enige vraag is nog wanneer we ermee beginnen. Nu of op het moment dat we de controle volledig hebben verloren.

Donderdag 25 november om circa 11:45 debatteert Henny van der Pluijm bij De Gids FM met Martijntje Smits van het Rathenau instituut

Geef een reactie

Laatste reacties (33)