16

Onderzoek: Algoritme Facebook helpt IS terreurnetwerk uit te breiden

Facebook heeft duizenden aanhangers van terreurgroepering Islamitische Staat (IS) bij elkaar gebracht door middel van de “voorgestelde vrienden” functie op het sociale netwerk. Dat blijkt uit een rapport van het Counter Extremism Project dat later deze maand verschijnt. Extremisten kregen op Facebook hapklaar voorgeschoteld wie hun interesses deelden en konden zo moeiteloos hun netwerk uitbreiden.

De onderzoekers analyseerden de Facebook-activiteiten van duizend IS-aanhangers in 96 landen. Zo ontdekten ze dat gebruikers met extremistisch-islamitische denkbeelden systematisch aan elkaar werden voorgesteld dankzij het algoritme dat mensen met gelijke interesses aan elkaar voorstelt. Op die manier konden jihadistische netwerken uitgebreid worden met nieuwe leden.

Gregory Waters, een van de onderzoekers, schrijft in het rapport hoe hij gebombardeerd werd met suggesties voor pro-IS-vrienden, nadat hij via Facebook contact had gelegd met een actieve jihadist. Zijn collega Robert Postings klikte meermaals op links van niet-extremistische nieuwspagina’s over een islamistische opstand op de Filipijnen en werd binnen enkele uren overspoeld met vriendensuggesties voor tientallen extremisten in die regio. Postings schrijft in het rapport:

In hun streven zo veel mogelijk mensen te verbinden, heeft Facebook per ongeluk een systeem gecreëerd dat extremisten en terroristen helpt elkaar te vinden.

De analyse van het Counter Extremism Project laat ook duidelijk zien dat het algoritme van Facebook bijdroeg aan radicalisering. In één genoemd voorbeeld stuurde een Indonesische IS-aanhanger een vriendschapsverzoek naar een niet-moslim in New York. Tijdens het eerste gesprek legde de Amerikaan uit dat hij niet religieus was, maar wel interesse had in de islam. In de loop van de volgende maanden deelde de Indonesiër steeds radicalere berichten en links, waaronder IS-propaganda. Robert Postings schrijft:

Gedurende een periode van zes maanden ging de Amerikaanse Facebook-gebruiker van niet religieus zijn naar een geradicaliseerde moslim die IS aanhing.

Het onderzoek keek ook naar de mate waarin Facebook in staat is terroristisch materiaal op het netwerk aan te pakken. Van de duizend onderzochte profielen, was zes maanden later minder dan de helft door Facebook opgeschort. Dat de meerderheid van de pro-IS-gebruikers ongestoord door konden gaan, is volgens de onderzoekers ‘zorgwekkend’. Het rapport laat zien dat zelfs nadat jihadistisch materiaal als dusdanig werd aangemerkt, de plaatser ervan gewoon op de site mocht blijven. Ook zijn er talloze voorbeelden van gebruikers die wel geblokkeerd werden, maar na klachten bij de moderators, toch hun profiel weer terugkregen. Een Britse terreurverdachte kreeg zijn Facebook-account maar liefst negen keer terug, omdat hij bij elke opschorting opnieuw een klacht indiende.

Gregory Waters concludeert:

Dit project heeft het onvermogen of de onwil van Facebook blootgelegd om op een efficiënte manier extremistische inhoud op hun site aan te pakken. Door niet in staat te zijn het platform effectief te bewaken, is Facebook een plaats geworden waar uitgebreide IS-steunende netwerken bestaan, propaganda wordt verspreid, mensen worden geradicaliseerd en nieuwe supporters worden gerekruteerd.

Facebook zelf zegt na de onthullingen in het rapport het niet eens te zijn met de gestelde conclusies. Een woordvoerder laat weten dat het sociale netwerk hard werk om alle berichten die terrorisme steunen te verwijderen:

Onze aanpak werkt. 99 procent van de IS- en Al-Qaida-gerelateerde berichten die we verwijderen, wordt door onze geautomatiseerde systemen gevonden. Maar er is geen gemakkelijke technische oplossing om online extremisme te bestrijden.

Bron: The Telegraph / cc-foto: Brian Solis

Geef een reactie

Laatste reacties (16)