- IS weet als geen ander hoe je slim gebruik maakt van social media
- Het Britse ministerie van Binnenlandse Zaken en ASI Data Science vechten terug
- Sceptici maken zich zorgen over hoe IS zich zal aanpassen
- ASI heeft een oplossing – maar dat is geheim!
Social media– en videoplatforms als YouTube hebben ons leven volledig veranderd. Terreurorganisaties als IS hebben goed naar deze Westerse voorbeelden gekeken en maken ook slim gebruik van social media om gelijkgestemden te bereiken, fans aan te trekken en een ‘merk’ op te bouwen. Ze zijn te vinden op platforms als Twitter, Facebook en YouTube waar ze hun gevaarlijke ideologie verspreiden. Deskundigen waarschuwen al jaren dat het digitale landschap vol zit met IS-propagandisten.
IS weet als geen ander hoe je slim gebruik maakt van social media
Helaas lijkt het erop dat we er niet veel tegen kunnen doen. Dit komt deels doordat het aantal social mediasites gewoon enorm groot is en maar blijft groeien. James Temperton schrijft bijvoorbeeld voor Wired: “Isis zou in 2017 maar liefst 400 verschillende social media platforms hebben gebruikt voor het uploaden van propaganda”. Bovendien worden de slapende waakhonden blijkbaar maar niet wakker, want op YouTube wordt bijvoorbeeld elke minuut maar liefst 300 uur aan content geüpload!
Menselijke regulators kunnen deze hoeveelheden gewoon niet bijbenen en onder controle houden, waardoor de bad guys alle ruimte hebben om haat te zaaien en te rekruteren. Dankzij ontwikkelingen op het gebied van kunstmatige intelligentie en machine learning is het tij echter aan het keren. De Britse regering heeft een nieuw systeem ontwikkeld waarmee ze de digitale vrijheid van IS aan banden willen leggen.
Het Britse ministerie van Binnenlandse Zaken en ASI Data Science vechten terug
Het Britse departement van Binnenlandse Zaken heeft, in samenwerking met ASI Data Science, een slimme social media watchdog ontwikkeld die IS propagandavideo’s met een verbazingwekkende nauwkeurigheid van 99,995% kan herkennen. Het kleine aantal video’s waar het systeem niet zeker over is kunnen vervolgens doorgespeeld worden naar menselijke moderators. Dat betekent volgens Binnenlandse Zaken dat van elke miljoen video’s er nog maar 50 door mensen beoordeeld hoeven te worden. Theoretisch zou een klein team van getrainde experts met deze kunstmatige intelligentie kunnen samenwerken om ervoor te zorgen dat er niets meer tussendoor glipt.
Dit is mogelijk dankzij een aantal zeer slimme algoritmen die met behulp van meer dan 1000 propagandavideo’s zijn getraind. De details zijn natuurlijk geheim, maar de KI die dit systeem aanstuurt ziet het verschil tussen bijvoorbeeld een Al Jazeera rapportage en een haatzaaiende IS propagandavideo.
Sceptici maken zich zorgen over hoe IS zich zal aanpassen
Niet iedereen is echter overtuigd en sceptici als Charlie Winter, Senior Research Fellow aan het International Centre for the Study of Radicalisation, waarschuwen dat IS zich kan aanpassen om deze nieuwe barrière te overwinnen. Ze hoeven alleen maar hun stijl te veranderen en het algoritme pakt de content al niet meer op. Temperton legt uit dat dat komt omdat de ‘branding’ van deze propagandavideo’s in wezen uniform is en omdat er qua achtergrondmuziek en de beelden zelf niet veel variatie is in de video’s. Het is niet moeilijk om hier wijzigingen in aan te brengen – waarna het algoritme vervolgens weer achter het net vist.
ASI heeft een oplossing – maar dat is geheim!
Gelukkig heeft John Gibson, hoofd datawetenschappelijke advisering bij ASI, daar een antwoord op. Hij vertelt Temperton: “We hebben er goed over nagedacht en ons geconcentreerd op de kenmerken van IS propaganda waar ze heel moeilijk iets aan kunnen veranderen… Uiteraard moet dit systeem goed werk gaan leveren, het moet adaptief zijn en in staat zijn om qua ontwikkelingen up-to-date te blijven”. Hoewel ASI geen uitlatingen kan doen over hoe de algoritmen precies werken, hebben ze wel laten weten dat het systeem uit meerdere modellen bestaat die met elkaar samenwerken om verdachte video’s op te sporen. Het ministerie van Binnenlandse Zaken maakt deze service beschikbaar voor iedereen die er maar gebruik van wil maken. Dit betekent dat IS steeds minder ruimte krijgt om strijders te rekruteren.
Er wordt alles aan gedaan om de social mediabedreiging van IS wereldwijd uit te bannen, en naarmate KI en machine learning verder ontwikkelen, bieden ze een steeds effectiever wapen in de strijd tegen terrorisme.
