- Kleine katholieke school installeert geavanceerd beveiligingssysteem met gezichtsherkenningstech
- De op KI-gebaseerde Avigilon bewakingssoftware kan leerlingen als bedreigingen markeren
- Met KI-tools kunnen scholen alles monitoren wat leerlingen op schoolcomputers doen
- Is surveillancetechnologie op scholen een goed idee?
Schietpartijen zijn in de VS aan de orde van de dag. Er gaat tegenwoordig haast geen week voorbij of we horen weer over een nieuw incident met vreselijke gevolgen. Volgens Everytown for Gun Safety, een onafhankelijke organisatie die gericht is op het begrijpen en terugdringen van wapengeweld in Amerika, zijn er sinds 2013 minstens 471 schietincidenten geweest op schoolterreinen in de VS, wat heeft geleid tot 182 doden en 364 gewonden.
Als gevolg hiervan zijn veel leerkrachten en leerlingen van mening dat naar school gaan niet langer veilig is. Dit sentiment wordt uiteraard ook door de ouders gedeeld. Uit de PDK-enquête ‘The Public’s Attitudes Toward Public Schools 2018’ blijkt dat 34 procent van de ouders in 2018 vreest voor de veiligheid van hun kinderen op school, vergeleken met slechts 12 procent in 2013. Ook getuige zijn van een schietpartij kan een enorm negatieve impact hebben op een het welzijn van kinderen en leidt in veel gevallen tot depressie, angst, posttraumatische stressstoornis, alcohol- en drugsmisbruik en zelfs criminele activiteiten.
Als reactie op het groeiende aantal dodelijke schietpartijen willen steeds meer scholen in de VS nu surveillancesystemen, toegangscontrolesystemen en gezichtsherkenningstechnologie installeren om toekomstige incidenten te helpen voorkomen en leerlingen en personeel te beschermen. Volgens een recent rapport van het marktonderzoeksbureau IHS Markit werd er in 2017 maar liefst $2,7 miljard uitgegeven aan beveiligingsapparatuur en -diensten in het onderwijs, een bedrag dat de komende jaren naar verwachting sterk zal toenemen.
Kleine katholieke school installeert geavanceerd beveiligingssysteem met gezichtsherkenningstech
De St. Therese Catholic Academy is een kleine basisschool in een rustige woonwijk in Seattle met iets meer dan 150 leerlingen en 30 medewerkers. Voorafgaand aan de recente schietpartijen op scholen in Parkland en Santa Fe bestond het beveiligingssysteem van deze school uit een kleine camera bij de ingang waarmee het kantoorpersoneel kon bepalen of iemand het schoolgebouw mocht binnenkomen. Na die twee tragische gebeurtenissen besloot de school het beveiligingssysteem te upgraden en verschillende high-resolution camera’s met gezichtsherkenningssoftware te installeren.
De KI-aangedreven SAFR-software (Secure Accurate Facial Recognition) is ontwikkeld door het in Seattle gevestigde softwarebedrijf RealNetworks en wordt gratis met alle basis- en middelbare scholen in de Verenigde Staten gedeeld. Om dit systeem te kunnen gebruiken moest St. Therese wel eerst nieuwe beveiligingscamera’s installeren, de wifi van de school upgraden en een aantal Apple-apparaten aanschaffen. SAFR werd aan het begin van het schooljaar 2018/2019 voor het eerst officieel in gebruik genomen. Alle medewerkers en ouders van de leerlingen worden in het systeem geregistreerd. De school overweegt bovendien om externe bezoekers die regelmatig naar de school komen ook in de database op te nemen, zoals bijvoorbeeld de lunchcateraar, de melkbezorger en de postbezorger.
Om toegang te krijgen tot het gebouw, moeten geautoriseerde gebruikers naar de camera’s glimlachen die in twee van de vijf ingangen zijn geplaatst zodat hun identiteit door het gezichtsherkenningssysteem geverifieerd kan worden. Personen die niet in het systeem geregistreerd staan moeten voor binnenkomst eerst individueel toestemming krijgen. “We willen eigenlijk niet hoeven nadenken over veiligheid en beveiliging, maar helaas moet dat wel”, zegt Matt DeBoer, de directeur. “Dankzij deze technologie hoeven de leerkrachten in de klas zich daar geen zorgen meer over te maken en kunnen ze zich weer concentreren op lesgeven”. Ongeveer een dozijn andere scholen hebben de SAFR-software inmiddels ook geïmplementeerd en de belangstelling voor dit systeem blijft groeien.
De op KI-gebaseerde Avigilon bewakingssoftware kan leerlingen als bedreigingen markeren
Sommige scholen gebruiken op KI gebaseerde bewakingssystemen niet alleen om actuele maar ook potentiële bedreigingen te identificeren. Het schoolsysteem in Zuid-Florida heeft onlangs plannen aangekondigd om de experimentele surveillancesoftware Avigilon te installeren, waarmee beveiligingspersoneel leerlingen op basis van hun uiterlijk kan monitoren. Zodra het systeem iemand detecteert op een plaats waar hij of zij niet hoort te zijn of een andere ongewone gebeurtenis identificeert, waarschuwt de software het beveiligingspersoneel dat vervolgens videobeelden kan bekijken van een van de 145 geïnstalleerde camera’s overal op de campus.
Avigilon maakt geen gebruik van gezichtsherkenningstechnologie maar van de ‘appearance search’-functie waarmee beveiligingspersoneel mensen kunnen opsporen en identificeren op basis van wat ze dragen. In zekere zin maakt deze functie de technologie nog krachtiger dan gezichtsherkenning, omdat het personen kan volgen zolang de camera hun lichaam kan zien. De ontwikkelaars gebruikten miljoenen afbeeldingen om de software te leren hoe mensen eruit zien en bewegen. Het resultaat is dat Avigilon studenten nu van veraf kan herkennen door de vorm van hun lichaam, hun gelaatstrekken, hun kapsels en (de kleur van) hun kleding te analyseren. De afbeeldingen worden vervolgens vergeleken met andere afbeeldingen die door het systeem zijn gemaakt waarna er binnen enkele seconden een nauwkeurige tijdlijn van de locatie of beweging van die persoon gecreëerd kan worden.
“Scholen worden tegenwoordig gemonitord door iemand die in een communicatiecentrum zit en naar videoschermen kijkt, terwijl de aandachtsspanne van de gemiddelde mens die naar één camera kijkt en belangrijke gebeurtenissen detecteert maar ongeveer 20 minuten is”, zegt Mahesh Saptharishi, de chief technology officer bij Motorola Solutions, die eigenaar is van Avigilon. “Maar wanneer er iets ergs gebeurt moet je in een paar seconden kunnen achterhalen waar die persoon zich op dat moment bevindt”.
Met KI-tools kunnen scholen alles monitoren wat leerlingen op schoolcomputers doen
Er zijn ook andere manieren om potentiële bedreigingen te detecteren. Sommige scholen implementeren Safety Management Platforms (SMP’s) als Gaggle, Securly of GoGuardian, die natuurlijke taalverwerking gebruiken om de miljoenen woorden die studenten op schoolcomputers typen te scannen. Deze systemen kunnen tekst identificeren die kan wijzen op pesten of zelfbeschadigend gedrag. Gaggle rekent jaarlijks ongeveer $5 per student en fungeert als een filter bovenop tools als Google Docs en Gmail, waarbij alle bestanden, berichten en opdrachten die leerlingen schrijven, verzenden en opslaan automatisch door schoolsystemen worden gescand. Zodra het machine learning-algoritme bepaalde woorden of zinnen detecteert die gerelateerd zijn aan drugs of (cyber)pesten, wordt de informatie eerst voor analyse naar menselijke reviewers gestuurd, die vervolgens beslissen of de school moet worden gewaarschuwd. Gaggle heeft in de periode tussen juli en december 2018 maar liefst 5.100 potentiële incidenten opgepikt, waarvan 577 gerelateerd bleken te zijn aan het plannen van een aanval of geweld tegen anderen.
Het systeem van Securly gaat hierin nog een stap verder. Naast het monitoren van wat leerlingen bijvoorbeeld in Google Docs schrijven, kunnen scholen deze software ook gebruiken om sentimentanalyse uit te voeren van openbare berichten van leerlingen op Facebook, Twitter en andere social mediaplatformen. Bovendien beschikt de software over een emotioneel intelligente app die ouders wekelijkse rapporten stuurt met internetzoekopdrachten en de browsegeschiedenis van hun kinderen. De CEO van Securly, Vinay Mahadik, is van mening dat dit soort tools scholen in staat stellen de juiste balans te vinden tussen vrijheid en toezicht. “Niet iedereen is hier blij mee omdat we het wel hebben over het monitoren van kinderen”, zegt Mahadik. “Maar over het algemeen is iedereen het erover eens dat er een oplossing moet komen om ze veilig te houden. Het is lastig om hierin een grens te trekken”.
Is surveillancetechnologie op scholen een goed idee?
Het is niet verwonderlijk dat velen hun bezorgdheid hebben geuit over bewakingstechnologieën op scholen, vooral als het gaat om de privacy van leerlingen. “Wat begint als ‘leerlingen te goeder trouw voor hun veiligheid monitoren’, verandert langzaam maar zeker in een situatie waarin je een soort constante surveillancestoestand in de klas hebt”, zegt Girard Kelly, de directeur voor privacyonderzoek bij Common Sense Media, een non-profitorganisatie die internetveiligheidseducatie voor kinderen promoot. “Scholen hebben niet alleen metaaldetectors en camera’s, maar nu worden ook hun leerdoelen en e-mails gemonitord”.
Vooral het gebruik van gezichtsherkenningssoftware op scholen roept vragen op. Afbeeldingen die met deze technologie zijn vastgelegd worden meestal in de cloud verwerkt en opgeslagen. Maar de vraag is hoe lang blijven die beelden opgeslagen, hoe worden ze gebruikt en wie heeft er toegang toe? Daarnaast is aangetoond dat deze technologie een groot aantal valse positieven en negatieven genereert, wat deze systemen niet bepaald nauwkeurig en onbevooroordeelt maakt. Men maakt zich bovendien zorgen dat digitale surveillance een negatieve invloed kan hebben op de vrijheid van meningsuiting en uiteindelijk voorkomt dat leerlingen zich ergens over of tegen uitspreken.
Nu wapengeweld en schietpartijen haast een vast onderdeel lijken te worden van het schoolleven in de Verenigde Staten, gaan steeds meer onderwijsinstellingen over op het installeren van bewakingssystemen om hun leerlingen te beschermen en incidenten te voorkomen. Surveillancetechnologie verandert echter de manier waarop het onderwijs door leerlingen ervaren wordt, en zeker niet altijd ten goede. Aan de andere kant hebben scholen de plicht om hun leerlingen te beschermen, wat betekent dat we wellicht ‘gewoon’ moeten wennen aan het idee van Big Brother op school – zolang al deze beveiliging maar niet ten koste gaat van de privacy. Of is dat een prijs die we uiteindelijk toch zullen moeten betalen?
