Uvalde, violence armée et technologie de surveillance à la suite des fusillades dans les écoles – News 24

Après qu’un tireur a tué 21 personnes, dont 19 enfants, lors du massacre de la Robb Elementary School à Uvalde, au Texas, la semaine dernière, les États-Unis sont à nouveau confrontés à l’impact dévastateur de la violence armée. Alors que les législateurs n’ont jusqu’à présent pas réussi à adopter une réforme significative, les écoles recherchent des moyens d’empêcher une tragédie similaire sur leurs propres campus. L’histoire récente, ainsi que les dossiers de dépenses du gouvernement, indiquent que l’une des réponses les plus courantes des responsables de l’éducation est d’investir dans davantage de technologies de surveillance.

Ces dernières années, les écoles ont tout installé, des logiciels de reconnaissance faciale aux technologies basées sur l’IA, y compris des programmes censés détecter les signes d’armes brandies et des outils de dépistage en ligne qui analysent les communications des élèves à la recherche de mentions de violence potentielle. Les startups vendant cette technologie ont affirmé que ces systèmes peuvent aider les responsables scolaires à intervenir avant qu’une crise ne se produise ou à réagir plus rapidement lorsqu’une crise se produit. Les politiciens pro-armes ont également plaidé pour ce type de technologie et ont fait valoir que si les écoles mettaient en place une surveillance suffisante, elles pourraient empêcher les fusillades de masse.

Le problème est qu’il y a très peu de preuves que la technologie de surveillance arrête efficacement ce genre de tragédies. Les experts avertissent même que ces systèmes peuvent créer une culture de surveillance dans les écoles qui nuit aux élèves. Dans de nombreuses écoles, des réseaux de caméras exécutant des logiciels basés sur l’IA rejoindraient d’autres formes de surveillance que les écoles ont déjà, comme les détecteurs de métaux et les policiers sur le campus.

“Pour tenter d’arrêter, disons, un tireur comme ce qui s’est passé à Uvalde, ces écoles ont en fait étendu un coût aux élèves qui les fréquentent”, Odis Johnson Jr, directeur exécutif du Johns Hopkins Center for Safe and Healthy Schools , a déclaré Recode. “Il y a d’autres choses que nous devons maintenant prendre en compte lorsque nous cherchons à fortifier nos écoles, ce qui les fait se sentir comme des prisons et les étudiants eux-mêmes se sentent suspects.”

Pourtant, les écoles et autres lieux se tournent souvent vers la technologie de surveillance à la suite de la violence armée. L’année suivant la fusillade de masse de 2018 à l’école secondaire Marjory Stoneman Douglas, le district scolaire local du comté de Broward a installé le logiciel de surveillance analytique d’Avigilon, une société qui offre une reconnaissance basée sur l’IA qui suit les apparences des élèves. Après la fusillade de masse à Oxford High School dans le Michigan en 2021, le district scolaire local a annoncé qu’il testerait un système de détection d’armes à feu vendu par ZeroEyes, qui est l’une des nombreuses startups qui fabriquent des logiciels qui parcourent les flux de caméras de sécurité à la recherche d’images d’armes. De même, le maire de New York, Eric Adams, a déclaré qu’il se pencherait sur le logiciel de détection d’armes d’une société appelée Evolv, à la suite d’une fusillade de masse dans le métro de la ville.

Divers organismes gouvernementaux ont aidé les écoles à acheter ce type de technologie. Les responsables de l’éducation ont demandé un financement au programme de prévention de la violence à l’école du ministère de la Justice pour une variété de produits, y compris des systèmes de surveillance qui recherchent des «signes d’avertissement de … comportements agressifs», selon un document Recode de 2019 reçu via une demande de documents publics. Et d’une manière générale, la technologie de surveillance est devenue encore plus importante dans les écoles pendant la pandémie, puisque certains districts ont utilisé les programmes de secours Covid-19 pour acheter un logiciel conçu pour s’assurer que les élèves se distanciaient socialement et portaient des masques.

Même avant la fusillade de masse à Uvalde, de nombreuses écoles du Texas avaient déjà installé une forme de technologie de surveillance. En 2019, l’État a adopté une loi pour “durcir” les écoles, et aux États-Unis, le Texas a le plus de contrats avec des sociétés de surveillance numérique, selon une analyse des données sur les dépenses gouvernementales menée par le Dallas Morning News. L’investissement de l’État dans les services de “sécurité et de surveillance” est passé de 68 $ par élève à 113 $ par élève au cours de la dernière décennie, selon Chelsea Barabas, une chercheuse du MIT qui étudie les systèmes de sécurité déployés dans les écoles du Texas. Cependant, les dépenses en services de travail social sont passées de 25 $ par étudiant à seulement 32 $ par étudiant au cours de la même période. L’écart entre ces deux domaines de dépenses est le plus important dans les districts scolaires les plus diversifiés sur le plan racial de l’État.

Le district scolaire d’Uvalde avait déjà acquis diverses formes de technologie de sécurité. L’un de ces outils de surveillance est un service de gestion des visiteurs vendu par une société appelée Raptor Technologies. Un autre est un outil de surveillance des médias sociaux appelé Social Sentinel, qui est censé “identifier toutes les menaces possibles qui pourraient être proférées contre les élèves et/ou le personnel du district scolaire”, selon un document de l’année scolaire 2019-2020.

On ne sait pas encore exactement quels outils de surveillance ont pu être utilisés à la Robb Elementary School pendant la fusillade de masse. JP Guilbault, PDG de la société mère de Social Sentinel, Navigate360, a déclaré à Recode que l’outil joue “un rôle important en tant que système d’alerte précoce au-delà des fusillades”. Il a affirmé que Social Sentinel peut détecter « des propos suicidaires, meurtriers, intimidants et autres langages nuisibles qui sont publics et liés à des noms identifiés par le district, l’école ou le personnel, ainsi qu’aux identifiants de médias sociaux et aux hashtags associés aux pages identifiées par l’école. ”

“Nous n’avons actuellement connaissance d’aucun lien spécifique reliant le tireur au district scolaire indépendant d’Uvalde Consolidated ou à Robb Elementary sur des sites de médias sociaux publics”, a ajouté Guilbault. Le tireur d’Uvalde a publié des photos inquiétantes de deux fusils sur son compte Instagram avant la fusillade, mais rien ne prouve qu’il ait publiquement menacé l’une des écoles du district. Il a envoyé un message privé à une fille qu’il ne connaissait pas qu’il prévoyait de tirer sur une école primaire.

Des formes encore plus avancées de technologie de surveillance ont tendance à manquer les signes avant-coureurs. La technologie dite de détection d’armes a des problèmes de précision et peut signaler toutes sortes d’articles qui ne sont pas des armes, comme les talkies-walkies, les ordinateurs portables, les parapluies et les étuis à lunettes. S’il est conçu pour fonctionner avec des caméras de sécurité, cette technologie ne détectera pas nécessairement les armes cachées ou couvertes. Comme l’ont démontré des études critiques menées par des chercheurs comme Joy Buolamwini, Timnit Gebru et Deborah Raji, le racisme et le sexisme peuvent être intégrés par inadvertance dans les logiciels de reconnaissance faciale. Une entreprise, SN Technologies, a proposé un algorithme de reconnaissance faciale à un district scolaire de New York qui était 16 fois plus susceptible de mal identifier les femmes noires que les hommes blancs, selon une analyse menée par le National Institute of Standards and Technology. Il existe également des preuves que la technologie de reconnaissance peut identifier les visages des enfants avec moins de précision que ceux des adultes.

Même lorsque cette technologie fonctionne comme annoncé, il appartient aux responsables d’être prêts à agir sur les informations à temps pour empêcher toute violence de se produire. Bien que l’on ne sache toujours pas ce qui s’est passé lors de la récente fusillade de masse à Uvalde – en partie parce que les forces de l’ordre locales ont partagé des récits contradictoires sur leur réponse – il est clair que le fait d’avoir suffisamment de temps pour répondre n’était pas le problème. Les étudiants ont appelé le 911 à plusieurs reprises et les forces de l’ordre ont attendu plus d’une heure avant d’affronter et de tuer le tireur.

Pendant ce temps, en l’absence de violence, la surveillance rend les écoles pires pour les élèves. Des recherches menées par Johnson, le professeur Johns Hopkins, et Jason Jabbari, professeur de recherche à l’Université de Washington à St. Louis, ont révélé qu’un large éventail d’outils de surveillance, y compris des mesures telles que des caméras de sécurité et des codes vestimentaires, nuisaient aux performances scolaires des élèves dans les écoles. qui les utilisaient. C’est en partie parce que le déploiement de mesures de surveillance – qui, encore une fois, arrête rarement les tireurs de masse – tend à augmenter la probabilité que les responsables scolaires ou les forces de l’ordre dans les écoles punissent ou suspendent les élèves.

“Compte tenu de la rareté des fusillades dans les écoles, la surveillance numérique est plus susceptible d’être utilisée pour résoudre des problèmes disciplinaires mineurs”, a expliqué Barabas, chercheur au MIT. “L’utilisation élargie de la surveillance scolaire est susceptible d’amplifier ces tendances d’une manière qui a un impact disproportionné sur les élèves de couleur, qui sont fréquemment sanctionnés pour des infractions à la fois moins graves et plus discrétionnaires que les élèves blancs.”

Tout cela rappelle que les écoles n’utilisent souvent pas cette technologie de la manière dont elle est commercialisée. Lorsqu’une école a déployé le logiciel d’Avigilon, les administrateurs de l’école l’ont utilisé pour savoir quand une fille est allée aux toilettes pour déjeuner, soi-disant parce qu’elle voulait arrêter l’intimidation. Un cadre d’une entreprise de reconnaissance faciale a déclaré à Recode en 2019 que sa technologie était parfois utilisée pour suivre les visages de parents qui n’avaient pas été autorisés à contacter leurs enfants par une décision de justice ou une ordonnance d’un tribunal. Certaines écoles ont même utilisé un logiciel de surveillance pour suivre et surveiller les manifestants.

Ce sont toutes des conséquences du fait que les écoles sentent qu’elles doivent faire des efforts extrêmes pour assurer la sécurité des élèves dans un pays qui regorge d’armes. Parce que ces armes restent une partie importante de la vie quotidienne aux États-Unis, les écoles essaient de s’adapter. Cela signifie souvent que les étudiants doivent s’adapter à la surveillance, y compris la surveillance qui montre des preuves limitées de travail et peut en fait les blesser.