Technologies de surveillance et de sécurité : enseignements de notre série de webconférences Sécurité & Innovation

Septembre 2021 – L’essor des technologies de surveillance et de sécurité présente de nombreuses opportunités mais aussi de nouveaux problèmes aux collectivités territoriales, ne serait-ce que la difficulté à faire des choix étant donné leur nombre et leur diversité. Comme le montrent de nombreuses pratiques en Europe, si ces technologies facilitent une plus grande participation des citoyens à leur propre sécurité et offrent de réelles opportunités, elles soulèvent aussi des questions éthiques sur la protection de la vie privée et des droits fondamentaux.

Dans le but de lancer une conversation sur cet aspect de plus en plus important des politiques de sécurité urbaine, l’Efus a établi un groupe de travail sur les questions de Sécurité & Innovation* et lancé une série de webconférences, en juin 2020. L’objectif était de recueillir les points de vue des villes : quelles technologies utilisent-elles ? Quelles opportunités voient-elles ? À quels risques et difficultés sont-elles confrontées ?

Ces webconférences avaient aussi pour but de capitaliser sur le travail réalisé par l’Efus dans le cadre de sa participation au projet Cutting Crime Impact (CCI) mené par l’Université de Salford (Royaume-Uni). Les enseignements du projet CCI nous ont permis de dépasser les discours faciles, trop optimistes pour certains ou trop négatifs pour d’autres, comme cela arrive fréquemment lorsqu’on évoque des sujets polarisants tels que la police prédictive, la reconnaissance faciale ou les sentiments subjectifs d’insécurité.

Police prédictive et reconnaissance faciale

Notre première webconférence (25 juin 2020), intitulée Technologies de sécurité urbaine fondée sur l’intelligence artificielle : la police prédictive, réunissait des experts qui ont exploré l’efficacité et les impacts de cette approche relativement nouvelle dans les pays européens. Partenaires du projet CCI, Maximilian Querbach, de la direction de la police judiciaire du Land de Basse-Saxe (Allemagne), et le Dr Oskar Gstrein de l’Université de Groningen (Pays-Bas), ont présenté les principaux enseignements de CCI.

Alors qu’une série d’événements dans le monde a déclenché un débat international sur les méthodes d’intervention de la police, notamment le racisme et l’usage inapproprié de la force, il est important de pouvoir répondre aux préoccupations éthiques. Dr Gstrein a analysé les aspects éthiques, légaux et sociaux de la police prédictive et évoqué les questions de sélection de données, de biais machine, de transparence et de responsabilité ainsi que la stigmatisation de certaines communautés ou quartiers. Faire participer ces groupes au processus et traiter de façon systématique les aspects liés aux processus de sélection des données et à l’équité des évaluations d’impact peuvent réduire la stigmatisation et responsabiliser davantage la police. La reconnaissance faciale est une autre application particulièrement polarisante de l’intelligence artificielle1. Les implications légales, éthiques et sociales sont nombreuses : par exemple l’utilisation de données historiques sur la criminalité peut donner lieu à des décisions automatisées qui renforcent les biais discriminatoires. Le fait que les algorithmes sont formés à partir d’énormes quantités de données rend plus difficile la transparence et la compréhension des décisions qui sont prises. Ceci impacte à son tour la capacité à corriger des décisions erronées et à recourir à la justice. L’utilisation de caméras de vidéosurveillance peut enfreindre la liberté de réunion et d’association ainsi que le droit à la non-discrimination. Les études montrent que le taux d’erreur varie selon le genre et la couleur de peau. De plus, il y a peu de recherche sur l’impact des programmes de reconnaissance faciale sur les personnes ayant un handicap.  

____________

1La fiche de synthèse de l’Efus sur l’intelligence artificielle est disponible ici : https://efus-network.eu/efus/files/2020/11/factsheet_facial-recog_EN.pdf

Quel impact sur le sentiment de sécurité ?

Le projet CCI cherche notamment à examiner la mesure et la réduction du sentiment d’insécurité. Les questions de perception de sécurité et de sentiments d’insécurité ont été abordées dans presque toutes les webconférences. Les réponses émotionnelles vont de l’anxiété situationnelle au choc et à la colère en passant par la peur du crime. Afin de démêler ces différents types de réponse, il est important de comprendre quels facteurs affectent quels groupes de personnes. En effet, les sentiments d’insécurité ont un impact sur le bien-être individuel et collectif et sur les comportements politiques et économiques.

Les considérations sur ces sentiments d’insécurité apportent un angle intéressant aux débats sur la reconnaissance faciale. La présence de caméras de sécurité et savoir qu’elles sont équipées de programmes de reconnaissance faciale peuvent influer sur la perception qu’ont les habitants de leur sécurité et même leur comportement dans les espaces publics. Une partie du public peut se sentir mal à l’aise dans les espaces publics qu’ils savent être sous vidéosurveillance. L’acceptation sociale de la technologie de reconnaissance faciale dépend des contextes culturels, des différentes approches en matière de vie privée et du contexte dans lequel la technologie est utilisée. Quels que soient le contexte local et les spécificités de la ville, les acteurs locaux de la sécurité doivent équilibrer les risques et les bénéfices.

Quelles sauvegardes pour réduire les risques ?

Après la police prédictive et la reconnaissance faciale, nous avons exploré l’intelligence artificielle (IA). Notre webconférence du 5 mai était consacrée aux sauvegardes contre les risques associés à ces technologies. Les fiches de synthèses sur les conséquences légales, éthiques et sociales de la police prédictive élaborées dans le cadre du projet CCI comprennent un certain nombre de recommandations, notamment d’avoir une politique transparente de gestion des données et de communiquer avec les utilisateurs. Il est important que même les citoyens les moins à l’aise avec la technologie puissent comprendre les raisonnements qui sous-tendent les décisions prises par l’intelligence artificielle. Les représentants des villes et des collectivités territoriales doivent aussi être associés au développement et au processus d’innovation des nouveaux outils d’IA car ils peuvent faire part de leurs besoins sur le terrain et des meilleures pratiques pour encourager la participation des citoyens.

Les comités et individus responsables du développement et de la mise en place de ces nouvelles technologies fondées sur l’IA doivent être représentatifs de la population et notamment veiller à représenter les groupes vulnérables et les minorités. Ceci est particulièrement important pendant la phase de développement d’un algorithme : il faut mener un travail approfondi pour garantir que les ensembles de données et les algorithmes représentent bien la diversité de la population et ainsi évitent d’intégrer des biais. 

Quelles avancées technologiques et sociales favorisent-elles la participation des citoyens aux politiques publiques ?

Si la police prédictive et l’intelligence artificielle suscitent beaucoup de débats, ce ne sont pas les seules technologies utilisées dans le domaine de la sécurité urbaine et de la prévention. Nos sessions sur la technologie civique et les applications de signalement des crimes et délits ont ouvert la discussion sur la participation des citoyens et la pertinence du sentiment d’insécurité. Ce dernier thème a également été exploré lors de la conférence Réduire et prévenir le sentiment d’insécurité la nuit organisée conjointement avec le groupe de travail de l’Efus sur la vie nocturne, le 24 novembre 2020.

Dans le domaine de la sécurité urbaine, les outils de technologie civique peuvent être utilisés pour favoriser un modèle intégré de sécurité où les citoyens coproduisent celle-ci. La forme et l’intensité des interactions entre les institutions locales de sécurité et les citoyens ont évolué et sont passées d’une communication à sens unique et du haut vers le bas aux échanges et à la participation directs. Ceci a des répercussions autant positives que négatives qui vont de la dénonciation aux risques de surveillance accrue à un sens de la justice disproportionné qui peut dégénérer en vigilantisme.

La technologie pour réduire les menaces réelles et perçues

Les applications d’alerte sur le crime peuvent aider les victimes en offrant des informations sur les services d’assistance, en donnant des pouvoirs aux groupes vulnérables et, potentiellement, en encourageant un plus grand nombre de citoyens à signaler les crimes et délits, ce qui fait ressortir ceux qui n’étaient pas auparavant signalés.  Avoir un tel service à portée de main peut être rassurant pour les utilisateurs. Toutefois, si les informations collectées par de telles applis peuvent contribuer à ce que les réponses soient mieux adaptées aux besoins des victimes, il existe de nombreux risques. En effet, les informations qu’elles font remonter sur les sentiments d’insécurité peuvent être considérées comme un agrégat de perceptions subjectives et donc potentiellement biaisées. Il y a aussi le risque que les utilisateurs développent un « complexe du super-héros », notamment dans le cas de la sécurité personnelle des femmes. Par ailleurs, en ce qui concerne la protection des données, il y a un danger que les données anonymisées soient compromises par les techniques analytiques, qui évoluent constamment.

La collaboration avec les autorités locales et les acteurs de la sécurité et de la prévention peut renforcer la visibilité des services d’assistance aux victimes. Il est aussi important de reconnaître que les statistiques fondées sur les données recueillies par les applications d’alerte sur le crime ne sont pas fondées sur des données probantes mais qu’elles permettent de mieux comprendre le contexte de sécurité d’une localité et les sentiments d’insécurité des différents groupes de population. Si elle est facile à utiliser et disponible en plusieurs langues, une application d’alerte rend les services et les informations qu’elle offre accessibles à un plus grand nombre d’utilisateurs. Une base d’utilisateurs diverse garantit que les données sont bien représentatives de tous les groupes de population.

De la recherche à la pratique : comment les solutions du projet CCI aident-elles les collectivités qui ne sont pas partenaires du projet ?

Lors du lancement de la série de webconférences Sécurité & Innovation, nous avons puisé dans les recherches menées par les partenaires du projet CCI, par exemple avec les rapports ‘état de l’art’ sur la police prédictive et la mesure des sentiments d’insécurité, sur les implications légales, éthiques et sociales des différentes approches de police et sur les expériences locales des partenaires de la police. Les webconférences ont évolué à mesure qu’évoluait le projet. Nous sommes passés de l’exploration des sujets et du partage d’expérience de nos villes membres à la présentation des outils développés par les partenaires de CCI et aux discussions sur leur transférabilité à d’autres villes et régions.

Le premier exemple de cette évolution fut notre session du 31 mars sur l’urbanisme, le design urbain et la gestion de la sécurité des espaces publics. Cette webconférence était organisée conjointement avec un autre projet de l’Efus, PACTESUR, qui a pour objectif de d’outiller les villes et les acteurs locaux de la sécurité urbaine en renforçant leurs capacités à répondre aux menaces terroristes contre les espaces publics et autres risques inhérents à ce type de lieux. L’objectif de cette session était d’examiner les différentes approches prises par différentes villes dans le cadre de divers projets.

Les termes utilisés pour la coopération entre différents acteurs et l’intégration des aspects sécurité dès les phases de planification et de conception d’une intervention visant à améliorer la sécurité des espaces publics varient. Le projet CCI a utilisé l’appellation Crime Prevention through Urban Planning and Design (CP-UDP, « prévention de la délinquance par l’aménagement et le design urbains »). Un autre terme utilisé couramment est Crime Prevention Through Environmental Design (CPTED, « prévention de la délinquance par le design environnemental » ). Lorsque l’on envisage l’opérationnalisation des principes de la CPTED dans un espace public, il est essentiel d’analyser soigneusement les besoins réels et les limites de l’urbanisme. Les villes doivent analyser et améliorer leurs niveaux de connaissance afin d’éviter les approches indirectes, qui peuvent parfois créer de nouveaux problèmes et renforcer les divisions sociales. En l’absence de routines et de processus venant de ‘la base’, les acteurs peuvent perdre le contrôle. Les orientations en matière de sécurité ne doivent pas devenir un produit marchand : elles doivent être disponibles pour tous gratuitement pour que tous les membres des communautés locales en bénéficient. Les architectes et les urbanistes doivent être conscients de leur rôle vis-à-vis du public et se considérer responsables envers celui-ci. Ceci est particulièrement important quand il s’agit de garantir la sûreté et la sécurité.

Et demain ? Session finale le 30 septembre

Pour nos prochaines webconférences, notre objectif est de sensibiliser davantage, de repérer les éléments qui sont facilement transférables et d’élaborer des fiches de pratique qui expliqueront dans les grandes lignes comment mettre en œuvre les outils CCI. Le 9 juin 2021, nous avons organisé une  session sur la police de proximité pour discuter des constats faits par les partenaires de CCI et des outils qu’ils ont développés. Notre objectif est de comparer le travail réalisé par les partenaires de CCI avec des initiatives prises par d’autres villes et régions membres de l’Efus afin d’identifier comment transférer les connaissances acquises au cours du projet CCI.

La session finale de notre série, intitulée Not-so-petty crime: What impact on citizens and feelings of insecurity? (« délinquance pas si petite : quel impact sur les citoyens et sur les sentiments d’insécurité ? »), aura lieu le 30 septembre. Ces dernières années, le terrorisme et la cybersécurité ont souvent été identifiés comme étant les principaux défis auxquels l’Europe est confrontée. Pourtant, la petite délinquance est aussi fréquemment citée, notamment à cause de son impact sur le sentiment d’insécurité et sur la qualité de vie. Quels acteurs locaux devraient participer à l’élaboration de stratégies contre la petite délinquance ? Quel est le lien entre celle-ci et la criminalité organisée ? Comment répondre à la petite délinquance sans pour autant faire un usage excessif de la police ? Comment faire participer les citoyens sans tomber dans le vigilantisme ? Inscrivez-vous ici pour participer avec nous à cette webconférence.

Outre les webconférences et les fiches de synthèse, l’Efus est en train de préparer des fiches de pratique sur huit boîtes à outils développées dans le cadre du projet CCI. Ces fiches présentent les principaux éléments de chaque ensemble d’outils et visent à inspirer d’autres collectivités membres de l’Efus à adopter ces outils ainsi que les méthodes de recherche et les enseignements du projet.

*Tous nos membres sont libres de rejoindre ce groupe, que vous pouvez suivre sur Efus Network ici.  

Site web du projet Cutting Crime Impact

Site web du projet PACTESUR