Un projet de vidéosurveillance algorithmique est en train d’être installé à Saint-Denis par le maire Mathieu Hanotin. Imposé en toute discrétion, le logiciel analyse le comportement des citoyens et citoyennes à l’aide de leurs données biométriques.
Saint-Denis (93), 17 octobre 2024 – Assis sur son siège du conseil municipal, Mathieu Hanotin s’interroge et allonge chacun de ses mots. « Je veux bien qu’on refasse chaque année le même débat, mais il n’y a pas de sujet “éthique” aujourd’hui derrière l’utilisation des caméras de vidéosurveillance… Je ne comprends pas ce débat ! » La cause de l’irritation du maire dionysien ? La mise en place d’un « comité éthique » pour contrôler l’action des 500 caméras qui lorgnent sur la vie des habitants. « Je ne comprends même pas à quoi pourrait bien servir ce comité », renchérit l’édile.
Si ledit organe est, en effet, facultatif, la déclaration est un poil cocasse. Cela fait bien deux ans que la municipalité dionysienne prépare en toute discrétion et en dehors de tout débat démocratique la mise en place d’un logiciel de vidéosurveillance algorithmique (VSA), dopé à l’intelligence artificielle, dans une des villes les plus peuplées d’Île-de-France. Le tout dans un climat très favorable à la VSA, alors que le Premier ministre Michel Barnier s’est prononcé en faveur de sa généralisation lors de sa déclaration de politique générale devant l’Assemblée nationale début octobre. La VSA est pourtant supposée temporaire et en phase d’expérimentation dans le cadre des Jeux olympiques jusqu’en mars 2025, alors que le comité d’évaluation n’a toujours pas rendu ses conclusions sur l’efficacité de ces dispositifs. Mais la voici déjà adoubée.
D’autant que les entreprises qui vendent ces logiciels n’ont pas attendu les lois pour espionner le comportement des citoyens et citoyennes français. L’utilisation depuis 2015 par le ministère de l’Intérieur du logiciel israélien Briefcam – qui incluait la reconnaissance faciale dans ses fonctionnalités – et le déploiement de nombreux projets de VSA en France se multiplient depuis des années en toute opacité et, bien souvent, en dehors de tout débat démocratique. Les conditions dans lesquelles l’achat d’un logiciel de VSA a été approuvé dans la ville de Saint-Denis n’ont pas dérogé à ce processus. Pour l’heure, le logiciel serait en cours d’installation. Mais aucune information officielle sur ce projet n’a été communiquée aux habitants sur cette future surveillance algorithmique de leurs comportements dans l’espace public.
Les questions de l’opposition
Tout démarre en octobre 2022 lorsque Mathieu Hanotin présente sa politique générale de sécurité lors d’un conseil municipal. Le maire annonce 200 caméras en plus, l’inauguration d’un hôtel de police flambant neuf pour 2024, mais aussi un projet de vidéosurveillance algorithmique pour « optimiser leur exploitation ». « On peut avoir peur quand on dit “intelligence artificielle” de quelque chose qui serait une sorte de syndrome “Big Brother”, mais de quoi parle-t-on ? », s’interroge faussement l’édile avant d’en vanter tous les bienfaits. « Ni les citoyens, ni les élus n’ont été mis au fait de ce projet », déclare Sophie Rigard, conseillère d’opposition à la ville, et d’ajouter :
« Il n’y a eu aucune délibération en conseil municipal ou de vote pour valider l’achat d’un logiciel de VSA, ni pour décider du cadrage du projet et de son contenu. »
Après plusieurs relances et un an d’attente, l’élue finit par obtenir un rendez-vous avec le directeur de la police municipale, Sofyan El Besqasmi, en présence de Gwenaëlle Badufle-Douchez, adjointe au maire et chargée de la sécurité et de la prévention.
L’élue demande à ses interlocuteurs de nombreuses précisions sur ce projet de surveillance automatisée : qui est le prestataire ? Est-ce le même logiciel qui est déjà déployé pour surveiller les abords des installations pour les Jeux olympiques ? Une analyse d’impact relative à la protection des données obligatoire (AIPD) a-t-elle été effectuée ? Un comité d’évaluation a-t-il été constitué ? Pourquoi les habitants de Saint-Denis n’ont-ils toujours pas été informés ?
Gwenaëlle Badufle-Douchez explique qu’un prestataire a été choisi début 2024. Il n’existe cependant aucune trace d’un appel d’offres puisque la ville a fait le choix d’acheter le logiciel par l’intermédiaire de l’Union des groupements d’achats publics, la centrale d’achat de Bercy et de l’Éducation nationale, pour un coût de 118.000 euros. Ce document, que nous nous sommes procuré, ne fait apparaître aucun détail sur le contenu et la durée de la prestation ou les fonctionnalités du logiciel utilisé.
Ce document, que nous nous sommes procuré, ne fait apparaître aucun détail sur le contenu et la durée de la prestation ou les fonctionnalités du logiciel utilisé. / Crédits : DR
Une autorisation de la VSA très limitée en France
Sur un ton que l’élue juge provocateur et « à la limite du mépris », le directeur de la police explique que l’évaluation de la VSA se fera notamment sur le nombre de véhicules mal garés, le nombre de personnes tombées au sol, ainsi que le taux de résolution d’enquêtes grâce à la VSA – bien qu’une étude en 2021 ait montré que la vidéosurveillance classique est utile dans moins de 3% des enquêtes résolues.
Sauf que la loi ne le permet pas vraiment. La mouture actuelle qui encadre la vidéosurveillance algorithmique n’autorise de détections que dans huit situations : la détection de la présence d’objets abandonnés, la détection d’armes, la circulation en sens inverse, le franchissement ou la présence dans une zone interdite, si une personne est au sol, s’il y a un mouvement de foule ou une densité de personnes trop importante ainsi qu’un départ de feu. Et la VSA n’est légal que lors d’événements importants – culturels, sportifs, etc… – et non pour des situations du quotidien. L’élue d’opposition Sophie Rigard se renseigne également sur une potentielle identification des habitants :
« On m’a répondu que le logiciel n’utilisera aucune donnée biométrique de type couleur de peau, sexe, genre, mais uniquement des attributs comme la couleur des vêtements… »
Contactée par StreetPress, la mairie affirme par l’intermédiaire de son directeur de cabinet David Lebon que les situations qui seront détectées n’ont pas encore été décidées. Interrogé sur le manque de communication et de débat avec les habitants sur un sujet aussi sensible, il explique n’avoir rien à cacher : « Nous avons communiqué en conseil municipal et dans le journal officiel de la ville. » Si ce dernier a mentionné brièvement le déploiement de « 50 licences d’intelligence artificielle » le 15 juillet dernier, il arrive plusieurs mois après l’achat des licences, mettant de facto les habitants devant le fait accompli, sans qu’ils puissent se prononcer sur une surveillance permanente de leur comportement par des algorithmes. Face à cette situation, David Lebon répond :
« Le maire a été élu démocratiquement et est légitime pour prendre ce genre de décision. De plus, cela coûte cher de faire un référendum pour ça. »
Une entreprise qui avait déjà ciblé les supporters de foot à Metz
Derrière le logiciel se trouve la société Altrnativ, une entreprise spécialisée dans la cyberdéfense et la cybersécurité. Fondée par l’ancien fondateur de Qwant Éric Léandri, Altnartif est un revendeur du logiciel de Two-I – connu pour avoir été utilisé pour cibler des supporters de foot dans le stade de Metz grâce à un dispositif de reconnaissance faciale.
StreetPress s’est procuré une vidéo de démonstration du logiciel Two-I, afin de saisir les possibilités de surveillance que peut offrir ce logiciel de VSA. La capsule a été réalisée lors des universités d’été de l’association nationale de la vidéoprotection (AN2V), le plus important lobby de la vidéosurveillance en France. Sur la bande, le fondateur de la société Guillaume Cazenave présente un retour d’expérience pour montrer « comment il est utilisé par nos clients, notamment sur les Centres de supervision urbains (CSU) ». Selon l’entrepreneur, l’outil est à destination « des gestionnaires de sites sensibles, des villes et des forces publiques ».
En quelques clics, le logiciel peut établir une zone de recherche et avoir un résumé des voitures repérées, tout en indiquant d’où elles viennent et où elles vont. Il peut aussi rechercher selon des critères, notamment vestimentaires, des personnes « qui font du maraudage ou qui ont commis un délit ». / Crédits : DR
Pour séduire les forces de sécurité, le dirigeant explique que l’utilisateur qui manipule son produit de surveillance se transforme en un « agent augmenté » et pourra s’appuyer sur de nombreuses fonctionnalités censées lutter contre « le vol », « le banditisme », les « délits de fuite », le « maraudage », les « violences aux personnes », mais aussi des situations de vidéoverbalisation telles que le « stationnement gênant », les « contresens » ou les zones piétons non respectées. Le boss de Two-I affirme que le produit serait un succès commercial et une cinquantaine d’installations aurait été effectuée entre janvier 2021 et l’été 2022.
La démonstration du logiciel permet également de constater que de nombreux filtres de recherche existent pour fliquer les badauds sans grand rapport avec les huit cas d’usage autorisés par la loi. Ces filtres sont capables d’être exécutés en temps réel, mais aussi a posteriori – c’est-à-dire sur des enregistrements d’images de vidéosurveillance stockées. Et surtout, contrairement à ce qui a été avancé par les services de la mairie de Mathieu Hanotin, ils concernent des données biométriques telles que « l’orientation du corps », le genre (homme, femme), l’âge (adolescent, jeune adulte, adulte, personne âgée), ou la coupe de cheveux (courts, longs). « Il s’agit de réagir vite sur une situation que l’agent a identifiée comme étant problématique et l’arrêter à la source. Notre réponse au vu de la législation actuelle, c’est de faire une recherche discriminante mais basée sur le descriptif de la personne et pas la reconnaissance faciale », indique Guillaume Cazenave dans la présentation. Pour appliquer ces filtres, les équipes de Two-I ont préalablement alimenté l’algorithme de leur machine d’images correspondant à ces attributs afin qu’elle puisse les détecter automatiquement. Un travail directement issu d’un « héritage de travaux qu’on a eu avec des forces publiques », précise Guillaume Cazenave.
Via des filtres, le logiciel peut créer le profil type d’une « personne d’intérêt » qui envoie le descriptif « à toutes les caméras de la ville pour pouvoir arrêter, entre guillemets, "le problème à la source" », indique Guillaume Cazenave, patron de Two-I lors de la démonstration. / Crédits : DR
Pour Noémie Levain, juriste à la Quadrature du Net, une grande partie de ces fonctionnalités sont purement et simplement illégales :
« C’est un traitement de données biométriques que ni le Règlement général sur la protection des données (RGPD), ni la directive Police-Justice, ni la loi, n’autorisent. »
Le rapport annuel sur la politique de sécurité et de tranquillité publique de la ville de Saint-Denis a été présenté par l’adjointe à la sécurité le 17 octobre dernier. 12 pages qui présentent le bilan sécuritaire de l’année écoulée, des Jeux olympiques à l’activité du centre de supervision urbain en passant par l’action de la police municipale, jusqu’aux perspectives de sécurité de la ville pour 2025. Mais le logiciel de VSA acheté en début d’année et actuellement testé n’est pas mentionné une seule fois. Lors du même conseil municipal, Mathieu Hanotin avait pourtant affirmé avoir essayé de faire « preuve de pédagogie » quant à ces nouvelles technologies.
Nos enquêtes sur la mairie de Saint-Denis
Depuis 2023, StreetPress s’intéresse à la gestion de la ville depuis l’arrivée de Mathieu Hanotin. Élu en 2020, le maire PS a fait de la sécurité sa priorité.
Épisode 1 : Armes, chiens et violences, bienvenue dans la police municipale de Saint-Denis
17/04/2023
Épisode 2 : Saint-Denis met sa fonction publique au pain sec
30/05/2023
Épisode 3: La mairie de Saint-Denis veut moins de pauvres dans son centre-ville
17/07/2023