Disponible en ligne :
Pour lire les formats PDF et ePub vous avez besoin d’un lecteur adapté.
L'expérimentation des algorithmes couplés à des dispositifs classiques de vidéoprotection est initiée dans la perspective de l'organisation des Jeux olympiques et paralympiques de 2024. Elle est mise en place avant, pendant et après cet évènement, qui a nécessité des mesures exceptionnelle en matière de sécurité à cause du risque terroriste élevé. L'un des thèmes abordés dans ce rapport est la mise en œuvre éventuelle de ce dispositif en dehors d'un tel contexte.
L'expérimentation en cours, étudiée dans ce rapport, qui interdit la reconnaissance faciale et toute forme de recoupement avec des fichiers, se focalise sur la sécurisation des manifestations récréatives, sportives et culturelles qui présentent des risques de sécurité particulièrement élevés (atteinte grave à la sécurité des personnes ou risque terroriste), elle vise à signaler, en temps réel, aux opérateurs "vidéo" des situations inhabituelles prédéterminées. En effet, si les dispositifs de vidéoprotection accessibles aujourd'hui permettent de couvrir la plupart de ces espaces à risques, le volume des images est tel que leur exploitation par l'œil humain est très compliquée. Les solutions testées ne prennent jamais le pas sur la décision, qui reste à la seule main de l'opérateur et, le cas échéant, des services opérationnels.
L'objet de ce rapport est de déterminer l'apport possible de ces nouvelles technologies au renforcement de la sécurité des citoyens dans le strict respect des libertés publiques.
Avant-propos
Une commande législative et une organisation étroitement précisées par la loi et le décret
Un thème d'une sensibilité particulière
Un rapport attendu
L'objet du rapport
Comment dénommer le dispositif ?
Introduction
Présentation générale
Le recours à l'IA en matière de vidéoprotection : des opportunités et des inquiétudes légitimes
Une expérimentation très encadrée
Le rôle et l'organisation du comité d'évaluation de l'expérimentation
Initiatives et investigations sur le terrain du comité d'évaluation
Démarche générale du comité
Observations générales sur le déroulement de l'évaluation
Une évaluation réalisée sur une période relativement brève
Une évaluation principalement centrée sur le dispositif de la société Wintics
Des conditions d'accueil globalement satisfaisantes
Contexte général de l’expérimentation
Un calendrier particulièrement serré
Un intérêt paradoxalement plus limité pendant la période olympique
1ère partie - Organisation et caractéristiques du dispositif de vidéoprotection intégrant l'intelligence artificielle
1.1. Historique et contexte de l'expérimentation
1.1.1. L'origine de l'expérimentation
a) Des initiatives nombreuses avant la loi du 19 mai 2023
b) Des dispositifs dont la légalité était interrogée au niveau national
1.1.2. Un dispositif à replacer dans le contexte international
1.1.3. Le contexte et la préparation de la présente expérimentation
1.2. Une expérimentation étroitement encadrée par le droit
1.2.1. Un cadre juridique très précis
a) Un cadre progressivement resserré à chaque stade de l'élaboration du dispositif
b) Finalités, objet et durée de l'expérimentation
c) Garanties générales pour le respect des libertés publiques
d) Caractéristiques techniques des traitements autorisés
e) Conditions de développement et de l'emploi des traitements
f) La remise en cause de la légalité des dispositifs de caméras avec IA mis en place avant l'édiction du nouveau cadre juridique
1.2.2. Des choix structurants faits au stade de la procédure d'appel d'offres
a) Des contraintes techniques encore renforcées
b) Un processus de sélection très centralisé et atypique
c) Le coût financier et le financement du dispositif
1.3. Le dispositif opérationnel mis en œuvre
1.3.1. Caractéristiques générales du système de vidéoprotection et des traitements algorithmiques
1.3.2. Une phase de calibrage cruciale en vue de l'efficacité du dispositif
a) Observations générales
b) Des modalités de déroulement différentes selon les opérateurs
1.3.3. Les moyens techniques mis en place : des choix différents selon les opérateurs
a) Les chiffres-clefs de l'expérimentation
b) Préfecture de police
c) SNCF
d) RATP
e) Commune de Cannes
1.3.4. Cybersécurité
1.3.5. Moyens en personnel déployés dans le cadre de l'expérimentation
a) Effectifs
b) Formation
1.3.6. Suites administratives et judiciaires
2. Des performances techniques très variables selon les opérateurs et les cas d'usage
2.1. Des performances délicates à apprécier au moyen d'indicateurs statistiques
2.1.1. Les indicateurs habituellement utilisés pour évaluer la qualité de la détection
2.1.2. Les difficultés rencontrées dans le cadre de l'expérimentation
a) De la difficulté de mesurer les "faux négatifs" et les "vrais négatifs"
b) Une distinction parfois délicate entre "vrais positifs" et "faux positifs"
c) Des résultats qui dépendent du calibrage réalisé
2.2. Des performances affectées par les caractéristiques du traitement utilisé
2.2.1. Les différences entre les résultats observés lors de la programmation et dans l'environnement réel
2.2.2. Les difficultés à définir une zone de détection pertinente
2.2.3. Des performances qui dépendent de la qualité du calibrage préalablement réalisé et du bon déroulement du processus itératif avec le prestataire
2.2.4. L'absence de visualisation des motifs de signalisation
2.3. Des performances variables selon les cas d'usage
2.3.1. Des performances globalement satisfaisantes pour l'intrusion, la circulation et la densité de personnes
2.3.2. Des résultats encore incertains et à améliorer pour les mouvements de foule
2.3.3. Des performances inégales pour la détection d'objets abandonnés et d'armes à feu
2.3.4. Des performances très insatisfaisantes pour la détection des départs de feu et de la présence d'une personne au sol à la suite d'une chute
2.3.5. Récapitulatif statistique selon chaque opérateur
a) Préfecture de police
b) RATP
c) SNCF
d) Commune de Cannes
3. Un intérêt opérationnel limité mais réel
3.1. Un intérêt variable selon le contexte d'utilisation
3.1.1. Un nombre résiduel d'interventions réalisées grâce au recours à l'IA
3.1.2. Un intérêt opérationnel, de façon générale, limité en cas de forte présence policière
3.1.3. Un intérêt opérationnel qui dépend de la durée d'entraînement de la caméra
3.1.4. Un intérêt subordonné à la mise en œuvre du traitement pendant une durée suffisamment longue
3.1.5. Un intérêt qui dépend de l'aptitude à mobiliser des effectifs suffisants pour traiter et pour exploiter les alertes déclenchées 3.1.6. Les limites en lien avec les catégories d'agents habilités à utiliser le traitement
3.1.7. Un intérêt qui dépend du choix des zones à risques
3.2. Un intérêt opérationnel variable selon les cas d'usage
3.2.1. Un intérêt opérationnel plus marqué pour l'intrusion et la circulation des personnes
3.2.2. Un intérêt à ce stade plus limité pour la détection des mouvements de foule, de la densité excessive d'individus, des objets abandonnés et des départs de feu
3.2.3. Un intérêt très incertain pour la détection des départs de feu et de la présence d'une personne au sol à la suite d’une chute
3.3. Un degré d'attente et de confiance des personnels globalement élevé
3.3.1. Observations générales
3.3.2. Observations spécifiques à chaque opérateur
3.4. Libres propos des différents intervenants
Préfecture de police
RATP
SNCF
Ile de France Mobilité
Commune de Cannes
Délégation interministérielle au Jeux olympiques et paralympiques
4. Un public insuffisamment informé mais intéressé
4.1. L'information du public
4.1.1. Le dispositif général mis en place
4.1.2. Les modalités d'information spécifiques à chaque opérateur
4.1.3. Une information à améliorer
4.1.4. De très faibles remontées du public qui interrogent
4.2. L'association à l'expérimentation
4.2.1. Les réactions des associations, de la Défenseure des droits et du Conseil national des barreaux
4.2.2. Les précédentes études visant à évaluer le degré de confiance du public dans le recours à l'intelligence artificielle en matière de vidéoprotection
4.2.3. L'étude quantitative et qualitative réalisée par le comité d'évaluation
5. Un dispositif expérimental qui, en l'état, ne heurte les libertés publiques ni dans sa conception ni dans sa mise en œuvre
5.1. Conformité aux prescriptions légales et réglementaires
5.1.1. Un respect des différentes exigences procédurales globalement satisfaisant
5.1.2. Le respect des conditions de fond posées par la loi
5.1.3. Le respect des exigences de confidentialité des données conservées
5.2. Un dispositif soumis aux exigences du RGPD et de la législation CNIL
5.2.1. L'applicabilité du RGPD et de la loi CNIL au dispositif IA
5.2.2. Une question de principe : les données peuvent-elles être qualifiées de biométriques ?
5.2.3. Le respect du principe de minimisation
5.2.4. Droit d'accès aux données personnelles
5.2.5. Droit d'opposition, de modification et d'effacement
5.3. La question de la conformité du dispositif au règlement européen sur l'IA
5.4. Enjeux plus généraux sur les libertés publiques
5.4.1. Le principe de liberté d'aller et venir
5.4.2. Le respect des finalités légales
5.4.3. Le principe de non-discrimination
5.4.4. Les conditions d'utilisation dans un cadre judiciaire
5.4.5. Les craintes d'un premier pas vers des dispositifs plus intrusifs
Conclusion générale
Synthèse des observations du comité
Les perspectives et points d'attention
L'abandon, la prolongation ou la pérennisation : un choix politique qui ne relève pas de la mission du comité d'évaluation
Les enseignements en ce qui concerne la méthodologie pour le suivi du dispositif
Points d'attention sur les plans juridique, administratif et technique
Annexes
1°) Composition du comité d'évaluation
2°) Liste des personnes auditionnées ou ayant remis une contribution écrite
3°) Récapitulatif des déplacements des membres du comité dans le cadre des expérimentations
4°) Comparaison européenne et internationale sur les traitements algorithmiques en matière de vidéoprotection
5°) Liste des principaux acronymes
6°) Rappel des phases préalables au plan technique et réglementaire pour la mise en œuvre opérationnelle des solutions logicielles (note de la DEPSA)
7°) Récapitulatif des tests effectués dans le cadre de l'expérimentation
8°) Protocole d'évaluation
9°) Étude commandée au cabinet Verian
10°) Compte-rendu du déplacement à Cannes le 11 décembre 2024
11°) Contribution de la Défenseure des droits
12°) Prises de position des associations Quadrature du net et LDH
13°) Travail réalisé par les étudiants de l'Incubateur de politiques publiques de Sciences po au sujet de l'information du public
14°) Contribution de l'Association des maires de France
- Type de document : Rapport officiel
- Pagination : 122 pages
- Édité par : Ministère de l'intérieur