INHESJ

La causalité est morte : vive la corrélation !

Fil d'Ariane

La causalité est morte : vive la corrélation !
30mar.20

Les nouveaux outils issus des technologies d'IA vont-elles renverser la façon dont s'organisent les actions de sécurité publique en France ? Point de vue prospectif de Jean-Luc Besson, chargé d'études à l'ONDRP.

L’intelligence artificielle (IA) est-elle la nouvelle ressource qui va permettre à la doctrine de sécurité publique de passer du stade de la réaction à celui de l’anticipation ? Pour Alain Bensoussan, avocat, spécialiste du droit des technologies avancées2, lorsque l’intelligence artificielle aura suffisamment appris pour réduire l’incertitude du résultat des algorithmes prédictifs de la criminalité à une quasi-certitude, les performances du policier ne seront plus jugées sur le nombre d’interpellations ou d’affaires élucidées, mais sur le nombre de faits qu’il n’aura pas su éviter 3. Car dans cet autre monde caractérisé par la perfection, une interpellation signifiera un échec. Un échec de la prédiction donc un échec du système et de ses agents. Le moindre crime ou délit sera considéré comme la révélation d’un biais, ou pire, d’une faute.

L’introduction de nouvelles technologies au sein de la police ne s’est pas seulement réduite à l’apport de nouveaux outils dans une panoplie déjà fournie. Elle a toujours modifié les doctrines de surveillance et de maintien de l’ordre [Kennedy, Caplan, Piza, 2018]. Dans les années 1970, les patrouilles automobiles ont remplacé les patrouilles à pied, afin de créer une impression d’ubiquité. Aux États-Unis, la mise en place du 911 a priorisé une doctrine fondée sur les interventions rapides sur incident et la combinaison 911/patrouilles mécanisées/interventions rapides grâce à ces « nouvelles technologies » pour l’époque, a déterminé ce qu’est encore le design des services de police dans de nombreux cas [Mastrofski, Willis, 2011].

L’apparition de l’IA parmi les nouveaux outils des forces de l’ordre va probablement modifier fondamentalement une doctrine de sécurité publique toujours fondée sur l’intervention et donc la réactivité. La prévention/prédiction aura remplacé l’intervention/interpellation [Lum, Koper, Telep, 2011]. Dans cette ère gérée par l’intelligence artificielle, le policier contraint de courir après le voleur relèvera de la nostalgie.

S’il est vrai que les dernières années ont vu les progrès technologiques et l’IA commencer à s’introduire dans le quotidien de la sécurité, par exemple, les systèmes de surveillance et d’identification, ces outils sont encore globalement loin d’en être à un stade d’utilisation industrialisée. Mais il ne fait guère de doute qu’à terme, dans l’ensemble les acteurs de la prévention de la délinquance, la police, la justice, l’administration pénitentiaire, utiliseront massivement cette innovation dite « de rupture » [Christensen, Raynor, 2013] si, dans le contexte de raréfaction budgétaire, elle aboutit à des gains de sécurité en respectant le cadre établi des libertés fondamentales.

Ce qui incite à dégager cette perspective, c’est la capacité affichée de l’IA à réduire l’incertitude des décisions par un calcul probabiliste dont le résultat sera d’autant plus certain qu’il sera basé sur des quantités volumineuses de données (Big Data) et des analyses multicritère. Traduite à un échelon opérationnel, cette incertitude s’illustre par des questions simples telles que :

  • où et quand dois-je positionner cette patrouille pour obtenir un résultat tangible contre les cambriolages ?
  • dois-je décider d’éloigner ce conjoint en raison des risques de réitération de violences ? Sur quels critères ? Quel est son scoring de risque ?
  • quelle priorité dois-je adresser à ce territoire pour cette semaine la nuit ?
  • vais-je prendre la décision de refuser la visite à ce détenu en raison du profil de risque du visiteur ?

La complexité des décisions à prendre et leurs conséquences dans la vie de ceux à qui elles vont s’appliquer semblent plaider pour offrir une assistance technique aux décideurs. Sébastien Gallois 4 ne dit pas autre chose lorsqu’il évoque les 120 critères qui entrent en ligne avant de décider une interdiction d’approche dans le cadre d’un conjoint violent. Déjà en 2007, Anne Milgram, alors procureur général du New Jersey (USA), expliquait pourquoi les statistiques sont des éléments clés dans la lutte contre la criminalité. « Lorsque j’étais assistante du procureur puis quand j’étais procureur général, je regardais les affaires en face de moi, et je prenais généralement des décisions fondées sur mon instinct et mon expérience », disait-elle. Et elle ajoutait : « Ce que j’ai appris très rapidement c’est que nous ne faisions pas du bon travail. Donc j’ai voulu faire les choses différemment. Je voulais introduire des données et des analyses, des analyses statistiques rigoureuses de notre travail. En clair, je voulais faire du Moneyball en justice pénale » [Milgram, 2014].

On ne regrettera pas le passé

Ce bouleversement n’est pas encore là. Mais il s’approche à grands pas, probablement aussi rapidement que la croissance de la puissance de calcul nécessaire à entrainer les algorithmes de l’IA 5. Il n’est pour cela pas nécessaire d’être un Précog 6 pour anticiper qu’avec l’IA, l’approche actuelle de la lutte contre la criminalité basée sur un mélange d’analyses relativement sommaires du passé criminel d’un lieu, des auteurs connus qui s’y rapportent, d’influences contextuelles et d’expériences professionnelles personnelles, a sans doute vécu.

Certes on se méfie d’un futur où une IA surpuissante supplanterait les décisions humaines dans les domaines courants de la vie et aussi dans les champs de la police et de la justice. Le rapport Villani est très prudent en la matière [Villani et al., 2018]. Des chercheurs les plus éminents ont lancé des initiatives destinées à mettre en garde la population contre une dérive des IA dans le cadre de la mise en œuvre de systèmes d’armes létales autonomes (SALA) ou robots tueurs 7. Mais on ne regrettera peut-être pas un passé marqué factuellement par une relative impuissance des politiques publiques à réduire l’insécurité. Mesurée depuis 1996 8 en France métropolitaine par les dix indicateurs statistiques les plus courants décrivant les principales familles d’atteintes et d’infractions, l’évolution des crimes et délits renvoie le plus souvent une image d’aggravation qui doit interroger chacun sur les doctrines, méthodologies, techniques, stratégies utilisées jusqu’alors pour lutter contre la délinquance et la criminalité.

Le nombre d’homicides intentionnels a baissé. Cette tendance se retrouve dans la plupart des études menées en France à partir de diverses sources 9. En revanche les tentatives sont en hausse. Un paradoxe qui peut par hypothèse s’expliquer par la rapidité des interventions et l’accroissement de la qualité des soins d’urgence en matière de violences [Harris, 2002]. Un sujet d’étude.

Selon les statistiques policières, les coups et blessures, c’est-à-dire les violences interpersonnelles hors des faits intervenant dans le ménage et celles qui concernent les couples et ex. conjoints ont progressé significativement passant d’un taux de 1,3 pour 1 000 habitants à 3,3 en l’espace de 22 ans. Le système statistique du ministère de l’Intérieur agrégeant les motifs de violences, il est difficile de déterminer si tous les motifs de violences ont progressé ensemble au sein cet indicateur, ou si l’un d’eux a pris le pas sur l’autre.

Ce que l’on apprend en revanche à partir des enquêtes de victimation c’est que le nombre de personnes se déclarant victimes de violences physiques hors du ménage a plutôt diminué sur la période 2006–2018. Il en est de même pour les violences physiques et sexuelles commises sur des victimes cohabitantes [Insee-ONDRP-SSMSI, 2019]. Cette divergence des résultats tendrait à indiquer que le phénomène des violences est mieux rapporté et qu’il serait plutôt globalement en baisse sur la période des treize dernières années.

Les violences sexuelles, qu’elles visent les mineurs ou les majeurs, ont connu une forte progression au cours des vingt dernières années, notamment les faits commis contre les majeurs : + 140 %, si l’on compare le niveau des faits enregistrés de 2017 à celui de 1996. L’effet #MeToo, en France comme dans la plupart des pays, a probablement entraîné un effet statistique, comme l’a souligné le ministère de l’Intérieur dans son bilan statistique de janvier 2018 [Interstat, 2018]. Mais on ne peut s’empêcher de remarquer qu’à partir de 2010 pour les majeurs et 2011 pour les mineurs, les chiffres ne cessent d’augmenter. L’affaire Weinstein semble avoir été un accélérateur de la hausse plus qu’une source.

Le nombre de cambriolages oscille depuis 1996 entre un plus bas en 2007 (150 491 faits) et un plus haut en 2013 (229 365 faits), pour finalement produire une courbe sans signification statistique. Un haut responsable de la police parisienne s’interrogeait encore récemment en privé sur les facteurs de ces variations et sur sa capacité à peser sur ce phénomène dont il se considérait plutôt comme un spectateur 10, car démuni d’outil de compréhension lui permettant de réagir à bon escient.

La courbe des vols d’automobiles est la statistique la plus encourageante. Elle indique un reflux significatif de ce type de vol sur la période, le taux passant de 6 à 1,5 pour 1 000 habitants. Cette tendance est la même constatée par Eurostat pour les voisins de la France et pour l’ensemble des pays de l’UE : - 36 % entre 2008 et 2016 [Eurostat, 2018]. L’explication la plus souvent avancée tient au fait que les constructeurs ont pris des mesures efficaces pour mieux protéger les produits [Tremblay, Cusson, Clermont, 1992]. S’y ajoutent probablement la diminution des facteurs de risque par la vidéosurveillance de la voie publique et la multiplication des infrastructures de stationnement privées et gardiennées [Besson, 2019].

Le nombre de vols simples et de vols avec violences augmente significativement au cours des vingt dernières années, et notamment celui des vols simples (+ 51 %). Il faut rappeler qu’ils constituent l’infraction la plus massive et aussi la plus banale au sein des délits : 20 % en moyenne sur la période d’observation. Les vols simples sont particulièrement concentrés dans l’espace et leur distribution spatiale est liée à la forme de l’organisation urbaine et au flux de population [Besson, 2019].

Les infractions aux stupéfiants sont des faits révélés par l’initiative des forces de l’ordre. Que ce soit la lutte contre le trafic ou l’usage, la hausse des faits est significative sur la période. Le taux d’infraction pour l’usage simple passe ainsi de 1,1 à 2,7 pour 1 000 habitants, ce qui peut traduire une hausse du nombre de consommateurs, ou le temps toujours plus grand consacré par la police à lutter contre l’usage de stupéfiants. Ou les deux.

La justice n’est pas en reste. Lors de l’audience solennelle de rentrée de janvier 2018, la procureure du TGI de Bobigny a lancé ce qui a été entendu comme un appel au secours face à l’aggravation de la délinquance en Seine-Saint-Denis et au défaut de moyens pour mettre en œuvre des réponses pénales adaptées. Elle a rappelé à cette occasion que 170 000 affaires avaient été traitées par seulement 56 magistrats l’année précédente.

Veiller à ce que les victimes d’actes criminels reçoivent le service auquel elles s’attendent

Les questions de moyens, d’organisation, de méthode, de mode de procédures ont des effets pervers qui s’étendent au-delà de la sphère de la police et de la justice. La congestion, la lenteur de la procédure, des décisions et de leur exécution renvoient à la problématique de la confiance de la victime dans le système pénal et aboutit in fine à distendre les liens police/population, justice/victimes. Car l’une des raisons majeures avancées par les victimes pour justifier de leur absence de déplacement pour signaler le fait dont elles ont été victimes est que « ça ne sert à rien ». C’est notamment ce qui ressort de l’enquête de victimation de 2019 pour les violences au sein du couple dont 59 % ont estimé ce déplacement inutile alors qu’elles n’étaient « que » 23 % à ne pas avoir signalé les violences par crainte de représailles [ONDRP, 2019].

L’enquête nationale de victimation dont les résultats ont été publiés en 2018 [ONDRP, 2018] révèle que seulement 41 % des victimes de vols avec violences et 32 % des victimes de vols simples sur 10 se déplacent auprès des autorités. Lorsque le fait est une violence hors du contexte du ménage, 24 % des victimes portent plainte et elles ne sont plus que 14 % dans le cas des violences commises au sein du couple, 12 % pour des violences sexuelles subies hors du ménage, 9 % pour des violences commises au sein du ménage (hors violences entre conjoints). Mis à part les vols d’automobiles pour lesquels 92 % des victimes portent plainte [ONDRP, 2018] et dans une moindre mesure les cambriolages dont 74 % des victimes portent plainte [ONDRP, 2018], les autorités n’ont qu’une connaissance très partielle des autres atteintes à travers les données de signalements des victimes.

Avec la naissance du Data Driven Policing (DDP), il y a nécessité d’augmenter les flux de données relatifs aux signalements des victimes pour augmenter le volume de la réalité connue [Kearns, Muir, 2019]. À l’instar de l’apprentissage de l’IA qui a besoin d’ingérer des quantités très importantes d’informations pour réduire l’incertitude du résultat, les autorités auraient également besoin, par symétrie, d’augmenter la quantité de déclarations et de plaintes pour mieux cerner les phénomènes criminels auxquels elles ont à faire face. Pour cela, la France pourrait élaborer une solution inspirée par les nouvelles règles générales d’enregistrement du système national d’enregistrement du Home Office. Elles obligeraient la police à enregistrer initialement, sous la forme d’un rapport d’incident, tout signalement émanant d’une victime, d’un témoin ou d’une partie autre. La qualification pénale (ou pas) de l’incident interviendrait après. Dans ce système la personne signalante est garantie que sa parole est enregistrée et traitée [Home Office, 2019]. Les objectifs sont clairement énoncés dans les instructions du système. On lit notamment : « veiller à ce que les victimes d’actes criminels reçoivent le service auquel elles s’attendent et qu’elles méritent ; informer le public de l’ampleur, de la portée et du risque de criminalité dans leurs localités ; éclairer l’élaboration de la politique gouvernementale visant à réduire la criminalité et à déterminer si ces politiques sont efficaces ».

10 000 suspects en 100 millisecondes

Techniquement, le bouleversement qui allie le DDP et l’IA a commencé. Il a débuté en Chine, en Estonie, en Grande-Bretagne, aux États-Unis, aux Émirats arabes unis, en Russie et en France. L’IA va s’insérer dans les outils d’anticipation (lieu des faits), de surveillance (caméras), de contrôle (lunettes), de traitement (procédure). Déjà présente dans les navigateurs internet, les véhicules autonomes, la santé, l’IA va s’introduire dans le champ de la police et de la justice à plus ou moins court terme selon l’état d’avancement de la recherche des expérimentations et selon aussi la liberté autorisée par la réglementation. Quelques exemples d’expérimentations menées çà et là dans le monde permettent de s’en convaincre.

L’Estonie, poursuivant son objectif de construction d’un État, expérimente l’IA dans nombre de secteurs. L’un de ses projets les plus disruptifs est sans doute l’introduction d’une justice digitalisée pour les affaires de litiges de moins de 7 000 euros. Cette justice devrait être rendue par un « juge robot » et susceptible d’appel devant une cour humaine. L’objectif est ici de résorber un contentieux de masse de faible gravité, mais qui encombre les tribunaux et submerge juges et greffiers [Rohaidi, 2019].

Pour améliorer l’accueil, la police de Dubaï expérimente une version modifiée du robot Reem de chez Pal Robotics. Ce robot est capable de comprendre neuf langues, transmettre les plaintes, surveiller par vidéo et utiliser de la reconnaissance faciale. Dubaï s’est fixé l’objectif de composer un quart de sa police par des robots à l’horizon 2030 [Page, 2017].

L’augmentation des flux de personnes sur la voie publique, dans les espaces de transports, sur les points de rassemblement (stades, salles de concerts…) réclame une augmentation des capacités de surveillance et le contrôle qui ne peuvent être assumés uniquement par les moyens humains. La vidéosurveillance se généralise 11 donc en milieu urbain [BOVP, 2019]. Son efficacité se heurte cependant aux limites des capacités des opérateurs. L’œil ne peut détecter une situation atypique au-delà de huit flux vidéo simultanés et l’attention décline au bout de 2 heures [ministère Intérieur, 2006]. En termes de recherches post-événement, la somme d’images à consulter contraint à des heures de visionnage. L’afflux d’image augmente les besoins en capacité de traitement, d’où l’apparition d’assistances logicielles, par exemple pour éliminer les séquences sans mouvement ou retrouver une forme, voire un visage si la réglementation le permet 12, sur de longues durées d’enregistrement.

Une réglementation restrictive des libertés fondamentales n’est pas un obstacle en Chine. Pour juger des performances des systèmes de surveillance déjà en place, un test mené par un journaliste de la BBC a prouvé qu’il pouvait être localisé en 7 minutes n’importe où sur le territoire grâce au dispositif de 170 millions de caméras équipées d’intelligence artificielle [Sudworth, 2017] – 400 millions de caméra sont prévues pour 2020, elles pourront identifier les plaques d’immatriculation, les visages, déterminer les âges.

La société chinoise LLVision a, de son côté, développé une technologie de reconnaissance faciale montée sur des lunettes portées par les policiers, capable de balayer une base de données de 10 000 suspects en 100 millisecondes et de faire correspondre les visages captés à cette base. Sept personnes recherchées ont ainsi pu être identifiées par ce système utilisé par la police ferroviaire de la gare de Zhengzhou et 26 usurpateurs d’identité ont été interpellés [Yan, 2018].

Apprendre des comportements qui ne peuvent être détectés par l’œil humain

Surveiller ne dissuade pas toujours les passages à l’acte délictuels ou criminels. Identifier est un objectif premier de l’enquête mais c’est un processus réactif. Il consacre l’échec de la prévention. Ce qu’Alain Bensoussan entrevoit pour l’avenir, c’est une société sans crime et délit parce que chacun d’eux aura pu être anticipé, prévenu, empêché. C’est une voie dans laquelle se sont engagés ceux qui pensent avoir la capacité de prévoir l’avenir, fût-ce au prix du renoncement aux principes généraux qui fondent la démocratie. C’est un peu le cas pour la police de Fresno (Californie) et la société Hitachi.

La police de Fresno s’est équipée en 2015 d’un centre de contrôle en temps réel qui surveille la ville 24 heures sur 24 [Appleton, 2015]. Ses opérateurs ont accès à 1 000 flux vidéo différents et comptaient y ajouter les 400 flux individuels issus des caméras portées par les policiers. Les opérateurs ont aussi la capacité de fouiller une base de données privée de 2 milliards de données d’analyses de plaques d’immatriculation, mais aussi les réseaux sociaux et même les sons de la ville à travers un outil qui triangule le bruit d’éventuelles détonations dues à des armes à feu. Quelque chose de classique désormais pour les villes nord-américaines.

Plus original, le centre a expérimenté une voie plutôt inattendue pour prévenir les crimes : il a imaginé un dispositif de scoring des menaces présentées par les individus à Fresno. Pour cela, un logiciel parcourt « des milliards de points de données, notamment des rapports d’arrestation, des dossiers de propriété, des bases de données commerciales, des recherches approfondies sur le Web et les publications sur les réseaux sociaux », rapporte le Washington Post dans son édition locale de janvier 2016 [Jouvenal, 2016]. Ceci permet à l’opérateur du centre opérationnel d’établir un score de niveau de menace d’un individu et d’anticiper une éventuelle activité criminelle de sa part.

Une des justifications avancées par le chef de la police était que le scoring permettait une sécurisation des interventions par une évaluation précise de la menace. Ce système a été stoppé à la suite des préoccupations qu’il avait fait naître parmi la population et le conseil municipal de Fresno, notamment à cause d’exemples de mauvaises interprétations des données traitées faisant peser le risque de prises de décisions erronées par la police.

À travers son système Visualization Predictive Crime Analytics (PCA) piloté par l’intelligence artificielle, la société Hitachi a conçu un outil qui serait capable de prédire les actes criminels avant qu’ils ne se produisent grâce à une plateforme de traitement 13. Celle-ci serait capable de produire une carte de zones de chaleur résultant de données d’événements en temps réel captées à partir de systèmes de sécurité publique et de capteurs puis combinées à des données historiques et contextuelles sur la criminalité, des médias sociaux et autres sources ouvertes. Selon le communiqué de presse, Hitachi se disait capable d’exploiter une intelligence artificielle « capable d’apprendre des comportements qui ne peuvent être détectés par l’œil humain ». Ces algorithmes peuvent également être utilisés pour créer des prédictions extrêmement précises de niveau de menace afin d’anticiper où des crimes sont susceptibles de se produire et où des ressources supplémentaires sont susceptibles d’être nécessaires [Nicora, 2015].

En Corrée du Sud, le district de Seocho à Seoul et l'Institut de Recherche sur les Télécomunications Electroniques (IRTE), vont installer en 2020 des caméras couplées à de l'IA pour annalyser l'emplacement, l'heure et les comportements des citoyens afin de déterminer la probabilité qu'un crime se produise. L'analyse sera affinée par l'apprentissage automatique à partir de jugements et de descriptions de séquences d'actes criminels pour déterminer des « situations à risque» par comparaison. « It will work like Déjà Vu », a dit le porte parole d'IRTE (Mu-Hyun, 2020).

En Europe, il n’apparaît pas raisonnable de penser comme cela. Notamment pas selon le groupe d’experts de haut niveau 14 placé auprès de la Commission européenne pour réfléchir sur l’éthique de l’IA. Il vient de passer en phase test les sept principes pour une IA éthique après avoir publié, début 2019, ses directives d’éthique pour une IA digne de confiance [High-Level Expert Group on Artificial Intelligence, 2019]. La Commission européenne pour l’efficacité de la justice du Conseil de l’Europe avait déjà adopté la Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement en décembre 2018 [CEPEJ, 2018].

Mais avant les aspects éthiques de l’IA, la protection des données personnelles est un sujet qui en Europe a débouché sur la mise en place du règlement général sur la protection des données (RGPD). Ce règlement européen en vigueur depuis le 25 mai 2018 pour les pays de l’Union européenne, a pour objectif de responsabiliser les collecteurs de données et instaure, de fait par ses effets sur les échanges de données, une nouvelle norme mondiale en la matière. Si les fichiers de sûreté de l’État et de la défense nationale sont exclus du champ d’application, en revanche certains traitements « mis en œuvre dans le cadre d’activités qui ne relèvent pas spécifiquement de la sphère pénale mais qui se rapportent à des activités de police effectuées en amont de la commission d’une infraction pénale », entrent dans le champ de la directive Police Justice qui complète le RGPD, indique la Commission nationale de l’informatique et des libertés (CNIL) sur son site Web 15.

On peut s’interroger sur le niveau réel d’acceptabilité de la population envers la collecte de ses propres données lorsque l’on observe les comportements des utilisateurs de réseaux sociaux et des principaux outils mis en ligne par les GAFAM 16 et autres BATX 17. C’est-à-dire nous tous. Mais de plus en plus de voix se font entendre qui visent à rendre conscient l’utilisation de ces outils basés sur le Big Data.

Les  boucles de rétroaction, un biais inhérent à la compilation des données ?

Mais qu’est-ce que l’IA ? Le groupe d’experts indépendants donne la définition suivante : « Les systèmes d’intelligence artificielle (IA) sont des systèmes logiciels (et éventuellement matériels) conçus par des êtres humains et qui, ayant reçu un objectif complexe, agissent dans le monde réel ou numérique en percevant leur environnement par l’acquisition de données, en interprétant les données structurées ou non structurées collectées, en appliquant un raisonnement aux connaissances, ou en traitant les informations, dérivées de ces données et en décidant de la/des meilleure (s) action (s) à prendre pour atteindre l’objectif donné  18 ».

Née en 1956 19, c’est un système qui génère de la connaissance à partir des données volumineuses, ce que George Uzbelger nomme « l’ère Cognitive » qui résulte de la convergence de quatre technologies : l’informatique, les nanotechnologies, la biotechnologie et les sciences cognitives [Uzbelger, 2019]. Au départ, il existe un besoin et des données relatives à ce besoin. La solution est d’abord conceptualisée puis modélisée par les algorithmes, ce qui aboutit à un résultat qui sera traduit par une visualisation. Les données sont comme du pétrole brut qui est raffiné par les algorithmes qui en révèlent des caractères qu’un être humain est incapable de déceler en raison du volume à ingérer. Plus le volume de données sera élevé, plus la solution sera pertinente et le résultat certain. C’est ce qui conduit les concepteurs de logiciels prédictifs basés sur ces données à vouloir intégrer le plus de sources possible.

En matière de police, l’objectif de la plupart des logiciels prédictifs est bien celui-là : anticiper les lieux où les faits vont se produire à partir de l’étude du passé criminel des lieux. Plus les informations sur le passé seront nombreuses, plus le résultat sera pertinent et plus la gestion des policiers sur le terrain sera précise et optimisée.

Cette approche de la criminalité à partir des données semble plus objective que celle fondée uniquement sur l’expérience des agents, comme pour le Moneyball, car l’observation des agents est subjective par définition et elle ne concerne que le territoire sur lequel ils agissent. Pour les faits qui ne sont pas révélés uniquement par l’action de la police (infractions à la législation sur les stupéfiants, port d’arme prohibé, travail clandestin…), l’alimentation des bases de données peut être considérée comme objective. Elle ne dépend que de la propension de la victime à déposer plainte. Elle n’est cependant pas dénuée de biais.

Le premier, et c’est ce qui constitue la faiblesse principale des logiciels de prédictivité en matière de police, consiste à confondre les faits connus des autorités avec la criminalité réelle. Or, ces données ne reflètent finalement que l’activité d’enregistrement des services à partir des paroles des victimes qui, comme on l’a mentionné plus haut, auront bien voulu se déplacer. On sait, par les enquêtes de victimation, que le taux de plainte est très variable en fonction des types d’infractions, du sexe et de l’âge des victimes. Il est le plus élevé pour les vols d’automobiles et le plus faible pour les violences commises au sein du ménage [Insee-ONDRP-SSMSI, 2019]. Les données criminelles relatives au passé des lieux ne fournissent parfois qu’une image très partielle du phénomène et font douter légitimement de la pertinence du résultat de l’analyse.

Un second biais réside dans ce que Cathy O’Neil appelle les « boucles de rétroaction ». Cette théorie fonctionne ainsi. Lorsque les signalements de nuisances et d’infractions générés par la population aboutissent à envoyer plus de policiers sur un secteur, cette augmentation de personnel (logique d’affecter le personnel là où se produisent les incidents) amène mécaniquement une hausse des constatations (si ce personnel ne ramène pas d’affaires, il sera mal noté) qui entraîne à nouveau mécaniquement une augmentation du personnel. « Le maintien de l’ordre génère par lui-même de nouvelles données qui justifient en retour son renforcement dans certaines zones […] Même si un modèle se montre indifférent à la couleur de peau, il en va tout autrement du résultat obtenu. Aux États-Unis, où les villes sont fortement marquées par la ségrégation, la localisation géographique se substitue très efficacement aux données raciales » [O’Neil, 2016].

La question des données est donc centrale. La meilleure IA en théorie pourra s’avérer défaillante jusqu’à provoquer des effets secondaires indésirables si les données sont elles-mêmes biaisées par leur imperfection : valeurs manquantes, absence de leur mise à jour, erreurs… Car l’une des croyances largement répandues est qu’il suffit de mettre au point un système qui fonctionne pour considérer qu’il fonctionnera ad vitam aeternam. Notamment en matière de criminalité, les données évoluent constamment. Ce qui constitue théoriquement la force d’une approche Data est paradoxalement aussi sa principale faiblesse, car contrairement à ce qui est médiatisé actuellement, l’IA n’a d’intelligence que le nom. Il s’agit, au stade des développements actuels, d’un système de calculs très élaborés capable de traiter des quantités immenses d’informations variées et hétérogènes, d’y trouver des corrélations et de proposer des résultats avec une probabilité élevée de certitude. Mais il n’est pas intelligent. Il permet juste de proposer des règles de décision au sein d’une masse d’informations. L’intelligence, c’est une activité volontaire et réfléchie qui s’oppose à l’instinct [Bar-Hen, 2018]. Il lui manque le sens commun et la conscience, des états que la recherche échoue aujourd’hui à modéliser [Uzbelger, 2018].

Faut-il tout jeter pour autant ? On l’a vu, le bilan de l’action publique contre la criminalité n’est pas satisfaisant. À de rares exceptions près, la réponse est quantitative. Les maires réclament toujours plus de policiers ou de gendarmes sur leur territoire. Le ministère de l’Intérieur communique sur le nombre de forces de l’ordre alignées pour contrôler tel ou tel événement. La population se sent rassurée lorsqu’elle apprend l’affectation de policiers dans le commissariat de sa ville. Depuis des dizaines d’années, la réponse à l’insécurité semble se focaliser sur ces dix ou vingt policiers qui manquent localement dans les effectifs. Et ce serait une cause de la hausse de l’insécurité, si tant est qu’il existe une hausse réelle et une cause principale.

La pression budgétaire introduite par la Révision générale des politiques publiques (RGPP) a conduit à réduire le nombre de policiers et de gendarmes de plus de 9 000 entre 2009 et 2012 [Placé, 2012]. Même si depuis leur nombre a augmenté, la France cherche, comme la plupart des pays, à rationnaliser sa dépense publique et augmenter sa performance. Ceci vaut aussi pour l’utilisation des forces de l’ordre contre la criminalité. L’analyse de la rationalité géographique de la criminalité est un angle d’attaque connu pour avoir obtenu des résultats au cours depuis les années 1990 [Willis, Mastofski, Weisburd, 2007].

Organiser la distribution des forces de police à partir de l’analyse statistique du terrain

Ce que l’on sait depuis quelques décennies à propos de la localisation des crimes, des délits, des nuisances, c’est que ces événements sont concentrés sur un territoire. Les premiers travaux, regroupés sous la bannière de l’école de Chicago, s’intéressent à la distribution spatiale de la criminalité à travers l’étude des lieux de résidence des auteurs d’infractions [Shaw, McKay, 1942]. Après la Seconde Guerre mondiale et jusqu’aux années 1970, la recherche a délaissé cette approche pour se consacrer à l’étude des auteurs et les causes des déviances en assumant par principe que les lieux de commission des faits étaient distribués uniformément sur le territoire [Weisburd, Eck, Braga, 2016]. Mais dans les années 1980, avec l’émergence de l’ordinateur personnel (PC), des données (DATA), des systèmes d’information géographique (SIG), et d’une nouvelle criminologie de l’environnement appuyée sur les travaux de la théorie du choix rationnel [Cornish, Clarke, 1986], la théorie des activités de routine [Cohen, Felson, 1979] et de l’influence du contexte géographique sur la fréquence de commission des faits criminels [Brantingham & Brantingham, 1984], la criminologie du lieu renaît. Les travaux sur les micro-lieux, c’est-à-dire l’analyse du fait à son lieu exact de commission et non plus agrégé à une échelle territoriale supérieure (quartier, secteur, arrondissement, district…), permettent de mettre en exergue une caractéristique propre à la criminalité : la concentration sur des lieux restreints, autrement dit, les hots spots [Sherman, Gartin, Buerger, 1989].

Cette découverte va être largement exploitée par la suite par nombre services de polices de par le monde, à commencer par la plupart des villes américaines à travers la mise en œuvre du management par le COMPSTAT 20. Ce système de management par objectifs chiffrés, organise la distribution des forces de police à partir de l’analyse statistique du terrain par les données remontées sur l’état-major central. Deux motivations à cela. La première est un constat à la fin des années 1980 d’une impuissance de la police et de la justice à réduire le niveau de la criminalité avec un traitement qui privilégie avant tout l’aspect social, à travers les programmes d’aide, de prévention, d’insertion et d’encadrement. On doit se rappeler qu’en 1990, New York enregistre 2 262 meurtres, 3 126 viols, 122 055 cambriolages, 100 280 vols avec violences, 44 122 agressions 21.

La seconde raison est budgétaire. Après avoir traversé une période économique très difficile qui débute à la fin des années 1960 avec le désengagement de l’État fédéral d’un certain nombre de budgets et qui culmine le 13 juillet 1977 avec le black-out des 31 quartiers de la ville à la suite d’un orage, le changement de doctrine policière va s’illustrer sur deux axes : une rationalisation de la ressource policière en raison de la raréfaction des possibilités budgétaires ; une politique de résultats évalués en permanence. En 2018, la ville a enregistré 295 meurtres, 1 794 viols, 12 913 vols avec violences, 20 208 agressions, 11 687 cambriolages 22. De nombreux débats portent sur les causes de cette baisse drastique des crimes et délits commis sur la période 1990-2018 et sur ses effets collatéraux [E.Zimring, 2011] ; [Gopnik, 2018]. Mais personne ne conteste factuellement les résultats de la mesure statistique.

Causation is dead, correlation is king

Est-ce que cette situation est durable ? Si l’on prend pour hypothèse que l’un des éléments de la baisse a été l’identification des hot spots et l’affectation de moyens dérogatoires sur ces lieux pour reconquérir le territoire, les autorités seront contraintes de maintenir une pression constante dans le temps. En effet, ces points chauds (concentrations criminelles sur peu de lieux) n’existent qu’en raison de conditions contextuelles favorables à leur émergence et leur pérennité [Lee, Eck, O, Martinez, 2017]. Identifier les hot spots sans pousser plus avant l’analyse pour déterminer les facteurs explicatifs qui produisent ces situations ne permet probablement pas de modifier le résultat dans le long terme.

C’est ici que revient l’intelligence artificielle. « Causation is dead, correlation is king. Les nouveaux défis concernent simplement la gestion du volume, de la vitesse et de la variété des informations flexibles, relationnelles, affinées et indicielles qui deviennent de plus en plus disponibles » [Kitchin, 2014]. Prédire l’émergence de points chauds à travers la modélisation de réseaux de neurones artificiels [Olligschlaeger, 1998] et d’autres techniques avancées de traitement des données de plus en plus volumineuses et variées a été entrepris à l’état expérimental depuis les années 2000. On citera les recherches destinées à améliorer la détection des hot spots par la mise en œuvre de l’analyse par densité de noyau (Kernel) en y adjoignant une analyse linguistique des tweets géolocalisés [Gerber, 2014]. Le volume des tweets géolocalisés est aussi utilisé dans l’expérience menée à San Francisco pour tenter de prédire l’activité criminelle d’une rue [Bendler, Brandt, Wagner, 2014].

Cette dernière expérience répond à une problématique que l’on rencontre couramment dans les études spatiales sur la criminalité, à savoir : comment estimer la population présente sur un territoire en fonction du moment pour estimer le niveau de risque relatif ? En effet, en raison de l’absence de disponibilité de données, les faits constatés sont rapportés au nombre d’habitants du territoire d’étude. Cependant, pour les infractions dépendantes des flux de population (la plupart de celles commises sur la voie publique), le nombre d’habitants comme donnée de standardisation est une donnée fausse. Elle aboutit à surexposer statistiquement artificiellement le territoire [Besson, 2007]. La captation des flux Twitter géolocalisés dans la zone peut permettre d’estimer la population présente réellement sur le territoire à l’heure de commission du fait [Mallesson, Andressen, 2015].

Le centre de recherche sur la sécurité publique de l’université Rutgers (New Jersey) a voulu dépasser l’objectif d’identification du hot spot après avoir fait le constat que le point chaud étant éliminé, il ressortait immanquablement ailleurs sur le territoire. Repartant des recherches sur le contexte du lieu du crime, la criminologie du lieu et des espaces à risque, ses chercheurs ont inventé une méthode devenue depuis une application en ligne, destinée à identifier les facteurs significatifs qui concourent à la création de ces points chauds.

Cette méthode dénommée «Risk Terrain Modeling» consiste, après avoir découpé le territoire en cellules (ex : 200 m), à désagréger tous les facteurs contextuels de risques géolocalisés dans l’environnement du lieu du fait, à tester leur influence sur le fait et à ne retenir que les facteurs significatifs qui sont alors empilés par le système 23 d’information géographique et visualisé dans une cartographie. Il s’agit d’une analyse de régression avec une sélection du « meilleur » modèle statistique. Le résultat propose une carte avec une échelle de risques déclinée par cellule qui a pour avantage de ne plus prendre seulement en compte l’historique criminel du lieu, mais également les conditions de son environnement qui, sur un plan statistique, sont les facteurs d’aggravation du risque, ceux qui provoquent les concentrations criminelles.

Cette approche fonctionne [Caplan, Kennedy, Piza, Barnum, 2019]. Mais les facteurs sont actuellement limités aux données physiques présentes dans les bases de données courantes des systèmes d’information géographique (restaurants, arrêts de bus, bouches de métro, écoles, gares, commerces…). L’analyse est encore limitée par la puissance de calcul de la machine et, si elle est reproductible, sa précision ne s’améliore pas à l’usage.

Y parvenir, c’est probablement passer du stade de la régression statistique à l’IA. L’intégration et le traitement de nouvelles données hétérogènes relatives au lieu produit par les déplacements, les réseaux sociaux, les flux vidéo, les fils d’informations, les rapports de police, le déploiement des forces de l’ordre sur le lieu, auraient toute leur place dans cette méthodologie RTM. Mais le moyen d’augmenter la précision du modèle passerait par l’utilisation d’une IA qui serait elle-même capable de choisir les meilleures variables et de combiner les facteurs de manière inattendue par l’auto-apprentissage, en réinjectant par exemple les faux positifs et les faux négatifs dans l’analyse.

Vers une criminologie augmentée

L’augmentation de l’utilisation par la police de données autres que les plaintes, les mains courantes, les interpellations, les fichiers de recherche, devient peu à peu une réalité pour le maintien de l’ordre au quotidien. Les images des réseaux de vidéosurveillance et celles des caméras portées par les agents, les sons des systèmes de captation des détonations (GDS), les scanners viennent s’ajouter aux sources classiques de données [Fergusson, 2017]. Mais il s’agit de données d’activités qui, sous couvert de nouvelles technologies, maintiennent toujours l’action policière dans une doctrine réactive.

L’utilisation des nouvelles Big Data, composées notamment des flux des réseaux sociaux, ouvre de nouvelles perspectives en matière d’analyse qui potentiellement peuvent faire basculer la doctrine vers l’anticipation et la prévention. Le passage de l’approche sociologique à la science criminelle s’est opéré autour des années 2000 lorsque le Big Data a changé les pratiques des sciences sociales en passant de la recherche d’une causalité à l’identification de corrélations au travers de données variées, structurées, non structurées, volumineuses, changeantes [Chan & Bennett Moses, 2016]. Il ne s’agit pas maintenant de considérer que les données sont objectives parce que neutres par définition. Les données ne sont pas neutres. Elles sont produites et conçues par des hommes et des machines fabriquées par des hommes, dans un contexte particulier. Elles n’existent pas comme des éléments autonomes, ce que voudraient faire croire parfois certains scientifiques emportés sans doute par leur enthousiasme d’atteindre enfin un résultat avec une véritable objectivité. Les données ne parlent pas pour elles-mêmes. Elles reflètent le système qui les crée [O’Neil, 2016].

Pour autant, les moins de 24 ans savent qu’elles font partie de ce nouveau monde où ce qui n’est pas plateforme apparaît pour le moins daté. Les rejeter au nom d’un principe de précaution, d’un manque de cadre théorique et parce que quelques éléments de compréhension nous échappent encore, c’est probablement tourner le dos aux promesses d’une criminologie augmentée. Plaidons au moins pour la recherche et sa procédure du bac à sable 24.

 

Homicides intentionnels et tentatives Coups et blessures volontairesViols et agressions sexuelles sur majeurs et mineursCambriolages d’habitations

 

Vols d’automobiles

 

Vols simples

 

Vols avec violences

 

Vols avec violences

 

Trafic de stupéfiants et usage revente (infractions révélées à l’initiative des services)Usage de stupéfiants (infractions révélées à l’initiative des services)

 

 


 

Crédit photo : Unsplash

Bibliographie

  • APPLETON (R.), 2015, «Fresno police unveil state-of-the-art crime tracking system», The Fresno Bee, 7 Juillet.
  • BAR-HEN (A.), 2018, « L’intelligence n’est ni artificielle ni innée », The Conversation.
  • BENDLER (J.), BRANDT (T.), WAGNER (S.), 2014, Investigating Crime to Twitter Relationships in Urban Environment of Human Behaviour, Tel Aviv, ECIS.
  • BENSOUSSAN (A.), 2019, « L’empathie artificielle de la personne robot », Planete Robots, Janvier-Février, Volume 55.
  • BESSON (J.-L.), 2007, Mesure du nombre de faits constatés d’atteintes volontaires à l’intégrité physique rapporté à la taille de la population présente en moyenne, PARIS, ONDRP.
  • BESSON (J.-L.), 2019, La criminalité sur les territoires du Grand Paris, Paris, INHESJ.
  • BOVP, 2019, Arrêté n° 2019-00079 autorisant l’installation du système de vidéoprotection de la préfecture de Police, Paris, s.n.
  • BRANTINGHAM & BRANTINGHAM, 1984, Patterns in Crime, New York, Macmillan.
  • CAPLAN (J.-M.), KENNEDY (L.W.), PIZA (E.L.), BARNUM (J.D.), 2019, «Using Vulnerability and Exposure to Improve Roberry Prediction and Target Area Selection», Applied Spatial Analysis and Policy.
  • CEPEJ, 2018, Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires, [En ligne] Available at: https://www.coe.int/fr/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment (accès le Septembre 2019).
  • CHAN (J.) & BENNETT MOSES (L.), 2016, «Is Big Data challenging criminology? », Theoretical Criminology, p. 21-39.
  • CHRISTENSEN (C.M.), RAYNOR (M.E.), 2013, The Innovator’s Solution: Creating and Sustaining Successful Growth, Cambridge (Boston), Harvard Business Review Press.
  • COHEN (L.E.), FELSON (M.), 1979, «Social Change and Crime Rate Trends: A Routine Activity approach», American Sociological Review, p. 588-608.
  • CORNISH (D.), CLARKE (R.V.), 1986, «The Reasoning Criminal: Rational Choice Perpectives on Offending», C&C éd. New York, Springer.
  • ZIMRING (F.E.), 2011, The City tat Became Safe: New York’s Lessons for Urban Crime and its control, Oxford, Oxford University Press.
  • Eurostat, 2018, Eurostat Statistics Explained [en ligne] Available at: https://ec.europa.eu/eurostat/statistics-explained/index.php?title=Crime_statistics/fr#Les_vols_de_voitures_ont_diminu.C3.A9_de_36.C2.A0.25_entre_2008_et.C2.A02016 (accès le 24 novembre 2019).
  • FERGUSSON (A.G.), 2017, The Rise of Big data Policing. Surveillancen, Race and the Future of Law Enforcement, New York, New Yor University Press.
  • GERBER (M.S.), 2014, «Predictinig crime using Twitter and Kernel Density Estimation», Decision Support System, p. 115-125.
  • GOPNIK (A.), 2018, «The Great Crime Decline», The New Yorker, Issue 12 février.
  • HARRIS (A.), 2002. Research Finds that U.S Murder Rate Suppressed by Improved Emergency Medical Response. [En ligne] Available at: https://www.umass.edu/newsoffice/article/research-finds-us-murder-rate-suppressed-improved-emergency-medical-response (accès le 24 novembre 2019).
  • High-Level Expert Group on Artificial Intelligence, 2019, Ethics Guidelines For Trustworthy Ai, Bruxelles, Commission européenne.
  • Home Office, 2019, Home Office Counting Rules for Recorded Crime, Londres, s.n.
  • Insee-ONDRP-SSMSI, 2019, Enquêtes « Cadre de vie et sécurité », 2007-2019, Paris, INHESJ.
  • INTERSTATS, 2018, Insécurité et délinquance 2017 : premier bilan statistique, Paris, ministère de l’Intérieur.
  • JOUVENAL (J.), 2016, «The new way police are surveilling you: Calculating your threat “score”», The Washington Post.
  • KEARNS (I.), MUIR (R.), 2019, Data Driven Policing and Public Value, Washington D.C., Police Foundation.
  • KENNEDY (L.W.), CAPLAN (J.-M.), PIZA (E.L.), 2018, Risk Based Policing: Evidence Based Crime Prevention wirth Big Data and Spatial anlytics, Oakland, University of California Press.
  • KITCHIN (R.), 2014, «Big Data, new epistemologies and paradigm shifts», Big Data & Society, p. 1-12.
  • LEE (Y.), ECK (J.E.), SOOHYN (O.), MARTINEZ (N.), 2017, «How Concentrated is Crime at Place? A systematic review from 1970 to 2015», Crime Science, Décembre.
  • LUM (C.), KOPER (C.S.), TELEP (C.W.), 2011, «The Evidence-Based Policing», Journal of Experimental Criminology, Juillet, p. 3-26.
  • MALLESSON (N.), ANDRESSEN (M.A.), 2015, «Spatio-temporal crime hot spots and the ambient population», Crime Science, Avril, p. 12-8.
  • MASTROFSKI (S.D.), WILLIS (J.J.), 2011, «Police Organization», The Oxford Hanbook of Crime and Criminal Justice, p. 479-508.
  • MILGRAM (A.), 2014, Pourquoi les statistiques sont des éléments clefs pour combattre le crime, Vancouver, TED Institute.
  • Ministère Intérieur, 2006, Guide méthodologique projet de vidéoprotection, Paris, Comité de Pilotage Stratégique pour le développement de la vidéoprotection.
  • Mu-Hyun (C), 2020, Seoul to install AI cameras for crime detection: System will detect what passerby are wearing. Consulté 2020 sur : https://www.zdnet.com/article/seoul-to-install-ai-cameras-for-crime-detection/
  • NICORA (H.), 2015, Hitachi Data Systems Unveils New Advancements In Predictive Policing To Support Safer, Smarter Societies [En ligne] Available at: https://www.hitachivantara.com/en-us/news-resources/press-releases/2015/gl150928.html (accès le 24 novembre 2019).
  • OLLIGSCHLAEGER (A.M.), 1998, Artificial neural Networks and Crime Mapping, Crime Mapping and Crime Prevention, p. 313-347.
  • ONDRP, 2018, Victimation 2017 et perceptions de la sécurité, Paris, INHESJ.
  • ONDRP, 2019, Victimation 2018 et perceptions de la sécurité, Paris, INHESJ.
  • O’NEIL (C.), 2016, Weapons of Math Destruction. How Big Data Increases Inequality and Threaten Democracy, Les Arènes éd., New York, New York Crown.
  • PAGE (T.), 2017, The inevitable rise of robocops. [En ligne] Available at: https://edition.cnn.com/2017/05/22/tech/robot-police-officer-future-dubai/index.html (accès le 24 novembre 2019).
  • PLACÉ (J.-V.), 2012, Projet de loi de finances pour 2013 : sécurité (gendarmerie nationale et police nationale) [En ligne] Available at: https://www.senat.fr/rap/l12-148-327-1/l12-148-327-14.html
  • REAVES (B.A.), 2015, Local Police Departments, 2013: Equipment and Technology, Washington, Bureau of Justice Statistics (BJS).
  • ROHAIDI (N.), 2019, GovInsider [En ligne] Available at: https://govinsider.asia/innovation/ott-velsberg-estonia-chief-data-officer-ai-powered-government/ (accès le 24 novembre 2019).
  • SHAW (C.R.), MCKAY (H.D.), 1942, Juvenile Delinquency and Urban Areas: A Study of Rates of Delinquents in Relation to Differential Characteristics of Local Communities in American Cities, Chicago, The University of Chicago Press.
  • SHERMAN (L.W.), GARTIN (P.R.), BUERGER (M.E.), 1989, Hot spots of predatory crimes: Routine activities and the criminology of place, Criminology, p. 27-56.
  • SUDWORTH (J.), 2017, In Your Face: China’s all-seeing state [En ligne] Available at: https://www.bbc.com/news/av/world-asia-china-42248056/in-your-face-china-s-all-seeing-state (accès le 24 novembre 2019].
  • TREMBLAY (P.), CUSSON (M.), CLERMONT (Y.), 1992, « Contribution à une criminologie de l’acte : une analyse stratégique du vol de véhicules automobiles », Déviance et société, p. 157-178.
  • UZBELGER (G.), 2018, Conf@42 - 42 AI - IBM - Introduction à l’IA et le cognitif. [En ligne] Available at: https://www.youtube.com/watch?v=NGJyFXRNQeg
  • UZBELGER (G.), 2019, Intelligence artificielle : état des lieux et enjeux principaux, Paris, Colloque IA au défi de la sécurité et de la justice - INHESJ.
  • VILLANI (C.) et al., 2018, Donner un sens à l’intelligence artificielle, Paris, s.n.
  • WEISBURD (D.), ECK (J.E.), BRAGA (A.A.), 2016, Place Matters: Criminology for the Twenty-First Century, New York, Cambridge University Press.
  • Willis (J.W.), Mastofski (S.D.), Weisburd (D.), 2007, Making Sense of COMPSTAT: A Theory-Based Analysis of Organizational Change in Three Police Department, Law & Society Review, 40(1), p. 147-189.
  • YAN (L.), 2018, Chinese police increase use of smart tech in arrests [En ligne] Available at: http://www.ecns.cn/2018/02-07/291784.shtml (accès le 24 novembre 2019).
  •  

Notes

(1) Cette image issue du réseau social Twitter, illustre la permanence géographique d’un phénomène délictuel pourtant bien identifié. Depuis au moins les années 1960, le secteur de la station de métro Barbès est un repère pour les trafics illégaux en tout genre, dont le trafic de cigarettes à la sauvette. « Pluie, neige, contrôles de police à répétition, rien ne peut dissuader les buralistes du métro Barbès-Rochechouart de vendre leurs Marlboro. Il était temps d’officialiser leur profession », revendique Omerta Project.

(2) Alain Bensoussan dirige le cabinet Lexing Alain Bensoussan Avocats. Il a participé à l’élaboration de la loi de 1985 sur la protection du logiciel et se fait le chantre de la personnalité robot dans le droit [Bensoussan, 2019].

(3) Intervention au pôle judiciaire de la Gendarmerie nationale, colloque organisé par l’Observatoire national des sciences et technologies de la sécurité (ONSTS) : intelligence artificielle et lutte contre la délinquance (février 2019).

(4) Sébastien Gallois, chef du service de l’expertise et de la modernisation au secrétariat général ministère de la Justice, colloque Sécurité et Justice, le défi de l’intelligence artificielle (INHESJ, novembre 2019).

(5) Selon OpenAI, la puissance de calcul a été multipliée par 300 000 en sept ans et actuellement elle double tous les 3,4 mois, in Futura Tech, Céline Deluzarche (novembre 2019).

(6) Les Précogs sont des êtres doués de précognition dans le film de Steven Spielberg Minority Report.

(7) https://futureoflife.org/autonomous-weapons-open-letter-2017/?cn-reloaded=1 ; https://www.stopkillerrobots.org/ https://www.declarationmontreal-iaresponsable.com/la-declaration

(8) 1996 est l’année de référence pour la continuité statistique, car le contexte légal, la nomenclature et les modes de recueil de l’information ont peu varié.

(9) Voir : Besson (J.-L.), 2015, « Les homicides volontaire diagnostiqués par l’IML de Paris de 1994 à 2013 », Focus, ONDRP, n° 9 ; Mucchielli (L.), 2008, L’évolution des homicides depuis les années 1970 : analyse statistique et tendance générale, CESDIP.

(10) Entretien avec l’auteur (2017).

(11) 1 400 caméras de surveillance sont implantées à Paris, 2 145 à Nice, 6 000 communes possèdent un système de vidéoprotection (ministère de l’Intérieur).

(12) Table ronde Hicham Aloui Fdili, Sécurité, Justice : le défi de l’intelligence artificielle, jeudi 7 novembre 2019, bâtiment Ségur/Auditorium Marceau Long.

(13) Hitachi Visualization Suite (HVS).

(14) The AI HLEG is an independent expert group that was set up by the European Commission in June 2018. Madame Françoise Soulie-Fogelman, professeur d’IA et consultant en Data Mining & Artificial Intelligence, qui est intervenue dans le colloque organisé par l’INHESJ le 7 novembre 2019 sur le défi de l’IA appliqué à la sécurité et à la justice, est membre de ce groupe d’experts indépendants.

(15) https://www.cnil.fr/fr/directive-police-justice-de-quoi-parle-t

(16) Google, Apple, Facebook, Amazon, Microsoft.

(17) Baidu, Alibaba, Tencent et Xiaomi.

(18) La définition complète en suivant ce lien : https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

(19) Conférence de Dartmouth, été 1956, qui instaure l’intelligence artificielle comme domaine de recherche autonome.

(20) Acronyme de Computer Statistics.

(21) Source NYPD COMPSTAT Unit, vol. 26 Number 45.

(22) Idem, 14

(23) Gunshot Detection System (GDS). 50 % des juridictions de 1 million d’habitants sont équipées, 30 % des juridictions de 500 000 habitants, 28 % des juridictions de 250 000 habitants [Reaves, 2015].

(24) Sand Box est une série de règles qui permet de tester une méthode dans un environnement réel sans avoir à suivre certaines contraintes juridiques faisant l’objet de restrictions. La méthode du bac à sable a récemment été retenue par le rapport Villani sur l’intelligence artificielle.

Derrière cet article

Jean-Luc Besson En savoir plus

Jean-Luc Besson

Fonction Chargé d’études géostatistiques
Discipline Criminologie, Géographie