Pour votre sécurité vous n’aurez plus de liberté ! Et donc plus du tout de sécurité.
On savait déjà que le totalitarisme capitaliste développait massivement une surveillance de masse des communications : internet, téléphone, téléphone mobile, pas une des données de vos échanges n’échappe aux grandes oreilles des agences de renseignements. Mais désormais avec les développement des techniques d’analyse statistique dites « d’intelligence artificielle » le flicage va concerner l’ensemble des aspects de la vie des population. Avec le développement d’une police dite prédictive reposant sur la surveillance systématique et totale de l’activité d’ensemble de population. Soit disant pour empêcher « le crime ». Des outils dont on ne sait que trop à quoi ils peuvent servir, le contrôle des populations. Et qui sont déjà déployés dans le plus grand secret en France. Et qui ne peuvent qu’inquiéter les défenseurs des libertés démocratiques dans un contexte d’Etat d’Urgence sans fin et de criminalisation du mouvement social, des syndicalistes et des opposants politiques. Car cette police dite « prédictive » vendue pour « prévenir les cambriolages » (et oui, il s’agit ici bien d’un marché au profit juteux), si elle fait la preuve de son inefficacité pour empêcher la délinquances en n’agissant aucunement sur ses causes, permet le développement d’outil de surveillance fichant l’ensemble de la population. Une dramatique mise en cause des libertés publiques, reposant qui plus est sur la mise à disposition gratuite et obligatoire des données de chacun, des données exploitées ensuite par des outils dit de « big data » par des entités privées.
www.initiative-communiste.fr reproduit ci-dessous un article du chercheur spécialisé de l’EHESS paru sur son blog qui fait le point sur le développement de ces outils de surveillance en France et aux Etats-Unis. Rappelons qu’Initiative Communiste soucieux de la vie privée de ses lecteurs utilisent des outils statistiques protégeant les internautes qui consultent ses pages (lire ici).
La police prédictive débarque en France
Mercredi 15 avril, 16 heures 05. Assis dans la salle de réunion en compagnie d’une quinzaine de ses collègues, l’agent Murder écoute le sergent faire son rapport sur les incidents de la matinée. Et elle est déjà bien remplie : deux agressions avec arme, une tentative de viol, trois cambriolages et cinq vols de voiture. D’un coup de télécommande, le sergent allume un écran d’ordinateur dont l’image est projetée au mur et apparaît alors un plan détaillé de la ville, sur lequel on distingue dix petits carrés rouges : un carrefour, un square, un centre commercial, un terrai de sport… Ce sont les « hot spots », les points chauds à surveiller en priorité. D’après l’ordinateur connecté au système PredPol (contraction de Predictive Policing) les délits ont une forte probabilité de se concentrer, au cours des douze prochaines heures, dans ces carrés de 150 mètres carrés représentant une infime fraction de la superficie de la ville…
Le sergent zoome sur la carte pour indiquer aux différentes patrouilles les quartiers qui leur reviennent. L’ordinateur affine ses prédictions et affiche cinq carrés PredPol par secteur, classés par ordre de priorité. Samantha demande à quoi correspond l’un des carrés au milieu de sa zone. En un clic, une photo panoramique du carrefour apparaît dans toute sa précision. Rien d’étonnant à ça : PredPol est connecté à Google Street View.
Comme tous ses collègues, l’agent Murder reçoit par e-mail cinq petites cartes actualisées en continu, chacune représentant une portion de son secteur. Quand il sera en patrouille, il pourra les consulter sur son smartphone ou sur l’ordinateur de bord de sa voiture en se connectant à l’intranet, le réseau interne de la police. Avant de lâcher ses troupes, le sergent leur rappelle qu’entre deux urgences ils ont ordre d’aller surveiller en priorité les carrés PredPol : en février, près de 150 délits commis dans ces points chauds sont restés impunis. Autant d’arrestations manquées… Dans quelques heures, la scène se répétera pour l’équipe du matin, mais certains points chauds auront changé car l’ordinateur modifie ses prédictions en temps réel.
Avec l’arrivée du printemps, les délits tendent à se multiplier dans les squares ou les jardins publics : drague agressive, vols de portables ou de sacs à mains. PredPol signale ceux où les risques sont les plus élevés, des points chauds auxquels l’agent Murder n’aurait pas forcément pensé. Sur l’écran d’ordinateur tout est lisse mais sur le terrain la réalité est moins prévisible : au cours de son trajet, des appels d’urgence lui arrivent et il doit y répondre prioritairement. Une femme en état d’ivresse a poignardé son compagnon. Toutes sirènes hurlantes, il se rend sur les lieux du drame. Puis, un peu plus tard dans la matinée, il doit procéder à l’arrestation d’un exhibitionniste. Il ira finalement patrouiller dans la « zone à risque » pendant son temps libre, un quartier où plusieurs cambriolages ont déjà eu lieu.
A l’autre bout de la ville, Samantha se gare le long du trottoir pour consulter sa carte sur son ordinateur de bord et se choisit un carré PredPol à proximité. Dans cette zone se concentrent des fugitifs recherchés par la justice : inculpés libérés sous caution qui ne se sont pas présentés à leur procès, personnes en liberté anticipée qui ne se soumettent pas aux contrôles obligatoires, détenus en permission de sortir n’ayant pas réintégré leur établissement. Ils ont une probabilité élevée de commettre de nouveaux délits.
Dès son arrivée, elle repère un homme en survêtement qui grille un stop en voiture, une bouteille d’alcool à la main. Double infraction, interpellation, pose des menottes, fouille et vérification d’identité. En consultant son ordinateur de bord, elle découvre que l’homme est recherché pour usage de drogue et menus larcins. Elle déclenche alors la mini-caméra fixée sur sa poitrine, qui enregistrera l’arrestation en audio et en vidéo, avant d’appeler une collègue en renfort. Dans son rapport, elle note soigneusement que l’arrestation a eu lieu dans un carré PredPol.
De son côté, l’agent Scully, 24 ans et tout juste un an d’ancienneté, a choisi de travailler de nuit. Il affirme que PredPol lui est utile en lui apportant des points de repère. Grâce à lui, il ne se perd jamais. Après 22 heures, quand l’agitation urbaine a diminué, il peut prendre le temps de surveiller ses carrés. Ce soir, PredPol a sélectionné pour lui une rue mal éclairée comprenant un fast-food et une épicerie qui vend de l’alcool. Il espère qu’à force de patrouiller dans un même lieu, le « point chaud » va disparaître de la carte.
L’algorithme de PredPol
Modesto, ses barres d’immeuble délabrées, son air pollué et son chômage endémique. Cette petite ville de Californie de 200.000 habitants ne s’est pas abonnée au service de la société PredPol par hasard. Comme la soixantaine de villes américaines qui ont déjà adopté ce système, elle était minée par un taux de criminalité record, officiellement près du double de celui observé à l’échelle de l’État de Californie. Et les résultats semblent être au rendez-vous d’après le chef de la police. Il affirme que, grâce à PredPol, les cambriolages ont baissé de 27 % en deux mois et que les autres types de délits ont diminué entre 11 % et 15 %. Dans le même temps, le nombre d’arrestations a augmenté et désormais, plus de la moitié ont lieu dans un carré PredPol. Le capitaine utilise le système uniquement pour prédire trois types de délits : les cambriolages, les vols de voitures et les vols dans les lieux publics. Les infractions les plus courantes. Si l’on ajoute trop de critères, le système devient moins fiable, reconnaît-il. La délinquance impulsive (meurtre ou agression) apparaît plus aléatoire et donc moins modalisable.
Contrairement à Minority Report, pas de Precogs ou de voyants extra-lucides à l’œuvre à Modesto mais un simple algorithme mathématique. Mis au point par des chercheurs de l’Université de Californie et de Santa Clara, il utilise les statistiques et les probabilités pour convertir une cartographie criminelle rétrospective (un historique des faits constatés par zone géographique) en cartographie prospective localisant les risques à venir. La gigantesque base de données des archives informatisées de la police alimentée en continu – rapports, procès-verbaux, comptes rendus, transcriptions d’appels en base – en forme la matière première. Des logiciels extraient de ce Big Data les infractions classées selon trois critères – date, lieu et catégorie – afin de prévoir où et quand les prochaines risquent de se produire.
Pour mettre au point leur outil prédictif, les chercheurs se sont inspirés d’algorithmes utilisés dans la prévision… des tremblements de terre. Si les sismologues peinent à prédire les secousses primaires, ils peuvent en revanche prévoir leurs répliques en théorie proches en temps et en lieu du séisme initial. Il en irait de même pour les délits : une victimation a de fortes chances de se répéter dans un même quartier et se diffuse de proche en proche. Ce phénomène de la diffusion, que les spécialistes appellent near-repeat, colle assez bien avec les résultats des enquêtes qualitatives conduites auprès des cambrioleurs. Ces derniers expliquent aux enquêteurs qu’il leur arrive régulièrement de revenir cambrioler un même logement lorsque l’effraction n’est pas compliquée et qu’ils n’ont pas pu tout emporter lors de leur premier passage. Les cambrioleurs opèrent par secteur et ils obtiennent parfois auprès de leurs réseaux des informations sur la vulnérabilité des cibles détectées lors des phases de repérage.
L’algorithme de PredPol est une version améliorée de celui mis au début des années 2000 par des chercheurs du JDICS, le Prospective Crime Mapping dit PROMAP. Il consiste à modéliser les changements spatio-temporels de la victimisation à répétition sur un territoire donné afin de développer un outil opérationnel de prédiction du crime. Pour anticiper les répliques, les chercheurs s’inspirent des méthodes de lissage ordinairement utilisées en analyse spatiale pour trouver les points nodaux sur une carte. On trouve déjà l’idée maîtresse qui fera le succès de PredPol : alors que les cartes des hotspots policing se contentent de répertorier les zones à risque à partir de la répartition spatiale des délits déjà commis, l’algorithme de PROMAP intègre, dans les éléments de paramétrage des formules, les théories criminologiques sur la contagion, notamment les résultats-clés des recherches sur la victimisation à répétition. Des recherches ont établi que le risque de victimisation se diffuse sur un rayon de 400 mètres, avec un risque plus élevé pour les maisons du même côté de la rue et sur une période de deux mois.
La privatisation de la sécurité
Ces « mathématiques du crime » ont leurs limites : l’hypothèse sur lesquelles elles reposent, leur attribuant des effets d’auto-engendrement, de contagion ou de renforcement, est lourde et fortement discutable car totalement déconnectée du contexte socio-économique dans lequel l’acte se produit. Que la propagation des séismes dépende de leur structure spatiale propre est facilement envisageable, en revanche, il est difficile d’imaginer une telle approche structurelle de l’espace pour un phénomène aussi contingent que le crime. De plus, contrairement à la structure de l’activité sismologique, le processus de contagion, quand il est observé, n’est pas stable dans le temps car il évolue en fonction des interactions entre le phénomène délinquant et les forces externes (en particulier l’action de la police).
De fait, les études vantant les performances des algorithmes de prédiction – la plupart étant réalisées par les chercheurs actionnaires de PredPol eux-mêmes – essuient de nombreuses critiques. Leur méthodologie est souvent jugée rudimentaire et la présentation des résultats trompeuse. Tous les crimes et délits ne sont pas forcément déclarés, ce qui peut biaiser les données utilisées par le logiciel et donc fausser ses prédictions. Quand on compare rigoureusement l’efficacité du logiciel PredPol à celle des algorithmes standard ou des simples cartes indiquant les points chauds d’une zone géographique, leur valeur ajoutée apparaît faible. Certains chercheurs affirment même que les prédictions de PredPol pourraient tenir en cette simple assertion pour le moins tautologique : « les crimes auront lieu majoritairement dans les zones historiquement les plus criminogènes de la ville ». Sans compter le fait que PredPol pourrait être victime de cyber-attaques et laisser échapper les plans et les lieux à risques où pense intervenir la police…
Ces nouvelles méthodes ont aussi leur coût, celui de la privatisation des services publics. La décision du chef de la police de s’abonner à ce service pour la somme onéreuse de 30.000 dollars par an a aussi été dictée par des contraintes économiques : la récession a durement frappé la ville et le budget de la police a diminué entre 2009 et 2013. Les effectifs des forces de l’ordre ont baissé, de plus de 10 %, pendant que dans le même temps la criminalité augmentait. Il était donc tentant d’innover pour pallier le manque de main-d’œuvre en faisant appel aux technologies de pointe. Être proactif et concentrer les moyens limités sur des zones prioritaires a été perçu comme une réponse pertinente à cette situation de crise. D’après le sociologue Biled Benbouzil, le principal intérêt de PredPol est d’être un outil de management dans un contexte de baisse des dépenses publiques : pour un responsable de secteur, PredPol est un moyen pour s’assurer que les policiers font bien leur travail préventif, souvent par la simple présence dissuasive, de manière aléatoire, mais sur une durée optimisée, dans les zones où le risque est estimé le plus haut. L’enjeu du Predictive Policing est ainsi de gérer, selon des critères gestionnaires, ce qu’on appelle l’offre publique de vigilance quotidienne en visant une allocation optimale des ressources policières sur le terrain.
Ici comme ailleurs, la privatisation tend à renforcer les inégalités : l’algorithme étant alimenté uniquement par les données issues des plaintes des victimes (et non pas par celles des arrestations, pour éviter qu’il ne reflète l’activité discriminatoire des policiers), il oriente l’offre de sécurité uniquement vers les publics qui portent plainte auprès des autorités. Or, les enquêtes de victimisation montrent que la propension à porter plainte est plus faible dans les catégories socialement discriminées, en particulier chez les publics victimes des violences policières. Fonder une politique publique sur le seul modèle de l’exposition au risque, c’est ignorer que dans le domaine de la sécurité publique l’immunité des uns est liée à l’exclusion des autres ; c’est aussi renoncer d’agir dans le temps et en profondeur sur le crime ; c’est encore empêcher de penser la protection des victimes dans une perspective de solidarité. Enfin, ce logiciel ne peut prévenir, dans le meilleur des cas, que les infractions à victime individuelle directe, autrement dit la petite délinquance de voie publique. Les délits économiques ou financiers sont une nouvelle fois laissés dans l’ombre… Au final, PredPol est un cas parmi d’autres d’un mouvement général de marchandisation des savoirs à destination de l’action publique. Il reste un produit dont la commercialisation est avant tout destinée à servir des intérêts privés.
La police prédictive débarque en France.
Ces travers ne freinent ni l’enthousiasme de la presse qui s’est empressée de faire les louanges de PredPol, modèle parfait de la success story (le « Time Magazine » désigna PredPol comme l’une des « 50 inventions de l’année 2011 ») ni les profits de la start-up californienne aujourd’hui florissants. Il est vrai que cette innovation a pour elle les apparences du bon sens : il vaut mieux prévenir que guérir. De fait, plusieurs grandes villes américaines l’ont d’ores et déjà adopté : Los Angeles, Memphis (Tennessee), Charleston (Caroline du Sud), Santa Cruz et New York. D’après le magazine, entre novembre 2011 et mai 2012, ce dispositif aurait contribué à faire chuter de 33 % les agressions et de 21 % les crimes violents dans la Cité des Anges. Son logiciel a déjà été vendu en Angleterre où il est utilisé par la police du Kent ainsi qu’en Allemagne. Son nouveau PDG envisage d’ouvrir prochainement un bureau commercial dans d’autres pays européens. À Zurich, un système similaire baptisé Precobs (pour Pre Crime Observation System) est déjà utilisé. Comme tant d’autres start-up californiennes, PredPol a débarqué sur le Vieux Continent.
La France a emboîté le pas aux Etats-Unis, avec quelques années de retard. Le Service Central de Renseignement Criminel (SCRC) a mis au point un logiciel de prédiction afin d’anticiper les grandes tendances de la délinquance. Sa finalité ? Comme celle de son frère jumeau d’outre-Atlantique : empêcher le crime au lieu de le résoudre. Selon ses promoteurs, la criminalité ne devant rien au hasard et étant le fruit de facteurs déterministes, il suffirait donc d’entrer un nombre de critères suffisant pour prédire ses prochaines manifestations. Le principe de sa méthode est identique : ici intégrer les données issues des faits constatés par les forces de l’ordre et des statistiques de l’Insee (comme le taux de chômage, le nombre de retraités ou d’allocataires du RSA), pour ensuite fournir des cartes permettant d’analyser la criminalité et de prédire son évolution, à l’image des cartes météo. La procédure est simple : un modèle basé sur les infractions de voie publique contre les personnes ou les biens les plus fréquentes – cambriolages, vols à la tire, trafic de stupéfiants – constatées au cours d’une période de 5 ans est testé sur les données statistiques de l’année précédente. S’il est validé, il est mis en œuvre pour l’année en cours : une échelle de risques est alors définie et les informations recueillies sont transmises aux gendarmes sur le terrain pour qu’ils augmentent l’intensité des patrouilles, par exemple, dans un secteur défini où les vols par effraction seraient susceptibles d’augmenter au cours des prochaines semaines. Cette méthode, inspirée de celles utilisées dans le marketing ou la grande distribution, révèlent également des liens de certaines infractions entre elles, par exemple les cambriolages et les trafics de stupéfiants, optimisant le travail de la police : en s’attaquant prioritairement aux vols par effraction, les autorités peuvent, par ricochet, interpeller des dealers, que les agents de voie publique peinent à approcher à cause de l’emprise qu’ils peuvent avoir dans leurs quartiers.
Un projet de surveillance globale.
Une différence de taille avec PredPol : aux Etats-Unis, les policiers reçoivent directement sur le tableau de bord de leurs voitures de patrouilles les indications de prédictions tandis qu’en France ces nouvelles données ne sont transmises qu’aux chefs de service. À eux ensuite d’adapter leurs moyens et d’exploiter au mieux ces renseignements criminels dans leurs zones. Mais le champ de la recherche du Predictive Policing, articulé à celui de l’intelligence artificielle et du Machine Learning, est en plein mouvement : le SCRC travaille actuellement sur un nouveau projet d’analyse et de prédiction de la criminalité, surnommé Horizon ou Anticrime. Le document descriptif du projet le définit ainsi :
Dans le cadre de son activité de renseignement, le SCRC (Service Central de Renseignement Criminel -Gendarmerie Nationale) envisage de développer un projet d’analyse et de prédiction de la criminalité. Il conviendra à partir de données endogènes et exogènes au champ criminel de réaliser une analyse spatio-temporelle dynamique intégrant les niveaux communal, départemental, régional et national. Ce projet a vocation à délivrer sous forme de démonstrateur un outil d’aide à la décision sur un plan stratégique et tactique.
Proposé par le laboratoire Teralab de l’Institut Mines-Télécom spécialisé dans le Big Data, il serait réalisé en partenariat avec l’entreprise Morpho, filiale électronique du groupe de défense Safran, dont la contribution s’étend à plusieurs axes :
- La mise au point d’algorithmes de prédiction traitant des données hétérogènes comportant une dimension spatiale.
- L’étude de solutions concrètes permettant la manipulation de large volume de données.
- La mise au point de solutions répondant aux problématiques de prédiction de la criminalité à l’échelle d’un pays à partir de données publiques.
Morpho participera aux travaux de recherche algorithmiques en coopération avec les partenaires académiques, puis après une première phase permettant de comprendre la nature et la valeur des résultats pouvant être obtenus, intégrera les solutions proposées sous forme d’un prototype. Celui-ci permettra a minima d’importer les données des années à venir et de visualiser les résultats.
Cette démarche proactive s’appuie sur un gigantesque travail de renseignement nécessitant une collecte massive de données à caractère personnel, notamment une surveillance étroite des échanges électroniques dont la mise en œuvre est facilitée par la dernière loi sur le renseignement de juillet 2015. Le document précise que le projet répond « à une analyse à la fois stratégique et opérationnelle. Sur un plan stratégique, il prendra en compte des données disponibles en sources ouvertes (INSEE, météo, géographie) tandis que sur un plan opérationnel nécessitant une rapidité d’action, des données non structurées pourront être intégrées, à savoir des extractions de blogs ou de réseaux sociaux (Facebook, Twitter). Une étape de validation clôturera le projet en évaluant notamment le résultat des différents échelons envisagés par rapport à la prédiction. »
La mise en œuvre de ce projet serait un véritable saut qualitatif dans la surveillance et le contrôle des populations puisque, comme le rappelle le document,
« il n’existe pas à ce jour de projet de ce type dans la lutte contre la criminalité qui englobe l’aspect descriptif et prédictif à des échelles de temps et d’espace différents et intégrant une telle variété de données. En outre, un tel projet doit apparaître comme un véritable outil d’aide à la décision en matière de déploiement de ressources comme de modes d’action à envisager. »
Comme le logiciel PredPol, ce nouvel outil est un vrai produit commercialisable. « Du point de vue de l’utilisateur final et de l’industriel partenaire, le niveau de performance prédictive atteint par les modèles et le format (interface graphique, outils de visualisation) des résultats produits par les outils d’analyse pourront permettre d’élaborer un cahier des charges pour un éventuel produit commercialisable », explique la fiche descriptive. Il est également précisé que « Morpho cherche à développer une offre pertinente d’analyse criminalistique sur le marché international, auprès des forces de police et de sécurité qui sont déjà ses clients. »
Panoptisme social
L’analyse prédictive en matière policière, ce que l’on appelle les « prédictions préventives », soit la tentative d’anticiper et de prévenir certaines actions susceptibles d’engendrer des risques sur le plan social, est née de la rencontre entre apprentissage automatique des machines (Machine Learning), Big Data et projet sécuritaire. Durant de nombreuses décennies, des pans entiers de la théorie des probabilités sont restés à un état purement théorique, principalement en raison du manque de puissance de calcul des outils existants. La montée en force des nouvelles technologies comble ce vide. Et avec le développement d’Internet, le champ prédictif bénéficie d’une gigantesque base de données à caractère personnel tandis que les progrès techniques permettent de manipuler et de stocker d’énormes quantités de données à peu de frais, notamment avec le développement du cloud. Comme le rappelle Jean-Gabriel Ganascia, le Big Data se distingue des traitements statistiques traditionnels par sa capacité à repérer les “signaux faibles” : des anomalies, des déviations par rapport à une norme statistique observée à un moment donné, dans un groupe donné.
Ces bases de données individuelles sont d’autant plus extensibles que les citoyens eux-mêmes en sont les premiers pourvoyeurs d’information. La gratuité des services et des contenus qu’on trouve sur Internet favorise la divulgation de renseignements personnels concernant nos habitudes de consommation, nos orientations politiques ou nos préférences culturelles, que ce soit en raison de l’aspect pratique des plateformes ou du plaisir que nous procurent les échanges sociaux. Comme l’a judicieusement souligné Jonathan Zittrain, « si ce que vous obtenez en ligne est gratuit, alors vous n’êtes pas le client, mais bien le produit ». Il ne reste alors plus aux organisations ou entreprises qu’à forer dans cette manne de données pour analyser les prédispositions des citoyens, anticiper leur comportement et adapter leur offre de produits ou de services, c’est-à-dire mettre en œuvre les prédictions préférentielles.
Ce que certains appellent pudiquement « flux asymétrique de l’information » est en réalité un panoptisme total où chacun peut être observé à tout moment sans savoir qu’il l’est réellement et sans connaître l’identité de l’observateur : les citoyens font face à des organisations omniscientes dont ils ne savent à peu près rien. Le dispositif d’observation lui-même est opaque car les algorithmes ou les applications logicielles de prédiction sont dissimulés au public pour des raisons de sécurité nationale ou parce qu’ils sont protégés par les lois sur le droit d’auteur et les secrets commerciaux, de sorte qu’il ne peut pas savoir qui les a élaborés, quelles sont leurs finalités ni comment ils fonctionnent.
La nouvelle fonctionnalité de l’analyse prédictive est en cours d’élaboration. Il s’agira à terme de repérer les terroristes ou criminels potentiels pour les arrêter avant qu’ils ne passent à l’acte, à l’image de Minority Report. Le logiciel Beware développé par la société Intrado qui permet à la police de Fresno de calculer le « potentiel de violence » d’un individu en croisant des millions de données (rapports d’arrestation, registres de propriété, bases de données commerciales, recherches sur le Web profond et sur les réseaux sociaux), inspiré du modèle du renseignement militaire, pourrait être le modèle à venir du renseignement policier de ce côté de l’Atlantique. Utilisé par la plupart des services de police américains, ce type de logiciel d’évaluation classe les personnes selon leur degré de dangerosité supposée. Un simple commentaire sur les réseaux sociaux peut conduire n’importe quel citoyen à se retrouver dans le collimateur des agences de sécurité.
Couplés aux technologies biométriques, les systèmes prédictifs sont devenus une aire de recherche majeure pour la sécurité et un véritable marché donnant lieu à des innovations toujours plus liberticides. Le Big Data et l’intelligence artificielle ont ainsi permis l’émergence de nouveaux systèmes de détection des menaces qui vont bien au-delà des statistiques criminelles, comme le système Future Attribute Screening Technology (FAST), conçu pour les services de sécurité intérieure américains. Destiné à être implanté dans les aéroports, il est censé prédire les passages à l’acte criminels, en analysant à distance une série de données biométriques (rythme cardiaque, température corporelle, mouvements oculaires,…) et comportementales. Des entreprises comme Geoffedia, Dataminr ou PATHAR analysent pour le compte des services de police, du FBI ou d’entreprises, les réseaux sociaux, voire tout le Web, afin de repérer des attitudes caractéristiques, d’identifier des tendances émergentes et de prévoir des menaces. Le chercheur de l’université de Virginie Matthew Gerber a développé un modèle pouvant prédire entre 19 et 25 types de crimes et délits à Chicago à partir de tweets géolocalisés.
Le champ d’application de l’analyse prédictive comprend non seulement les comportements virtuels mais aussi les actions réelles. Couplée aux dispositifs de géolocalisation, elle pourra ainsi anticiper les déplacements des personnes avec une marge d’erreur très faible. Dans le cadre d’une étude, un algorithme a permis de prédire les coordonnées GPS futures d’un utilisateur de téléphone cellulaire dans un rayon d’environ 1 000 mètres carrés. Lorsque la prévision tenait compte de renseignements supplémentaires recueillis auprès d’un seul de ses amis, l’emplacement futur de l’utilisateur pouvait être prédit dans un rayon de 20 mètres. On devine facilement l’usage qui pourra en être fait par les forces de l’ordre…
Jusqu’où peut aller la surveillance électronique ? La réponse nous est sans doute donnée par la Chine, chef de file mondial dans l’utilisation de l’intelligence artificielle à des fins sécuritaires. Le gouvernement chinois vient de mettre en place un nouvel outil pour prévenir les risques de soulèvement de sa population, un logiciel alimenté par les nombreuses données accessibles sur ses citoyens puisées dans les réseaux sociaux : leur emploi du temps, leurs relations personnelles, leurs préférences partisanes, leurs passe-temps et leurs habitudes de vie.
Les limites du champ d’application de la prédiction préventive sont sans cesse repoussées. Un nouveau logiciel permet de dépister les enfants à risque délinquant à partir d’une batterie de données sur les familles, sur la consommation de drogue, les arrestations et la réussite scolaire. Mis en œuvre à titre expérimental dans le service de protection de l’enfance du comté de Los Angeles, il devrait se généraliser et donner lieu au profilage systématique des enfants, une fois ses résultats partagés avec le système judiciaire et policier. Le développement conjoint de l’informatique, de l’intelligence artificielle, des systèmes d’information biométriques et d’Internet permet de rendre possible dans un avenir proche ce qui eut été inconcevable il y a seulement une vingtaine d’années : donner aux agences de sécurité et aux gouvernements la possibilité de connaître et d’anticiper les comportements de tous les citoyens et pas seulement les auteurs d’actions criminelles ou terroristes.