Intelligence artificielle dans la police : VeRA critiquée !

Intelligence artificielle dans la police : VeRA critiquée !

Le 24 septembre 2024, le cabinet du Bade-Wurtemberg a publié un remarquable paquet de mesures de sécurité intitulé « Renforcer la sécurité, organiser la migration, prévenir la radicalisation ». Un point central de ce paquet est l’utilisation prévue de l’intelligence artificielle pour analyser les données collectées, connue sous le nom de VeRA. Ce logiciel d'analyse est destiné à permettre de combiner des données provenant de différentes sources afin de rendre la lutte contre la criminalité plus efficace. En fait, le logiciel Palantir, utilisé en Hesse depuis 2017 sous le nom de Hessen-Data, est considéré comme prometteur dans ce contexte, mais a été initialement arrêté au niveau fédéral par le ministère fédéral de l'Intérieur parce que la base juridique nécessaire à son utilisation par la police fédérale et l'Office fédéral de la police criminelle n'a pas pu être créée.

Comme le rapporte le BDK, une extension de la loi sur la police est nécessaire pour pouvoir utiliser VeRA dans le Bade-Wurtemberg. Cependant, le processus d'audience pour modifier la loi est toujours en cours, ce qui fait de l'ensemble du débat au sein de la coalition vert-noir un sujet brûlant. L'Association des policiers criminels allemands du Bade-Wurtemberg (BDK BW) s'attend à ce que, lors de l'introduction de VeRA, des pouvoirs juridiques étendus s'appliquent à l'utilisation de cette technologie.

Projets pilotes et défis juridiques

Un appel d'offres à l'échelle européenne pour un produit d'analyse a déjà été lancé en Bavière, Palantir ayant été sélectionné comme seul produit approprié. Il existe toutefois une incertitude car les différents États fédéraux ont des points de vue différents sur cette question. Alors que la Rhénanie du Nord-Westphalie dispose par exemple d'une base légale pour l'utilisation du logiciel « DAR » de Palantir depuis 2022, Hambourg hésite encore avec une décision sur l'analyse automatisée des données, introduite en 2019 mais déclarée invalide par un arrêt de la Cour constitutionnelle fédérale.

En février 2023, la Cour constitutionnelle fédérale a fixé des limites claires à l'utilisation d'outils automatisés d'analyse des données afin de prévenir toute violation de la protection des données. Selon le Süddeutsche Zeitung, ces outils, malgré leur potentiel d'information utile, peuvent devenir dangereux car ils créent des profils personnels étendus et impliquent des personnes non impliquées dans les mesures policières. Cela se produit, entre autres, lorsque les utilisateurs accèdent involontairement aux systèmes d'analyse via des techniques telles que les requêtes de cellules radio.

Diversité des opinions et prochaines étapes

La perspective que l’Allemagne prenne des mesures majeures vers l’analyse automatisée des données cette année rencontre à la fois du soutien et de la résistance. Certains ministères de l'intérieur s'interrogent déjà sur la possibilité d'utiliser le logiciel Palantir ou des produits similaires. Les Länder tels que la Saxe-Anhalt, la Saxe et la Saxe-Anhalt ne font actuellement aucune démarche dans cette direction, tandis que Berlin et le Bade-Wurtemberg envisagent de suivre la solution bavaroise.

Lorsqu’on discute de l’utilisation de l’intelligence artificielle dans la lutte contre la criminalité, des points d’interrogation non seulement techniques mais aussi éthiques se posent. Il est important que le droit fondamental à l’autodétermination informationnelle soit préservé lors du développement et de la mise en œuvre de telles technologies. La Netzpolitik souligne qu'une réglementation complète sur l'utilisation des données et l'enregistrement des outils d'analyse doit être garantie afin d'éviter les abus et les violations de la protection des données.

Dans l’ensemble, il reste à voir comment se poursuivront les discussions sur VeRA, Palantir et sur l’ensemble du développement de l’analyse automatisée des données en Allemagne. Il faudra ici une bonne main des législateurs pour garder à l’esprit à la fois la sécurité et les droits civils.