Inteligencia artificial en la policía: ¡VERA bajo crítica!

Inteligencia artificial en la policía: ¡VERA bajo crítica!

El 24 de septiembre de 2024, el gabinete de Baden-Württemberg publicó un notable paquete de medidas y seguridad titulado “Fortalecer la seguridad, organizar la migración, prevenir la radicalización”. Un punto central de este paquete es el uso previsto de inteligencia artificial para analizar los datos recopilados, conocida como VeRA. Este software de análisis tiene como objetivo permitir combinar datos de diferentes fuentes para hacer más eficiente la lucha contra el crimen. De hecho, el software Palantir, que se utiliza en Hesse desde 2017 con el nombre de Hessen-Data, se considera prometedor en este contexto, pero inicialmente fue suspendido a nivel federal por el Ministerio Federal del Interior porque no se pudo crear la base jurídica necesaria para su uso por parte de la Policía Federal y la Oficina Federal de Policía Criminal.

Como informa BDK, para poder utilizar VeRA en Baden-Württemberg es necesaria una ampliación de la legislación policial. Sin embargo, el proceso de audiencia para cambiar la ley aún está pendiente, lo que hace que toda la discusión en la coalición verde-negra sea un tema candente. La Asociación de Policías Criminales Alemanas de Baden-Württemberg (BDK BW) espera que cuando se introduzca VeRA, se apliquen amplios poderes legales al uso de esta tecnología.

Proyectos piloto y desafíos legales

Ya se ha llevado a cabo en Baviera una licitación a nivel europeo para un producto de análisis, siendo Palantir el único producto adecuado. Sin embargo, existe incertidumbre porque los diferentes estados federados tienen opiniones diferentes sobre este tema. Mientras que Renania del Norte-Westfalia, por ejemplo, tiene desde 2022 una base legal para el uso del software “DAR” de Palantir, Hamburgo todavía duda sobre una decisión sobre el análisis automatizado de datos, que se introdujo en 2019 pero fue declarada inválida por una sentencia del Tribunal Constitucional Federal.

En febrero de 2023, el Tribunal Constitucional Federal fijó límites claros al uso de herramientas automatizadas de análisis de datos para evitar violaciones de la protección de datos. Según el periódico Süddeutsche Zeitung (https://www.sueddeutsche.de/politik/kuenstliche-intelligenz-ki-bundesverfassungsgericht-vorgehende-kritikitaetsbekaempfung-1.5752919), estas herramientas, a pesar de su útil potencial informativo, pueden resultar peligrosas porque pueden crear perfiles personales extensos e involucrar a personas no implicadas en las medidas policiales. Esto sucede, entre otras cosas, cuando los usuarios acceden involuntariamente a los sistemas de análisis mediante técnicas como las consultas de células de radio.

Diversidad de opiniones y próximos pasos

La perspectiva de que Alemania pueda dar pasos importantes hacia el análisis automatizado de datos este año encuentra apoyo y resistencia. Algunos ministerios del interior ya están preguntando sobre la posibilidad de utilizar el software Palantir o productos similares. Los estados federados como Sajonia-Anhalt, Sajonia y Sajonia-Anhalt no están dando ningún paso en esta dirección, mientras que Berlín y Baden-Württemberg están considerando seguir la solución bávara.

Cuando se habla del uso de la inteligencia artificial en la lucha contra la delincuencia, no sólo surgen interrogantes técnicos sino también éticos. Es importante que se preserve el derecho fundamental a la autodeterminación informativa al desarrollar e implementar dichas tecnologías. La Netzpolitik destaca que se deben garantizar regulaciones integrales sobre el uso de datos y el registro de herramientas de análisis para evitar el uso indebido y violaciones de la protección de datos.

En general, queda por ver cómo continuará el debate sobre VeRA, Palantir y todo el desarrollo del análisis de datos automatizado en Alemania. Aquí será necesaria una buena mano de los legisladores para tener en cuenta tanto la seguridad como los derechos civiles.