Inteligência artificial na polícia: VeRA sob crítica!

Inteligência artificial na polícia: VeRA sob crítica!

Em 24 de Setembro de 2024, o gabinete de Baden-Württemberg publicou um notável pacote de medidas e segurança intitulado “Fortalecer a Segurança, Organizar a Migração, Prevenir a Radicalização”. Um ponto central deste pacote é o uso planejado de inteligência artificial para analisar os dados coletados, conhecida como VeRA. Este software de análise pretende permitir combinar dados de diferentes fontes para tornar mais eficiente o combate ao crime. Na verdade, o software Palantir, que é utilizado em Hesse desde 2017 sob o nome Hessen-Data, é visto como promissor neste contexto, mas foi inicialmente interrompido a nível federal pelo Ministério Federal do Interior porque não foi possível criar a base jurídica necessária para a sua utilização pela Polícia Federal e pela Polícia Criminal Federal.

Como relata o BDK, é necessária uma extensão da lei policial para usar o VeRA em Baden-Württemberg. Porém, o processo de audiência para alteração da lei ainda está pendente, o que torna toda a discussão na coligação verde-preta um tema quente. A Associação de Policiais Criminais Alemães de Baden-Württemberg (BDK BW) espera que, quando o VeRA for introduzido, amplos poderes legais sejam aplicados ao uso desta tecnologia.

Projetos piloto e desafios legais

Um concurso a nível europeu para um produto de análise já foi realizado na Baviera, tendo o Palantir sido selecionado como o único produto adequado. No entanto, há incerteza porque diferentes estados federais têm opiniões diferentes sobre esta questão. Embora a Renânia do Norte-Vestefália, por exemplo, tenha uma base jurídica para a utilização do software “DAR” da Palantir desde 2022, Hamburgo ainda hesita com uma decisão sobre a análise automatizada de dados, que foi introduzida em 2019, mas foi declarada inválida por uma decisão do Tribunal Constitucional Federal.

Em fevereiro de 2023, o Tribunal Constitucional Federal estabeleceu limites claros à utilização de ferramentas automatizadas de análise de dados, a fim de evitar quaisquer violações da proteção de dados. De acordo com o Süddeutsche Zeitung, essas ferramentas, apesar de seu potencial de informação útil, podem se tornar perigosas porque podem criar perfis pessoais extensos e envolver pessoas não envolvidas em medidas policiais. Isso acontece, entre outras coisas, quando os usuários acessam involuntariamente sistemas de análise por meio de técnicas como consultas de células de rádio.

Diversidade de opiniões e próximos passos

A perspectiva de a Alemanha potencialmente dar passos importantes em direcção à análise automatizada de dados este ano encontra apoio e resistência. Alguns ministérios do interior já questionam a possibilidade de utilização do software Palantir ou produtos similares. Estados federais como a Saxónia-Anhalt, a Saxónia e a Saxónia-Anhalt não estão actualmente a fazer quaisquer movimentos nesta direcção, enquanto Berlim e Baden-Württemberg estão a considerar seguir a solução bávara.

Ao discutir o uso da inteligência artificial no combate ao crime, existem pontos de interrogação não apenas técnicos, mas também éticos. É importante que o direito fundamental à autodeterminação informacional seja preservado no desenvolvimento e implementação de tais tecnologias. A Netzpolitik enfatiza que devem ser garantidas regulamentações abrangentes sobre o uso de dados e o registro de ferramentas de análise, a fim de evitar uso indevido e violações da proteção de dados.

No geral, resta saber como continuará a discussão sobre VeRA, Palantir e todo o desenvolvimento da análise automatizada de dados na Alemanha. Será necessária uma boa mão dos legisladores para manter em mente tanto a segurança como os direitos civis.