Kunstig intelligens i politiet: VeRA under kritikk!

Kunstig intelligens i politiet: VeRA under kritikk!

Den 24. september 2024 publiserte regjeringen i Baden-Württemberg en bemerkelsesverdig sikkerhets- og tiltakspakke med tittelen "Strengthening Security, Organizing Migration, Preventing Radicalization". Et sentralt punkt i denne pakken er den planlagte bruken av kunstig intelligens for å analysere innsamlet data, kjent som VeRA. Denne analyseprogramvaren skal gjøre det mulig å kombinere data fra ulike kilder for å effektivisere kriminalitetsbekjempelsen. Faktisk er Palantir-programvaren, som har blitt brukt i Hessen siden 2017 under navnet Hessen-Data, sett på som lovende i denne sammenhengen, men ble i utgangspunktet stoppet på føderalt nivå av det føderale innenriksdepartementet fordi det nødvendige juridiske grunnlaget for bruken av det av det føderale politiet og det føderale kriminalpolitiet ikke kunne opprettes.

Som BDK rapporterer, kreves en utvidelse av politiloven der for å bruke VeRA i Baden-Württemberg. Høringsprosessen for å endre loven pågår imidlertid fortsatt, noe som gjør hele diskusjonen i den grønn-svarte koalisjonen til et hett tema. Association of German Criminal Police Officers Baden-Württemberg (BDK BW) forventer at når VeRA innføres, må det gjelde omfattende juridiske fullmakter for bruk av denne teknologien.

Pilotprosjekter og juridiske utfordringer

Det er allerede gjennomført en europeisk anbudskonkurranse for et analyseprodukt i Bayern, med Palantir som det eneste passende produktet. Det er imidlertid usikkerhet fordi ulike føderale stater har ulike syn på dette spørsmålet. Mens Nordrhein-Westfalen for eksempel har hatt et juridisk grunnlag for bruk av Palantirs «DAR»-programvare siden 2022, nøler Hamburg fortsatt med en avgjørelse om automatisert dataanalyse, som ble introdusert i 2019, men som ble erklært ugyldig ved en kjennelse fra den føderale konstitusjonelle domstolen.

I februar 2023 satte den føderale konstitusjonelle domstolen klare grenser for bruken av automatiserte dataanalyseverktøy for å forhindre brudd på databeskyttelsen. I følge Süddeutsche Zeitung kan disse verktøyene, til tross for deres nyttige informasjonspotensial, bli farlige fordi de oppretter omfattende personprofiler og involverer uinvolverte personer i politiets tiltak kan. Dette skjer blant annet når brukere utilsiktet får tilgang til analysesystemer gjennom teknikker som radiocellespørringer.

Mangfold av meninger og neste steg

Utsiktene til at Tyskland potensielt tar store skritt mot automatisert dataanalyse i år blir møtt med både støtte og motstand. Noen innenriksdepartementer spør allerede om muligheten for å bruke Palantir-programvare eller lignende produkter. Forbundsstater som Sachsen-Anhalt, Sachsen og Sachsen-Anhalt gjør foreløpig ingen grep i denne retningen, mens Berlin og Baden-Württemberg vurderer å følge den bayerske løsningen.

Når man diskuterer bruk av kunstig intelligens i kriminalitetsbekjempelse er det ikke bare tekniske, men også etiske spørsmålstegn. Det er viktig at den grunnleggende retten til informativ selvbestemmelse bevares ved utvikling og implementering av slike teknologier. Netzpolitik understreker at omfattende regelverk om databruk og registrering av analyseverktøy må garanteres for å unngå misbruk og brudd på databeskyttelsen.

Samlet gjenstår det å se hvordan diskusjonen om VeRA, Palantir og hele utviklingen av automatisert dataanalyse i Tyskland vil fortsette. Her vil det kreves en god hånd fra lovgiverne for å ha både sikkerhet og borgerrettigheter i tankene.