Umetna inteligenca v policiji: VeRA pod kritiko!

Umetna inteligenca v policiji: VeRA pod kritiko!

24. septembra 2024 je kabinet Baden-Württemberga objavil izjemen varnostni paket in sveženj ukrepov z naslovom »Krepitev varnosti, organiziranje migracij, preprečevanje radikalizacije«. Osrednja točka tega paketa je načrtovana uporaba umetne inteligence za analizo zbranih podatkov, znane kot VeRA. Ta programska oprema za analizo naj bi omogočila združevanje podatkov iz različnih virov, da bi bil boj proti kriminalu učinkovitejši. Pravzaprav se programska oprema Palantir, ki se v Hessnu uporablja od leta 2017 pod imenom Hessen-Data, v tem kontekstu zdi obetavna, vendar jo je zvezno ministrstvo za notranje zadeve sprva ustavilo na zvezni ravni, ker ni bilo mogoče ustvariti potrebne pravne podlage za njeno uporabo s strani zvezne policije in zveznega urada kriminalistične policije.

Kot poroča BDK, je za uporabo VeRA v Baden-Württembergu potrebna razširitev policijskega zakona. Še vedno pa poteka obravnava za spremembo zakona, zaradi česar je celotna razprava v zeleno-črni koaliciji pereča tema. Združenje nemških kriminalističnih policistov Baden-Württemberg (BDK BW) pričakuje, da bodo morala ob uvedbi VeRA za uporabo te tehnologije veljati obsežna pravna pooblastila.

Pilotni projekti in pravni izzivi

Na Bavarskem so že izvedli vseevropski razpis za izdelek za analizo, pri čemer je bil kot edini primeren izdelek izbran Palantir. Vendar obstaja negotovost, ker imajo različne zvezne dežele različne poglede na to vprašanje. Medtem ko ima Severno Porenje-Vestfalija na primer pravno podlago za uporabo Palantirjeve programske opreme »DAR« od leta 2022, Hamburg še vedno okleva z odločitvijo o avtomatizirani analizi podatkov, ki je bila uvedena leta 2019, vendar je bila s sodbo zveznega ustavnega sodišča razglašena za neveljavno.

Februarja 2023 je zvezno ustavno sodišče določilo jasne omejitve za uporabo orodij za avtomatizirano analizo podatkov, da bi preprečilo morebitne kršitve varstva podatkov. Po poročanju Süddeutsche Zeitung lahko ta orodja kljub potencialu koristnih informacij postanejo nevarna, ker ustvarjajo obsežne osebne profile in v policijske ukrepe vključujejo nevpletene ljudi. To se med drugim zgodi, ko uporabniki nenamerno dostopajo do analitičnih sistemov s tehnikami, kot so poizvedbe po radijskih celicah.

Različna mnenja in nadaljnji koraki

Možnost, da bi Nemčija letos naredila velike korake v smeri avtomatizirane analize podatkov, naleti na podporo in odpor. Nekatera ministrstva za notranje zadeve se že sprašujejo o možnosti uporabe programske opreme Palantir ali podobnih izdelkov. Zvezne dežele, kot so Saška-Anhalt, Saška in Saška-Anhalt, trenutno ne delajo nobenih premikov v tej smeri, medtem ko Berlin in Baden-Württemberg razmišljata o bavarski rešitvi.

Ko govorimo o uporabi umetne inteligence v boju proti kriminalu, se poleg tehničnih vprašanj pojavljajo tudi etična vprašanja. Pomembno je, da se pri razvoju in implementaciji tovrstnih tehnologij ohrani temeljna pravica do informacijske samoodločbe. Netzpolitik poudarja, da je treba zagotoviti celovite predpise o uporabi podatkov in registraciji orodij za analizo, da bi se izognili zlorabi in kršitvam varstva podatkov.

Na splošno je treba še videti, kako se bo nadaljevala razprava o VeRA, Palantirju in celotnem razvoju avtomatizirane analize podatkov v Nemčiji. Pri tem bo potrebna dobra roka zakonodajalcev, da bomo imeli v mislih varnost in državljanske pravice.