Umjetna inteligencija u policiji: VeRA pod kritikom!

Umjetna inteligencija u policiji: VeRA pod kritikom!

Dana 24. rujna 2024. vlada Baden-Württemberga objavila je izvanredan paket sigurnosnih mjera i mjera pod nazivom “Jačanje sigurnosti, organiziranje migracija, sprječavanje radikalizacije”. Središnja točka ovog paketa je planirana upotreba umjetne inteligencije za analizu prikupljenih podataka, poznata kao VeRA. Ovaj softver za analizu namijenjen je da omogući kombiniranje podataka iz različitih izvora kako bi se borba protiv kriminala učinila učinkovitijom. Zapravo, softver Palantir, koji se u Hessenu koristi od 2017. pod imenom Hessen-Data, smatra se obećavajućim u ovom kontekstu, ali ga je Savezno ministarstvo unutarnjih poslova isprva zaustavilo na saveznoj razini jer se nije mogla stvoriti potrebna pravna osnova za njegovu upotrebu od strane Savezne policije i Saveznog ureda kriminalističke policije.

Kako izvješćuje BDK, potrebno je proširenje tamošnjeg policijskog zakona kako bi se koristila VeRA u Baden-Württembergu. No, rasprava za izmjene zakona još je u tijeku, zbog čega je cijela rasprava u zeleno-crnoj koaliciji vruća tema. Udruga njemačkih policijskih službenika kriminalističke policije Baden-Württemberg (BDK BW) očekuje da će, kada se uvede VeRA, morati primijeniti široke zakonske ovlasti za korištenje ove tehnologije.

Pilot projekti i pravni izazovi

U Bavarskoj je već proveden europski natječaj za proizvod za analizu, a Palantir je odabran kao jedini odgovarajući proizvod. Međutim, nejasnoća postoji jer različite savezne države imaju različita stajališta o ovom pitanju. Dok Sjeverna Rajna-Vestfalija, primjerice, ima pravni temelj za korištenje Palantirovog softvera “DAR” od 2022., Hamburg još oklijeva s odlukom o automatiziranoj analizi podataka, koja je uvedena 2019., ali je presudom Saveznog ustavnog suda proglašena nevažećom.

U veljači 2023. Savezni ustavni sud postavio je jasna ograničenja upotrebe alata za automatiziranu analizu podataka kako bi se spriječila bilo kakva kršenja zaštite podataka. Prema Süddeutsche Zeitung, ovi alati, unatoč potencijalu korisnih informacija, mogu postati opasni jer mogu stvoriti opsežne osobne profile i uključiti neuključene osobe u policijske mjere. To se događa, između ostalog, kada korisnici nenamjerno pristupaju sustavima analize putem tehnika kao što su upiti radijske ćelije.

Raznolikost mišljenja i sljedeći koraci

Izgledi da Njemačka ove godine potencijalno poduzme velike korake prema automatiziranoj analizi podataka naišli su i na podršku i na otpor. Neka ministarstva unutarnjih poslova već se raspituju o mogućnosti korištenja softvera Palantir ili sličnih proizvoda. Savezne pokrajine kao što su Saska-Anhalt, Saska i Saska-Anhalt trenutno ne čine nikakve pomake u tom smjeru, dok Berlin i Baden-Württemberg razmišljaju o bavarskom rješenju.

Kada se govori o korištenju umjetne inteligencije u borbi protiv kriminala, postoje ne samo tehnički, već i etički upitnici. Važno je da se pri razvoju i implementaciji takvih tehnologija očuva temeljno pravo na informacijsko samoodređenje. Netzpolitik naglašava da se moraju zajamčiti sveobuhvatni propisi o upotrebi podataka i registraciji alata za analizu kako bi se izbjegla zlouporaba i kršenja zaštite podataka.

Sve u svemu, ostaje za vidjeti kako će se nastaviti rasprava o VeRA-i, Palantiru i cjelokupnom razvoju automatizirane analize podataka u Njemačkoj. Ovdje će biti potrebna dobra ruka zakonodavca kako bi imali na umu i sigurnost i građanska prava.