Umelá inteligencia v polícii: VeRA pod kritikou!

Umelá inteligencia v polícii: VeRA pod kritikou!

24. septembra 2024 zverejnil kabinet Bádenska-Württemberska pozoruhodný balík bezpečnostných opatrení a opatrení s názvom „Posilnenie bezpečnosti, organizovanie migrácie, zabránenie radikalizácii“. Ústredným bodom tohto balíka je plánované využitie umelej inteligencie na analýzu zozbieraných údajov, známe ako VeRA. Tento analytický softvér má umožniť kombinovať údaje z rôznych zdrojov s cieľom zefektívniť boj so zločinom. Softvér Palantir, ktorý sa v Hesensku používa od roku 2017 pod názvom Hessen-Data, sa v tejto súvislosti v skutočnosti považuje za sľubný, ale pôvodne ho na federálnej úrovni zastavilo Spolkové ministerstvo vnútra, pretože sa nepodarilo vytvoriť potrebný právny základ pre jeho používanie Spolkovou políciou a Spolkovým úradom kriminálnej polície.

Ako uvádza BDK, na používanie systému VeRA v Bádensku-Württembersku je potrebné rozšírenie policajného zákona. Proces vypočutia o zmene zákona však stále prebieha, čím sa celá diskusia v zeleno-čiernej koalícii stáva horúcou témou. Združenie nemeckých policajtov kriminálnej polície Bádensko-Württembersko (BDK BW) očakáva, že po zavedení VeRA sa na používanie tejto technológie musia vzťahovať rozsiahle zákonné právomoci.

Pilotné projekty a právne výzvy

Celoeurópsky tender na produkt analýzy už prebehol v Bavorsku, pričom Palantir bol vybraný ako jediný vhodný produkt. Existuje však neistota, pretože rôzne spolkové štáty majú na túto otázku rôzne názory. Zatiaľ čo napríklad Severné Porýnie-Vestfálsko má od roku 2022 právny základ pre používanie softvéru „DAR“ od Palantir, Hamburg stále váha s rozhodnutím o automatizovanej analýze údajov, ktoré bolo zavedené v roku 2019, no rozhodnutím Spolkového ústavného súdu bolo vyhlásené za neplatné.

Vo februári 2023 Spolkový ústavný súd stanovil jasné limity pre používanie nástrojov automatizovanej analýzy údajov, aby sa predišlo akémukoľvek porušeniu ochrany údajov. Podľa Süddeutsche Zeitung tieto nástroje zahŕňajú ľudí, napriek ich užitočnému informačnému potenciálu a rozsiahlemu osobnému profilu polície, môžu sa stať nebezpečnými. Stáva sa to okrem iného vtedy, keď používatelia neúmyselne pristupujú k analytickým systémom prostredníctvom techník, ako sú napríklad dotazy na rádiové bunky.

Rôznorodosť názorov a ďalšie kroky

Vyhliadka, že Nemecko tento rok potenciálne podnikne veľké kroky smerom k automatizovanej analýze údajov, sa stretáva s podporou aj odporom. Niektoré ministerstvá vnútra sa už pýtajú na možnosť využitia softvéru Palantir alebo podobných produktov. Spolkové krajiny ako Sasko-Anhaltsko, Sasko a Sasko-Anhaltsko v súčasnosti nerobia v tomto smere žiadne kroky, kým Berlín a Bádensko-Württembersko zvažujú nasledovať bavorské riešenie.

Pri diskusii o využití umelej inteligencie v boji proti kriminalite sa vynárajú nielen technické, ale aj etické otázniky. Je dôležité, aby sa pri vývoji a implementácii takýchto technológií zachovalo základné právo na informačné sebaurčenie. Netzpolitik zdôrazňuje, že musia byť zaručené komplexné nariadenia o používaní údajov a registrácii analytických nástrojov, aby sa predišlo zneužitiu a porušovaniu ochrany údajov.

Celkovo sa ešte len uvidí, ako bude pokračovať diskusia o VeRA, Palantir a celom vývoji automatizovanej analýzy dát v Nemecku. Tu bude potrebná dobrá ruka zákonodarcov, aby sa nezabudlo na bezpečnosť, ako aj na občianske práva.