Umělá inteligence v policii: VeRA pod kritikou!

Umělá inteligence v policii: VeRA pod kritikou!

Dne 24. září 2024 zveřejnil kabinet Bádenska-Württemberska pozoruhodný balíček bezpečnostních a opatření s názvem „Posílení bezpečnosti, organizování migrace, prevence radikalizace“. Ústředním bodem tohoto balíčku je plánované využití umělé inteligence k analýze shromážděných dat, známé jako VeRA. Tento analytický software má umožnit kombinovat data z různých zdrojů za účelem zefektivnění boje proti kriminalitě. Ve skutečnosti je software Palantir, který se v Hesensku používá od roku 2017 pod názvem Hessen-Data, v této souvislosti vnímán jako perspektivní, ale byl původně federálním ministerstvem vnitra zastaven na federální úrovni, protože se nepodařilo vytvořit nezbytný právní základ pro jeho používání spolkovou policií a Spolkovým úřadem kriminální policie.

Jak uvádí BDK, k používání VeRA v Bádensku-Württembersku je nutné rozšíření policejního zákona. Proces projednávání změny zákona však stále čeká, což z celé diskuse v zeleno-černé koalici dělá horké téma. Asociace německých policistů kriminální policie Bádensko-Württembersko (BDK BW) očekává, že při zavedení VeRA se na používání této technologie musí vztahovat rozsáhlé zákonné pravomoci.

Pilotní projekty a právní výzvy

Celoevropské výběrové řízení na produkt analýzy již proběhlo v Bavorsku, přičemž Palantir byl vybrán jako jediný vhodný produkt. Existuje však nejistota, protože různé spolkové země mají na tuto otázku různé názory. Zatímco například Severní Porýní-Vestfálsko má od roku 2022 právní základ pro používání softwaru „DAR“ Palantir, Hamburk stále váhá s rozhodnutím o automatizované analýze dat, které bylo zavedeno v roce 2019, ale bylo rozhodnutím Spolkového ústavního soudu prohlášeno za neplatné.

V únoru 2023 stanovil Spolkový ústavní soud jasné limity pro používání nástrojů pro automatizovanou analýzu dat, aby se zabránilo jakémukoli porušení ochrany dat. Podle Süddeutsche Zeitung tyto nástroje zahrnují osoby, které mohou navzdory svému užitečnému informačnímu potenciálu vytvářet rozsáhlý osobní profil a mohou se stát nebezpečnými. K tomu dochází mimo jiné, když uživatelé neúmyslně přistupují k analytickým systémům prostřednictvím technik, jako jsou dotazy na rádiové buňky.

Různorodost názorů a další postup

Vyhlídka, že Německo v letošním roce potenciálně podnikne významné kroky směrem k automatizované analýze dat, se setkává s podporou i odporem. Některá ministerstva vnitra se již ptají na možnost využití softwaru Palantir nebo podobných produktů. Spolkové země jako Sasko-Anhaltsko, Sasko a Sasko-Anhaltsko v současné době nepodnikají žádné kroky tímto směrem, zatímco Berlín a Bádensko-Württembersko zvažují následovat bavorské řešení.

Při diskuzi o využití umělé inteligence v boji proti kriminalitě se objevují nejen technické, ale i etické otazníky. Je důležité, aby bylo při vývoji a zavádění takových technologií zachováno základní právo na informační sebeurčení. Netzpolitik zdůrazňuje, že musí být zaručena komplexní nařízení o používání dat a registraci analytických nástrojů, aby se zabránilo zneužití a porušení ochrany dat.

Celkově se ještě uvidí, jak bude pokračovat diskuse o VeRA, Palantir a celém vývoji automatizované analýzy dat v Německu. Zde bude vyžadována dobrá ruka zákonodárců, aby bylo možné pamatovat na bezpečnost i občanská práva.