Tekoäly poliisissa: Veraa kritisoidaan!

Tekoäly poliisissa: Veraa kritisoidaan!

Baden-Württembergin hallitus julkaisi 24. syyskuuta 2024 merkittävän turvallisuus- ja toimenpidepaketin nimeltä "Turvallisuuden vahvistaminen, muuttoliikkeen järjestäminen, radikalisoitumisen estäminen". Tämän paketin keskeinen kohta on suunniteltu tekoälyn käyttö kerätyn tiedon analysointiin, joka tunnetaan nimellä VeRA. Tämä analyysiohjelmisto on tarkoitettu mahdollistamaan eri lähteistä peräisin olevien tietojen yhdistäminen rikollisuuden torjunnan tehostamiseksi. Itse asiassa Palantir-ohjelmisto, jota on käytetty Hessenissä vuodesta 2017 Hessen-Data-nimellä, pidetään tässä yhteydessä lupaavana, mutta liittovaltion sisäministeriö pysäytti sen alun perin liittovaltion tasolla, koska tarvittavaa oikeusperustaa sen käytölle liittovaltion poliisin ja liittovaltion rikospoliisiviraston toimesta ei voitu luoda.

Kuten BDK raportoi, siellä on laajennettava poliisilakia, jotta VeRAa voidaan käyttää Baden-Württembergissä. Lainmuutoksen kuulemisprosessi on kuitenkin vielä kesken, mikä tekee koko keskustelusta vihreä-musta-koalitiossa kuuman aiheen. Saksan rikospoliisiliitto Baden-Württembergin liitto (BDK BW) odottaa, että kun VeRA otetaan käyttöön, tämän tekniikan käyttöön on sovellettava laajaa laillista toimivaltaa.

Pilottiprojektit ja juridiset haasteet

Euroopan laajuinen tarjouskilpailu analyysituotteesta on jo toteutettu Baijerissa, ja ainoaksi sopivaksi tuotteeksi on valittu Palantir. Epävarmuus on kuitenkin olemassa, koska eri osavaltioilla on erilaiset näkemykset tästä asiasta. Vaikka esimerkiksi Nordrhein-Westfalenilla on ollut oikeusperusta Palantirin ”DAR”-ohjelmiston käytölle vuodesta 2022 lähtien, Hampuri epäröi edelleen automaattista data-analyysiä koskevaa päätöstä, joka otettiin käyttöön vuonna 2019, mutta joka julisti pätemättömäksi liittovaltion perustuslakituomioistuimen päätöksellä.

Liittovaltion perustuslakituomioistuin asetti helmikuussa 2023 selkeät rajat automaattisten tietojen analysointityökalujen käytölle estääkseen tietosuojaloukkaukset. Süddeutsche Zeitungin mukaan näistä työkaluista voi tulla vaarallisia hyödyllisistä tietopotentiaalistaan ​​huolimatta. koska ne luovat laajoja henkilöprofiileja ja ottavat poliisin toimenpiteisiin mukaan ulkopuolisia ihmisiä. Näin tapahtuu muun muassa silloin, kun käyttäjät pääsevät tahattomasti analyysijärjestelmiin tekniikoiden, kuten radiosolukyselyiden avulla.

Mielipiteiden moninaisuus ja seuraavat askeleet

Saksan mahdollisuus ottaa tänä vuonna suuria askelia kohti automaattista data-analyysiä saa sekä kannatuksen että vastustuksen. Jotkut sisäministeriöt tiedustelevat jo mahdollisuutta käyttää Palantir-ohjelmistoa tai vastaavia tuotteita. Liittovaltiot, kuten Saksi-Anhalt, Saksi ja Saksi-Anhalt, eivät tällä hetkellä tee mitään tähän suuntaan, kun taas Berliini ja Baden-Württemberg harkitsevat Baijerin ratkaisua.

Kun puhutaan tekoälyn käytöstä rikollisuuden torjunnassa, ei ole vain teknisiä vaan myös eettisiä kysymysmerkkejä. Tällaisia ​​teknologioita kehitettäessä ja toteutettaessa on tärkeää, että tietoisen itsemääräämisoikeuden perusoikeus säilyy. Netzpolitik korostaa, että tietojen käyttöä ja analyysityökalujen rekisteröintiä koskevat kattavat säännökset on taattava väärinkäytösten ja tietosuojaloukkausten välttämiseksi.

Kaiken kaikkiaan jää nähtäväksi, kuinka keskustelu VerAn, Palantirin ja koko automatisoidun data-analyysin kehittämisestä Saksassa jatkuu. Tässä tarvitaan lainsäätäjien hyvää kättä, jotta turvallisuus ja kansalaisoikeudet voidaan pitää mielessä.