警察中的人工智能：VeRA 受到批评！

警察中的人工智能：VeRA 受到批评！

2024 年 9 月 24 日，巴登-符腾堡州内阁发布了一项引人注目的安全和措施方案，题为“加强安全、组织移民、防止激进化”。该方案的一个中心点是计划使用人工智能来分析收集的数据，称为 VeRA。该分析软件旨在整合不同来源的数据，从而提高打击犯罪的效率。事实上，Palantir 软件自 2017 年以来一直在黑森州以 Hessen-Data 的名称使用，在这方面被认为是有前途的，但最初被联邦内政部在联邦一级阻止，因为无法为联邦警察和联邦刑事警察局的使用建立必要的法律依据。

据 BDK 报道，为了在巴登符腾堡州使用 VeRA，需要延长警察法。然而，修改法律的听证程序仍然悬而未决，这使得整个绿黑联盟的讨论成为热门话题。德国巴登-符腾堡州刑警协会 (BDK BW) 预计，当引入 VeRA 时，必须适用广泛的法律权力来使用该技术。

试点项目和法律挑战

欧洲范围内的分析产品招标已经在巴伐利亚进行，Palantir 被选为唯一合适的产品。然而，由于不同的联邦州对此问题有不同的看法，因此存在不确定性。例如，虽然北莱茵-威斯特法伦州自 2022 年以来就拥有了使用 Palantir 的“DAR”软件的法律依据，但汉堡仍在犹豫是否做出自动化数据分析的决定，该决定于 2019 年推出，但被联邦宪法法院的裁决宣布无效。

2023 年 2 月，联邦宪法法院对自动化数据分析工具的使用设定了明确的限制，以防止任何数据保护违规行为。据《Süddeutsche Zeitung》(https://www.sueddeutsche.de/politik/kuenstliche-intelligenz-ki-bundesverfassungsgericht-vorgehende-kritikitaetsbekaempfung-1.5752919) 报道，这些工具尽管具有有用的信息潜力，但也可能变得危险，因为它们可以创建广泛的个人资料并使不相关的人参与警方措施。当用户无意中通过无线电小区查询等技术访问分析系统时，就会发生这种情况。

意见分歧和后续步骤

德国今年可能在自动化数据分析方面采取重大举措的前景受到支持和阻力。一些内政部已经在询问使用 Palantir 软件或类似产品的可能性。萨克森-安哈特州、萨克森-安哈尔特州等联邦州目前尚未朝这个方向采取任何行动，而柏林和巴登-符腾堡州正在考虑效仿巴伐利亚的解决方案。

在讨论利用人工智能打击犯罪时，不仅存在技术问题，还存在伦理问题。在开发和实施此类技术时，保护信息自决的基本权利非常重要。 Netzpolitik强调必须保证对分析工具的数据使用和注册进行全面监管，以避免滥用和数据保护违规。

总体而言，关于 VeRA、Palantir 以及德国自动化数据分析的整个发展的讨论将如何继续，还有待观察。这里需要立法者的大力支持，以兼顾安全和公民权利。