Palantir in der Polizeiarbeit: Risiken für Grundrechte und rechtliche Unsicherheiten
Die Nutzung von Palantir bei der Polizei birgt erhebliche Risiken für Grundrechte, weil die komplexen Analysewerkzeuge wenig Transparenz bieten und die geltenden gesetzlichen Vorgaben nicht eingehalten werden.
Key Takeaway
Die Nutzung von Palantir bei der Polizei birgt erhebliche Risiken für Grundrechte, weil die komplexen Analysewerkzeuge wenig Transparenz bieten und die geltenden gesetzlichen Vorgaben nicht eingehalten werden.
Summary
- Warnung von Aktivisten: Constanze Kurz (CCC) und Franziska Görlitz (GFF) alarmieren vor dem Einsatz von Palantir in der Polizeiarbeit.
- Datensammlung: Polizeidatenbanken rufen zunehmend unbeteiligte Personen ein – auch Whistleblower und Zeugen – wodurch die Gefahr steigt, dass Personen ohne Beteiligung überwacht werden.
- Komplexe Systeme: Palantir Gotham ist kein simples Datenabgleich‑Tool; es handelt sich um ein hochkomplexes, prognostisches „Predictive‑Policing“-System, bei dem die Nachvollziehbarkeit der Ergebnisse stark eingeschränkt ist.
- Transparenzproblem: Nach Analyse fragt sich der Computer selbst, ob ein Zusammenhang besteht oder ob eine Person als gefährlich eingestuft werden sollte – Entscheidungen bleiben unklar und nicht nachvollziehbar.
- Bayern als Vorbild: Die bayerische Staatsregierung, angeführt von Ministerpräsident Markus Söder, hat Palantir bereits vor einer klaren Rechtsgrundlage eingeführt. Damit öffnet sich die Tür für andere Bundesländer und Rahmenverträge ohne eigene Ausschreibungen.
- Rechtliche Rahmenbedingungen: Das Bundesverfassungsgericht hat 2023 bestätigt, dass automatisierte Analysen grundsätzlich zulässig sind, dabei jedoch je tiefer die Analyse die Anforderungen an die Rechtmäßigkeit und Grundrechte steigend.
- Mängel in Umsetzung: In Hessen, Nordrhein-Westfalen und Bayern werden die strengen Vorgaben laut GFF nicht erfüllt; mehrere Verfassungsbeschwerden liegen bereits vor.
- Abhängigkeit von privaten Anbietern: Eine hohe Abhängigkeit von Software von privaten Unternehmen oder ausländischen Staaten kann zu Lock‑Ins führen, die Preise steigen lassen und den Anreiz für Eigenentwicklungen mindern.
- Fehleranfälligkeit und Diskriminierung: KI‑gestützte Datenanalysen sind fehlerbehaftet und können diskriminierende Ergebnisse erzeugen – ein erhebliches Risiko für Grundrechte.
- Externes Research: Kurz verweist auf eine Recherche des Schweizer Magazins Republik, die Palantirs jahrelange Vorgehensweise und die damit verbundene geopolitische, juristische sowie ethische Risiken detailliert darstellt.
- Armee‑Bericht: Ein öffentlich zugänglicher Bericht der Schweizer Armee empfiehlt ausdrücklich, Palantir-Lösungen zu meiden.
- Reaktion von Palantir: Das Unternehmen antwortet erstmals in einem Blogbeitrag, dass es missverstanden sei, und bietet ausgewählten Akteuren Gespräche mit NDA an. Gleichzeitig hat es im Sommer aktiv bei Landes- und Bundesinnenministerien für seine Produkte werbetätig.