KI in Behörden: Datenschutz und Risikominimierung

Die Bundesdatenschutzbeauftragte haben die Handreichung „KI in Behörden – Datenschutz von Anfang an mitdenken“ veröffentlicht. Diese Anleitung richtet sich an öffentliche Stellen des Bundes, die KI‑Systeme einsetzen oder planen einzusetzen.

Kernprobleme bei LLMs

• Umgang mit personenbezogenen Daten beim Training und bei der Nutzung.
• Blackbox‑Charakter, der Nachvollziehbarkeit erschwert.
• Halluzinationen, die die Richtigkeit der Daten gefährden.
• Memorierung personenbezogener Inhalte.
• Bias/Fairness aufgrund von Über‑ oder Unterrepräsentation.

Rechtlicher Rahmen

Die KI‑Verordnung regelt Inverkehrbringen, Inbetriebnahme und Verwendung von KI‑Systemen. Die DSGVO bestimmt die Rechtmäßigkeit und Grenzen der personenbezogenen Datenverarbeitung. Beide Regelwerke bilden einen kohärenten unionsrechtlichen Rahmen.

Maßnahmen zur Risikominimierung

• Pseudonymisierung der Trainingsdaten.
• Entfernung personenbezogener Angaben.
• Einsatz von Differential Privacy.
• Filter im KI‑System zur Reduktion personenbezogener Daten.
• Organisatorische Maßnahmen: Zugriffs‑ und Rechtekonzepte, Datenschutzaudits, klare Verantwortlichkeiten.

Die BfDI steht für weitere Beratungen zu konkreten Vorhaben zur Verfügung. Das PDF‑Dokument (46 Seiten) ist auf der BfDI‑Website verfügbar: Quelle.