KI in Behörden: Wo der Staat künstliche Intelligenz schon einsetzt und wo die rechtlichen Grenzen liegen

KI ist im Behördenalltag angekommen

Lange galt die deutsche Verwaltung als Nachzügler der Digitalisierung. Das ändert sich. Allein im Geschäftsbereich der Bundesregierung sind inzwischen dutzende Anwendungsfälle künstlicher Intelligenz dokumentiert, von der Mustererkennung bei Infektionskrankheiten über die Auswertung von Fernerkundungsdaten bis zur Bekämpfung von Umsatzsteuerbetrug.

Anders als ein Digitalkonzern darf der Staat seine Datenbestände gerade nicht frei auswerten, sondern nur im Rahmen seines gesetzlichen Auftrags und seiner klar abgesteckten Kompetenzen. Persönlichkeitsprofile seiner Bürger darf er nach ständiger Rechtsprechung des Bundesverfassungsgerichts nicht erstellen.

Wo Sicherheitsbehörden KI heute einsetzen

Das praktisch wichtigste Anwendungsfeld ist die innere Sicherheit. Mehrere Bundesländer arbeiten seit Jahren mit ortsbezogenen Prognose-Tools, um anhand großer Datenbestände mögliche Kriminalitätsschwerpunkte zu erkennen und Polizeikräfte gezielter einzusetzen. Dieses sogenannte Predictive Policing soll knappe Ressourcen dorthin lenken, wo statistisch mit Straftaten zu rechnen ist.

Daneben werten Ermittlungsbehörden Daten aus sozialen Medien aus (Social Media Monitoring) und führen Informationen aus unterschiedlichen Quellen zusammen. Genau dieses Zusammenführen verschiedener Datenbestände, die automatisierte Datenanalyse, hat sich zum rechtlichen Brennpunkt entwickelt.

Weitere Referenzfälle automatisierter Verwaltung

Die automatisierte Datenanalyse ist nur ein Baustein. Verfassungsrechtlich bereits geklärt oder intensiv diskutiert sind unter anderem die automatisierte Kfz-Kennzeichenerfassung, der Fluggastdatenabgleich auf Grundlage des Fluggastdatengesetzes und das Geldwäschemonitoring. Zunehmend kommen außerdem Videoüberwachungssysteme mit algorithmenbasierter Mustererkennung zum Einsatz, etwa zur Erkennung gefahrenträchtiger Bewegungsabläufe oder zur biometrischen Gesichtserkennung. Jeder dieser Bereiche hat seine eigene grundrechtliche Sensibilität und seine eigene Rechtsgrundlage.

Service statt Eingriff: Chatbots und Sprachmodelle in der Verwaltung

Nicht jeder KI-Einsatz ist ein Grundrechtseingriff. Ein wachsender Teil dient schlicht dem Bürgerservice. Behörden setzen Chatbots ein, die unabhängig von Öffnungszeiten Auskunft geben, etwa zu Wahlen oder zur Beantragung von Kurzarbeitergeld. Baden-Württemberg erprobt mit dem Sprachmodell F13 ein internes Assistenzsystem, das Studienergebnisse zusammenfasst und Vermerke vorbereitet. Solche Anwendungen werfen weniger eingriffsrechtliche als datenschutz-, urheber- und organisationsrechtliche Fragen auf, etwa zur Verlässlichkeit der Ergebnisse und zur Verantwortungszuweisung.

Was das für die Praxis bedeutet

Aus der bisherigen Entwicklung lassen sich einige Leitlinien ableiten, die jede Behörde und jeder Technologieanbieter im öffentlichen Sektor beachten sollte. Der Nutzen einer KI rechtfertigt für sich genommen keinen Eingriff. Entscheidend ist die gesetzliche Ermächtigung. Je tiefer ein System in Grundrechte eingreift, desto höher müssen die Eingriffsschwelle und das geschützte Rechtsgut liegen. Die Rechtsgrundlage muss Art und Umfang der Daten sowie die zulässigen Auswertungsmethoden bestimmt genug regeln. Und schließlich gilt: Demokratische Legitimation und klare Verantwortungszuweisung sind keine Formalien, sondern Voraussetzung dafür, dass hoheitliche Entscheidungen überhaupt auf KI gestützt werden dürfen.

Wer ein KI-System im öffentlichen Sektor einführen, beschaffen oder rechtlich begleiten will, sollte diese Anforderungen nicht erst am Ende prüfen, sondern von der Konzeption an.