In mehreren mittelgroßen deutschen Städten sind in den vergangenen Wochen KI-gestützte Bürger-Chatbots vom Netz genommen worden.
Die Assistenten, die Anfragen zu Anmeldungen, Gewerbescheinen oder Abfallgebühren beantworten sollten, galten noch vor wenigen Monaten als Vorzeigeprojekte einer digitalen Verwaltung.
Nach Beschwerden bei den zuständigen Landesdatenschutzbehörden zogen die Kommunen die Notbremse.
Im Kern steht eine Frage, die sich beim Pilotbetrieb offenbar nicht klären ließ: Wohin fließen Anfragen, wenn Bürgerinnen und Bürger ihren Klarnamen, ihre Adresse oder Aktenzeichen in das Eingabefeld tippen?
Unklare Datenwege bei externen Modellen
Die meisten der betroffenen Systeme greifen im Hintergrund auf Sprachmodelle kommerzieller Anbieter zurück, die in der Regel außerhalb Europas trainiert und teils auch außerhalb der EU betrieben werden.
Zwischen Kommune, Dienstleister und Modellanbieter liegt eine Kette von Auftragsverarbeitungsverträgen, deren tatsächliche technische Umsetzung sich nach Einschätzung von Datenschutzaufsichten nur schwer prüfen lässt.
Branchenbeobachter verweisen darauf, dass viele Städte die Chatbots als reine Frontend-Anwendung beschafft hätten, ohne im Detail nachvollziehen zu können, ob Eingaben für Modelltraining, Qualitätssicherung oder Logging an Drittsysteme weitergereicht werden.
Hinzu kommt, dass die Bürgerseite die Lage zusätzlich verschärft: Anders als in einem ausgefüllten Online-Formular geben Nutzerinnen und Nutzer im freien Chat oft mehr preis, als für die Auskunft nötig wäre – Geburtsdaten, Krankheitsgründe, familiäre Konflikte.
Mehrere Aufsichtsbehörden hatten zuletzt darauf hingewiesen, dass Kommunen für genau solche Eingaben die Verantwortung tragen, auch wenn sie technisch nur ein zugekauftes Werkzeug betreiben.
Politische und rechtliche Folgekosten
Die Rückzieher kommen für viele Stadtverwaltungen zur Unzeit.
Die Chatbots waren häufig aus Fördertöpfen für Smart-City-Projekte oder aus Mitteln zur Umsetzung des Onlinezugangsgesetzes finanziert worden.
Wird ein System abgeschaltet, entstehen nicht nur Imageschäden, sondern auch Fragen nach der Mittelverwendung.
Marktteilnehmer aus dem GovTech-Bereich berichten, dass derzeit zahlreiche Ausschreibungen pausiert oder neu zugeschnitten werden, um europäische Hosting-Optionen, lokale Modelle und strengere Protokollierung verpflichtend vorzuschreiben.
Gleichzeitig wächst der Druck der kommunalen Spitzenverbände auf Bund und Länder, klarere Leitplanken zu schaffen.
Eine bundesweit einheitliche Bewertung, unter welchen Bedingungen generative KI in der Verwaltung eingesetzt werden darf, fehlt bislang.
Stattdessen entstehen parallele Prüfraster der Landesdatenschutzbeauftragten, die sich in Details unterscheiden – für überschaubar große IT-Abteilungen in Mittelstädten kaum zu bewältigen.
Vom Prestigeprojekt zur nüchternen Routine
In den Rathäusern setzt sich allmählich die Einsicht durch, dass der Einsatz von KI in der Bürgerkommunikation weniger eine Frage der technischen Machbarkeit als der institutionellen Governance ist.
Wer Chatbots wieder einführen will, muss klären, welche Datenkategorien überhaupt akzeptiert werden, wie Eingaben vor dem Versand an ein Modell gefiltert oder pseudonymisiert werden und wie lange Protokolle gespeichert bleiben.
Der abrupte Rückzug aus dem Live-Betrieb dürfte die deutsche Verwaltungsdigitalisierung kurzfristig ausbremsen.
Mittelfristig könnte er sich jedoch als Korrektiv erweisen: weg vom schnellen Pilotprojekt, hin zu klar dokumentierten Verfahren.
Ob daraus belastbare Standards entstehen oder lediglich eine neue Schicht von Vorabprüfungen, wird sich in den kommenden Haushaltsrunden zeigen, wenn die nächsten Digitalbudgets verteilt werden.
