ChatGPT und KI in Kommunen: Datenschutz richtig umsetzen
ChatGPT in Kommunen kann Entwürfe strukturieren, Texte vereinfachen und Ideen liefern. Die eigentliche Prüfung beginnt jedoch vor der ersten dienstlichen Eingabe: Sind Zweck, Datenarten, Anbieter, Vertrag, Rechtsgrundlage, Sicherheit und interne Freigabe geklärt? Der Beitrag zeigt, wie sich ChatGPT und KI in Kommunen einsetzen lassen und wie Verwaltungen den Datenschutz dabei richtig umsetzen.
Kurzantwort
Kommunen dürfen ChatGPT und andere KI-Anwendungen nicht pauschal einsetzen. Zulässig ist nur ein konkret geprüfter Anwendungsfall mit festgelegtem Zweck, geeigneter Rechtsgrundlage, geklärter Anbieterrolle, ausreichender Sicherheit und verbindlichen Nutzungsregeln.
Ohne behördlich freigegebenes System dürfen keine personenbezogenen Daten, vertraulichen Verwaltungsvorgänge, nicht öffentlichen Dokumente, Zugangsdaten oder Geschäftsgeheimnisse in einen öffentlichen KI-Dienst eingegeben werden. Das Entfernen eines Namens genügt nicht, wenn eine Person aus dem Zusammenhang erkennbar bleibt.
KI-Ausgaben sind Entwürfe. Beschäftigte müssen Fakten, Rechtslage, Quellen, Diskriminierungsrisiken und die Eignung für den konkreten Verwaltungszweck selbst prüfen.
Seit dem 2. August 2026 sind zusätzlich die Transparenzpflichten des Art. 50 KI-Verordnung zu beachten. Das betrifft unter anderem die Interaktion mit KI-Chatbots sowie bestimmte KI-generierte oder KI-bearbeitete Veröffentlichungen zu Angelegenheiten von öffentlichem Interesse.
Einsatzbereiche
Wofür kann generative KI einer Kommune helfen?
Generative KI kann Verwaltungsarbeit unterstützen, wenn der Anwendungsfall klar begrenzt ist. Typische Beispiele sind Gliederungsvorschläge, sprachliche Vereinfachungen, Ideensammlungen, Entwürfe für allgemeine Informationstexte oder Zusammenfassungen bereits öffentlicher Inhalte.
Der mögliche Nutzen ändert nichts an der Verantwortung der Kommune. Sie muss vorab festlegen, wofür eine Anwendung eingesetzt werden darf und wofür nicht. Erst ein konkreter Zweck ermöglicht die Prüfung, ob personenbezogene Daten notwendig sind, ob eine Rechtsgrundlage besteht und welche Schutzmaßnahmen erforderlich werden.
Eine allgemeine Freigabe nach dem Motto „KI darf für die tägliche Arbeit genutzt werden“ ist zu unbestimmt. Besser sind benannte Einsatzszenarien, freigegebene Werkzeuge, erlaubte Datenklassen und klar geregelte Kontrollschritte.
Sofortregel
Welche Daten gehören nicht in einen öffentlichen KI-Chat?
Solange kein geprüftes und freigegebenes System mit passenden vertraglichen und technischen Garantien vorhanden ist, sollte die interne Dienstanweisung folgende Eingaben untersagen:
Namen, Kontaktdaten, Vorgangsnummern, Personalangelegenheiten und sonstige identifizierende Angaben.
Gesundheit, Sozialleistungen, Religion, politische Meinung, biometrische Angaben oder strafrechtlich relevante Informationen.
Akteninhalte, interne Vermerke, Entwürfe, E-Mails, Beschwerden und noch nicht veröffentlichte Beschlüsse.
Geschäftsgeheimnisse, Vergabeinformationen, Sicherheitskonzepte, Zugangsdaten und vertrauliche Vertragsinhalte.
Bescheide, Bewerbungen, Gutachten oder Protokolle können auch ohne Namen einen Personenbezug behalten.
KI darf nicht ungeprüft über Anträge, Personal, Leistungen, Sanktionen oder andere individuelle Rechtsfolgen entscheiden.
Praktische Default-Regel: In nicht freigegebenen öffentlichen KI-Diensten nur abstrakte oder wirklich anonymisierte Inhalte verwenden. „Frau M. aus dem kleinen Sachgebiet mit einem seltenen Fall“ kann trotz entferntem Namen identifizierbar bleiben.
Datenschutzprüfung
Wann verarbeitet ChatGPT personenbezogene Daten?
Personenbezogene Daten liegen nicht nur bei Namen und Anschriften vor. Auch Kombinationen aus Funktion, Ort, Datum, Sachverhalt oder seltenen Merkmalen können eine Person bestimmbar machen. Gerade KI-Anwendungen können Querbezüge aus unstrukturierten Angaben herstellen.
Die Prüfung muss Eingabe, Verarbeitung und Ausgabe umfassen. Selbst wenn ein Prompt keinen offensichtlichen Personenbezug enthält, kann die erzeugte Antwort Aussagen über eine identifizierbare Person enthalten. Außerdem können Registrierungsdaten, Nutzungsprotokolle, Eingabehistorien und Geräteinformationen verarbeitet werden.
Echte Anonymisierung bedeutet, dass eine Person mit vernünftigerweise verfügbaren Mitteln nicht mehr identifiziert werden kann. Pseudonymisierte Angaben bleiben dagegen personenbezogen, wenn die Kommune oder ein anderer Beteiligter die Zuordnung wiederherstellen kann.
Rechtmäßigkeit
Welche Rechtsgrundlage braucht eine Kommune?
Jeder Verarbeitungsschritt mit personenbezogenen Daten benötigt eine Rechtsgrundlage. Bei bayerischen Kommunen ist zunächst das jeweils einschlägige Fachrecht zu prüfen. Je nach Aufgabe kann Art. 6 Abs. 1 lit. e DSGVO in Verbindung mit einer spezialgesetzlichen Grundlage oder – soweit dessen Voraussetzungen erfüllt sind – Art. 4 BayDSG in Betracht kommen. Welche Grundlage trägt, hängt von Aufgabe, Zweck, Datenart, Erforderlichkeit und Intensität der Verarbeitung ab.
Die Rechtsgrundlage für den ursprünglichen Verwaltungsvorgang erlaubt nicht automatisch jede zusätzliche Verarbeitung in einem KI-Dienst. Zu prüfen sind deshalb unter anderem Eingabe an den Anbieter, mögliche Speicherung, Auswertung, Training, Erstellung der Ausgabe und die anschließende Nutzung im Fachverfahren.
Bei besonderen Kategorien personenbezogener Daten gelten zusätzlich die Voraussetzungen des Art. 9 DSGVO. Im Beschäftigungskontext können weitere beamten-, arbeits- und personalvertretungsrechtliche Regeln hinzukommen.
Beschaffung
Anbieter, Datenschutzrolle und Vertrag prüfen
Vor der Freigabe muss die Kommune verstehen, wer über die Verarbeitung entscheidet. Je nach Gestaltung kann der Anbieter Auftragsverarbeiter, eigener Verantwortlicher oder gemeinsam Verantwortlicher sein. Eine Produktbezeichnung oder ein Unternehmens-Tarif beantwortet diese Frage nicht.
Zu prüfen sind Vertrag und Leistungsbeschreibung, Zwecke des Anbieters, Nutzung von Ein- und Ausgaben zum Training, Speicherfristen, Löschmöglichkeiten, Unterauftragnehmer, Verarbeitungsorte, Drittlandtransfers, Zugriffsprotokolle, Mandantentrennung und Sicherheitsmaßnahmen.
Soll der Anbieter im Auftrag personenbezogene Daten verarbeiten, ist ein Vertrag nach Art. 28 DSGVO erforderlich. Dieser Vertrag ersetzt weder die Rechtsgrundlage noch die Prüfung, ob Produkt und konkrete Nutzung überhaupt geeignet sind.
Systemwahl
Offene und geschlossene KI-Systeme unterscheiden
Bei einem frei zugänglichen Online-Chat verlassen Eingaben den geschützten Bereich der Kommune. Abhängig von Tarif und Einstellungen können sie gespeichert, ausgewertet oder für weitere Zwecke verwendet werden. Daher eignen sich solche Dienste ohne vorherige Freigabe allenfalls für eng begrenzte, datenfreie Aufgaben.
Ein technisch geschlossenes System kann Risiken reduzieren. Dazu zählen etwa eine kontrollierte kommunale Umgebung, eine isolierte Cloud-Instanz oder ein intern betriebenes Modell, bei dem Daten nicht zum allgemeinen Training verwendet werden. „Geschlossen“ bedeutet aber nicht automatisch „datenschutzkonform“.
Auch dann braucht es Zweck, Rechtsgrundlage, Rollenklärung, Berechtigungen, Löschung, Protokollierung, Sicherheit und eine Prüfung der tatsächlichen Datenflüsse. Der BayLfD nennt bei technischen und organisatorischen Schutzmaßnahmen den Einsatz abgeschotteter Systeme als vorzugswürdig und weist bei möglichen Drittlandübermittlungen ausdrücklich auf eine eigenverantwortliche Nutzung in einer abgeschlossenen IT-Umgebung als mögliche Alternative hin.
Risikoprüfung
Wann ist eine Datenschutz-Folgenabschätzung erforderlich?
Vor jeder Verarbeitung ist das Risiko für die Rechte und Freiheiten betroffener Personen zu bewerten. Ergibt die Vorprüfung voraussichtlich ein hohes Risiko, muss die Kommune vor Beginn eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO durchführen.
Bei KI kann dies insbesondere bei umfangreichen personenbezogenen Daten, sensiblen Informationen, systematischer Bewertung, Überwachung, Profilbildung, schwer nachvollziehbaren Modellen oder folgenreichen Entscheidungen der Fall sein. Der Einsatz einer KI-Anwendung löst die DSFA nicht automatisch in jedem Fall aus; eine begründete Vorprüfung ist dennoch erforderlich.
Ohne ausreichende Informationen des Anbieters lassen sich Risiko und Schutzmaßnahmen häufig nicht belastbar bewerten. Fehlende Transparenz ist deshalb kein Grund, die Prüfung abzukürzen, sondern kann gegen die Beschaffung oder den geplanten Anwendungsfall sprechen.
EU-KI-Verordnung
KI-Kompetenz nach Art. 4 AI Act
Art. 4 der europäischen KI-Verordnung gilt seit dem 2. Februar 2025. Anbieter und Betreiber von KI-Systemen müssen Maßnahmen ergreifen, um bei Beschäftigten und weiteren eingesetzten Personen ein ausreichendes Maß an KI-Kompetenz sicherzustellen. Dabei sind Vorkenntnisse, Erfahrung, Ausbildung, Nutzungskontext und betroffene Personengruppen zu berücksichtigen.
Ein bestimmtes Zertifikat ist nicht vorgeschrieben. Nach den Erläuterungen der Europäischen Kommission können Schulungen, Leitfäden und andere geeignete Maßnahmen intern dokumentiert werden. Ein bloßer Hinweis, die Bedienungsanleitung zu lesen, dürfte je nach Einsatz und Risiko nicht ausreichen.
Kommunale Schulungen sollten technische Grenzen, Datenschutz, Informationssicherheit, zulässige Daten, Prüfung von Ausgaben, Diskriminierungsrisiken und Eskalationswege abdecken. Wer nur die Bedienung eines Chatbots erklärt, vermittelt noch keine ausreichende KI-Kompetenz für dienstliche Anwendungen.
Seit 2. August 2026
Art. 50 AI Act: Transparenz und Kennzeichnung bei kommunaler KI
Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 der KI-Verordnung. Für Kommunen sind dabei besonders drei Konstellationen relevant: die direkte Interaktion von Bürgerinnen und Bürgern mit einem KI-System, die Veröffentlichung bestimmter KI-generierter oder KI-bearbeiteter Texte und der Einsatz von Deepfakes.
Interagieren natürliche Personen direkt mit einem KI-System, müssen sie grundsätzlich darüber informiert werden, dass sie mit einem KI-System kommunizieren, sofern dies nicht bereits offensichtlich ist. Bei einem kommunalen KI-Chatbot sollte der Hinweis spätestens zu Beginn der Nutzung klar erkennbar sein.
Wird KI-generierter oder KI-bearbeiteter Text veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, kann eine Kennzeichnungspflicht nach Art. 50 Abs. 4 KI-Verordnung bestehen. Dazu können insbesondere Informationen über öffentliche Verwaltung und öffentliche Leistungen gehören.
Für KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die einen Deepfake darstellen, bestehen ebenfalls Transparenzpflichten. Die Information muss für natürliche Personen klar und wahrnehmbar sein.
Wichtige Ausnahme bei Texten: Die Kennzeichnungspflicht für veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse entfällt, wenn der Inhalt einer echten menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Eine bloße Rechtschreib- oder Grammatikprüfung genügt dafür nicht.
Qualität und Verantwortung
Warum die menschliche Prüfung unverzichtbar bleibt
Sprachmodelle erzeugen wahrscheinliche Texte. Sie können Quellen erfinden, veraltete Rechtslagen wiedergeben, Sachverhalte vermischen oder überzeugend formulierte Fehler produzieren. Eine flüssige Antwort ist deshalb kein Richtigkeitsnachweis.
Wer einen KI-Entwurf verwendet, muss Tatsachen, Berechnungen, Rechtsgrundlagen und Quellen anhand verlässlicher Originalquellen prüfen. Bei personenbezogenen Ergebnissen kommen Anforderungen an Richtigkeit, Transparenz und Nichtdiskriminierung hinzu. Bei Veröffentlichungen zu Angelegenheiten von öffentlichem Interesse kann eine substanzielle menschliche Prüfung zugleich für die Ausnahme von der Kennzeichnungspflicht nach Art. 50 Abs. 4 KI-Verordnung relevant sein.
Besonders kritisch sind Entscheidungen mit Rechtswirkung oder ähnlich erheblicher Beeinträchtigung. Ein Mensch muss einen tatsächlichen Entscheidungsspielraum haben. Eine nur formale Freigabe, bei der das KI-Ergebnis wegen Zeitdruck ungeprüft übernommen wird, genügt nicht.
Bayerische öffentliche Stellen
Was sagt der BayLfD?
Der Bayerische Landesbeauftragte für den Datenschutz hat 2026 eine umfangreiche Orientierungshilfe zu KI-Projekten in der bayerischen Verwaltung veröffentlicht. Sie behandelt den gesamten Weg von der Idee und Systemauswahl über Entwicklung und Inbetriebnahme bis zum laufenden Betrieb.
Der BayLfD stellt klar, dass Datenschutzrecht greift, sobald mit KI personenbezogene Daten verarbeitet werden. Für jede Verarbeitung braucht es eine passende Rechtsgrundlage. Zwecke müssen hinreichend bestimmt, Risiken bewertet und Datenschutzbeauftragte frühzeitig eingebunden werden.
Bei generativer KI hebt die Orientierungshilfe unter anderem Eingabe- und Ausgabedaten, die Gefahr unrichtiger Ergebnisse, Transparenz, Betroffenenrechte, Anbieterrollen, Datensicherheit und Datenschutz-Folgenabschätzung hervor. Planung, Beschaffung, Entwicklung, Inbetriebnahme und laufender Betrieb müssen dabei gemeinsam betrachtet werden.
Der BayLfD verlangt außerdem eine ordnungsgemäße und frühzeitige Einbindung des behördlichen Datenschutzbeauftragten. Nach Art. 12 Abs. 1 Satz 1 Nr. 2 BayDSG ist ihm vor dem erstmaligen Einsatz oder einer wesentlichen Änderung eines automatisierten Verfahrens mit personenbezogenen Daten Gelegenheit zur Stellungnahme zu geben.
Für Kommunen folgt daraus: Nicht das Etikett „KI“ entscheidet über die Zulässigkeit, sondern der konkrete technische und organisatorische Einsatz. Ein öffentlicher Chatbot für allgemeine Bürgerinformationen ist anders zu bewerten als ein System, das Bürgerakten auswertet oder Entscheidungen vorbereitet. Die im Juli 2026 veröffentlichten Leitlinien der Europäischen Kommission konkretisieren inzwischen zusätzlich die Transparenzpflichten des Art. 50 KI-Verordnung.
Praxisplan
ChatGPT und KI in zehn Schritten sicher einführen
Konkrete Einsatzfälle, Ziele und ausdrücklich ausgeschlossene Nutzungen festlegen.
Datenarten und Datenflüsse für Eingabe, Verarbeitung, Ausgabe, Protokolle und Training erfassen.
Rechtsgrundlagen, Fachrecht, Datenschutzrollen und mögliche Beteiligungsrechte prüfen.
Anbieter, Vertrag, Unterauftragnehmer, Speicherorte, Drittlandtransfers und Sicherheitsmaßnahmen bewerten.
Risikovorprüfung durchführen und bei voraussichtlich hohem Risiko eine DSFA abschließen.
Datenschutzfreundliche Einstellungen, betriebliche Accounts, Berechtigungen und Löschregeln einrichten.
Verbindliche KI-Richtlinie mit erlaubten Werkzeugen, Datenklassen und Kontrollschritten veröffentlichen.
Beschäftigte rollenbezogen schulen und Maßnahmen zur KI-Kompetenz dokumentieren.
Transparenz- und Kennzeichnungspflichten nach Art. 50 KI-Verordnung für Chatbots und veröffentlichte KI-Inhalte festlegen.
Nutzung, Fehler, Anbieteränderungen und Rechtsentwicklung regelmäßig überwachen.
Beispiele
Welche Nutzung ist eher unkritisch – und welche nicht?
Gliederung für einen allgemeinen Vortrag aus ausschließlich öffentlichen und sachlichen Stichpunkten erstellen lassen.
Einen selbst formulierten Mustertext vereinfachen, wenn er keine identifizierenden oder vertraulichen Angaben enthält.
Eine Bürgerbeschwerde, Personalakte, Bewerbung, Sozialakte oder interne E-Mail zusammenfassen lassen.
Akten automatisiert klassifizieren, Bescheide vorbereiten oder umfangreiche Verwaltungsdaten auswerten.
KI kann Optionen oder Formulierungen vorschlagen, aber keine individuelle Rechtsentscheidung ungeprüft ersetzen.
Genannte Urteile, Paragrafen, Zahlen und Zitate immer in der amtlichen Originalquelle nachschlagen.
Praxisfehler
Typische Fehler beim kommunalen KI-Einsatz
Beschäftigte nutzen frei verfügbare Dienste ohne dienstliche Freigabe, Vertrag oder zentrale Einstellungen.
Der Kontext macht Bürger, Beschäftigte oder Unternehmen weiterhin identifizierbar.
Ein kostenpflichtiger Zugang wird automatisch für datenschutzkonform gehalten.
Fehlerhafte Rechtsgrundlagen, Quellen oder Tatsachen gelangen in Schreiben und Entscheidungen.
Beschäftigte wissen nicht, welche Anwendungen und Daten zulässig sind.
Das System wird bereits produktiv genutzt, bevor Risiken und Schutzmaßnahmen bewertet sind.
Häufige Fragen
FAQ zu ChatGPT, Kommune und Datenschutz
Dürfen Kommunen ChatGPT nutzen?
Ja, aber nicht pauschal und nicht für jeden Zweck. Jeder dienstliche Anwendungsfall braucht eine Prüfung von Zweck, Datenarten, Rechtsgrundlage, Anbieter, Vertrag, Sicherheit und internen Regeln.
Dürfen personenbezogene Daten in ChatGPT eingegeben werden?
Nicht in einen ungeprüften öffentlichen Dienst. Eine Verarbeitung kann nur in einem freigegebenen Einsatz mit tragfähiger Rechtsgrundlage, geklärten Rollen, geeigneten Verträgen und angemessenen Schutzmaßnahmen in Betracht kommen.
Reicht es, Namen aus einem Dokument zu entfernen?
Nein. Eine Person kann durch Funktion, Ort, Datum, Sachverhalt oder andere Merkmale weiterhin identifizierbar sein. Dann bleiben die Angaben personenbezogen.
Braucht die Kommune mit dem KI-Anbieter einen AV-Vertrag?
Wenn der Anbieter personenbezogene Daten weisungsgebunden im Auftrag verarbeitet, ist ein Vertrag nach Art. 28 DSGVO erforderlich. Zuvor muss die tatsächliche Rolle anhand von Produkt und Bedingungen geprüft werden.
Ist für ChatGPT immer eine DSFA nötig?
Nicht allein wegen des Produktnamens. Eine DSFA ist erforderlich, wenn der konkrete Einsatz voraussichtlich ein hohes Risiko verursacht. Die Kommune sollte die Vorprüfung in jedem Fall dokumentieren.
Müssen kommunale Beschäftigte zu KI geschult werden?
Art. 4 der KI-Verordnung verlangt Maßnahmen für ein ausreichendes Maß an KI-Kompetenz. Inhalt und Umfang richten sich nach Vorkenntnissen, Rolle, Einsatzkontext und Risiken; ein bestimmtes Zertifikat ist nicht vorgeschrieben.
Darf ein KI-Text ungeprüft veröffentlicht werden?
Ein KI-Text sollte fachlich nicht ungeprüft veröffentlicht werden. Zusätzlich gilt seit dem 2. August 2026 Art. 50 Abs. 4 KI-Verordnung: Bei KI-generierten oder KI-bearbeiteten Texten zu Angelegenheiten von öffentlichem Interesse kann eine Kennzeichnungspflicht bestehen. Sie entfällt bei einer echten menschlichen Überprüfung oder redaktionellen Kontrolle, wenn zugleich eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.
Muss ein KI-Chatbot auf der kommunalen Website als KI erkennbar sein?
Grundsätzlich ja. Art. 50 Abs. 1 KI-Verordnung verlangt bei der direkten Interaktion mit einem KI-System grundsätzlich einen Hinweis darauf, dass die Person mit einem KI-System kommuniziert, sofern dies nicht bereits offensichtlich ist. Der Hinweis sollte spätestens zu Beginn der Nutzung klar erkennbar sein.
Ergebnis
Fazit
ChatGPT und andere generative KI können Kommunen entlasten. Der sichere Einstieg beginnt jedoch mit kleinen, klar abgegrenzten Anwendungsfällen ohne sensible Daten und mit einer verbindlichen Nutzungsregel.
Für weitergehende Einsätze braucht es eine strukturierte Projektprüfung. Zweck, Rechtsgrundlage, Anbieterrolle, Verträge, Datenflüsse, Sicherheit, DSFA, menschliche Kontrolle und KI-Kompetenz müssen zusammenpassen. Erst dann wird aus einem spontanen Tool-Einsatz ein beherrschbares Verwaltungsverfahren.
Weiterlesen
Weiterführende Inhalte für Kommunen
Nachweise
Quellen
Kommunalen KI-Einsatz strukturiert vorbereiten?
Die Compliance Werkstatt unterstützt bei KI-Richtlinie, Datenschutzprüfung, Rollenklärung, Risikobewertung und einer praxisnahen Schulung für kommunale Beschäftigte.
Kommunalen KI-Einsatz besprechen