Wie werden KI-Systeme in der Bezirksverwaltung genutzt? Kleine Anfrage gem. § 24 BezVG der Die Linke-Fraktion

Die Bezirksämter nutzen bei der Beantwortung parlamentarischer Anfragen KI-Werkzeuge. Nach der Registrierung ihrer Verwaltungseinheit, der Freischaltung durch Dataport, dem Absolvieren des ersten Moduls des „LLMoin-E-Learnings“ sowie dem Lesen und Bestätigen einer Handlungsanweisung können die Mitarbeitenden das KI-Tool LLMoin nutzen. Darüber informierte der Senat auf eine Kleine Anfrage des CDU-Bürgerschaftsabgeordneten Sascha Greshake (Drs. 23/3964).

Mittlerweile nutzen viele Menschen KI-Systeme im Alltag, insbesondere Large Language Models (LLMs), zur komfortablen Recherche sowie zur Text- und Bildgenerierung. Im besten Fall erzeugen LLMs sprachlich korrekte und inhaltlich plausible Texte. Dennoch kommt es immer wieder zu sogenannten Halluzinationen beziehungsweise zu sogenanntem „KI-Slop“ – Antworten, die plausibel klingen, tatsächlich jedoch sachlich falsch sind und erfundene „Fakten“ enthalten.

Auch beim Einsatz von KI-Systemen in der Verwaltung besteht das Risiko, dass solcher KI-Slop entsteht. Wird er von den Beschäftigten nicht erkannt und korrigiert, können beispielsweise Antworten auf parlamentarische Anfragen falsche, unvollständige oder irreführende Informationen enthalten.

Vor diesem Hintergrund fragen wir die Bezirksamtsleitung:

1. Welche Verwaltungseinheiten des Bezirksamts sind seit wann mit jeweils wie vielen Mitarbeitenden für LLMoin freigeschaltet und haben sich mindestens einmal angemeldet?

LLMoin steht seit Juli 2025 allen Mitarbeitenden der Bezirksverwaltung zur Verfügung. Eine detaillierte Aufschlüsselung nach Verwaltungseinheiten und Anmeldezahlen liegt nicht vor, da die Nutzung flächendeckend ermöglicht wurde.

2. Für welche Aufgaben nutzen die Beschäftigten LLMoin, und welche Aufgaben dürfen gegebenenfalls nicht mit Unterstützung von LLMoin erledigt werden, und aus welchen Gründen?

LLMoin wird für Recherche, Informationsverarbeitung und Textgenerierung (z. B. Entwürfe für Schreiben, Vermerke, Zusammenfassungen) eingesetzt. Aufgaben, die sensible personenbezogene Daten nach Art. 9 und 10 DSGVO betreffen oder Aufgaben, die nach KI-Verordnung (KI-VO) in den Bereich einer Hochrisiko-KI fallen, dürfen nicht mit LLMoin bearbeitet werden. Ebenso darf KI in keinem Fall Entscheidungen anstelle von Mitarbeitenden treffen. Grundlage hierfür sind die allgemeinen Regelungen der FHH zum Datenschutz, zur IT-Sicherheit, die KI-VO sowie die globalen und bezirklichen Handlungsanweisungen zur Nutzung von LLMoin.

3. Nach welchen Regeln dürfen die Beschäftigten des Bezirksamts andere LLMs oder Plattformen wie z. B. ChatGPT, Gemini, Claude und Perplexity nutzen?

Für die dienstliche Nutzung gibt es die Empfehlung, LLMoin zu nutzen. Die Nutzung externer KI-Plattformen ist grundsätzlich nicht untersagt, solange die Handreichungen der Senatskanzlei (ITD) beachtet werden.

4. Wie hoch sind die monatlich entstehenden Kosten für KI-Tools von Drittanbietern (z. B. ChatGPT, Gemini, Claude und Perplexity) im Bezirksamt?

Für den Einsatz von KI-Tools entstehen dem Bezirksamt keine monatlichen Kosten.

5. Welche KI-Systeme kommen bei der Beantwortung von Kleinen Anfragen zum Einsatz?

Hinweis: Siehe hier die Antwort auf die SKA 23/3964 (siehe Anlage), Antworten zu Fragen 8-11:

„Es bestehen keine spezifischen Vorgaben zur Nutzung von KI-basierten Systemen bei der Beantwortung Parlamentarischer Anfragen. Mit LLMoin steht den Beschäftigten der Freien und Hansestadt Hamburg (FHH) eine interne Lösung zur Verfügung, die für Recherche oder Textverarbeitung genutzt werden kann. Hier wird der entsprechende Rahmen durch Handlungsanweisungen gesetzt: So ist die ungeprüfte Verwendung von generierten Inhalten untersagt. Sie sind auf inhaltliche, sachliche und sprachliche Richtigkeit zu prüfen und bei Bedarf anzupassen. Im Übrigen erfolgt die Nutzung von Daten, Dokumenten oder sonstigen Inhalten zur Verarbeitung durch KI-Systeme, die in der FHH eingesetzt werden – unabhängig vom Anwendungsfall – unter Wahrung der geltenden Bestimmungen des Datenschutzes und der Informationssicherheit.“

6. Wird bei den Antworten gekennzeichnet, ob sie mithilfe von KI erstellt wurden? Falls nicht: Aus welchem Grund erfolgt keine Kennzeichnung?

Nein. Die im Rahmen der Beantwortung eingesetzte KI wird ausschließlich zur redaktionellen Bearbeitung und ggf. Umformulierung von Texten genutzt. Fachliche Inhalte und Antworten werden nicht durch die KI generiert. Sämtliche durch die KI erstellten Formulierungsvorschläge werden zudem gemäß Handlungsanweisung einer kritischen Prüfung unterzogen, bevor sie in die Beantwortung einfließen. Eine Kennzeichnungspflicht, i.S.d. KI-VO, besteht nicht.

7. Wird beim Einsatz von KI-Tools der verwendete Prompt dokumentiert? Falls nicht: Aus welchem Grund erfolgt keine Dokumentation?

Eine verpflichtende Dokumentation der verwendeten Prompts ist nicht vorgesehen. Die Verantwortung für die Nachvollziehbarkeit und Qualität der erstellten Texte liegt bei den bearbeitenden Mitarbeitenden.

8. An welcher jeweiligen Stelle liegt die Verantwortung sicherzustellen, dass Antworten auf Kleine Anfragen, aber auch andere Aufgaben, faktisch korrekt sind und keinen KI-Slop enthalten und wie groß ist das Problem mit KI-Slob bisher (bisherige Erfahrungen mit LLMoin)?

Verantwortlich für die fachlich korrekte Beantwortung von parlamentarischen und bezirklichen Anfragen sind der/die Ersteller:in sowie die Führungskräfte. Für die Beantwortung des Bezirksamts zeichnet die Bezirksamtsleitung. Systematische Probleme mit fehlerhaften KI-generierten Inhalten („KI-Slop“) sind dem Bezirksamt Hamburg-Nord nicht bekannt.

9. Welche konkreten Vorgaben oder welches Qualitätsmanagement gibt es für die Prüfung KI-gestützt erstellter Texte für den parlamentarischen Betrieb und sonstigen Verwaltungsbetrieb vor ihrer Freigabe, um zu verhindern, dass falsche Zahlen, erfundene Tatsachenbehauptungen oder andere Unwahrheiten durch das Bezirksamt in Umlauf gebracht werden?

Bei der Nutzung von LLMoin sind die aktuellen Handlungsanweisungen einzuhalten, um eine verantwortungsvolle und sichere Anwendung des KI-Textassistenten zu gewährleisten. Das Absolvieren von Modul 1 des Lernpfads sowie die Kenntnis der Handlungsanweisungen sind Voraussetzungen für die Nutzung von LLMoin. Gemäß Punkt 5. der verbindlichen Handlungsanweisungen für LLMOIN ist die ungeprüfte Verwendung von Antworten untersagt. Die Mitarbeitenden sind für die kritische Prüfung von KI-generierten Inhalten, z.B. durch Schulungen, sensibilisiert.

10. Was können und sollten Bürger*innen, Abgeordnete und Mitarbeiter*innen tun, wenn sie bei Texten des Bezirksamts eine KI-generierte „Halluzination“ vermuten?

Das Bezirksamt Hamburg-Nord bietet zahlreiche Möglichkeiten, Anliegen gezielt zu platzieren. Umfangreiche Kontaktmöglichkeiten werden hier Ihr Bezirksamt - hamburg.de veröffentlicht.

Dr. Bettina Schomburg 03.08.2026

(Bezirksamtsleitung)