Originalquelle: ALLRIS-Original

Transparenz und Kontrolle beim Einsatz algorithmischer Systeme

260983 · 2026-05-19 · Große Anfrage · öffentlich

Antragsteller: Fraktion Bündnis 90 / DIE GRÜNEN Astrid Grunewald Dr. Bendikt Reiz Patric Lenhart

Sachverhalt

Erfolgt mündlich.

Beschlussvorschlag

Hintergrund: Mit dem Inkrafttreten des EU AI Act und den bestehenden Pflichten aus der DSGVO (insbesondere Art. 22 zum Schutz vor automatisierten Entscheidungen) rückt die Transparenz algorithmischer Systeme in den Fokus der Verwaltung. Ziel ist es, Innovation zu fördern und gleichzeitig Diskriminierungsrisiken proaktiv auszuschließen.

Fragen:

  1. Einsatzbereiche: In welchen Verwaltungsbereichen oder städtischen Betrieben werden aktuell Systeme eingesetzt, die (teil-) automatisierte Entscheidungen treffen oder vorbereiten und somit potenziell unter die Risikoklassen des EU AI Act fallen könnten? Wo sind solche Systeme künftig geplant oder angedacht und gibt es aktuell laufende Einführungen?
  2. Kontrolle und Diskriminierungsschutz: Wie wird sichergestellt, dass bei kritischen automatisierten Prozessen eine wirksame menschliche Überprüfung ("Human-in-the-Loop") stattfindet, um Fehlentscheidungen oder statistische Verzerrungen (Bias) zu verhindern?
  3. Re-Evaluation: Gibt es Verfahren zur regelmäßigen Überprüfung der Ergebnisqualität dieser Systeme, um beispielsweise Leistungsverschlechterungen über die Zeit (Model Drift) oder neu auftretende Diskriminierungse

_Abschnitt gekürzt. Weiter mit abschnitt=beschlussvorschlag und offset des Eintrags in weiter._

Beratungsfolge

Nebenvorlagen (Stellungnahmen, Änderungsanträge)

260983-01 ST Transparenz und Kontrolle beim Einsatz algorithmischer Systeme

Stellungnahme der Verwaltung

Die Verwaltung nimmt zu den Fragen wie folgt Stellung:

Frage 1: Einsatzbereiche

Die Stadtverwaltung Bonn hält im Rahmen der Umsetzung des EU AI Act und der DSGVO (insbesondere Art. 22) laufend eine Übersicht aller KI-Systeme vor. Aktuell werden keine Systeme eingesetzt, die abschließende autonome Entscheidungen treffen. Alle genannten Systeme unterstützen stattdessen die Arbeit von Mitarbeitenden und erfüllen daher die Vorgaben des Art. 22 DSGVO. Auch für zukünftige Systeme behält die Stadtverwaltung den Grundsatz bei, abschließende Entscheidungen und den Einsatz von KI immer mit einer menschlichen Komponente zu verbinden, sodass die Einhaltung aller rechtlichen und ethischen Voraussetzungen besser gewährleistet werden kann.

Im KI-Transparenzregister der Stadtverwaltung Bonn sind folgende Systeme mit KI-Komponentenerfasst:

Prozessautomatisierung erfolgt derzeit insbesondere im Rahmen der Einführung der Technologie “Robotic Process Automation” (RPA).Es werden zwei Anbieter erprobt. Der Starteiner Pilotierung mit dem Anbieter Ui Path steht derzeit in der Wohngeldstellekurz bevor. Der Anbieter wianco (Tool: EMMA) wurde durch das Kassen- und Steueramt pilotiert und wird in

_Gekürzt._

Dokumente