Für uns GRÜNE NRW gilt das klare Bekenntnis: Technik dient dem Menschen, nicht umgekehrt. Autonome KI-Agenten haben einen weitreichenden Handlungsspielraum; ihr Einsatz in behördlichen Verfahren berührt unmittelbar Bürgerrechte, Transparenz und Diskriminierungsfreiheit. Wir wollen kein blindes Vertrauen in Black-Box-Algorithmen, sondern eine ethische und rechtssichere Digitalisierung im Einklang mit dem europäischen AI Act.
Deshalb braucht der öffentliche Dienst verbindliche Grenzen: Neben klaren Handlungskorridoren muss unmissverständlich definiert sein, was ein KI-Agent niemals eigenständig entscheiden oder auslösen darf – insbesondere dort, wo es um existenzsichernde Leistungen, Bußgelder oder Grundrechtseingriffe geht. Die Letztentscheidung und -verantwortung muss ausnahmslos in den Händen qualifizierter Beschäftigter liegen. Zudem dürfen sensible Daten der Bürger*innen in NRW nicht an intransparente, kommerzielle Plattformen abfließen. Durch den zwingenden Betrieb auf behördeneigenen oder europäisch zertifizierten, souveränen Cloud-Infrastrukturen verbinden wir Datenschutz mit digitaler Souveränität und schaffen das notwendige Vertrauen in einen modernen Staat.