Mit Inkrafttreten und der Umsetzung des EU-AI-Acts bis 2. August 2026 gibt es erste Regelungen, die einheitliche Vorgaben für die Entwicklung und Nutzung von KI innerhalb der EU schaffen sollen. Ein verantwortungsvoller Umgang kann viele Vorteile mit sich bringen.

Gleichzeitig greifen auch für Verwaltungen Vorgaben aus der KI-VO: Neben Verboten für bestimmte KI-Praktiken (Artikel 5 KIVO) gilt seit 2. Februar 2025 die Verpflichtung für Anbieter und Betreiber von KI-Systemen zur Einleitung von Maßnahmen, die die KI-Kompetenz der Nutzenden fördern (Artikel 4 KIVO). Nach Artikel 3 KIVO gilt eine Behörde als Anbieter, wenn sie ein „KI-System oder ein KI-Modell […] entwickelt oder entwickeln lässt und es […] in Verkehr bringt oder […] in Betrieb nimmt“. Zum Betreiber wird eine Behörde, wenn sie ein „KI-System in eigener Verantwortung verwendet“.

Eine weitere Konkretisierung der Schulungsinhalte oder der Qualifikation von Referierenden nimmt die KI-VO nicht vor, sodass Kommunen entsprechende Formate eigenständig und mit eigenen personellen Ressourcen ebenso durchführen können wie über Schulungsanbieter oder Dritte. Wer geschult werden muss, wird hingegen in der Verordnung geregelt: alle Mitarbeitenden und andere Personen, die mit KI-Systemen befasst sind.

Vor diesem Hintergrund ist eine klare Positionierung erforderlich; andernfalls kann die sogenannte „Schatten-KI“, wenn Mitarbeitende KI ohne offizielle Freigabe nutzen, nicht kontrolliert werden und somit zur Rechtsverletzung führen. Wird die Nutzung durch die Dienststelle offiziell erlaubt, müssen alle Personen geschult werden, die im beruflichen Kontext mit dieser agieren. Bei der Gestaltung von Maßnahmen zur Kompetenzvermittlung sind Vorkenntnisse und Erfahrungen sowie der Anwendungsbereich, in dem KI genutzt werden soll, zu berücksichtigen. Es empfiehlt sich, standardisierte Weiterbildungsprogramme zu etablieren, die nachweisbar dokumentiert und regelmäßig aktualisiert werden.

Darüber hinaus greift ab 2. August 2026 eine Transparenzpflicht (Artikel 50 KI-VO): Anbieter müssen über Interaktionen mit einem KI-System informieren (beispielsweise Chats mit einem KI-Bot anstelle eines Sachbearbeiters) und KI-Systeme kennzeichnen, die Text, Bild oder Audio generieren. Betreiber müssen offenlegen, wenn Inhalte durch KI erzeugt wurden, sofern Letztere Deep Fakes in Form von Bild, Audio oder Video erstellt oder verändert beziehungsweise sofern die Öffentlichkeit durch KI-generierte Inhalte über wichtige Themen informiert werden soll. Hiervon sind Betreiber etwa dann ausgenommen, wenn KI-generierte Inhalte vor der Veröffentlichung durch einen Menschen überprüft oder bearbeitet wurden, der die Verantwortung übernimmt. Wir empfehlen, dies bereits jetzt zu berücksichtigen, ebenso wie weitere rechtliche Vorgaben, zum Beispiel aus der Datenschutzgrundverordnung (DSGVO) oder dem Urheberrechtsgesetz, in internen KI-Regelungen zu verankern.

Quelle: Juni-Ausgabe von die:gemeinde (Verbandsmagazin des Gemeindetags Baden-Württemberg), Referat Digitalisierung

KI rechtssicher nutzen

Mit der neuen EU-KI-Verordnung (KI-VO) gelten erstmals verbindliche Regeln für den Einsatz künstlicher Intelligenz (KI) in öffentlichen Verwaltungen. Das Referat Digitalisierung des Gemeindetags Baden-Württemberg erklärt, was Kommunen beachten müssen.