Bundesnetzagentur übernimmt die KI-Aufsicht in Deutschland

Neue Kompetenzen für die Bundesnetzagentur: Ab sofort übernimmt sie die zentrale Rolle bei der Umsetzung der europäischen KI-Verordnung in Deutschland. Diese ergibt sich aus dem «Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz» (KI-MIG), das am Mittwoch in Kraft getreten ist.

Zu den neuen Aufgaben gehört die Überwachung der Einhaltung der KI-Verordnung für KI-Systeme in Funkanlagen sowie grundsätzlich für solche KI-Systeme, die in besonders sensiblen Bereichen zum Einsatz kommen. Dazu zählen beispielsweise bestimmte KI-Systeme im Personalmanagement, in kritischer Infrastruktur oder auch im Bildungssektor. In ihren Zuständigkeitsbereichen überwacht die Bundesnetzagentur zudem die Einhaltung der Transparenzpflichten sowie die verbotenen KI-Praktiken.

Das zentrale Koordinierungs- und Kompetenzzentrum bei der Bundesnetzagentur soll die zuständigen Marktüberwachungsbehörden und notifizierenden Behörden bei komplexen Entscheidungen unterstützen und ihre Zusammenarbeit koordinieren. Die Bundesnetzagentur will bei ihren neuen Aufgaben die Zivilgesellschaft, die Wirtschaft und die Wissenschaft mit einbeziehen.

Die Behörde fungiert zudem als zentrale Anlaufstelle für Fragen zur KI-Verordnung und koordiniert die Zusammenarbeit mit anderen europäischen Behörden. Als zentrale Beschwerdestelle nimmt sie Beschwerden über Verstösse gegen die KI-Verordnung entgegen, bearbeitet diese und leitet sie gegebenenfalls an die zuständigen Behörden weiter.

Förderung von Innovationen

Aktiv sollen Innovationen im Bereich Künstlicher Intelligenz gefördert werden: Kernbaustein ist die Einrichtung eines KI-Reallabors bei der Bundesnetzagentur, welches in einer kontrollierten Umgebung die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme insbesondere für kleine und mittlere Unternehmen (KMU) ermöglicht.

Ein weiteres zentrales Instrument ist der KI-Service Desk. Er bietet schon jetzt Organisationen, Behörden und weiteren Akteuren – insbesondere KMU und Start-ups – niederschwellige Informationen und Orientierung bei der Umsetzung der KI-Verordnung. Dazu gehören ein Online-Tool zur ersten Einschätzung der Risikoklasse von KI-Systemen, aktuelle Informationen zu europäischen Leitlinien und Praxisleitfäden sowie Hinweise zum Aufbau von KI-Kompetenz.

«Die KI-Verordnung ist ein Meilenstein für den verantwortungsvollen Einsatz von Künstlicher Intelligenz in Europa», sagt Klaus Müller, Präsident der Bundesnetzagentur. «Die Bundesnetzagentur wird in ihrer neuen Rolle sowohl die Sicherheit und den Schutz der Grundrechte gewährleisten als auch Innovationen fördern. Wir verstehen uns als Enabler und Ansprechpartner für das gesamte KI-Ökosystem. Unser Ziel ist es, ein vertrauenswürdiges Umfeld für die Entwicklung und Nutzung von KI-Systemen zu schaffen.»