KI-Gesetze

Künstliche Intelligenz hat Auswirkungen auf die Informationssicherheit: Mit ihr können u.a. Sicherheitslücken aufgespürt, aber auch ausgenutzt werden. Sie kann zudem zur Abwehr von Angriffen auf IT-Systeme eingesetzt werden. Ihr Einsatz kann erhebliche Auswirkungen haben (siehe auch die Lektion Künstliche Intelligenz).

Mit der KI-Verordnung („AI Act“) möchte die Europäische Union einheitliche Vorgaben zum Einsatz von Systemen der Künstlichen Intelligenz schaffen. Sie verfolgt einen risikoorientierten Ansatz, der, je nach Risikohöhe, verschiedene Anforderungen an diejenigen stellt, die KI-Systeme entwickeln und auf den Markt bringen und an diejenigen, die diese einsetzen. Bei der Prüfung, welche Anforderungen zur Entwicklung und zum Einsatz von Systemen der Künstlichen Intelligenz bestehen, steht daher die Risikobewertung an erster Stelle.

Die höchste Risikostufe („Inakzeptabel“) verbietet z.B. den Einsatz von KI für die Analyse sozialen Verhaltens. Hochrisiko-Anwendungen, etwa im Bereich der Sozialhilfe, verlangen u. a. nach einem umfassenden Risikomanagementsystem.

In Deutschland wurden Anpassungen des nationalen Rechts, etwa die Bestimmung der Bundesnetzagentur zur Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle für die KI-Verordnung, durch das „KI-Marktüberwachungs- und Innovationsförderungsgesetz“ vorgenommen. Daneben bestehen landesrechtliche Regelungen wie z.B. im schleswig-holsteinischen IT-Einsatz-Gesetz oder im bayerischen Digitalgesetz.