Der Einsatz von Künstlicher Intelligenz-Systemen (KI) verändert die Arbeitswelt grundlegend und wirft zahlreiche rechtliche Fragestellungen auf. Beschäftigte und Unternehmen müssen insbesondere arbeitsrechtliche, sozialversicherungsrechtliche und datenschutzrechtliche Regelungen beachten.
Arbeitsrechtliche Aspekte
KI darf im Arbeitsverhältnis grundsätzlich eingesetzt werden, sofern gesetzliche Schutzvorschriften eingehalten werden. Zu beachten sind hier der Schutz der Persönlichkeitsrechte der Beschäftigten, die Transparenz der Entscheidungsfindung, das Mitbestimmungsrecht des Betriebsrats sowie ein lückenloser Diskriminierungsschutz (§ 7 Abs. 1 AGG). Automatisierte Einzelentscheidungen in hochsensiblen Bereichen, etwa Abmahnungen oder Kündigungen, sind für Betriebe jedoch nicht durch KI zu treffen und müssen von Menschen durchgeführt werden (Art. 22 DSGVO).
Unternehmen sollten klare Leitlinien für die Nutzung von KI am Arbeitsplatz festlegen, Schulungen durchführen (Art. 4 EU AI Act) und die Qualität der KI-Systeme regelmäßig überprüfen.
Sozialversicherungsrechtliche Aspekte
Im Bereich der Sozialversicherung wird KI vor allem zur Effizienzsteigerung und Qualitätssicherung beispielsweise bei der Beitragsprüfung eingesetzt. KI-Systeme helfen beim Auffinden von Unregelmäßigkeiten und entlasten Mitarbeitende durch datengestützte Analysen. Die neue KI-Verordnung (KI-VO/AI Act, seit 1.8.2024), stuft KI-Anwendungen in verschiedene Risikoklassen ein und erfordert bei hohem Risiko besondere Transparenz, Risikomanagement und genaue Aufsicht durch die Sozialversicherungsträger.
Datenschutz und DSGVO
Jede Nutzung von KI, bei der personenbezogene Daten verarbeitet werden, unterliegt der Datenschutz-Grundverordnung (DSGVO). Die Verarbeitung muss auf einer gesetzlichen Grundlage beruhen, häufig einer wirksamen Einwilligung der Betroffenen. Werden sensible Daten (z. B. Gesundheits- oder Religionszugehörigkeit) verwendet, gelten besonders strenge Vorgaben (Art. 9 DSGVO) ohne deren Einhaltung die Daten gar nicht erhoben werden dürfen. Unternehmen müssen den Einsatz von KI im Verarbeitungsverzeichnis dokumentieren, eine Datenschutz-Folgenabschätzung durchführen und gegebenenfalls Auftragsverarbeitungsverträge abschließen, wenn sie Dritte mit der Erhebung beauftragen. Die Rechte der Betroffenen – wie Auskunft und Löschung – sind auch bei KI-Anwendungen immer zu gewährleisten.
