Compliance-Herausforderungen 2024: Das müssen Unternehmen beim Einsatz von KI beachten
RWT-Webinar informiert über rechtliche Herausforderungen bei der Nutzung von KI
Die RWT-Experten Dr. Anke Thiedemann, Fachanwältin für IT-Recht und zertifizierte Datenschutzbeauftrage des TÜV Süd, und Michael Rheinbay, Fachanwalt für Arbeitsrecht, gaben den Teilnehmern einen Überblick über die neue KI-Verordnung und gingen darüber hinaus auf die Bereiche Datenschutzrecht, Urheberrecht und Arbeitsrecht ein.
Die KI-Verordnung („KI-VO“) ist am 1. August 2024 in Kraft getreten. Die EU will mit der KI-VO vor allem einen klaren Rechtsrahmen für Künstliche Intelligenz (KI) schaffen. Dieser Rahmen soll die Einführung von menschenzentrierter und vertrauenswürdiger KI fördern und gleichzeitig ein weltweiter neuer Maßstab für den Schutz von Grundrechten, Demokratie und Rechtsstaatlichkeit sein.
Die Referenten stellten den sachlichen, persönlichen und räumlichen Anwendungsbereich der Verordnung dar und gingen auf den Zeitrahmen und Übergangsfristen ein. Sie erläuterten den risikobasierten Regulierungsansatz der Verordnung, der KI-Systeme in vier Risikokategorien einordnet: KI-Systeme mit unannehmbaren Risiko, Hochrisiko-KI-Systeme, KI-Systeme mit beschränktem Risiko und KI-Systeme mit minimalem Risiko. Je höher das potentielle Risiko, desto strengere Pflichten müssen Anbieter und Betreiber erfüllen. Auch Transparenzpflichten sind zu beachten. Bei Verstößen gegen die KI-VO drohen empfindliche Strafen – je nach Risikokategorie bis zu 7 % des weltweiten Jahreskonzernumsatzes oder 35 Mio. Euro.
Weitere Themen des Webinars waren datenschutzrechtliche Fragestellungen beim Einsatz von KI und das Urheberrecht mit drei für den Einsatz von KI relevanten Themenkomplexen: Rechtsverletzung beim sogenannten Input? Wer ist Urheber des Outputs? Rechtsverletzung durch die neu von der KI erstellten Werke?
Die RWT-Experten betonten, dass es auch arbeitsrechtliche Fragestellungen beim Einsatz von KI gebe. So werden zum Beispiel KI-Systeme zur Bewertung von Arbeitnehmern als KI-Systeme mit unannehmbaren Risiko eingestuft. KI-Entscheidungen, die die Bedingungen oder die Kündigung von Arbeitsverhältnissen oder Beförderungen beeinflussen oder Beobachtung und Bewertung der Leistung und des Verhaltens von Personen durch KI gelten beispielsweise als Hochrisiko-KI-Systeme.
Die Referenten stellten unterschiedliche Anwendungsfälle für KI im laufenden Arbeitsverhältnis vor, wie beispielsweise Prozessoptimierung, Personalverwaltung oder Einsatzplanung. Risiken in diesen Anwendungsfällen sind die Unwirksamkeit getroffener Entscheidungen, Diskriminierung oder Schadensersatzansprüche. Auch die Mitbestimmungsrechte des Betriebsrats und der Einsatz von KI im Bewerbungsverfahren wurden im Webinar angesprochen.
Abschließend machten die Referenten deutlich, dass es kaum eine Branche gibt, die nicht in erheblichem Maße von KI beeinflusst wird. Um Bußgelder zu vermeiden, sollten sich Unternehmen möglichst frühzeitig um die Implementierung der erforderlichen Compliance-Management-Systeme kümmern.
