ChatGPT und Co. im Arbeitsverhältnis

Ob Studioinhaber selbst Künstliche Intelligenz (KI) nutzen (I) oder ob die Angestellten diese für die Erledigung ihrer Arbeit einsetzen (II) – es ist höchste Zeit, sich zum einen mit den einzuhaltenden Vorschriften zu befassen und zum anderen interne Regelungen für das eigene Studio zu treffen. (Lesetipp: 'Alles KI?')

Was ist KI und was ist ein KI-System?

Für den Begriff der Künstlichen Intelligenz wurde noch keine einheitliche und eindeutige Definition entwickelt.

Jetzt dem fM WhatsApp-Kanal folgen!

Die wichtigste Eigenschaft ist jedoch die eines 'autonomen Systems'. Dies meint die Fähigkeit, Entscheidungen zu treffen und diese in einer äußeren Welt unabhängig von externer Steuerung oder Einflussnahme umzusetzen.

Ein KI-System ist ein maschinengestütztes System,

• das für einen in wechselndem Maße autonomen Betrieb ausgelegt ist,•
• das nach seiner Einführung anpassungsfähig sein kann und
• das aus dem erhaltenen Input Ergebnisse wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorbringt, die physische oder virtuelle Umgebungen beeinflussen können.

KI bei der Auswahl von Mitarbeitern

Die KI ist inzwischen in viele Bereiche des täglichen Lebens vorgedrungen. Längst wird auch mit dem Einsatz von KI im beruflichen Umfeld experimentiert.

Rechtliche Grundlage

Was erlaubt und was dabei verboten ist, soll auf europäischer Ebene mit dem Artificial Intelligence Act (AI-Act) geregelt werden. (Auch interessant: 'KI in der Fitnessbranche – Freund oder Feind?')

Mit dem AI-Act hat die EU-Kommission den Entwurf eines Gesetzes über Künstliche Intelligenz veröffentlicht. Der Entwurf enthält in dieser Form konkrete Vorschläge zur Regelung im Umgang mit KI in der Forschung und Wirtschaft.

Das Gesetz tritt allerdings erst 20 Tage nach der Veröffentlichung im Amtsblatt der Europäischen Union in Kraft; voraussichtlich am 1. August 2024.

In Gänze kommt der AI-Act sogar erst zwei Jahre nach seiner Verabschiedung und förmlichen Veröffentlichung zur Anwendung.

Die Vorschriften binden nicht nur die Anbieter von KI-Systemen, sondern auch die Unternehmen, die diese Systeme in ihren Betrieben einsetzen.

Daher sollte man sich bei einem möglichen Einsatz von KI bereits jetzt mit dem Grundgerüst der Regelungen vertraut machen.

Auch lesenswert: 'Anspruch auf Urlaub'

Der AI-Act folgt einer Risikoabstufung. Demnach werden KI-Systeme in vier Risikokategorien eingeteilt:

1. unannehmbares Risiko (verbotene KI-Praktiken)
2. hohes Risiko (Hochrisiko-KI-Systeme)
3. begrenztes Risiko (KI-Systeme, die für die Interaktion mit natürlichen Personen bestimmt sind) und
4. minimales oder kein Risiko (unterfallen der KI-Verordnung nicht)

Als Hochrisikosysteme werden u. a. KI-Systeme im Beschäftigungskontext eingestuft, die für die Personalbeschaffung (z. B. Filtern von Bewerbungen, Bewertung von Bewerbern), für Entscheidungen über Beförderungen und Kündigungen von Arbeitsvertragsverhältnissen, für die Aufgabenzuweisung und für die Überwachung und Bewertung der Leistung und des Verhaltens von Arbeitnehmern verwendet werden sollen.

Verbotene KI-Praktiken

Nach Art. 5 des AI-Acts sollen bestimmte KI-basierte Praktiken in der EU insgesamt verboten werden. Auf der Liste der verbotenen KI-Praktiken finden sich Praktiken, die nach Ansicht des EU-Gesetzgebers europäische Werte verletzen, etwa indem sie gegen Grundrechte verstoßen und daher ein inakzeptables Risiko für Betroffene darstellen würden.

Dies gilt z. B. für Folgendes:

• KI-Systeme zum Zweck des Social Scoring
• KI-Systeme zum Zweck der kognitiven Verhaltensmanipulation
• KI-Systeme, die Gesichtserkennungsdatenbanken durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsaufnahmen erstellen
• KI-Systeme zur Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen

Einsatz im Personalbereich

Der Einsatz von KI im Personalbereich, etwa der Einsatz von Chatbots im Rahmen von Bewerbungsprozessen, hat bei größeren Firmen bereits deutlich zugenommen. So kommen Chatbots z. B. bei der Anwerbung von Mitarbeitern zum Einsatz.

Chatbots sind Programme (also Software), die selbstständig auf eingegebene Text- oder Sprachbefehle reagieren bzw. antworten und so auch die Kommunikation mit einem Menschen simulieren können. Die Grundlage des Programmes basiert auf Daten, die Erkennungsmuster und Antworten beinhalten.

Zu Beginn der Entwicklung waren die Antworten der Chatbots meist durch einfache Strukturen vorgegeben, sodass der mögliche Verlauf eines Gespräches vorhergesehen und abgebildet werden musste; nun gibt es bereits Chatbots mit Künstlicher Intelligenz.

Lesetipp: 'Ära der KI'

Ziel der technischen Weiterentwicklung Künstlicher Intelligenz in Bezug auf Chatbots ist, dass die betreffende Person, in diesem Fall der Bewerber, überhaupt nicht merkt, dass er mit einem Programm und nicht mit einem Menschen kommuniziert.

Bei Erstinterviews im Stellenbewerbungsprozess und der Auswertung von Lebensläufen können Chatbots eingesetzt werden, um in Verbindung mit Datenanalysen Prognosen über die Eignung eines Bewerbers zu treffen.

Die Eignung eines Bewerbers wird dann anhand aller gesammelten und zur Verfügung stehenden Daten gleichermaßen berücksichtigt und könnte ausschließlich auf objektiven Kriterien wie Logik und Rationalität basieren.

Rechtliche Risiken

Trotz der Grundlage aus Datenbanken sowie der Programmierung ist die Eigenständigkeit Künstlicher Intelligenz insbesondere durch unabhängige Entscheidungen gekennzeichnet.Folglich ist das Verhalten autonomer Systeme gerade nicht vollständig vorherbestimmt und vorhersehbar.

Werden Bewerbungsgespräche mittels eines Chatbots geführt, muss der Arbeitgeber in gleicher Weise die durch langjährige Rechtsprechung des Bundesarbeitsgerichtes (BAG) festgelegten Fragerechte und -verbote einhalten sowie die Vorgaben des Allgemeinen Gleichbehandlungsgesetzes (AGG) bei der Auswahlentscheidung beachten.

Fraglich bleibt jedoch, wie der Arbeitgeber – insbesondere als informationstechnischer Laie – dies praktisch umsetzen kann, wenn der Chatbot während des Gesprächs eigenständige und rationale Entscheidungen hinsichtlich der zu stellenden Fragen trifft.

Je besser Chatbots mit Künstlicher Intelligenz entwickelt sind, je selbstständiger und selbstlernender sie also agieren, desto weniger sind ihre Entscheidungen vorhersehbar und desto größer ist daher das Risiko z. B. eines AGG-Verstoßes.

Wenn der Chatbot eine unerlaubte Frage im Erstinterview mit dem Bewerber stellt und dieser später abgelehnt wird, könnte der Bewerber die unerlaubte Frage als Indiz (Vermutung des § 22 AGG) dafür geltend machen, dass bei der Auswahlentscheidung nach Maßgabe des § 7 Abs. 1, 1 AGG eine unzulässige Benachteiligung stattgefunden hat und Schadensersatz (§ 15 Abs.1 AGG) und/oder Entschädigung (§ 15 Abs. 2 AGG) fordern.

Klar ist zunächst, dass der Chatbot auch mit autonom agierender Künstlicher Intelligenz keine Rechtspersönlichkeit hat und deshalb nicht selbst haften kann. Den Arbeitgeber als Benutzer des Programms könnte aber eine Schadensersatzpflicht aus § 15 Abs. 1 AGG treffen.

Problematisch ist unter datenschutzrechtlichen Gesichtspunkten das Verbot des Art. 22 Abs. 1 Datenschutz-Grundverordnung (DSGVO). Danach darf ein Betroffener bzw. Bewerber nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen werden, wenn diese eine rechtliche Wirkung entfaltet. Dies wäre im Bewerbungsverfahren die Entscheidung, ob der Bewerber eingestellt wird oder nicht.

Von diesem Verbot wird jedoch eine Ausnahme gemacht, wenn die Entscheidung für den Abschluss oder die Erfüllung eines Vertrags erforderlich ist oder diese mit der ausdrücklichen Einwilligung der betroffenen Person erfolgt (Art. 22 Abs. 2 DSGVO).

Der Bewerbungsprozess dient aber lediglich der Begründung eines Vertrages, sodass die erste Ausnahmemöglichkeit ausscheidet, da noch kein Vertrag vorliegt. Für eine mögliche Einwilligung des Bewerbers wäre eine freiwillige Erteilung einer Erlaubnis zum Einsatz von KI eine zwingende Voraussetzung (Art. 4 Nr. 11 DSGVO).

Nutzung von KI durch Mitarbeiter

Möchte der Inhaber seinen Mitarbeitern die Nutzung von ChatGPT ge- oder verbieten, so gelingt ihm das jederzeit durch die Ausübung seines Weisungsrechtes. Das sog. Direktionsrecht gem. § 106 Gewerbeordnung (GewO) ermöglicht es jedem Arbeitgeber, die Ausgestaltung der Arbeit genauer zu regeln.

Allerdings ist es bisher weit verbreitet, dass eine hohe Dunkelziffer an Mitarbeitern längst die am Markt verfügbaren Tools nutzt, um sich die Arbeit zu erleichtern.

Hinweis: Was nicht verboten ist, ist erlaubt.

Fehlen Vorgaben des Arbeitgebers zur Nutzung von ChatGPT oder anderen KI-Tools und ist grundsätzlich die Nutzung des Internets für dienstliche Zwecke erlaubt, muss der Mitarbeiter nicht davon ausgehen, dass die Nutzung verboten ist.

Ebenso wie die Nutzung von Suchmaschinen (z. B. Google) oder Übersetzern (z. B. DeepL) kann die KI als technisches Hilfsmittel benutzt werden.

Lesetipp: 'Mut zur KI'

Arbeitsvertraglich ist der Mitarbeiter dann nicht daran gehindert, die Hilfsmittel zur Erbringung seiner Arbeitsleistung zu nutzen, um z. B. Trainingspläne zu schreiben. Zwar ist jeder Arbeitnehmer verpflichtet, die Arbeitsleistung in Person zu leisten, jedoch ist KI keine weitere Person, sondern lediglich ein technisches Hilfsmittel.

Risiko der KI – Nutzung durch Angestellte

Die Risiken, die mit der KI-Nutzung von Mitarbeitern entstehen können, sind vielen Unternehmern nicht bewusst. Da die Nutzung der KI immer auch durch die Eingabe von Informationen und Daten funktioniert, können auch wertvolle Unternehmensdaten oder geschützte personenbezogene Daten in das System eingepflegt werden.

Da die KI-Systeme von der Eingabe von Daten 'leben', finanzieren sich gerade die kostenlosen KI-Anwendungen durch die 'Bezahlung mit Daten'. (Auch lesenswert: 'DSSV Recht: Studiokauf und -verkauf')

Unternehmensdaten

Daher sollten Studios, deren Unternehmen von einem exklusiven Datenschatz abhängt, diesen weder selbst noch durch ihre Mitarbeiter ungefiltert in eine KI eingeben.

Dabei ist es egal, ob es sich um ein besonderes Franchisesystem handelt oder um über die Jahre entwickelte spezielle Trainingspläne. Auch besondere Abrechnungssysteme oder gerätegestützte Inhalte würden potenziell an alle Nutzer des Systems weitergegeben.

Personenbezogene Daten

Bei der Eingabe personenbezogener Daten haftet der Arbeitgeber regelmäßig als Verantwortlicher, wenn ein Mitarbeiter solche in die KI-Systeme eingibt. Da häufig die Rechtsgrundlage, z. B. eine Einwilligung, fehlt und auch der von der Datenverarbeitung Betroffene nicht informiert wurde, kann es hier zu erheblichen und kostenintensiven Datenschutzverstößen kommen.

Verpassen Sie keine Fitness-NEWS mehr!
FOLGEN Sie uns bei WhatsApp, Facebook, LinkedIn & Instagram

Möchte z. B. ein Mitarbeiter eine gerechte Arbeitsplanerstellung vornehmen und gibt u. a. Daten seiner Kollegen ein, ist der Arbeitgeber verantwortlich, selbst wenn er die Datenverarbeitung nicht angeordnet oder sogar keine Kenntnis hatte.

Geistiges Eigentum

Die ebenfalls betroffene Kategorie 'geistiges Eigentum und Urheberrecht' wird durch die Nutzung durch Mitarbeiter nur insoweit gefährlich, als dass die Ergebnisse, die ein Mitarbeiter durch die Nutzung erzielt, sich selbst nicht urheberrechtlich schützen lassen (§ 2 Abs. 2 UrhG). Damit können die Arbeitsergebnisse von jedem weiteren Anwender genutzt werden.

Schwierig wird es nur dann, wenn die Mitarbeiter – auch unbemerkt – die Urheberrechte anderer verletzen. Dies kann z. B. geschehen, wenn sie zur Erstellung einer Aufgabe geschützte Bilder nutzen und diese selbst eingeben. (Auch interessant: 'Krank, und jetzt?')

Allerdings besteht auch die Gefahr, dass die KI Ergebnisse produziert, die gesammelten Daten wieder sehr nahekommen, und von dritter Seite Urheberrechtsverletzungen geltend gemacht werden.

Da dies allerdings eher im kreativen und Marketingbereich zu befürchten ist, wird dieses Risiko im Studioalltag keine bedeutende Rolle spielen.

Richtlinien für die Nutzung von KI-Accounts

Wenn das Studio noch keine eigene KI-Infrastruktur aufgebaut hat, ist trotzdem anzuraten, Unternehmensregeln zu erstellen, die im Hinblick auf die erwähnten Risiken sensibilisieren.

Es empfiehlt sich ein Rundschreiben mit einer Arbeitsanweisung, die möglichst viele Einsatzmöglichkeiten für KI abdeckt.

Der DSSV unterstützt seine Mitglieder bei der Erstellung einer geeigneten Anweisung.

Das könnte Sie auch interessieren: 'KI im Studio' | 'Mitgliedsverträge anpassen' | 'Milo+ – Die neue KI'

Zu allen rechtlichen Fragen rund um den Studioalltag bietet die Rechtsabteilung des DSSV im Rahmen einer bestehenden Mitgliedschaft die Möglichkeit, eine kostenlose rechtliche Erstberatung mit Einschätzung der Rechtslage zu erhalten, beispielsweise nach Erhalt einer Attestkündigung, zur Überprüfung von Vertragsklauseln oder zu arbeitsrechtlichen Themen.

Diesen Artikel können Sie folgendermaßen zitieren:

Borrmann, I. (2024). ChatGPT und Co. im Arbeitsverhältnis. fitness MANAGEMENT international, 4 (174), 54–57.