25.07.2025 |
Am 5. Juni 2025 wurde die erste Folge des Podcasts „AI Shift“ der Tenios GmbH veröffentlicht. In diesem Podcast beleuchten wir, wie Künstliche Intelligenz und Automatisierung heute ganz konkret in Unternehmen eingesetzt werden – praxisnah, verständlich und mit Blick auf echten Mehrwert im Arbeitsalltag.
In dieser Auftaktepisode diskutieren Stefan Kovacs, AI Strategist und Managing Director der Tenios GmbH, und Dr. Inka Knappertsbusch, Rechtsanwältin und Expertin für Arbeitsrecht und KI bei CMS, wie Unternehmen KI rechtskonform integrieren können – trotz regulatorischer Hürden.
Im Folgenden können Sie den Transkript der gesamten Folge (34m 15s) durchlesen und gleichzeitig die Folge anhören.
1. Vorstellung und Begrüßung
2. Ein Mikrochip unter der Haut: Warum Inka Knappertsbusch sich chippen ließ
3. KI und Recht – Wie aus Datenschutz und Arbeitsrecht ein neues Spezialgebiet entsteht
4. KI im Unternehmensalltag: Zwischen Zurückhaltung und Innovationsdruck
5. Betriebsrat und Mitbestimmung: KI-Projekte rechtssicher gestalten
6. Was der EU AI Act für Unternehmen bedeutet
7. Compliance Readiness: So gelingt die rechtssichere Einführung von KI
8. Zwischen Regeln und Pragmatismus: Wie sieht eine gute KI-Strategie aus?
9. Datenschutz beim Einsatz von KI-Assistenten: Was Unternehmen beachten sollten
10. Wer haftet bei Datenschutzverstößen durch KI-Systeme?
11. Ausblick: Das Buchprojekt „Arbeitswelt und KI 2030“
12. Blick in die Zukunft: KI als Fluch oder Segen für die Arbeitswelt?
1. Vorstellung und Begrüßung
Stefan Kovacs: Herzlich Willkommen zu “AI Shift” von Tenios, dem ersten Podcast von Tenios rund um KI Automation für smarte Unternehmen. Ich freue mich sehr, die allererste Folge dieses Podcasts gemeinsam mit einem Gast hosten zu dürfen. Mein Name ist Stefan Kovacs, Geschäftsführer von Tenios. Hier beschäftigen wir uns neben der gesamten Unternehmenskommunikation als Lösungsanbieter auch sehr, sehr stark mit dem Thema Automatisierung im Kundenservice, im Vertrieb mit unserem Lösungsportfolio. Aber jetzt würde ich mich darüber freuen, wenn mein Gast sich selber kurz vorstellt.
Inka Knappertsbusch: Ja. Mein Name ist Inka Knappertsbusch. Ich bin Rechtsanwältin und Fachanwältin für Arbeitsrecht, betriebliche Datenschutzbeauftragte und arbeite bei der Kanzlei CMS Hasche Siegle in Köln. Ich glaube, die Schnittmenge, die wir haben, ist, dass ich mich auch sehr viel mit dem Thema KI beschäftige, weil ich Unternehmen vor allem dabei begleite, KI einzuführen und zu nutzen.
2. Ein Mikrochip unter der Haut: Warum Inka Knappertsbusch sich chippen ließ
Stefan Kovacs: Super, dann Inka bist du genau die Richtige heute für das Thema. Inka. Ich möchte mal am Anfang mit was ganz Ungewöhnlichem anfangen. Du bist ja nicht nur Expertin für Arbeitsrecht und KI, sondern auch vermutlich die erste deutsche Anwältin mit einem implantierten Mikrochip, und das schon seit 2019. Was war denn da der Gedanke dahinter? War das pure Neugier oder Tech-Enthusiasmus? Kannst du sonst da was zu sagen?
Inka Knappertsbusch: Ja, das war so eine Mischung aus Zufall und Berechnung, und zwar war ich im Herbst 2019 auf der Digitalmesse Digital X in Köln und da gab es einen Stand eines Unternehmens, die diese Chips herstellen und ich hatte davon schon gelesen und wusste, dass man das zum Beispiel benutzen kann, zum Bezahlen in der Kantine oder auch um Tickets für Bus und Bahn drauf zu speichern und dann habe ich mich erst mal in die Schlange gestellt, um zu schauen, wie das so funktioniert und hatte dann auch ungefähr eine halbe Stunde Zeit, mir zu überlegen, ob ich das wirklich machen möchte. Und in der Zeit habe ich dann meinen Mann angerufen, damaligen Freund, und der hat dann mir davon abgeraten, weil er dachte, ich werde dann überall getrackt. Ich wusste, aber das ist nicht der Fall. Das ist damit nicht möglich und ich hatte zu dem Zeitpunkt auch gerade meine Dissertation geschrieben zur Einwilligung im Beschäftigungsverhältnis und dachte: “Mensch, das würde doch auch gut passen, wenn ich noch darüber ein Kapitel schreibe.“ Also, wie kann man jetzt diese Mikrochips auf der Basis von wirksamen Einwilligungserklärungen auch im Arbeitsverhältnis verwenden, und das waren dann schon mal Faktoren, wo ich gedacht habe: “Mensch, das passt ja ganz gut zu meinem eigenen Interesse und auch zu meiner Expertise.”
Und das dritte Kriterium, was eine Rolle gespielt hat, ist, was die Entfernung betrifft, das ist gar nicht so leicht, weil das ja unter der Haut implantiert ist, in der Hand. Aber meine Schwester ist praktischerweise Handchirurgin, das heißt, wenn ich mich irgendwann mal dafür entscheiden sollte, das wieder entfernen zu lassen, kann ich das relativ einfach machen. Und dann habe ich einfach gedacht, dann mache ich das und das hat dann 5 min gedauert. und seitdem trage ich das in meiner Hand.
3. KI und Recht – Wie aus Datenschutz und Arbeitsrecht ein neues Spezialgebiet entsteht
Stefan Kovacs: Super. Das heißt, du hast eine ganz persönliche Beziehung zur künstlichen Intelligenz. Jetzt nicht nur, dass du darüber referendieren kannst als Anwältin, sondern das ist auch ganz persönlich. Was hat dich eigentlich dann damals so dazu gebracht, dich so tief in das Thema KI und Recht einzuarbeiten?
Inka Knappertsbusch: Ja, das ist so ein bisschen natürlich entstanden. Also, ich habe am Anfang, als ich angefangen habe zu arbeiten, als Anwältin direkt Datenschutz und Arbeitsrecht zusammen gemacht und habe dann auch relativ schnell Unternehmen dabei unterstützt, IT-Systeme einzuführen, vor allem in Verhandlungen mit Betriebsräten. Wenn man diese beiden Themen gemeinsam bearbeitet, dann ist der Schritt zur KI nicht mehr so weit, und das habe ich dann noch relativ schnell verstanden, dass das ein großes Thema wird, und habe mich dann seit 2020 auch intensiv damit beschäftigt.
4. KI im Unternehmensalltag: Zwischen Zurückhaltung und Innovationsdruck
Stefan Kovacs: Danke dir ja. Lass uns mal zum Thema der Realität in Unternehmen schwenken, zum KI-Arbeitsrecht im Alltag. Also, ich erlebe da halt aktuell beides. Entweder geht man recht unbefangen damit um, oder es gibt eine gewisse Stränge schon im Unternehmen, weil man sich doch intensiver mit der Materie beschäftigt hat. Das heißt, neben den Themen, die sich rund um den Datenschutz drehen, sind wir natürlich als Unternehmen und Partner für unsere Kunden hier an der Stelle auch mehr oder weniger, es kommt auf Unternehmen an, wie schon gesagt, stark gefragt, dieses Thema EU-AI-Act und KI in Unternehmen zu erleuchten. Miteinander haben wir auf beiden Seiten gewisse Verpflichtungen.
So, wenn wir jetzt mal in die Praxis schauen, du arbeitest ja täglich in Unternehmen, die KI in ihre Prozesse integrieren oder integrieren wollen. Was sind denn da so die typischen Stolperfallen, auf die du stößt im Unternehmen? Und wo liegen da vielleicht auch die Chancen? Die gibt es ja immer, jede Medaille hat zwei Seiten. In meiner Sicht vielleicht viel seltener betrachtet werden oder genutzt werden von den Unternehmen.
Inka Knappertsbusch: Ja, ich glaube, da hast du schon viele wichtige Punkte angesprochen. Was ich manchmal so feststelle, ist, dass da Fehlvorstellungen einfach vorliegen darüber, was ist jetzt erlaubt, und was ist nicht erlaubt? Und das führt dann bei einigen Unternehmen, die dann vielleicht eher zurückhaltend sind, dazu, dass sie dann eher davon Abstand nehmen, KI zu verwenden. Und das ist aus meiner Sicht eigentlich genau die falsche Entscheidung, weil, wenn man sich mit dem Thema auseinandersetzt, dann wird relativ schnell offensichtlich, dass in naher Zukunft wahrscheinlich jeder täglich mit KI arbeiten wird, sodass man sich vor dem Thema also auch nicht verschließen kann und das auch nicht auf irgendwie später verschieben sollte. Und das macht es dann natürlich erforderlich, wenn man sich für bestimmte KI-Tools entscheidet, dass man dann überlegt: “Wie kann man sie rechtskonform nutzen?“
Du hast es gerade auch schon gesagt, insbesondere in Bezug auf die KI-Verordnung und die ganzen Pflichten, die da einhergehen, oder natürlich auch was Datenschutz betrifft. Da gibt es ja auch die ein oder andere Konfiguration, die man da vielleicht vornehmen muss, um sicherzustellen, dass das auch in Europa datenschutzkonform genutzt werden kann.
Das sind so die Hauptpunkte und die Vorteile, die liegen, glaube ich, auf der Hand. Also das ist ja auch immer das, was man so liest. KI ist relativ schnell, effizient, kostengünstig, mehr oder weniger zuverlässig. Ich glaube, da wird ja noch dran gearbeitet an der einen oder anderen Stelle und das führt eben dazu, dass es für viele Menschen eine Arbeitserleichterung ist und als solche dann auch gerne genutzt wird.
5. Betriebsrat und Mitbestimmung: KI-Projekte rechtssicher gestalten
Stefan Kovacs: Gut, danke für den Input an der Stelle. Jetzt hattest du das, glaube ich, auch schon gerade eben erwähnt. Wir sind ja da in diesem Verhältnis zwischen Arbeitgeber und Arbeitnehmer unterwegs. Und da haben wir natürlich auch ganz oft eine dritte Partei in Deutschland mit an Bord. Und auch in anderen deutschsprachigen Ländern wie Österreich oder der Schweiz. Da geht es dann um das Thema Mitbestimmung.
Das heißt, wie kann man denn gut vermeiden, dass der Betriebsrat zu einem Thema wird, das nicht auf der Positivseite, sondern auf der Negativseite liegt? Wie kommt man da gut in einen konstruktiven Dialog miteinander, auch gerade wenn es um die Mitbestimmung geht, damit dann nicht von vorne weg gleich die Alarmglocken schrillen und nicht, dass sich wieder die klassische, was man eben oft in anderen Bereichen hier sieht, so eine Frontenbildung entstehen kann?
Inka Knappertsbusch: Ja, das ist in der Praxis tatsächlich gar nicht so einfach, weil das natürlich auch davon abhängig ist, wie ist das Verhältnis zwischen Arbeitgeber und Betriebsrat allgemein, also jetzt nicht nur bezogen auf Ki-themen, und häufig ist es ja, so dass Konflikte teilweise auch jahrelang schon schwelen. und dann wird natürlich jedes neue Thema von Betriebsratsseite häufig besonders kritisch betrachtet, und das machen dann die Verhandlungen entsprechend auch schwerer.
Aber was man da grundsätzlich machen kann, als Arbeitgeber ist, dass man wirklich auf der Beziehungsebene versucht, eine gute Beziehung zu den Betriebsräten herbeizuführen, sodass man auch mal im Vertrauen, was mit denen besprechen kann, ohne dass es jetzt vielleicht in Verhandlungen direkt eskaliert und dass man natürlich auch die Betriebsräte entsprechend schult, dass sie besser verstehen können.
Was ist KI? Wie funktioniert das? Wie funktioniert jetzt das spezifische Tool, das der Arbeitgeber einführen möchte und wie kann da vor allem auch sichergestellt werden, dass hier die Rechte der Mitarbeiter gewahrt sind? Auch wieder zum Beispiel durch datenschutzfreundliche Einstellung, Aufklärung, Trainings usw. Also ich glaube, wenn man sich da wirklich auf beiden Seiten bemüht versucht, kooperativ zusammenzuarbeiten, und letztlich soll es ja auch eine Arbeitsunterstützung für die Mitarbeiter sein, das heißt, deren Arbeit soll erleichtert werden, und wenn das alle Seiten verstehen und auch gemeinsam bereit sind, daran zu arbeiten. Funktioniert das eigentlich ganz gut. Was die Verhandlungen auch betrifft.
6. Was der EU AI Act für Unternehmen bedeutet
Stefan Kovacs: Da kommen wir schon zur Basis für die Gespräche, die da auch entstehen können, neben dem eigentlichen Einsatz von KI. Die EU hat sich natürlich hier drüber auch Gedanken gemacht. Wir sind jetzt auch in diesem Jahr mit, ich sag mal, der Veröffentlichung und Nötigkeit des EU-Acts, EU-IA-Acts, konfrontiert. Das heißt, es gibt neue Regeln, damit natürlich auch, was ich so sehe, neue Unsicherheiten, weil noch keiner die Regeln für sich angewendet hat, an der Stelle.
Da kommt natürlich ihr jetzt mit dem Fachgebiet im Recht zu tragen. Da hört man euch an, da beratet ihr Unternehmen. Du hast es ja auch schon an der Stelle gesagt. Und du hast dir mit Sicherheit die Verordnung schon ganz, ganz intensiv anschauen dürfen. Ich bin mir auch sicher, dass die meisten unserer Zuhörer und Zuhörerinnen davon schon arg gehört haben oder sich intensiver damit auseinandersetzen. Wie würdest du denn in Kürze für die, die eben nur mal den kurzen Blick gewagt haben oder das gelesen haben, was in der Presse steht, mal definieren, was die Bedeutung ist für die Unternehmen?
Inka Knappertsbusch: Also, die Bedeutung ist tatsächlich groß, weil die KI-Verordnung ja alle Beteiligten verpflichtet, die irgendwas mit KI zu tun haben, um das mal einfach darzustellen, also insbesondere natürlich Unternehmen, die selber KI entwickeln, aber auch solche, die KI einsetzen, und das werden perspektivisch die meisten Unternehmen sein, das heißt, das macht es schon erforderlich, dass man sich da auch mit den Regelungen auseinandersetzt.
Das ist ja das Modell, was dahinter steckt. Je nach dem Risikosystem, in das das jeweilige KI-System einzuordnen ist oder die jeweilige Risikoklasse überlegt, was für Pflichten kommen da auf uns zu und wie können wir die vor allem erfüllen? Und das ist tatsächlich gar nicht so leicht, weil das relativ komplex ist und weil es natürlich auch noch nicht so viele Interpretationshilfen gibt. Also, wie muss man jetzt zum Beispiel die einzelnen Voraussetzungen verstehen? Was kann man dazu beitragen, um sicherzustellen, dass sie auch wirklich erfüllt wird. und das ist so ein bisschen die Schwierigkeit, vor der gerade viele Unternehmen stehen.
Stefan Kovacs: Ist genau auch meine Wahrnehmung an der Stelle. Das kann natürlich für uns als ein Unternehmen, das diese Technologie natürlich in Einsatz bringen möchte, bei seinen Kunden dort auch fachlich überzeugen kann, betriebswirtschaftlich aufzeigen kann, dass es durchaus sinnvoll ist, in Kundenservice oder Vertriebsbereichen so eine Technologie einzusetzen, wo man eh. Ein gewisses Maß an Kürzungen sehen bzw. gar nicht mehr das Personal verfügbar ist, die Menschen nicht im Kundenservice unbedingt vorrangig arbeiten wollen, dass es dort natürlich ein natürliches Einsatzgebiet gibt.
Aber aus deiner Sicht, wenn wir jetzt in die Richtung von Geschäftsleitung HR-Teams schauen: Was müssen und sollten dort die Manager auf alle Fälle mal verstehen? Ich sag mal so als Must-Know, um sich dann nicht, in dem ich sag mal, Paragraphen Dschungel zu verlieren.
Inka Knappertsbusch: Also im Moment ist es noch relativ entspannt, weil zwar die KI-Verordnung letztes Jahr im August in Kraft getreten ist, aber die einzelnen Regelungen ja erst nach und nach Wirkung entfalten. Und die Einzigen, die jetzt schon relevant sind, sind die Verbote also von den KI-Systemen, mit denen ein unannehmbares Risiko verbunden ist. Die dürfen nicht mehr verwendet werden. Seit Februar diesen Jahres und das zweite, was relevant ist, ist die KI-Kompetenz. Das heißt, Unternehmen, die zum Beispiel KI einsetzen, sind dazu verpflichtet, ihre Mitarbeiter entsprechend zu schulen sodass die Mitarbeiter, insbesondere die Chancen und Risiken verstehen, die mit Ki verbunden sind und auch einen Überblick haben über die wesentlichen Regelungen, die da in rechtlicher Hinsicht zu beachten sind. Also, das gilt auch schon seit Februar diesen Jahres, und die anderen Regelungen entfalten erst nach und nach Wirkung.
Das heißt, wenn man das erst mal sichergestellt hat, für den Moment kann man sich ein bisschen entspannen, und dann wird sicher nächstes Jahr im August relevant. Wenn man Hochrisiko-KI-Systeme einsetzt, dann hat man einen ganzen Katalog an Pflichten, der zu erfüllen ist, und das, was ich da am schwierigsten zu erfüllen halte, ist die Pflicht zur menschlichen Aufsicht, und das liegt daran, dass diese menschliche Aufsicht nicht von jeder Person erfüllt werden kann. Sondern diese Person muss über die erforderliche Ausbildung und Kompetenz unter anderem verfügen und das ist ja gar nicht so leicht zu bekommen, weil es ja gar keine anerkannten Ausbildungen gibt, die diese KI-Kompetenz vermitteln können.
7. Compliance Readiness: So gelingt die rechtssichere Einführung von KI
Stefan Kovacs: Ja, auch eine Feststellung von mir, wenn ich mich ein bisschen umsehe im Netz. Es gibt ja mittlerweile viele Anbieter auch von Schulungsmaßnahmen exakt zu diesem Zweck, den du gerade beschrieben hast. Aber jetzt noch ein bisschen tiefer und konkreter. Vielleicht, wenn jetzt die Unternehmen tatsächlich konkret loslegen wollen, müssen, weil aus der Geschäftsführung eben der Drang ins Unternehmen hinein besteht und Aufgaben verteilt werden, mit dem Thema sich auseinanderzusetzen oder auch schon konkrete Lösungen zu implementieren. Was sind denn so die typischen Stolpersteine, auf die man treffen kann, um zu dieser Compliance Readiness, so nenne ich es mal, zu kommen? Und wie überwindet man sowas?
Inka Knappertsbusch: Also, Compliance hat ja ein weites Feld. Da geht es ja im Prinzip um alle rechtlichen Vorschriften, die irgendwie einzuhalten sind. Das heißt, wir reden hier ja nicht nur über die KI-Verordnung, sondern daneben über weitere Themen, wie zum Beispiel Datenschutz, Urheberrecht, Arbeitsrecht und sicher noch weitere Aspekte, die da eine Rolle spielen können, und das macht es erforderlich, dass man sich intensiv damit auseinandersetzt, wie das System eingesetzt werden soll, wie das funktioniert, welche Daten es verarbeitet usw. und dann überlegt, wie kann ich das in den jeweiligen Bereichen so hinbekommen, dass wir hier keine Rechtsverletzungen haben. Und das ist gar nicht so leicht, weil man natürlich erst mal einen Überblick darüber haben muss. Was gibt es da für Regelungen, und dann entsprechend sicherstellen muss, dass das auch alles eingehalten wird und was die meisten Unternehmen da machen und was auch relativ gut funktioniert, Wenn es eben an dem einzelnen Expertenwissen auch fehlt, ist, dass man so interdisziplinäre Compliance-teams zusammenstellt, das heißt, die bestehen dann in der Regel aus Mitarbeitern, aus verschiedenen Abteilungen, also zum Beispiel Recht, Datenschutz, IT, HR und vielleicht auch weitere, und die schauen sich das dann an, welche konkreten Anforderungen bestehen für die jeweiligen Systeme, die gerade eingesetzt werden oder zukünftig eingesetzt werden sollen und die überlegen sich dann auch gemeinsam Strategien, wie man sicherstellen kann, dass hier insbesondere keine Rechtsverletzungen begangen werden.
8. Zwischen Regeln und Pragmatismus: Wie sieht eine gute KI-Strategie aus?
Stefan Kovacs: Ja du, danke für deinen Einblick an der Stelle. Ich würde nochmal ganz kurz so ein bisschen konkreter werden wollen, genau da in dem Bereich Compliance, Mitbestimmung, so in diesem, ich nenne sie mal, graue Zone zwischen den eigentlichen Regeln und vielleicht dem Pragmatismus, den man an der Stelle dort auch anwenden kann, ja. Weil es ist ja so, wenn ich das jetzt gerade auch von dir gehört habe, dass viele Unternehmen ja auch relativ schnell merken, dass es ohne klare Richtlinien und Vereinbarungen halt gar nicht geht, ja, und du hast ja auch schon ein bisschen ausgeführt, dass du sie dabei konkret auch unterstützen kannst, ja. Aber meine Frage ist da einfach, was macht denn da aus deiner Sicht eine gute, praxistaugliche KI-Strategie aus, die auch dann rechtlich sicher ist auf der einen Seite, aber eben auch nicht alle Bemühungen bei dem Thema, diese neue Technologie für sich, für sein Unternehmen, für seine Kreativität zu nutzen, ausbremst?
Inka Knappertsbusch: Also ganz konkret: Was da sicher helfen kann, ist, wenn man eine KI-Richtlinie etabliert. Da wird ja dann üblicherweise drin geregelt, was die Mitarbeiter beachten sollen, wenn sie KI einsetzen, und das ist deswegen sinnvoll, weil man da als Arbeitgeber dann relativ einfach sicherstellen kann, dass diese Risiken, die ja gerade auch dann in Rechtsverletzungen bestehen, möglichst minimiert werden, weil die Mitarbeiter zum einen darüber informiert werden, was diese Risiken sind und auf der anderen Seite auch, wie sie sie vermeiden sollen, durch konkrete Handlungen und das hilft dann in der Regel ganz gut, diese Risiken einzudämmen. Das machen auch die meisten Unternehmen schon.
Stefan Kovacs: Ok, das heißt, es gibt schon Tools, Templates, mit denen diese Prozesse beschrieben werden können, um im Unternehmen sicherzustellen, dass der Einsatz entsprechender Richtlinien auch gewährleistet ist. Das heißt, es funktioniert eigentlich ganz einfach, wenn man sich damit beschäftigt, oder?
Inka Knappertsbusch: Genau. Also, ich habe noch nie irgendeinem Unternehmen gesagt, dass sie KI nicht einsetzen dürfen, weil das nicht compliant wäre und ich glaube, das ist auch kaum vorstellbar. Also, man kriegt das schon immer irgendwie hin, vielleicht nicht immer so hundertprozentig wie der Anbieter das vorschlägt. Aber mit ein bisschen Konfiguration kann man das auf jeden Fall rechtskonform und rechtssicher auch hinbekommen, und das sollte nie ein Hindernis sein, dass man aus irgendwelchen Compliance-Gründen meint, man könnte jetzt keine KI einsetzen.
9. Datenschutz beim Einsatz von KI-Assistenten: Was Unternehmen beachten sollten
Stefan Kovacs: Kommen wir mal zu der Rubrik, die, denke ich, für jetzt die Zuhörer interessant ist und die wir natürlich auch ganz gern näher beleuchten wollen, weil wir natürlich in der Realität da ganz oft drauf stoßen und dafür auch Regelungen bereitstellen müssen. Ja, das ist dann einfach der Bereich, wo man sagt: Jetzt wird die KI schon Kundenservice in Vertriebsprozessen konkret eingesetzt, als beispielsweise KI-Telefonassistent, als Chat-Assistent auf der Webseite über Social-Messenger-Dienste über die Webseite des Unternehmens. Jetzt ist es natürlich dort, sodass die Geschäftsleitungen sich dort im Unternehmen Sorgen machen, speziell beim Thema Datenschutz. So, was sollten jetzt die Unternehmen bei der Wahl eines Partners eines Anbieters solcher Lösungen beachten, gerade wenn es um den Datenschutz geht.
Inka Knappertsbusch: Also wichtig ist aus meiner Sicht vor allem, dass man einen Vertrag schließt mit dem Anbieter. Also, es gibt ja gerade bei diesen generativen KI-Modellen verschiedene Optionen. Viele kennen das ja zum Beispiel von ChatGPT wo die Mitarbeiter sich dann selber Accounts erstellen, es aber eben keine vertragliche Beziehung gibt zwischen dem Arbeitgeber und dem Anbieter des Systems. Diese vertragliche Beziehung ist in datenschutzrechtlicher Hinsicht der Auftragsverarbeitungsvertrag und das ist deswegen so wichtig, weil da genau geregelt ist, wie die personenbezogenen Daten geschützt werden, die da zum Beispiel dann eingegeben werden von den Mitarbeitern oder die da erhoben werden, durch die Nutzung.
Und das gibt dann den Unternehmen auch die Sicherheit, dass diese Daten dann zum Beispiel nicht verwendet werden für das Training der KI, und dass da insbesondere auch sichergestellt ist, dass die Daten nicht als Output erscheinen können, also als Ergebnis bei Nutzern, die zu anderen Unternehmen gehören.
Und diese Sicherheit hat man nicht, wenn die Mitarbeiter sich selber Accounts erstellen und vielleicht auch nicht entsprechend sensibilisiert sind über diese Möglichkeiten, das entsprechend einzustellen.
Wenn man das aber macht, dann ist das aus meiner Sicht, was die Risiken betrifft, nichts anderes als zum Beispiel auch Verträge mit IT-Anbietern. Das ist auch genau das gleiche Vertragsverhältnis. Auch da wird ein Auftragsverarbeitungsvertrag geschlossen, und deswegen ist es in rechtlicher Hinsicht zumindest überhaupt kein Unterschied, ob hier jetzt KI oder IT zum Einsatz kommen.
10. Wer haftet bei Datenschutzverstößen durch KI-Systeme?
Stefan Kovacs: Jetzt habe ich noch für diesen Bereich, für unseren Podcast, noch eine abschließende Frage. Und zwar arbeiten wir natürlich hier bei Tenios datenschutzkonform. Da mache ich mir nicht so viele Gedanken an der Stelle. Da haben wir auch sehr, sehr gute Gespräche mit den Datenschutzverantwortlichen in den Unternehmen, bevor wir in den Einsatz mit unseren Lösungen kommen. Aber es ist halt so, nicht alle Tools respektieren die Sicherheit der Daten entsprechend. Da wäre meine Frage, wer haftet denn dann bei solchen Datenschutzverstößen durch KI-Systeme?
Inka Knappertsbusch: Also letztlich verantwortlich ist, ja immer der Verantwortliche im datenschutzrechtlichen Sinne, und das ist ja dann der Auftraggeber, also das Unternehmen, was KI einsetzt und was dann die Auftragnehmer, also im datenschutzrechtlichen Sinne, die Auftragsverarbeiter beauftragt, da Leistungen zu übernehmen, und deswegen ist es eben so wichtig, dass man bei der vertraglichen Gestaltung darauf achtet, dass das wirklich alles abgesichert ist, weil eben letztlich dann der Arbeitgeber dafür haftet, und das ist ja, was was wir vermeiden möchten.
11. Ausblick: Das Buchprojekt „Arbeitswelt und KI 2030“
Stefan Kovacs: Okay, verstanden. Ich denke, viele unserer Zuhörer sind sich der Tatsache bewusst, aber man muss es einfach an der Stelle immer wieder erwähnen. Und deswegen werden auch die Maßstäbe an uns als Lieferanten entsprechend hoch im Unternehmen gehalten, damit die Unternehmen ihre Risiken auf ihrer Seite entsprechend gering halten können. Da wollte ich nochmal in dem Zusammenhang auf ein weiteres interessantes Thema kommen, gemeinsam mit unseren Zuhörern. Und zwar ist das auch ein Buchprojekt, das du gerade hast. Also, Arbeitswelt und KI 2030 heißt, glaube ich, das Buchprojekt bei dir. Und du hast dich ja dann nicht nur operativ mit dem Thema KI und Arbeit befasst, sondern jetzt auch strategisch. Du bist mit Herausgeberin dieses Buchs Arbeitswelt und KI 2030. Was war deine Motivation, dass du sagst, jetzt machen wir auch noch ein Buch zu dem Thema, wo du doch Unternehmen schon berätst an der Stelle. Worum geht es da und was habe ich als Leser am Ende davon, wenn ich das Buch gelesen habe?
Inka Knappertsbusch: Ja. Also das ist ja schon die zweite Auflage dieses Buches, die dann erscheinen wird. Wir haben das ursprünglich im Jahr 2021 meine ich veröffentlicht und die Idee damals war, dass mein Mitherausgeber Kai Gondlach und ich uns überlegt haben,
was wird da relevant und vor allem, wie wird KI die Arbeitswelt der Zukunft verändern?
Und da wir natürlich unsere eigenen Perspektiven auf das Thema haben, aber die natürlich andererseits auch beschränkt sind, haben wir gedacht, das ist am besten, wenn wir das für verschiedene Branchen abfragen, von den jeweiligen Branchenexperten, und deswegen fungieren wir in erster Linie als Herausgeber, und da haben wir ganz viele tolle Beiträge aus unterschiedlichsten Branchen von Experten in ihren jeweiligen Gebieten, teilweise aus der Praxis, teilweise auch aus der Wissenschaft.
Und diese Idee, die wir damals hatten, dass das so ein bisschen verständlicher wird und auch absehbarer wird für die Unternehmen, die sich ja dann letztlich auch damit befassen müssen, welche KI-Systeme sie wofür einsetzen. Die gibt es natürlich heute auch noch, weil das Thema ja jetzt auch wirklich in der Öffentlichkeit angekommen ist und sicher viele Unternehmen auch eine Strategie entwickeln, wie sie langfristig damit umgehen möchten. Und dieser Blick in die Zukunft, hoffen wir, wird dann den Unternehmen auch ein bisschen helfen, das perspektivisch einzuschätzen, weil wir eben durch die tollen Autoren, die wir gewinnen konnten, diese Themen auch von ganz unterschiedlichen Perspektiven beleuchten können.
Stefan Kovacs: Okay, jetzt hast du den Spannungsbogen schon hochgehalten, jetzt würde mich und ich denke auch die Zuhörerinnen und Zuhörer interessieren, wann wird denn die neue Auflage, die du erwähnt hast, veröffentlicht? Gibt es schon ein Datum?
Inka Knappertsbusch: Das fragen mich die Autoren auch immer, wir arbeiten da ja mit einem Verlag zusammen, und es liegt gerade bei denen zur Erstkorrektur. Wie lange das dauert, ist ganz schwer einzuschätzen. Also, ich hoffe, dass das Buch auf jeden Fall noch dieses Jahr rauskommt, aber wir haben unsere Arbeit getan. Wir haben alles fristgerecht abgegeben, und jetzt warten wir eben auf die Erstkorrektur und wenn wir die bekommen, können wir die freigeben, und dann geht es auch in den Druck. Also, hoffentlich geht es schnell, aber ein festes Öffentlichkeitsdatum haben wir noch nicht.
11.1 Beitrag von Tenios: KI im Kundenservice – Wie KI-Voicebots die CX und den Arbeitsalltag verbessern
Stefan Kovacs: Ok, da greife ich mal ganz kurz schon ein bisschen vor. Es gibt ja da auch einen Beitrag, den meine Kolleginnen, die Sofia Pereira und Gregor Mohr, mit eingebracht haben. Da beleuchten sie das Thema KI-Assistenten für Kunden, für Customer-Expertise und wie man den Arbeitsalltag an der Stelle und Service verbessern kann. So, was findest du jetzt gerade an dem Thema besonders relevant, vor allem aus natürlich auch der rechtlichen Perspektive?
Inka Knappertsbusch: Ja, das ist deswegen interessant, weil Kundenservice betrifft, ja so ziemlich jedes Unternehmen, und deswegen ist das auch ein besonders wichtiger Beitrag, weil der zeigt, wie man da auch heute schon KI einsetzen kann und der zeigt vor allem auch, dass es in Zukunft wahrscheinlich wesentlich sein wird, um hier erfolgreichen Kundenservice auch leisten zu können. und in rechtlicher Hinsicht sind dann natürlich die gleichen Grundsätze zu beachten wie sonst, auch wenn es um KI geht.
Da hatten wir auch schon drüber gesprochen, insbesondere natürlich dann die Vereinbarkeit mit den Anforderungen der KI-Verordnung, die da sicher eine Rolle spielt, insbesondere wenn Chatbots zum Tragen kommen. Da haben wir ja unter Umständen gewisse Transparenzpflichten, wo das dann kenntlich zu machen ist. Das wird dann auch interessant, wie das umgesetzt wird.
11.2 Bias und Diskriminierung durch KI: Risiken im Recruiting vermeiden
Stefan Kovacs: Dankeschön für deinen Einblick. Ganz spannend wird es nochmal, denke ich, und das ist auch gerade ein Thema, das ziemlich gehypt wird, an der Stelle im Zusammenhang mit Einsatz künstlicher Intelligenz. Das ist natürlich das Thema Bias, also ungewollte Diskriminierung durch die KI. Ja, ungewollte, ich sage das jetzt extra so, ungewollte Diskriminierung. So etwas ist natürlich besonders interessant, oder die KI ist besonders interessant, wenn man die natürlich in Recruiting-Prozessen einsetzt und dann auch nutzt für die automatische Entscheidungsfindung, für den Entscheidungsprozess. Ich meine, da lauert natürlich schon nahe vorneweg die Gefahr einer Diskriminierung durch die KI, weil man bestimmte Muster erkennen kann und weil man vielleicht auch sagen kann, so, dieser Lebenslauf, der ist echt, der ist gefakt, der entspricht wahrscheinlich der Wahrheit auseinander, etc. Da kann man viele Dinge damit machen. Jetzt, bei uns trifft es nicht so ein, weil wir nutzen natürlich auch, oder unsere Kunden, diese KI-Assistenten im Bewerbungsprozess, aber wir entscheiden nicht, wie der KI während des Bewerbungsprozesses weiterkommt. Das machen dann normalerweise die entsprechenden ausgebildeten Mitarbeiterinnen und Mitarbeiter im HR-Prozess oder speziellen Agenturen an der Stelle.
Was wir tun hier ist, dass wir uns halt, selbst bei Akzenten oder Dialekten oder wenn die Sprache, in der man spricht oder in der man schreibt, vielleicht gebrochener ist, grammatikalisch nicht optimal ist, dann nehmen wir das natürlich nur dazu her, um es zu transkribieren. Aber es gibt halt auch diese Fälle von Lebenslauf-Screenings mit KI-Tools. Ich habe das gerade eben mal kurz schon angerissen. Du hast das, glaube ich, auch schon mal in einem Vortrag erwähnt, dass zum Beispiel dann männliche Kandidaten favorisiert werden. Warum ist das so? Weil natürlich mit solchen Daten dann die Tools entsprechend trainiert werden. Das heißt, da haben wir dieses Biasing dann schon mal ganz offensichtlich vor uns liegen. Wie können die Unternehmen hier auch sicherstellen, dass ihre Systeme halt fair agieren, sie den EU-IA-Act auch einhalten, um auch solche Situationen ganz generell zu vermeiden?
Inka Knappertsbusch: Also, da hast Du schon was Wichtiges angesprochen, nämlich die Ursache. Woran liegt das häufig also? Es sind vor allem 2 Ursachen. Das eine ist, dass die Daten, mit denen das KI-System trainiert worden sind, selber nicht neutral sind, weil es dann zum Beispiel überwiegend viele Daten von einer bestimmten Gruppe gibt. In dem Fall dann zum Beispiel Männern, und das würde dann im Ergebnis, wie du auch richtig gesagt hast, häufig dazu führen, dass Frauen dann im Recruiting-Prozess aussortiert werden, weil das KI-System meint, dass Frauen für diese Stellen eben nicht so geeignet sind.
Was kann man da machen als Unternehmen? Hier könnte man dann zum Beispiel sicherstellen, beim Training der KI, dass die Daten der Minderheit, also in dem Fall der Frauen, so lange multipliziert werden, bis die Datenlage ungefähr ausgeglichen ist.
Das heißt, dass wir ungefähr gleich viele Daten haben, von Männern wie Frauen, und was man auch berücksichtigen muss, und das ist die zweite Ursache für solche Verzerrungen oder Bias ist die Programmierung des Algorithmus. Also auch da kann man ja schon Voreingenommenheiten reinprogrammieren, zum Beispiel dann, wenn für eine Beförderung abgestellt wird, auf die durchschnittliche Arbeitszeit.
Frauen arbeiten ja statistisch gesehen häufiger in Teilzeit, das heißt, sie hatten also weniger Arbeitszeit und würden dann auch durch einen solchen Algorithmus benachteiligt, und das muss man dann eben schon bei der Programmierung berücksichtigen bzw. da entsprechend sensibel sein und von vornherein verhindern, dass hier irgendwelche Verzerrungen in die KI hineinprogrammiert werden, die sich dann im Ergebnis diskriminierend zeigen können.
Das ist natürlich auch eine rechtliche Komponente, weil wir haben in Deutschland das allgemeine Gleichbehandlungsgesetz, was insbesondere auch Beschäftigte vor Diskriminierung schützt, und wenn man dann sich zum Beispiel bewirbt und dann von der KI aussortiert wird, aufgrund eines Diskriminierungsmerkmals wie des Geschlechts oder des Alters, dann könnte man hier entsprechend auch Schadensersatz geltend machen, gegenüber dem Unternehmen und das ist gar nicht so wenig. Das ist in der Regel nämlich 3 Bruttomonatsgehälter des Jobs, den man da nicht bekommen hat.
Und daneben haben wir dann natürlich auch möglicherweise Reputationsschäden des Unternehmens, die solche KI-Systeme einsetzen, also schon aus den Gründen sollte man da besonders vorsichtig sein und versuchen, das zu vermeiden.
12. Blick in die Zukunft: KI als Fluch oder Segen für die Arbeitswelt?
Stefan Kovacs: Also, es gibt nach wie vor noch viel zu tun und auch viel zu beachten. Aber nochmal in Bezug auf dein Buch. Und wenn du jetzt mal einen Blick so in die Glaskugel werfen könntest oder würdest.
Wird die KI im Jahr 2030 jetzt für oder gegen Unternehmen arbeiten, oder kann so ausgelegt werden? Was ist mit den Mitarbeitern aus deiner Sicht, was passiert dort? Wird KI dann zum Fluch oder Segen, was ja sehr kontrovers immer noch diskutiert wird. Und wieso? Also, ich bin da schon mal gespannt auf deine Meinung und vielleicht so diesen ersten Blick auf den Ausblick, der dann auch im Buch sein wird.
Inka Knappertsbusch: Also das kommt natürlich immer auf die Perspektive drauf an, ob man das jetzt als Fluch oder als Segen betrachtet. Aus meiner Sicht ist das ein Segen, weil das viel Arbeit erleichtert. Aber man darf natürlich auch nicht die Augen verschließen vor den ökonomischen Konsequenzen, die das haben kann.
Also ich glaube, wir müssen uns keine Illusionen darüber machen, dass KI auch den einen oder anderen Job ersetzen wird. Auf der anderen Seite werden durch KI natürlich auch viele Jobs neu geschaffen, und es ist auch eine Technologie, wenn man sich jetzt damit beschäftigt oder jetzt damit anfängt, sich zu beschäftigen, man kann hier immer noch relativ schnell zum Experten oder zur Expertin werden, das heißt, es bietet auch neue Möglichkeiten, hier zu neuen Erwerbsmöglichkeiten zu kommen, bzw. sich neue Business-Modelle mit KI zu überlegen.
Von daher ist es aus meiner Sicht ein Segen. Aber das wird auch sehr viele Veränderungen mit sich bringen in den Unternehmen, aber natürlich auch auf gesamtgesellschaftlicher Ebene, und das wird dann sicher auch Aufgabe des Staates sein, da irgendwie sicherzustellen, dass niemand abgehängt wird und dass die Personen, die dann vielleicht durch KI ihren Job verlieren, entsprechende Weiterbildungsmöglichkeiten erhalten, um dann neue Beschäftigungen zu finden.
Stefan Kovacs: Super, wir dürfen gespannt bleiben. So Inka, wir kommen so langsam ein bisschen zum Schluss. Also ich fand es toll, dass wir diese Einblicke von dir erhalten haben. Also für mich heißt es jetzt erst mal mit dem richtigen rechtlichen Beistand der Betrachtung frühzeitig anfangen. Mit einer Spezialistin, Spezialisten sprechen, die sich auch dieses Rechtsgebiet zu eigen gemacht haben. Macht an der Stelle Sinn. Also keine Angst haben, keinen Kopf in den Sand stecken, sondern sich ganz offensiv mit dem Thema auseinandersetzen, weil wir es einfach nicht mehr abschütteln werden in der nächsten Zeit, wie das einfach aussieht an der Stelle. Und ich hoffe natürlich, dass das für unsere Zuhörer und Zuhörerinnen ein wertvoller Beitrag war, wie sie ihre Zukunft im Unternehmen als Mitarbeiter, als Führungskraft gestalten. Deswegen möchte ich an der Stelle erst einen Dank an dich sagen für die Zusammenarbeit in diesem Podcast mit der Tenios und mit mir.
Inka Knappertsbusch: Vielen Dank auch von meiner Seite. Es hat Spaß gemacht, und ich wünsche den Zuhörerinnen und Zuhörern viel Spaß, nicht nur bei der Folge, sondern auch bei allen weiteren, die ihr produzieren werdet.