#12 Künstliche Intelligenz im Unternehmen – Die Rolle von Aufsichtsrat und Betriebsrat

00:00:01: Fokus Aufsichtsrat.

00:00:03: Das Update für starke Mitbestimmung.

00:00:06: Ein Podcast des Instituts für Mitbestimmung und Unternehmensführung der Hans-Böckler-Stiftung.

00:00:14: Und damit hallo und herzlich willkommen zu einer neuen Folge Fokus Aufsichtsrat, der Dezember-Folge und damit auch der letzten Folge für dieses Jahr.

00:00:21: Schön, dass ihr da seid.

00:00:22: Ich bin Linda Achtermann, Freitag-Journalistin und Host dieses Podcasts.

00:00:26: Und heute gibt's an dieser Stelle eine kleine Veränderung im Team.

00:00:30: Mit mir ist nämlich heute dabei meine liebe Kollegin Cosima Stelgner.

00:00:34: Hi, Cosima, schön, dass du da bist.

00:00:36: Hallo,

00:00:36: Linda, ich sprang mich auch mega.

00:00:39: Man merkt es schon, wenn man uns hört, wir lächeln beide ganz doll, weil wir kennen uns schon ein bisschen länger.

00:00:44: Wir haben auch schon gemeinsam Podcast-Erfahrungen gesammelt und es ist so ein full circle Moment, dass wir uns hier wieder treffen.

00:00:50: Vielleicht

00:00:51: für

00:00:51: alle, die dich noch nicht so lange kennen und mit dir schon Podcast-Erfahrungen gesammelt haben, stelle dich doch einmal vor, was machst du denn eigentlich im IMU und worauf freust du dich denn hier diesem Podcast besonders?

00:01:02: Ich freue mich erstmal auch mega, dass ich sie da mit dir zusammenzuwachen.

00:01:05: Ich arbeite am Institut für Mitbestimmung, Unternehmensführung und bin der Forschungsreferentin.

00:01:09: Also ich arbeite quasi in so einer Stabstelle unserer Institutsleitung und habe deswegen eigentlich auch einen ganz guten Überblick über das, was am Institut so passiert, also über die Laufendenprojekte und das woran die Kolleginnen und Kollegen gerade so gespanntes arbeiten.

00:01:21: Kennt das aber meistens eher so ein bisschen oberflächlicher, weil ich eben versuchen muss, bei allem so ein bisschen mit die Ohren drin zu haben, Ohren und Augen.

00:01:29: Deswegen freue ich mich aber besonders hier im Podcast nochmal in die Tiefe zu gehen und auf die Interviews mit den Kolleginnen und Kollegen, weil da kommen ja nochmal richtig Eintauchen in die Themen.

00:01:36: und ja, das finde ich total spannend und da freue ich mich sehr darauf.

00:01:39: Ja, weil wir jetzt am Jahresende sind, wollen wir an dieser Stelle ja so ein bisschen gemeinsam auf das Jahr zurückgucken und so ein bisschen noch mal darüber sprechen, was für ein intensives Jahr das eigentlich war.

00:01:50: Es gab viele wirtschaftspolitische Debatten über Arbeitsplatzsicherung, Transformation war wieder ein großes Thema, Arbeitszeit, Regierungswechsel in den USA, aber auch Regierungswechsel hier in Deutschland.

00:02:03: Kursima, vielleicht kannst du uns einen kleinen Überblick geben, was hat denn das IMU im Jahr waren sich bei diesem Jahr doch sehr diversen Mix aus Themen aus deiner Sicht besonders beschäftigt.

00:02:14: Ja, du hast ja einiges gerade schon hervorgewogen.

00:02:16: Und ich glaube, es fällt mir schwer, da so das eine Thema irgendwie hervorzuheben.

00:02:21: Aber es war einfach so viel los, war in Wirtschaft und Politik.

00:02:24: Aber

00:02:25: ja, ich glaube, das hat man auch ganz gut gesehen auf unserer Böcklerkonferenz und auch hier im Podcast übrigens, möchte ich sagen.

00:02:29: Auch in den Folgen, die wir hier über das Jahr jetzt aufgezeichnet haben, sieht man, was für viele verschiedene Themen uns am Institut und auch die Mitbestimmungswelt insgesamt bewegt haben.

00:02:38: Auf der Büchlerkonferenz hatten wir das sieben Jahre auch mehrere sehr spannende Keynotes, unter anderem von Daniela Cavallo und ein Panel beispielsweise mit Jasmin Farimi, unseren DGB-Vorsitzenden und Heike Buchter, der US-Finanz-Korrespondentin der Zeit, die sich spannend unterhalten haben zu Trumps Diversitätspolitik und den Auswirkungen, die wir auch in Deutschland zu erwarten haben.

00:03:00: Das hat uns dieses Jahr, glaube ich, alle irgendwie mitgenommen, gerade weil es da ja auch vielen hin und her gab, auch in Trumps Zollpolitik, etc.

00:03:06: Ich darf schon mal spoilern, wer sich für dieses Thema noch weiter interessiert, sollte bis zum Ende der Folge daten bleiben, denn da wird das nochmal aufgegriffen, liebe Linda.

00:03:15: Ansonsten ein Thema, was uns dieses Jahr in den Unternehmen, glaube ich, viel beschäftigt hat, jetzt aber auch schon die letzten Jahre insgesamt, das System auch künstliche Intelligenz, KI, auch hier in den Unternehmen viel passiert.

00:03:26: Es werden teilweise Betriebsvereinbarungen abgeschlossen, die wir auch analysieren, ja, als Institut auswerten und versuchen, da Hilfeleistungen zu bieten.

00:03:33: Wir hatten dieses Jahr das erste Spotlight dazu zum Thema KI und bin besser voll froh, dass sich unsere beiden Kollegen, die das Spotlight dieses Jahr angeboten haben, auch dazu bereit erklärt haben, heute hier mal im Podcast etwas länger Rede und Antwort zu stehen, zu diesem Thema.

00:03:47: Ich glaube ein sehr spannendes Thema.

00:03:50: Das waren mal so zwei Highlights, aber natürlich nicht abschließend und viele von den Sachen werden uns sicherlich im nächsten Jahr weiter

00:03:56: beschäftigen.

00:03:57: Wir machen ja zum Schluss der Folge auch noch einen kleinen Ausblick, aber du hast... Total recht.

00:04:01: Wir haben hier jetzt noch ein längeres Interview vorbereitet, genau zu diesem Thema, nämlich wie umgehen mit KI im Aufsichtsrat, aber auch welche Rolle spielt das in Betriebsratsgremien und anderen Gremien der Betrieblichen mit Bestimmung.

00:04:15: Und darüber habe ich gesprochen mit Sebastian Sigg.

00:04:18: und dem Kollegen Nils Werner zur nochmal zwei verschiedene Blickwinkel, die die beiden da zusammenbringen, eben nämlich die Aufsichtsratsebene und die betriebliche Mitbestimmungsebene.

00:04:28: Und da können wir direkt reinhören, wenn du magst.

00:04:29: Ich bin mega gespannt.

00:04:42: Mein Wecker hat heute um sieben Uhr geklingelt.

00:04:45: In meinem Postfach war zu diesem Zeitpunkt schon eine Zusammenfassung meiner anstehenden Termine mit einer beigefügten To-Do-Liste.

00:04:52: Und die ersten Antworten auf E-Mails habe ich dann noch im Bad und beim Kaffee-Offsetzen diktiert.

00:04:56: Und auch die Outline für dieses Interview habe ich mit meinem KI-Assistenten gesprochen.

00:05:02: Denn das alles und noch viel mehr, wie Rio Reiser schon sagen, kann KI heute tun, um unseren Arbeitsalltag zu erleichtern.

00:05:09: Aber Achtung, denn auch wenn KI-Texte zu Zusammenfassen, Datenmuster erkennen kann und vermeintlich auch ein guter Sparringspartner sein kann, geht ohne menschliche Endkontrolle nichts.

00:05:19: Das machte erst eine Ende Oktober veröffentlichte Studie der Europäischen Rundfunkunion deutlich, die alarmierende Fehlerquoten bei populären KI-Chat-Bots wie ChatGPT aufzeigte.

00:05:31: Trotzdem ist KI aus unserer Arbeitswelt kaum wegzudenken.

00:05:34: Die Frage ist also, wie umgehen mit einer Technologie, die kaum aufzuhalten, ist aber trotzdem im Zaum gehalten werden muss.

00:05:43: Und darüber möchte ich heute mit zwei Kollegen vom EMU sprechen.

00:05:47: Der erste ist Sebastian Sigg, er ist Leiter des Referats für Unternehmensrecht und Corporate Governance und außerdem Mitglied der Regierungskommission Deutscher Corporate Governance Codex, der in diesem Herbst einen neuen Impuls zu dem Thema rausgebracht hat.

00:06:00: ist Nils Werner.

00:06:01: Seine Arbeitsschwerpunkte am IMU sind Betriebs- und Dienstvereinbarungen zur digitalen Transformation und Einsatz digitaler Technologie und damit ist er auch unser perfekter Ansprechpartner zum Thema KI in der betrieblichen Mitbestimmung.

00:06:14: Ich freue mich, dass ihr da seid.

00:06:15: Hallo.

00:06:16: Hallo, Linda.

00:06:16: Grüß dich.

00:06:17: Hallo,

00:06:17: Linda.

00:06:17: Schön, hier zu sein.

00:06:19: Wie sieht es denn bei euch aus?

00:06:20: Wie nutzt ihr KI in eurem Alltag?

00:06:23: Hattet ihr heute Morgen auch schon eine vorbereitete To-Do-Liste im Postfach?

00:06:26: Sebastian, wie sieht das bei dir aus?

00:06:28: Ich hatte noch keine vorbereitete To-Do-Liste.

00:06:31: Ich nutze KI sporadisch für Vorbereitungen, Briefings und als Ideengeber.

00:06:37: bei Vorbereitungen auf Sitzungen, Beratungen und so weiter.

00:06:41: Aber im Endeffekt würde ich anknüpfen an deine Frage, denn Rio Reiser hat ja auch noch gesagt, wenn ich König von Deutschland wäre, für mich stellt sich ja die Frage, bin ich mit der KI auf dem Königsweg, bin ich der König oder ist die KI der König?

00:06:57: und ich bin auf dem Weg zur Fremdsherrschaft?

00:07:00: Wahrscheinlich ist es die Balance zwischen beidem.

00:07:03: Ich glaube, das ist eine Frage, die wir alle ganz gut kennen.

00:07:06: Nils, wie sieht es bei dir aus?

00:07:07: Ja, also ich experimentiere privat viel mit KI.

00:07:12: Also ich fahre zum Beispiel Rennrad und habe mir eine Anwendung durch

00:07:17: KI

00:07:18: basteln lassen, mit der ich zum Beispiel mein Kohlehydrateverbrauch berechnen kann.

00:07:25: Das heißt also, ich gebe eine bestimmte Strecke vor, welchen Pace ich fahren möchte und dann spuckt mir diese Anwendung aus, welche gilt sich beispielsweise dabei haben muss, welche Getränke ich mir mixen muss etc.

00:07:42: Und auch beruflich umtreibt uns, also uns als Bereich Praxiswissenbetriebsvereinbarungen.

00:07:49: die Frage, wie wir KI möglicherweise einsetzen können, welche Chancen sich ergeben, aber letztendlich auch welche Herausforderungen.

00:07:59: Und genau über die Chancen und Herausforderungen wollen wir sprechen.

00:08:02: Sebastian hat es gerade schon so schön gesagt, sind wir auf dem Königsweg oder ist die KI der König, die dann die Herrschaft... Übernimmt, das ist ja auch gerade, wenn ich mir jetzt nochmal deine Beschreibung gerade Nils vor Augen führe, es ist ja Wahnsinn, was alles damit geht und Wahnsinn auch was für Impulse man mitnehmen kann aus KI Anwendungen, wenn man denkt, da bin ich vorher noch nicht draufgekommen oder meine Leistung auf dem Rennrad bringt das nochmal auf ein ganz anderes Level.

00:08:28: und wir wollen jetzt in diesem Gespräch zwei verschiedene Perspektiven noch mal beleuchten zu dem Thema.

00:08:33: Wir wollen ja einmal über KI in der Unternehmensmitbestimmung, also in Gremien wie Aufsichtsräten, besprechen, was sind da die Chancen und Herausforderungen und dann eben auch auf der betrieblichen Ebene bei der betrieblichen Mitbestimmung.

00:08:46: Vielleicht deswegen erst mal zum Einstieg so ein bisschen der Versuch einer Abgrenzung.

00:08:51: Sebastian, was sind denn so typische Einsätze von KI im Aufsichtsrat.

00:08:57: Kommt da meine Morgenroutine schon ran?

00:08:59: Also geht es da um Zusammenfassend von Protokollen, automatisch verschicken von E-Mails?

00:09:06: Was würdest du sagen?

00:09:07: Nach meinem Eindruck ist KI noch nicht allzu sehr verbreitet in der Aufsichtsratstätigkeit, da es bestimmt Luft nach oben.

00:09:16: Es gibt aus meiner Sicht drei Einsatzfelder im Aufsichtsrat ganz grob gesagt.

00:09:21: Das erste wäre ... dass der Aufsichtsrat den Vorstand kontrollieren muss oder begleiten muss, gerade bei der strategischen Einordnung und Nutzung von KI im Unternehmen, also bei Geschäftsmodellen und so weiter.

00:09:36: Wie kann ich KI nutzen, ist so die Begleit- und Überwachungsaufgabe des Aufsichtsrats.

00:09:41: Dann muss der Aufsichtsrat im Rahmen von Risikomanagement und Compliance die KI Governance kontrollieren, zum Beispiel im Hinblick auf den AI-Akt der EU.

00:09:52: Und im Hinblick auf Ethik-Richtlinien.

00:09:55: Und als drittes eben diese konkrete Frage, wie kann der Aufsichtsrat KI für die ganz eigene Arbeit im Aufsichtsrat nutzen?

00:10:04: Mit zum Beispiel besserer Sitzungsvorbereitung, besserer Recherchemöglichkeiten, aber auch bei eigenen Entscheidungen, zum Beispiel zustimmungspflichtigen Geschäften, bei M&A-Prozessen

00:10:17: etc.,

00:10:18: Investitionsprozessen.

00:10:20: Wie kann ich die KI als strategischen Ideengeber hinzuziehen?

00:10:26: Gerade die Tools, die aktuell existieren für den Aufsichtsrat, sind sehr stark auf Datenmanagement ausgelegt und noch nicht sehr stark auf die Nutzung von KI ausgelegt.

00:10:39: Im Ganzen gesehen ist der Aufsichtsrat mehr als Aufsichtsgremium, also mehr generell und eine Stufe höher unterwegs.

00:10:49: Aber das Konkrete kommt sicher noch stärker im betrieblichen Duing zum Tragen im Unternehmen, weswegen manchmal die betriebliche Ebene in der Anwendung schon weiter ist.

00:11:00: Das ist doch eine perfekte Überleitung.

00:11:02: Nils, wie sieht es denn in der betrieblichen Ebene aus?

00:11:05: Sind da die Anwendungen schon weiter?

00:11:07: Also zunächst einmal würde ich anschließen wollen, dass die Grenzen meines Erachtens fließend sind.

00:11:14: Insofern, dass beispielsweise Investitionsentscheidungen, die im Aufsichtsrat getroffen werden, Auswirkungen auf die betriebliche Ebene haben,

00:11:22: auch

00:11:23: strategische Entscheidungen beispielsweise.

00:11:25: Auf der betrieblichen Ebene gibt es mittlerweile eine Vielzahl möglicher Einsatzgebiete von künstlicher Intelligenz.

00:11:33: Zum Beispiel haben wir im verarbeitenden Gewerbe die vorausschauende Wartung des sogenannte Predictive Maintenance.

00:11:42: Das heißt, dass da die Lösung einer Vielzahl von service-bezogenen Problemen durch maschinelles Lernen erfolgt.

00:11:49: Das heißt, Service-Technikerinnen werden quasi in die Lage versetzt, vorausschauende Maßnahmen zu ergreifen,

00:11:57: um

00:11:58: zum Beispiel potenzielle Ausfallzeiten zu verhindern, bevor sie überhaupt entstehen können.

00:12:04: Dann gibt es die vorausschauende Logistik, das heißt, dass mittels historischer Daten genaue Vorhersagen zu notwendigen Lagerbeständen getroffen werden können, zu Anfragen von Kundinnen und eben auch Transportwegen.

00:12:20: Es gibt etliche Einsatzgebiete der sogenannten generativen KI, beispielsweise zur Erstellung von Texten, Bildern und Videos.

00:12:29: Generative KI kann bei sich wiederholenden Aufgaben unterstützen, wie zum Beispiel der Beantwortung von Angebotsanfragen.

00:12:39: Der Kundenservice ließe sich unter Umständen durch die Integration automatisierter Chatbots oder den Einsatz von KI zur Analyse von Kunden Feedback optimieren.

00:12:49: und dann gibt es ja noch zwei Trends, auf die ich auch gerne eingehen möchte.

00:12:55: Am Ende letzten Jahres kam ja die Frage auf, wird das Jahr der KI-Agenten?

00:13:04: Und KI-Agenten sollen in die Lage versetzt werden, Aufgaben autonom auszuführen und sie interagieren dabei zum Beispiel mit ihrer Umgebung oder eben auch andere Agenten.

00:13:17: Also das heißt, dass zum Beispiel solch ein KI-Agent die komplette Organisation meiner Dienstreise übernimmt.

00:13:26: Und dann noch ein Thema, auf das ich ganz kurz eingehen möchte, und zwar auf das Thema Robotik.

00:13:33: Da ist es beispielsweise so, dass die Integration von künstlicher Intelligenz auch die Robotik gerade zu ganz neuen Höhen führt.

00:13:42: Bevor wir weitergehen im Interview, es fiel jetzt ja schon ein, zwei Mal, sollten wir natürlich auch über den rechtlichen Rahmen sprechen und damit dann auch über den sogenannten EUAI-Akt, der im Juni.

00:13:57: Ganz kurz zum Einordnen, der EU-AI-Engt richtet sich an Anbieter, aber auch Nutzer von KI-Systeme, also auch Unternehmen in der EU und teilt KI in vier Risikostoffen ein, so wie ich das rauslesen konnte.

00:14:09: Die erste Stufe ist ein unannehmbares Risiko, also Anwendungen, die grundsätzlich verboten sind, etwa KI für Social Scoring oder manipulative Systeme, die Menschen gezielt beeinflussen könnten.

00:14:20: Dann ist das zweite die Hochrisiko-KI, also sehr spezifische Systeme, zum Beispiel Gesundheitswesen, kritischer Infrastruktur oder Kreditwürdigkeitsprüfungen oder auch in Personalprozessen, also überall dort, wo KI über Menschen entscheidet oder erhebliche Grundrechts- und Sicherheitsrisiken bestehen können.

00:14:41: Dann gibt es die dritte Kategorie, das ist KI mit begrenztem Risiko.

00:14:46: Hier gelten dann Transparenzpflichten, etwa wenn KI Inhalte generiert werden, so dass Menschen eben erkennen können, dass sie mit einer KI interagieren.

00:14:55: Und dann gibt es noch das minimale Risiko, dass es dann der große Rest, der jetzt ohne besondere Pflichten genutzt werden darf.

00:15:03: Sebastian, habe ich das so erst mal richtig zusammengefasst oder hast du da was zu berichtigen oder auch zu ergänzen?

00:15:09: Ja, war sehr schön zusammengefasst.

00:15:11: Ich würde Wert legen darauf, dass die KI-Verordnung, also der AI-Act, ein System ist, was einen einheitlichen Rechtsrahmen für Gesamteuropa schaffen soll.

00:15:25: Level-Playing-Field.

00:15:27: Und was vor allem ein umfassendes Risikomanagement etabliert und entsprechende Anforderungen einführt.

00:15:35: Und das bezieht sich vor allem auf diese Hochrisikosysteme, die du genannt hast.

00:15:39: Da gibt es dann hinterlegt ein umfassendes Pflichtenprogramm für die Unternehmen.

00:15:44: Und ergänzend würde ich auch sagen, bei dem minimalen Risiko, da ist es fällt, wo gerne auch Verhaltenskodizis eingeführt werden, also freiwillige Vereinbarung mit der Arbeitnehmerseite.

00:16:00: Und das Ganze ist hinterlegt mit einem umfassenden Boostgate-Katalog, der durchaus empfindlich ist, bis zu sieben Prozent des gesamten weltweiten Jahresumsatzes.

00:16:10: Also sehr ernstzunehmende Anforderungen.

00:16:14: Es war ja auch so, wenn ich das richtig wahrgenommen habe, dass als der verabschiedet worden ist, ja schon ein... Raunen durch die Unternehmenswelt ging sozusagen.

00:16:23: Es wurde sich viel damit beschäftigt und auch mit der Frage, was bedeutet das jetzt und was müssen wir machen?

00:16:28: Was würdest du denn sagen, jetzt, circa anderthalb Jahre später, was bedeutet denn dieser EU-AI-Act in der Praxis und wie wird bis jetzt auch damit umgegangen?

00:16:39: Ich schaue jetzt mal mit der Aufsichtsratsbrille drauf.

00:16:42: Was müssen Aufsichtsräte aufgrund des AI-Acts von der Unternehmensleitung einfordern?

00:16:48: Weil es Risiko-Management-Vorgaben sind, geht es letztendlich um eine ordentliche KI-Compliance.

00:16:56: Also Corporate Digital Responsibility ist das Schlagwort.

00:17:01: Und im Rahmen dessen meistens in den Prüfungsausschüssen der Aufsichtsräte wird das KI-Risiko-Management-System oder das KI-Compliance-System ja auch kontrolliert.

00:17:12: Insofern müssen die Aufsichtsräte sich ein Bild verschaffen und entsprechende Fragen stellen.

00:17:18: Sie müssen sich zum Beispiel einen Überblick verschaffen über die verwendeten KI-Systeme und die Einteilung in die entsprechenden Risikokategorien, um überhaupt zu sehen, ob die KI-Verordnung angemessen berücksichtigt wird.

00:17:34: Dabei müssen sie auch berücksichtigen, zu welchem Zeitpunkt die AI-Verordnung wirksam wird, denn die wird gestaffelt wirksam.

00:17:42: Einzelne Vorschriften gelten ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, ab dem Ersten, für den verantwortungsvollen Einsatz einer KI im Unternehmen.

00:18:14: Dafür werden häufiger auch Ethik-Richtlinien gemeinsam in Unternehmen erarbeitet und erlassen.

00:18:21: Darauf macht im Übrigen auch der Praxisimpuls der Corporate Governance Commission aufmerksam, dass dies auch gemeinsam mit den Arbeitnehmern erarbeitet wird.

00:18:34: Dann geht es um die Frage der Dokumentation und Aufbewahrungspflichten im Rahmen der KI, insbesondere bei den Hochrisikosystemen.

00:18:43: Also, wie werden die KI-Daten aufbewahrt und dokumentiert?

00:18:49: Und generell, wie ist das ganze System in die generellen Compliance-Strukturen im Unternehmen eingebattet?

00:18:56: Und auch die Frage, ist eine sozial verträgliche Folgenabsicherung bei den Risikosystemen?

00:19:02: Eventuell notwendig.

00:19:04: Das sind so Fragen, die die Aufsichträte auch im Prüfungsausschuss bei der Kontrolle des Einsatzes von KI im Kopf haben können.

00:19:14: Sie müssen natürlich nicht jedes KI-Modell im Detail überwachen, sondern es geht um die generelle Anwendungsüberwachung.

00:19:21: Funktioniert das Compliance-System auch im Hinblick auf den AI-Akt.

00:19:27: Danke, Sebastian.

00:19:28: Danke auch noch mal, dass du vor allem für mich jetzt noch mal deutlich gemacht hast, dass das ja quasi noch mitten im Prozess steckt.

00:19:35: Ich habe jetzt den Erlass von Juni-Vierundzwanzig meiner Vorbereitung gesehen und dachte, na gut, dann beschäftigen wir uns jetzt damit, was da verabschiedet wurde.

00:19:43: Aber dass eben jetzt noch Teile dieser Verordnung erst sechsundzwanzig in Kraft treten, waren mir gar nicht so bewusst.

00:19:48: Und demnach eben auch immer noch die weitere Annäherung der Unternehmen und auch der Aussichtsratsgremien, wie jetzt damit umzugehen ist.

00:19:56: Wie sieht es denn auf der betrieblichen Ebene aus?

00:19:59: Ist der EU-AI-Akt bei Betriebsräten schon mitgedacht oder ist das eher was für Juristen?

00:20:05: Jetzt mal ganz spitz gefragt.

00:20:07: Ja, meines Erachtens durchaus, indem sich die betrieblichen Mitbestimmungsakteurinnen beispielsweise mit der Frage beschäftigen, ob Artikel vier ... der KI-Verordnung Auswirkungen hat.

00:20:21: In Artikel vier geht es um das Thema AI Literacy, also der Fähigkeit grundlegende Konzepte der KI zu verstehen, kritisch zu bewerten und verantwortungsvoll anzuwenden.

00:20:33: Und dann findet sich in Vereinbarungen, die uns vorliegen, die Risikoklassifizierung wieder.

00:20:41: Beispielsweise beschreibt ein Unternehmen in seiner Regelungsabrede einen Mitbestimmungsfahrt und Verfahrensgang entlang einer Risikoklassifizierung.

00:20:53: Ganz interessant ist in dem Zusammenhang auch, dass die KI-Verordnung speziell einfordert, gerade bei den Hochrisikosystemen.

00:21:03: dass es auch Schulungspflichten gibt, also dass die Mitarbeiter kompetent sind, um die KI anzuwenden und dafür geschult werden.

00:21:12: Das ist vielleicht auch ein Aspekt, der für die Arbeitnehmer noch interessant ist und wo auch der Aussichtsrat schauen kann, ob es entsprechende Workshops gibt und so weiter.

00:21:22: Was würdet ihr dann sagen, wenn wir jetzt in drei Schlagworten zusammenfassen müssen?

00:21:27: Was im Moment die größten Herausforderungen bei der Implementierung von KI in der Arbeit von Aufsichtsräten, aber auch in der Praxis von Betrieblicher Mitbestimmung wären?

00:21:35: Welche wären das?

00:21:37: Vielleicht erstmal Sebastian zum Thema Aufsichtsräte und dann Nils Ergänzend.

00:21:42: Ja, ich sehe da drei große übergeordnete Risiken.

00:21:46: Das eine ist das im Aufsichtsrat.

00:21:50: entsprechende Tools bislang weitgehend fehlen.

00:21:53: Und für den Aufsichtsrat sind da ja spezielle Anforderungen auch an Vertraulichkeit, öffentlich, privat und so weiter.

00:21:59: Also dafür, dass bisher an den passenden Tools und sie werden noch nicht flächendeckend eingesetzt.

00:22:07: Und das andere ist, dass die Strategie sehr volatil ist, dass es schwer fällt, genau voraus zu sagen, wo geht der Pfad mit der KI hin?

00:22:17: Was für Möglichkeiten werden sich in Zukunft überhaupt durch die KI ergeben?

00:22:22: Insofern sind strategische Entscheidungen und strategische Planungen eher schnelllebig.

00:22:28: Und das Dritte aus meiner Sicht ist die geopolitische Frage, weil der Kampf um die KI-hoheit ja auch eine geopolitische, insbesondere zwischen USA und China ist, aber eben auch dem Wunsch Europas damit zu spielen.

00:22:44: und für die Unternehmen natürlich die Frage, wie stellen sie sich strategisch in dem Feld auf?

00:22:50: Auf welche Anbieter fokussieren sie sich?

00:22:53: Nils, was würdest du sagen?

00:22:55: Also zunächst einmal überhaupt zu erfassen, wo im Unternehmen KI eingesetzt wird, eingesetzt werden soll, dann zu verstehen, welche Chancen und Herausforderungen mit der Einführung von KI einhergehen können.

00:23:11: Dazu lässt sich meines Erachtens sagen, dass sich die Betriebsräte gerade dazu auch aufschlauen, indem sie Angebote der gewerkschaftlichen Bildungsträger wahrnehmen oder sich externen Sachverstand einholen und drittens die Auswirkungen auf die Beschäftigten in Erfahrung bringen, zudem auch einen kontinuierlichen Mitbestimmungsprozess zu etablieren.

00:23:35: Und da Sehen wir beispielsweise, dass die Sozialpartner sogenannte lebende Vereinbarungen abschließen.

00:23:45: Also das heißt, die Vereinbarung ist kein starres Konstrukt, sondern die Sozialpartner verständigen sich beispielsweise darauf, sich in einem gewissen Turnus zusammenzusetzen, sich mit dem Inhalt der Regelung auseinanderzusetzen und diesen dann beispielsweise weiterzuentwickeln und gegebenenfalls auch anzupassen.

00:24:08: Ich würde jetzt gerne noch mal über ein Thema sprechen, was jetzt schon am Rande erwähnt wurde, auch von dir, Sebastian, nämlich dem Impuls zum Thema KI im Aufsichtsrat von der Regierungskommission Deutscher Corporate Governance Codex, der Anfang Herbst veröffentlicht wurde.

00:24:26: Du bist ja Mitglied in dieser Kommission.

00:24:29: Bevor wir jetzt auf den Inhalt gehen, nochmal einmal ganz kurz mit dir besprechen.

00:24:33: Was ist das überhaupt für eine Kommission?

00:24:35: Wer sitzt da alles mit drin und was ist ja Auftrag?

00:24:38: Gerne.

00:24:39: Die Regierungskommission Deutscher Corporate Governance Codex ist eine Kommission, die den Wiedernahme sagt, den Deutschen Corporate Governance Codex erarbeitet.

00:24:50: Das ist der Best Practice Codex für börsennotierte Unternehmen.

00:24:56: Und alle börsennotierten Unternehmen müssen jedes Jahr eine Entsprechungserklärung abgeben, in der sie beschreiben, wie sie den Codex anwenden oder wo sie ihn nicht anwenden, müssen sie auch begründen, weswegen sie anders vorgehen.

00:25:12: Insofern eine quasi gesetzliche Funktion oder ein Softwaregeber ist diese Kommission und der Codex wird stetig überarbeitet.

00:25:23: Die Kommission ist besetzt aus vor allem Vertretern von Unternehmen, Vorstandsvorsitzenden,

00:25:30: aber auch

00:25:31: Aufsichtsratsvorsitzenden, mehrere und außerdem aus Vertretern der Investoren und auch Rechtsanwälte zum Teil und oder Wissenschaft und ein Vertreter der Arbeitnehmerseite.

00:25:46: Das bin ich.

00:25:48: Kannst du uns einen Einblick geben?

00:25:49: Da bin ich mir gar nicht so im Klaren, ob du aus den Diskussionen, aus der Kommission erzählen darfst.

00:25:53: Aber es würde mich natürlich interessieren im Hinblick jetzt auch auf die Veröffentlichung, was da eure Diskussionslinien waren und wie ihr euch darauf geeinigt habt, den Impuls so zu formulieren, wie er jetzt formuliert wurde.

00:26:07: Lass mal, ist das Tool des Praxisimpulses ein neues der Kommission.

00:26:12: Es ist eben gerade der Ansatz in diesem Thema.

00:26:16: keine Änderungen des Codex vorzunehmen, keine Empfehlungen in den Codex reinzuschreiben, sondern einfach einen Impuls für die Diskussion und für die Praxis zu geben, der aber keine rechtliche Relevanz in dem Sinne hat, sondern eher als Impulssetter, Diskussionsgeber rüber kommt.

00:26:35: Und insofern musste man da erstmal überlegen, welches Thema ist dafür geeignet.

00:26:40: Und der Eindruck war, dass eben Wie ich es vorhin beschrieben habe in der praktischen Tätigkeit des Aufsichtsrats KI noch nicht so verbreitet ist, dass es auch besondere Herausforderungen hat.

00:26:54: Denn gefährlich wäre es ja, wenn einzelne Aufsichtsratsmitglieder ihre großen strategischen Entscheidungsfragen oder M&A-Fragen, Bewertungsfragen einfach im öffentlichen ChatGBT eingeben würden.

00:27:08: Da hätten wir ein Problem mit der Vertraulichkeit, gerade auch bei börsennotierten Unternehmen.

00:27:13: Das wäre sehr problematisch.

00:27:15: Deswegen geht es ja um geschlossene Räume, wo ich eventuell KI einsetzen kann, um eine bessere Arbeitsweise zu finden und mich zu unterstützen in der Aufsichtsratstätigkeit bei Analyse, bei Recherche, bei Szenarien, Überlegungen und Vergleichen zum Beispiel.

00:27:35: Und da ist durchaus Luft nach oben und die Chancen sind noch nicht genutzt.

00:27:39: Gleichzeitig muss man natürlich die Risiken bedenken.

00:27:42: So in der Art, was erstmal diskutiert.

00:27:44: Gleichzeitig hat man aber auch gesehen, dass es ja die drei Punkte sind, die ich vorhin genannt habe.

00:27:49: Der Aufsichtsrat ist auch für den strategischen Einsatz der KI als Überwachungsorgan da und als Bearingspartner für den Vorstand.

00:27:59: Und er muss auch die im Rahmen des Risikomanagements die KI-Compliance beaufsichtigen.

00:28:06: Insofern sind es unterschiedliche Themenfelder, aber für uns schienen Praxisrelevant jetzt gerade und handhabbar die Frage, wie setzt der Aufsichtsrat KI für die eigene Arbeit ein?

00:28:18: Einmal nochmal für alle, die den Praxisimpuls nicht gelesen haben, für die Empfehlung, wie man KI in die Arbeit des Gremiums integrieren kann.

00:28:28: In schlägt dieser Impuls eine dreistufige Einführung von KI vor, wo es erst mal darum geht, Aufgaben wie ich das jetzt zum Beginn dieses Interviews in meiner Morgenroutine beschrieben habe zu delegieren, also sowas wie zusammenfassen, vielleicht E-Mails vorformulieren, vorbereiten von Sitzungen.

00:28:44: Dann geht es eine Stufe höher und KI kann dann auch als Analyse-Tool benutzt werden.

00:28:50: oder dann Stufe drei wäre dann LKI als Sparringspartner für die strategischen Entscheidungen.

00:28:57: Du hast es schon selber gesagt, natürlich alles in einem geschützten Raum und nicht mit öffentlich zugänglichen Chatbots wie ChatGPT.

00:29:04: Trotzdem habe ich mich beim Lesen des Impulses gefragt.

00:29:08: Warum jetzt diese sehr konkrete Empfehlungen für einen Soft

00:29:11: Launch

00:29:12: und nicht?

00:29:13: Man könnte sich ja auch an den Risiken weiter aufhängen.

00:29:16: Warum ist das jetzt gerade so wichtig, dass auch Aufsichtsräte anfangen, KI-Tools da eben auch zu nutzen und sich nicht nur davor zu sperren und zu sagen, hier in diesem Rahmen jetzt nicht?

00:29:27: Ja, ich würde sagen KI hat mehrere Funktionen.

00:29:32: Das eine ist, dass einfach die Arbeitsweise fortschreitet.

00:29:36: Und auch ein Aufsichtsrat trägt ja die Verantwortung mit für das Unternehmen zusammen im Vorstand und muss deswegen auch auf dem möglichst hohen Niveau arbeiten und sich alle Möglichkeiten verschaffen, die seine Entscheidungen oder seine Arbeit besser machen können.

00:29:54: Insofern hat der Aufsichtsrat auch in das Unternehmen hinein eine Leuchtturmfunktion, würde man sagen, der Anspruch, dass KI als strategisches Mittel gesehen wird.

00:30:05: mit ihren Chancen und mit ihren Risiken.

00:30:08: Diesen Anspruch kann der Aussichtsrat auch nur formulieren, wenn er ihn irgendwie selber verinnerlicht.

00:30:13: Insofern, das ist eine weitere Funktion.

00:30:16: Und das Dritte ist die Frage, der Aussichtsrat muss sich ja alle Informationsgrundlagen verschaffen, die ihm eine gute Entscheidung ermöglichen.

00:30:27: Und da stellt sich in Zukunft schon die Frage, ist der Aussichtsrat sogar verpflichtet?

00:30:32: KI einzusetzen, um eine gute Grundlage der Entscheidung zu haben.

00:30:37: Das ist jetzt ein bisschen überspitzt formuliert und es kann auch sicher angenommen, ich habe mit der KI Zugriff auf die gesamten Unternehmensdaten, kann es sicher nicht sein, dass sämtliches Wissen im Unternehmen dem Aufsichtsrat zugerechnet würde.

00:30:52: Das würde ein Haftungsrisiko bedeuten, was extrem wäre und was auch nicht realistisch ist.

00:30:59: Nur weil die Daten irgendwo rumliegen, heißt es ja noch nicht, dass ich als Aufsichtsrat sie kenne und habe.

00:31:06: Andererseits mag es aber schon sein, dass ich Möglichkeiten für zusätzliche Entscheidungsgrundlagen nutze, wenn sie vorhanden sind.

00:31:15: Und deswegen gibt es auch schon sicher die Notwendigkeit, vielleicht auch die Pflicht, dass Aufsichtsräte sich überlegen, wie können sie die Möglichkeiten der KI nutzen für ihre eigene Arbeit.

00:31:28: Und wichtig dabei eben nicht Churchi BT und andere zu nutzen, sondern geschlossene Systeme im Aufsichtsrat selbst, die allen Anforderungen entsprechen.

00:31:40: Und da ist eben auch von der Anbieterseite noch Luft nach oben, nach meiner Wahrnehmung.

00:31:47: Ja, danke, dass du mit deiner Antwort jetzt auch schon bei dem Stichwort Sorgfaltspflicht gelandet bist.

00:31:52: Also die Frage würde der Aufsichtsrat nicht sogar gegen seine Sorgfaltspflicht verstoßen, wenn er sich so etwas wie KI verschließen würde, obwohl das eine gute und bessere Entscheidung ermöglichen würde.

00:32:05: Meine abschließende Frage, bevor wir jetzt nochmal auf die betriebliche Praxis schauen, ist, welche Pflichten würden sich denn aus der Nutzung von KI bei Entscheidungen auch strategischen Entscheidungen ergeben?

00:32:15: Vielleicht das nochmal zum Abschluss.

00:32:17: Ja, vielleicht vorweg noch.

00:32:18: Also es gibt sicher keine klare Grenze, ab wann eine Pflicht besteht, KI zu nutzen für den Aufsichtsrat.

00:32:25: Das ist sicher im Fluss und auch in der Entwicklung, wie das bewertet wird, auch wie immer Rechtsfragen sind im Fluss, aber auch die Technik ist im Fluss, die Kultur ist im Fluss, insofern ist das nicht Statisches.

00:32:38: Aber man muss es im Blick behalten, wenn der Aufsichtsrat KI benutzt.

00:32:43: als Hilfestellung benutzt und Ergebnisse der KI erhält, dann muss er natürlich die Ergebnisse auch valide prüfen und kritisch hinterfragen.

00:32:52: Er darf sich nicht einfach auf irgendwelche KI-Angaben verlassen und darauf seine Entscheidung einfach stützen.

00:33:00: Insofern hat es ein bisschen Ähnlichkeit, wie wenn ich Entscheidungen an Mitarbeiter delegiere oder Vorbereitung an Mitarbeiter delegiere.

00:33:10: Insofern gelten auch ein bisschen die rechtlichen Grundsätze der Delegation an Mitarbeiter oder die bei der Beauftragung von Sachverständigen.

00:33:19: Da muss ich einmal gucken, dass der Sachverständige kompetent ist, also die KI funktionsfähig ist.

00:33:25: Insofern muss ich auch ein bisschen verstehen, wie funktioniert die KI, um das beurteilen zu können.

00:33:30: Zum anderen muss das System zuverlässig sein, auch das muss ich irgendwie bewerten.

00:33:36: Und Die Ergebnisse, die es mir ausspuckt, sei es Szenarien, sei es Alternativvorschläge, die muss ich auf Plausibilität prüfen und kann ich nicht einfach übernehmen.

00:33:47: Im Ergebnis ist es ja am Ende eine Risikoabwägung, was ich mit dieser KI mache.

00:33:52: Ich muss als Leitungsgremium oder Überwachungsgremium einbeziehen in meine Überlegung, welche Kosten entstehen bei einem Fehler der Entscheidung und welche Chancen habe ich.

00:34:05: wenn ich diese Hilfe nutze.

00:34:08: Und das ist ein bisschen ähnlich wie bei jeglicher Nutzung von Unterstützung, sei es durch Mitarbeiter, durch Sachverständige.

00:34:15: Ich muss Chancen und Risiken in meiner Risikoabwägung einbeziehen.

00:34:21: Nils, du bist ja in diesem Gespräch für uns der Experte zum Thema Betriebliche Mitbestimmung.

00:34:27: Welche Fragen und Diskussionslinien die Sebastian jetzt gerade genannt hat, kennst du dann auch von der betrieblichen Ebene?

00:34:33: Wie verlaufen da die Diskussion, wenn es um den Einsatz von KI geht?

00:34:37: Ich nehme wahr, dass sie das Thema KI gestalten möchten.

00:34:42: Also nicht Verhinderer des Ganzen, sondern gestalten möchten, sich aber nichtsdestotrotz mit den Chancen aber auch Herausforderungen auseinandersetzen und versuchen das Thema zu begleiten.

00:34:56: Denn es gibt natürlich auch Ängste bei den Beschäftigten vor Beschäftigungsverlust oder beispielsweise auch Abwertung der Tätigkeit.

00:35:05: Und das gilt es natürlich zu begleiten.

00:35:08: Da sind die Betriebsräteinnen und Personalräteinnen die Schnittstelle bzw.

00:35:15: das Sprachrohr der Beschäftigten.

00:35:18: Sebastian, ich sehe, du wolltest dazu noch mal was ergänzen, oder?

00:35:22: Ja, gerne.

00:35:24: Was Nils sagt, entspricht genau meiner Wahrnehmung auch, dass die betrieblichen Kolleginnen die KI mitgestalten wollen und insofern auch im Aufsichtsrat glaube ich, dass oftmals die betrieblichen oder die Arbeitnehmervertreter im Aufsichtsrat fast mehr Praxiserfahrungen mitbringen, weil sie eben diesen ganzen Prozess der Einführung von KI im Betrieb vor Ort begleiten und kennen und damit die tatsächlichen Probleme und die tatsächlichen Diskussionen und Gefahren und Chancen auch wirklich präsent haben.

00:36:05: Insofern glaube ich, dass gerade die betrieblichen Arbeitnehmervertreter hier besondere Kompetenzen häufig im Aufsichtsrat mitbringen und gestalten bedingt auch, dass ich eben ethische Leitlinien ziehe und auch das ist eine Verknüpfung zur Aufgabe des Aufsichtsrats eben die Leitlinien zu überwachen.

00:36:28: Der Praxisimpuls der Codex-Kommission hat speziell dazu gesagt, der Vorstand entwickelt gegebenenfalls in Abstimmung mit den Arbeitnehmervertretungen klare Regeln für den Umgang mit KI im gesamten Unternehmen.

00:36:43: Der Aufsichtsrat überwacht diesen Prozess, gibt Anregungen und kann zusätzlich eigene Vorgaben für seine Arbeit im Zusammenhang mit KI festlegen.

00:36:54: Ich finde es bemerkenswert, dass in diesem Praxisumpuls konkret steht, in Abstimmung mit den Arbeitnehmervertretungen.

00:37:02: Denn das ist unerlässlich am Ende.

00:37:05: Jetzt hat Sebastian ja schon selbst angesprochen, was für große Experten eben auch die Kolleginnen und Kollegen aus der betrieblichen Mitbestimmung sind.

00:37:13: Deswegen jetzt an dich noch mal die Frage, was hast du noch für Beispiele, wo genau das sichtbar wird, wo KI eingeführt wurde oder wie eben auch auf der betrieblichen Ebene diese Einführung gestaltet und mitbegleitet wurde?

00:37:29: Also wir haben Praxisbeispiele veröffentlicht.

00:37:32: Da finden sich ganz unterschiedliche Ansätze, wie man die Einführung oder bzw.

00:37:40: wie betriebliche Mitbestimmungsaktorinnen die Einführung von KI und im Unternehmen begleiten.

00:37:50: Es gibt beispielsweise Pilotphasen, wo die Erfahrungen der Beschäftigten auch in eine Evaluation einfließen.

00:37:59: Es gibt Unternehmen, die Experimentierlabore einrichten.

00:38:05: Die Gremien setzen sich mit der Frage auseinander, wie können wir überhaupt die Auswirkungen, die KI für Beschäftigte haben, in Erfahrung bringen?

00:38:16: Da haben wir ein Praxisbeispiel veröffentlicht.

00:38:19: zu den AI-Cards bei Siemens.

00:38:23: Da hat der Gesamtbetriebsrat diese sogenannten AI-Cards entwickelt.

00:38:29: Das sind quasi Steckbriefe, das ist ein Informationsverfahren, um die komplexen Herausforderungen bei KI-Anwendungen im Unternehmen handhabbar zu machen.

00:38:41: Die AI-Cards enthalten beispielsweise drei Bereiche und in diesen drei Bereichen werden etliche Fragen aufgeworfen, die es dann gilt zu beantworten.

00:38:52: Im ersten Bereich sind zum Beispiel Fragen zur Anwendung und zum Hersteller enthalten.

00:38:57: Eine kurze Beschreibung der Anwendung fließt mit ein und im zweiten Bereich wird unter anderem darauf eingegangen, wofür die Anwendung eingesetzt werden soll, zudem auch welche Daten verwendet werden sollen.

00:39:12: Und im dritten Bereich erfolgt eine Risikobewertung und darüber hinaus auch eine Betrachtung hinsichtlich Ethik.

00:39:21: Da gibt es auch noch ein weiteres Beispiel, das wir dokumentiert haben und zwar die Rahmenvereinbarung zur Einführung von KI bei der IBM und die haben zum Beispiel einen KI-Etegrat eingerichtet, der aus KI-Fachleuten besteht und auch Personen aus dem Personalbereich, dem Konzernbetriebsrat und der Konzern schwerbehinderten Vertretung.

00:39:50: Zu diesen Praxisbeispielen lässt sich sagen, dass diese bitte nicht als Blaupause zu verstehen sind, denn letztendlich sind die Voraussetzungen, sind die Gegebenheiten in den Betrieben und Verwaltungen unterschiedlich und daher ist das Ganze als, ja ich nenne es jetzt mal Ideensteinbruch zu verstehen, es gilt aber eigene Überlegungen anzustellen.

00:40:17: Da würde ich jetzt ein paar Punkte einfach mal rausgreifen.

00:40:21: Zum einen haben wir ja bereits festgestellt, dass die Einführung von KI Auswirkungen auf die Tätigkeiten der Beschäftigten haben könnte.

00:40:35: Letztendlich sind es die Beschäftigten, die die Expertinnen und Experten ihrer Arbeit sind und Es gilt quasi, diesen Erfahrungsschatz zu heben und mitzudenken bzw.

00:40:50: zu berücksichtigen.

00:40:52: Spannend.

00:40:52: Ich glaube, wir könnten da noch ein paar Stündchen aufwenden, um über weitere Beispiele zu sprechen, denke ich.

00:40:59: Da hast du noch einiges wahrscheinlich im Petto für dieses Gespräch.

00:41:02: Aber vielleicht noch mal abschließend die Frage, wir haben jetzt geklärt, KI

00:41:08: ist

00:41:09: Für viele neu, aber gerade in der betrieblichen Realität wird es schon oft angewandt und die betriebliche Mitbestimmung begleitet das schon ganz gut.

00:41:17: Wenn wir uns jetzt vorstellen wollen, es gibt ein Unternehmen, da wird jetzt neue KI-Anwendungen eingeführt.

00:41:23: Wir lassen jetzt mal offen wofür, aber es kommt.

00:41:27: Was würdet ihr jetzt abschließend nach unserem Gespräch sagen?

00:41:29: Würdet ihr jetzt auch allen Zuhörenden empfehlen?

00:41:32: Wie sollten da betriebliche und Unternehmensmitbestimmung zusammenarbeiten um diesen Prozess?

00:41:39: zu begleiten.

00:41:40: Vielleicht erst Nils und dann ergänzen Sebastian.

00:41:43: Ich bin jetzt kein Jurist, aber meines Erachtens ergeben sich bei der Einführung von KI Mitbestimmungs- als auch Informations- und Beratungsrechte.

00:41:54: Und das ist etwas, was wir durchaus auch in den von uns bereits veröffentlichten Praxisbeispielen festgestellt haben, nämlich dass die betrieblichen Akteurinnen den gesamten betriebsverfassungsrechtlichen Werkzeugkoffer nutzen.

00:42:14: Also das heißt, dass sich die Mitbestimmungskremien nicht nur auf die technische Gestaltung der KI-Systeme beschränken, also das heißt Leistungs- und Verhaltenskontrolle oder eben auch Datenschutzen ein Thema ist, sondern dass sie quasi auch weitere Betriebsratsrechte nutzen und Fragen zum Beispiel auch des Arbeits- und Gesundheitsschutzes aufgreifen.

00:42:38: Und um jetzt auf deine Frage zurückzukommen, ich glaube und das zeigt dieser Punkt Nutzung des betriebsverfassungsrechtlichen Werkzeugkaufers.

00:42:48: Also ich glaube Betriebsrätinnen oder bzw.

00:42:51: auch Personalrätinnen sind meines Erachtens gut beraten, wenn sie quasi prüfen.

00:42:59: Wo haben wir Informationsrechte bzw.

00:43:02: wo haben wir Beratungsrechte?

00:43:03: Wo sind wir in der Mitbestimmung drin?

00:43:06: Können wir uns beispielsweise Informationen über den Wirtschaftsausschuss einholen?

00:43:12: Sind wir ein derart mitbestimmtes Unternehmen, das wir einen Aufsichtsrat haben?

00:43:16: Und wie können wir diesen nutzen, um das Thema zu begleiten?

00:43:22: Sebastian, möchtest du ergänzen?

00:43:25: Also Nils hat es ja schon alles ausführlich geschildert.

00:43:29: Ich glaube, der Aufsichtsrat muss nicht in jeder Einführung einer KI-Anwendung im Betrieb irgendwie sich einmeschen.

00:43:38: Es geht mehr um die großen Linien beim Aufsichtsrat und um die Risikokontrolle insgesamt, also ums Risikomanagement-System und Compliance-Management-System.

00:43:48: Aber es sind natürlich schon bei der KI-Einführung auch unterschiedliche Interessen unterwegs.

00:43:54: Man kann sich vorstellen, dass Anteilseigner vielleicht eher auf die Frage Effizienz, Geschäftschancen und so weiter gucken und die Arbeitnehmerseite einen besonderen Blick hat für die Frage, was bedeutet das für Arbeitsplätze?

00:44:10: Wie ändern sich die Qualifikationsanforderungen, fallen Arbeitsplätze weg oder wie ändert sich die Kultur insgesamt beim Arbeiten?

00:44:20: Was sind die sozialen Folgen?

00:44:22: Und das sind generelle Fragen, die auch der Aufsichtsrat natürlich adressieren kann im Rahmen dieser Risikofrage auch soziale Folgen, Arbeitsplatz, Qualifikation.

00:44:33: Und ob nun Betriebsrat und Aufsichtsrat da Hand in Hand arbeiten, ist auch eine Frage, wie es gerade opportun ist, dass die Arbeitnehmervertreter dieses Zusammenspiel einführen.

00:44:48: Oftmals kann der Aufsichtsrat unterstützen oder zumindest wenn im Betrieb, was schief läuft, durch Fragen.

00:44:55: bestimmte Themen triggern, aber nicht immer ist es vielleicht sinnvoll, das auf die übergeordnete Ebene zu heben.

00:45:02: Insofern hängt es von einer konkreten Situation ab und von den zusammenlaufenden Interessen, die da im Spiel sind.

00:45:10: Es gibt im Aufsichtsrat aber ganz unterschiedliche Ansatzpunkte auch, um überhaupt dieses Thema KI-Einführung zu adressieren.

00:45:17: Es geht jetzt nicht nur um die konkrete Anwendung im Betrieb.

00:45:21: oder komme ich da in die Diskussion mit den betrieblichen Vertretern und mit dem Unternehmen.

00:45:25: Ich habe ja zum Beispiel die Frage Strategieplanung.

00:45:28: Ich habe die Frage Compliance Management System.

00:45:31: Ich habe zustimmungspflichtige Geschäfte.

00:45:33: Zum Beispiel, wenn ich Investitionsplanung und Budget festlege, dann können auch KI-Anwendungen immense Investitionen sein, sodass ich auch an der Stelle schraube.

00:45:45: im Aufsichtsrat in die Diskussion komme.

00:45:47: Bei der Personalplanung kann es relevant sein, einmal im Rahmen HR, aber auch bei der Zuständigkeit im Vorstand brauche ich einen Chief Digital Officer oder eine spezielle Vorstandsfunktion mit spezieller Kompetenz.

00:46:02: Beim Vergütungssystem des Vorstands kann ich darüber diskutieren, ob ich entsprechende KPIs einführe, wenn ich da Ziele habe, die erreicht werden sollen.

00:46:11: Auch bei der Besetzung des Aufsichtsrats, wobei ich sagen würde, Es ist nicht zwingend ein spezieller KI-Experte im Aufsichtsrat notwendig.

00:46:20: Es geht mehr um ein gemeinsames Grundverständnis im Aufsichtsrat, was sich alle aneignen müssen.

00:46:25: Insofern ein bisschen anders als bei dem gesetzlich geforderten Finanzexperten im Aufsichtsrat.

00:46:32: Aber trotzdem gibt es manchmal in Aufsichtsräten ja auch Technologie- und Digitaalausschüsse, die sich natürlich auch mit diesem Thema befassen.

00:46:40: Insofern gibt es ganz unterschiedliche Ansatzpunkte, wo ich in die Diskussion als Aufsichtsrat einsteigen kann und wo ich auch Verknüpfungen mit der betrieblichen Ebene herbeiführen kann.

00:46:51: Ich würde gerne noch ein paar Punkte ergänzen wollen, wenn wir jetzt quasi über zentrale Fragen sprechen bzw.

00:47:00: auch das Thema Handlungsfähigkeit aufgreifen.

00:47:03: Zum einen hatte Sebastian ja erwähnt, dass sich die Anforderungen an Beschäftigung oder beziehungsweise, dass sich die Beschäftigung ändern kann, dass beispielsweise neues Guilds gefragt sein können,

00:47:17: etc.,

00:47:17: etc.

00:47:18: Und da würde ich gerne noch eine weitere Ebene aufmachen, insofern, als dass es meines Erachtens gilt, hier stets auch den Austausch mit den Beschäftigten zu suchen.

00:47:29: Dann einen anderen Punkt.

00:47:32: Das Thema ist momentan meines Erachtens enorm dynamisch.

00:47:37: Und da den Überblick zu behalten, also das findet selbst ich herausforderungsvoll.

00:47:43: Und meines Erachtens ist es umso wichtiger, sich geeignete Informationskanäle

00:47:50: zu suchen,

00:47:51: sich zu schulen, um quasi auch an dem Thema dran zu bleiben.

00:47:56: Und dann stellt sich natürlich die Frage, wie müssen sich Unter Umständen, Unternehmen weiterentwickeln, um zukunftsfähig zu bleiben.

00:48:06: Und da ist meines Erachtens eine gute Verknüpfung zwischen Aufsichtsratsebene und der betrieblichen Ebene förderlich.

00:48:15: Und dabei ist, beispielsweise wenn ich Leitlinien fürs Unternehmen festlege, Ethikrichtlinien, Ethik by Design und andere Unternehmensrichtlinien für die KI-Nutzung, Nils korrigiere mich, aber ich Ich glaube, es gibt immer wieder Fälle, wo versucht wird, dafür Gremien einzurichten, irgendwelche Beiräte, Ethikbeirat, die dann doch nicht mit Akteuren der betrieblichen Mitbestimmung besetzt sind, sondern eher mit externen Stakeholders und HA und so weiter.

00:48:51: Und da ist es sicher auch eine Rolle des Aufsichtsrats, darauf zu achten, dass die betriebliche Mitbestimmung eine ganz... Zentrale Rolle ist in dem Prozess insofern in solchen Gremien absolut immer vorhanden sein müssen.

00:49:04: Danke für diese Ergänzung.

00:49:06: Ihr habt jetzt schon eigentlich einen guten Ausblick darauf gegeben, aber vielleicht noch mal kondensiert, wenn ihr jetzt auf die nächsten zwei bis drei Jahre schaut, was sind da für euch die zentralen Fragen, die in Sachen KI noch auf uns und auch die Gremien der Unternehmens- aber auch betriebliche Mitbestimmung zukommen werden.

00:49:25: Und was

00:49:26: ist eurer

00:49:27: Meinung nach jetzt ein guter erster Schritt, vielleicht direkt nach dem Hören dieses Interviews, den Aufsichtsräte oder auch Betriebsräte tun können, um handlungsfähig zu bleiben?

00:49:36: Erst Sebastian und Daniels.

00:49:38: Na, das ist eine herausfordernde Frage.

00:49:41: Vor allem, wenn ich nicht das wiederholen will, weil ich schon gesagt habe, ich würde sagen, als erstes ist es wichtig, dass im Aufsichtsrat ein gemeinsames Grundverständnis herrscht.

00:49:53: Und dazu ist es aus meiner Sicht wichtig, dass man als Aufsichtsratsgremium eine gemeinsame Schulung zu KI macht, wenn man nicht sowieso ausschließlich aus KI-Experten besteht.

00:50:04: Darüber hinaus, würde ich sagen, ist das ganze KI-Thema eben in seinen Risiken insgesamt abzuschätzen.

00:50:12: und mit den Chancen, die sich daraus ergeben, zusammenzulegen und dabei eben auch wirklich zu schauen, welche Chancen bringt das für das Geschäftsmodell, für die Effizienz im Unternehmen und welche Risiken bringt das für die Arbeitsplätze und für die Veränderung der Arbeitsweise im Unternehmen.

00:50:34: Anhand dessen auch zu schauen, wie kann ich die Qualifikation aufbauen oder verändern, die ich hierfür eben brauche im Unternehmen?

00:50:42: Ich glaube, es sind vielschichtige Anforderungen, die da auf uns zukommen.

00:50:45: Zumal das ganze Thema im Fluss ist und völlig unabsehbar ist, wohin sich das alles entwickelt.

00:50:53: Vielleicht jetzt nochmal schnell die letzte Frage an dich,

00:50:56: Nils.

00:50:57: Ja, also ich glaube, für den Betriebsrat oder Personalrat ist es wichtig, sich Zum einen damit zu beschäftigen, wie wollen wir das Thema begleiten?

00:51:07: Also welche Strategie geben wir uns?

00:51:09: Welche Flöcke wollen wir setzen?

00:51:12: Und wer kann uns unterstützen?

00:51:14: Also Stichwort externer, aber letztendlich auch interner Sachverstand, um sich beispielsweise zunächst einmal darüber aufzuschlauen, was an KI im Unternehmen eingesetzt wird.

00:51:27: Und dann sollte meines Erachtens am Ende der Abschluss einer Vereinbarung stehen.

00:51:34: Und im Prinzip wäre es meines Erachtens ratsam, wenn man quasi in so einem kontinuierlichen Begleitungs- und Ausgestaltungsprozess kommt, der natürlich auch die Hinzuziehung der Beschäftigten bedingt.

00:51:49: Dann bedanke ich mich jetzt erst mal für das spannende Gespräch mit euch.

00:51:54: Und naja, es wird wahrscheinlich nicht das letzte Mal gewesen sein, dass wir uns zu diesem Thema hören.

00:51:58: Ihr habt ja schon gesagt, das Thema ist im Fluss, bleibt dynamisch und da gibt es immer wieder was zu besprechen.

00:52:04: Vielen Dank euch.

00:52:05: Danke schön.

00:52:06: Vielen Dank, Linda.

00:52:07: Vielen Dank, Nils.

00:52:10: Ja, das war unser Gespräch mit Sebastian Sigg und Nils Werner.

00:52:13: Wir hoffen, ihr konntet da genauso viel mitnehmen wie wir.

00:52:17: Ich habe da auf jeden Fall ordentlich was dazu gelernt und gerade der Blick darauf, wie KI Entscheidungen und Unternehmen beeinflusst und welche Verantwortung Mitbestimmung dabei trägt.

00:52:26: Ich bin mir sicher, das wird uns in den nächsten Jahren und auch im nächsten Jahr auf jeden Fall begleiten.

00:52:32: Ja, das glaube ich auch.

00:52:33: Und ich sage auch an der Stelle gar nicht befürchte, weil man soll ja auch gar nicht immer nur auf das negative gucken, sondern ich glaube künstliche Intelligenz klar.

00:52:40: Da ist irgendwie, sind auch bei dem ein oder anderen vielleicht ein bisschen Sorgen mit verbunden, aber ich glaube, dieses Interview hat auch mal deutlich gezeigt, was Verhandlungsmöglichkeiten wir auch da mitbestimmungsbereich durchaus haben, insbesondere auf welche Stärke dahin liegt, wenn die verschiedenen Ebenen zusammenarbeiten.

00:52:54: Und wenn Aufsichtsrat und Betriebsrat das da in Zusammenstrichen auch natürlich in Zusammenarbeit mit der Gewerkschaft im besten Fall.

00:53:00: Genau, und wer das Thema nochmal vertiefen möchte, außerdem dieses Podcast, für den

00:53:04: habe ich gute Nachrichten,

00:53:05: denn unser Seminarprogramm für im Jahr zwanzig haben wir gerade frisch veröffentlicht.

00:53:10: und zum Thema künstliche Intelligenz mitbestimmen haben wir auch wieder ein Spotlight eingeplant.

00:53:15: Das findet am dreizehnten Mai im nächsten Jahr statt und wer da eben Interesse hat, kann sich schon mal direkt schnell anmelden online, wie immer bei den Spotlights.

00:53:24: Das wird bestimmt nochmal ganz spannend

00:53:26: werden.

00:53:27: Und wo wir schon beim Seminarprogramm sind, wollen wir da noch auf ein paar Highlights zu sprechen kommen.

00:53:31: Magst du da noch mal einen Ausblick geben, Kuzima?

00:53:34: Wir haben da wieder ein buntes Programm zusammengestellt mit Spotlights und Seminaren.

00:53:40: Unsere Böcklerkonferenz natürlich auch am siebzehnten und achtzehnten Juno in

00:53:45: Berlin.

00:53:46: Den möchte ich schon mal zu Beginn Highlighten.

00:53:49: Ansonsten das erste Seminar, das im nächsten Jahr stattfindet, am dritten und vierten Februar in Düsseldorf.

00:53:54: Das ist so ein Allround-Plassiker.

00:53:56: In mich Jahresabschluss prüfen, da wird dabei gesprochen, welche Rechte und Pflichten der Aufsichtsrat und der Prüfungsausschuss haben.

00:54:02: Jahresabschluss ist natürlich eine der zentralen Aufgaben des Aufsichtsrats und deswegen sicherlich gut geeignet, ohne da die Grundlagen zu legen für die Aufsichtsratsarbeit, vielleicht auch, wenn man neu gewählt wird als Interessensfahrtskreatorin im Aufsichtsrat.

00:54:17: Wir kommen jetzt noch mal zum Spoiler zurück vom Anfang,

00:54:21: der jetzt dran geblieben ist,

00:54:23: weiß, worum es geht.

00:54:24: Und zwar

00:54:25: wird das erste Spotlight in diesem

00:54:27: Jahr

00:54:27: am vierzehnten Januar zum Thema Trumps Diversitätspolitik stattfinden.

00:54:31: Und zwar werden unsere beiden juristischen Kolleginnen und Kollegen Gina Ender und Sebastian Sick, also auch der Kollege, der in dieser Folge lang interviewt wurde, werden darüber sprechen, was der Aufsichtsrat eben zu erwarten hat und wie der Aufsichtsrat reagieren kann und auch muss, wenn es um das Thema US-amerikanischen Diversitätspolitik geht.

00:54:49: Ganz genau.

00:54:49: Und wir können jetzt schon verraten, das gibt es einmal im Seminar, aber auch in der nächsten Folge unserer Auftaktfolge für das nächste Jahr ist genau das auch Thema.

00:54:59: Da haben wir mit der Kollegin Maxi Leucht das drüber gesprochen, aber auch mit Professor Markus Scholz von der TU Dresden.

00:55:06: Da haben wir auch länger darüber gesprochen, was diese Politik, die Trump der Pferd für Auswirkungen hat und ob es eigentlich auch eine Wirtschaft mit Werten gibt und was man von Unternehmen vielleicht auch

00:55:18: verlangen

00:55:18: kann in solchen Zeiten.

00:55:20: Genau, also wenn das für eure Unternehmen aktuell relevant ist, dann habt ihr hier ganz viele Möglichkeiten, wie euch zu dem Thema Reiterqualifizieren können in der nächsten Zeit, sowohl im Podcast als auch in unserem Snotlight am vierzehnten Januar.

00:55:31: Das ganze Programm findet ihr wie immer am mitbestimmungsportal unter www.mitbestimmung.de und da findet ihr auch die Kontaktdaten unserer neuen Kolleginnen.

00:55:40: Denn seit November arbeitet Victoria Burner bei uns und ist zuständig für die Ausgestaltung unseres Webster-Seminarprogramms.

00:55:48: Wir freuen uns sehr, dass ihr an Bord ist und falls ihr Fragen zum Seminarprogramm habt oder auch Ideen und Anregungen könnt ihr euch gerne bei Victoria melden, die Kontaktdaten, wie gesagt findet ihr

00:55:57: im Mitbestimmungsportal.

00:55:59: Und damit sind wir am Ende dieser Folge angekommen.

00:56:02: Danke an dich, Cosima, dass wir das jetzt so in unserem ja doch vollen Terminkalender zum Ende des Jahres.

00:56:07: Das ist bei uns allen ja so.

00:56:08: Haben wir das jetzt noch mal zwischen Tür und Angel hier bewerkstelligen können.

00:56:12: Deswegen heute noch mal mit so einem Ton, den wir alle aus irgendwelchen Videokonferenzen kennen.

00:56:16: Beim nächsten Mal machen wir es dann Podcast Professional.

00:56:21: Ja, wir freuen uns auf das nächste Podcast.

00:56:22: Ja, ich glaube, das kann ich sagen.

00:56:24: Und ich würde sagen, wir bedanken uns fürs Zuhören und wir hören uns dann.

00:56:28: Im Januar und dann das nächste Mal kommt diese vollendende Februar Anfang März raus.

00:56:33: Genau, das schaffen wir.

00:56:35: Vielen Dank, Linda.

00:56:48: Ciao.