AI Agents mit Haltung: Warum Ethik jetzt unverzichtbar wird

00:00:00: Herzlich willkommen zur zweiten Folge der Staffel 2 unseres BSI Software Shortcasts.

00:00:05: Ich freue mich sehr, euch heute wieder begrüßen zu dürfen.

00:00:08: Heute steht ein Fokusthema im Blick der verantwortungsvolle Einsatz von AI-Agents.

00:00:13: Es freut mich außerordentlich, dass wir eine ausgewiesene Expertin für das Themengebiet

00:00:17: Digitale Ethik und Unternehmertum gewinnen konnten, Cornelia Diethelm.

00:00:22: Sie ist ausgewiesene Expertin für Digitale Ethik und vermittelt hier zwischen

00:00:27: Wirtschaft und den Erwartungen der Gesellschaft.

00:00:30: Vor diesem Hintergrund setzt sie sich insbesondere mit strategischen Trends

00:00:33: wie zum Beispiel Agentic AI intensiv auseinander.

00:00:37: Dieses Wissen gibt sie beispielsweise als Studiengangsleiterin des CAS Digital

00:00:41: Ethics an der Hochschule für Wirtschaft

00:00:44: Zürich sowie als Dozentin in verschiedenen Studiengängen weiter.

00:00:48: Cornelia ist daneben auch unternehmerisch tätig. Sie ist Mitglied in drei Verwaltungsräten

00:00:53: sowie Mitinhaberin eines Legal Tech-Unternehmens für Datenschutz.

00:00:57: Sie hat Politikwissenschaften, Betriebs- und Volkswirtschaft studiert und später

00:01:01: einen MAS in Digital Business absolviert und sich insbesondere im Bereich Technoethik weitergebildet.

00:01:08: Eine bessere Expertin könnte ich mir gar nicht wünschen.

00:01:12: Deshalb, Cornelia, die Frage in deine Richtung, neben dem herzlich willkommen,

00:01:15: habe ich deinen anspruchsvollen Lebenslauf richtig zusammengefasst?

00:01:18: Ja, ganz herzlichen Dank, Sebastian. Du hast das perfekt gemacht.

00:01:21: In dem ganzen AI-Ökosystem in der Schweiz und Europa habe ich mich schon viel

00:01:25: umgehört und viel umgetrieben und ich darf dich glaube ich als Ikone der digitalen Ethik bezeichnen,

00:01:31: deshalb freut es mich, das will ich als Expertin heute dabei haben.

00:01:35: Einen Hinweis würde ich da tatsächlich noch zusätzlich platzieren wollen,

00:01:38: nämlich, es lohnt sich, dir auf LinkedIn zu folgen.

00:01:41: Ich habe gehört, du bist als Top Voice ausgezeichnet worden und publizierst

00:01:45: dort regelmässig Inhalte zu Ethik und KI. Ist das richtig?

00:01:48: Ja, herzlichen Dank für diesen Hinweis. Also LinkedIn macht mir wirklich Spass

00:01:52: und ich denke, es ist toll, dass wir so ein Business-Netzwerk haben,

00:01:55: wo wir eben gegenseitig von der Expertise voneinander profitieren können.

00:01:58: Ich freue mich sehr, dass wir uns eben in dieser heutigen Folge spezialisieren

00:02:02: auf den verantwortungsvollen Einsatz von AI-Agents und der Fragestellung,

00:02:06: was Unternehmen jetzt beachten müssen.

00:02:07: Im Vorfeld dieser Studie habe ich mich natürlich nochmal belesen,

00:02:11: links und rechts, was die aktuellen Fragestellungen von Interesse sind.

00:02:15: Globale Studien zeigen auf, dass trotz einer hohen Nutzung von KI weniger als

00:02:19: 50 Prozent der Menschen diesen KI-Systemen auch vertrauen.

00:02:23: Das stärkt natürlich nochmal die Bedeutung von Themenstellungen wie Governance,

00:02:27: Transparenz und ethischer Steuerung.

00:02:29: Es gibt zudem eine PwC-Studie, die zu dem Ergebnis kommt, dass etwa 58 Prozent

00:02:34: der Führungskräfte angeben, dass verantwortungsvoll gestaltete KI-Initiativen

00:02:39: sowohl die Effizienz als auch den Geschäftsnutzen verbessern.

00:02:42: Auch hier steht eben digitale Ethik wieder im Vordergrund und man sollte sich,

00:02:47: glaube ich, sehr bewusst mit Ethik auseinandersetzen und diesen Aspekt zu einem

00:02:52: integralen Bestandteil einer jeden AI-Strategie machen, wenn man mich fragt.

00:02:57: Daher, liebe Cornelia, habe ich für dich drei knackige Fragen vorbereitet und

00:03:01: freue mich schon auf dein Abschlussstatement zu diesen spannenden Inhalten der

00:03:05: heutigen Shortcast-Folge. Legen wir also los!

00:03:10: Frage 1. Warum sollten wir uns jetzt im Jahr 2026 mit Ethik im Kontext von KI beschäftigen?

00:03:17: Ja, ich glaube, wir müssen uns spätestens jetzt damit beschäftigen,

00:03:21: weil KI ist eigentlich wie Daten.

00:03:22: Wir werden es überall haben, weil das halt wirklich eine Allrounder-Technologie ist.

00:03:27: Wir haben sie schon länger, aber ich denke, erst seit Chachipity sind sich die

00:03:31: Menschen dem bewusst, also was generiert wird, auch wenn wir natürlich Empfehlungsalgorithmen

00:03:35: oder anderen KI-Systemen schon länger quasi unterworfen sind, davon betroffen.

00:03:41: Und im Moment nehme ich einfach wahr, dass die technologischen Möglichkeiten

00:03:43: extrem dominieren. Und das merken natürlich die Menschen.

00:03:47: Also man überlegt sich dann vielleicht zu wenig, was macht das Leben besser?

00:03:51: Wo habe ich einen besseren Service?

00:03:53: Wo wird meine Arbeitstätigkeit interessanter? Sondern wir reden wahnsinnig viel

00:03:58: nur über günstiger, produktiver.

00:04:00: Wir können Mitarbeitende abbauen und das ist natürlich nicht so erbauend.

00:04:04: Und die Ethik hilft uns eigentlich im Sinne eines Kompass zu schauen, was ist uns wichtig.

00:04:09: Wir wollen zum Beispiel fair behandelt werden.

00:04:12: Wir wollen, dass Menschen selber über ihr Schicksal entscheiden können.

00:04:15: Wir wollen auch Menschen nicht täuschen.

00:04:17: Und solche Unternehmenswerte oder auch spezifische Werte für KI-Systeme,

00:04:21: mit denen müssen wir uns gezielt auseinandersetzen, um dann eben die Technologie

00:04:26: eigentlich als Werkzeug einzusetzen,

00:04:28: um zu sagen, da wollen wir einen besseren Job machen und KI kann uns dabei helfen.

00:04:33: Aber im Moment haben wir leider sehr viele Projekte, bei denen einfach so die

00:04:38: Faszination für die Technologie dominiert.

00:04:40: Und da kann es eben dann schon zu unerwünschten

00:04:42: Folgen wie zum Beispiel Diskriminierung oder Täuschung kommen.

00:04:47: Das heisst, das, was in der PwC-Studie gesagt wird, Effizienz und Geschäftsnutzen

00:04:52: kommt mit verantwortungsvoller KI und Vertrauen, könntest du aus deiner Perspektive voll unterstreichen.

00:04:58: Absolut. Also ich denke, der Nutzen der Menschen und in diesem Sinne auch das

00:05:02: Geschäftsinteresse sollten im Vordergrund sein.

00:05:05: Und wenn wir es betriebswirtschaftlich ansehen, es geht zuerst um die Effektivität.

00:05:09: Und wenn wir das Richtige tun, dann müssen wir schauen, dass Kotz und Nutzen

00:05:13: in einem guten Verhältnis sind.

00:05:14: Im Moment merkt man wirklich, dass man sich etwas blenden lässt von einfach,

00:05:19: es wird ganz günstig möglich sein,

00:05:21: aber diese KI-Systeme sind eben nicht neutral, sie können nicht alles leisten

00:05:26: und deshalb ist einfach so diese kritische Reflexion der Chancen und Risiken

00:05:30: und was wollen wir wirklich erreichen,

00:05:32: die ist enorm wichtig, um sie eben am richtigen Ort einzusetzen.

00:05:35: Du sprachst gerade schon von der Faszination, die von KI ausgeht.

00:05:39: Wenn wir über KI sprechen, sprechen wir heute viel über AI-Agents.

00:05:44: AI-Agents bieten sehr viele Chancen für Unternehmen. Wie sollten Unternehmen

00:05:48: sie am besten in Kombination mit den Mitarbeitenden einsetzen,

00:05:52: zum Beispiel im Kundenservice eines Unternehmens?

00:05:54: Ich finde es sehr schön, dass du die Kombination mit den Mitarbeitenden betonst.

00:05:58: Und genau da ist es eben sehr wichtig, einen Fokus zu legen,

00:06:03: die Mitarbeitenden zu schulen. Denn sie wissen ja, was sie an ihrem Job machen

00:06:07: und sie kennen die Kundenbedürfnisse.

00:06:10: Und wenn man sie zu Beteiligten macht, ich bin sicher, dass man da viel sinnvollere

00:06:13: Anwendungsfelder findet, als wenn man das top-down entscheidet.

00:06:17: Es ist ja auch bekannt, dieses Konzept zum Beispiel «human in the loop»,

00:06:21: dass man sagt, wir automatisieren gewisse Prozesse.

00:06:24: Aber da muss man sich einfach auch bewusst sein, ist es dann attraktiv,

00:06:27: nur noch die Maschine zu beaufsichtigen?

00:06:30: Oder wenn man sagt, die Maschine macht ja nur einen Vorschlag oder KI macht

00:06:33: einen Vorschlag, haben dann die Mitarbeiter überhaupt die Zeit?

00:06:37: Haben sie das Wissen? Und was haben sie überhaupt für einen Anreiz,

00:06:40: sich ständig gegen eine KI-Empfehlung durchzusetzen?

00:06:43: Da gibt es einfach sehr viele Veränderungen am Arbeitsplatz.

00:06:46: Sie sind noch nicht ganz durchdacht.

00:06:48: Und ich glaube, wir müssen einfach überlegen, wollen wir etwas automatisieren?

00:06:52: Und dann ist vielleicht dieses Human in the Loop, dass der Mensch noch darüber

00:06:55: schaut, ist weniger wichtig.

00:06:58: Oder wir dürfen uns da nicht einfach Sand in die Augen streuen.

00:07:02: Das müssen wir kritisch anschauen. Und deshalb eben diese Mitarbeitenden.

00:07:06: Und mit Blick auf die Kunden sicher eben auch schauen, was sind Risiken?

00:07:09: Also gerade bei den AI-Agents oder grosse Datensicherheitsrisiken.

00:07:13: Also was passiert mit diesen Daten? Wo gehen die hin? Dann eben auch die Gefahr

00:07:17: von falschen Ergebnissen.

00:07:19: Also gerade beim Kundendienst ist es wichtig, dass ich eine qualitativ gute,

00:07:23: richtig aktuelle Information erhalte.

00:07:26: Und was die verschiedenen Umfragen auch immer zeigen, Menschen wollen nicht getäuscht werden.

00:07:31: Wir möchten immer wissen, ob wir mit einer Maschine oder mit einem Menschen sprechen.

00:07:37: Und um eben diesen Kundenblick und diese Mitarbeitenden gut zu behandeln,

00:07:42: muss man sich auch wieder auf Unternehmenswerte zurückbesinnen.

00:07:46: Und da denke ich mir, ist BSC auf jeden Fall auch ein Vorbild,

00:07:50: dass man wirklich überlegt, wofür stehen wir, nach innen, nach aussen?

00:07:53: Und das auch etwas so als Kompass, als Leitstern zu nehmen, wenn man sich entscheidet,

00:07:59: AI-Agents einzusetzen, beziehungsweise wo man sie einsetzen will.

00:08:04: Ich finde es großartig, dass du diesen Aspekt der Wahlmöglichkeit und dann am

00:08:08: Ende auch Transparenz betonst.

00:08:10: Bei Transparenz sind wir auch wieder beim Eingangspunkt zum Thema Vertrauen.

00:08:14: Also vertraue ich meinem Dienstleister oder eben dem Servicemitarbeitenden an der Stelle.

00:08:19: Sehr spannender Aspekt, das Transparenzthema nochmal nach vorne zu stellen,

00:08:23: weil auch das ja am Ende Vertrauen stiftet oder eben Wahlmöglichkeit richtig

00:08:28: gut zum Einsatz bringt beim Kunden.

00:08:30: Man hört immer mal wieder diesen Begriff von hybriden Teams.

00:08:33: Wir hatten ja auch gesagt, Kombinationen von Mitarbeitenden und KI.

00:08:36: Glaubst du an dieses Konzept von hybriden Teams in der Zukunft?

00:08:40: Oder ist es am Ende Mensch mit Tool?

00:08:42: Wie siehst du diesen Blick auf dieses Thema menschlicher Agent,

00:08:45: künstlicher oder KI-Agent?

00:08:47: Ja, ich persönlich denke schon eher, dass es Werkzeuge sind.

00:08:51: Also ich glaube, wir haben einfach eine grosse Automatisierungswelle.

00:08:55: Wir haben auch eine persönliche Unterstützung.

00:08:57: Es kann sein, dass verschiedene Kundenberater diese Tools unterschiedlich nutzen.

00:09:01: Aber diese Kollaboration zwischen Mensch und Maschine schaue ich etwas kritisch

00:09:05: an, weil wir damit eine Maschine auf Augenhöhe mit dem Menschen stellen.

00:09:09: Das führt zu einer Vermenschlichung, wie wenn eine Führungskraft Menschen und

00:09:14: Maschinen führen würde.

00:09:15: Das, denke ich, kann uns einfach etwas fehlleiten, weil wir dann der Maschine zu viel zutrauen.

00:09:21: Und ich denke, sie sollte uns dienen. Wir müssen entscheiden,

00:09:24: was wir mit ihr machen wollen und wo wir sie einsetzen wollen.

00:09:28: Und da schliesst sich der Kreis zu dem von dir genannten Prinzip des «human in the loop», richtig?

00:09:33: Genau, deshalb stehe ich diesem «human in the loop» etwas kritisch gegenüber,

00:09:37: weil ich denke, gewisse Sachen werden automatisiert und dann kann man das mit

00:09:40: gutem Gewissen der Maschine übergeben.

00:09:42: Man weiss, es funktioniert, aber

00:09:44: dass der Mensch eigentlich immer noch die kritischen Entscheide fällt,

00:09:48: da habe ich das Gefühl, das ist dann in diesem Kontext wirklich einfach zeitlich

00:09:51: und fachlich und von den Anreizen her nicht wirklich mittel- bis langfristig

00:09:55: realistisch, dieses «human in the loop»-Konzept.

00:09:58: Super spannend. Vielen Dank für deine Expertenmeinung an dieser Stelle.

00:10:02: Deine Expertise und dein Blick auf die AI-Agents ist für mich besonders noch

00:10:07: mal relevant mit der Fragestellung Einführung dieser neuen Technologien,

00:10:11: wie du es gerade auch noch mal betont hast.

00:10:13: Was ist bei der Einführung von AI-Agents im Sinne kultureller Wandel und Transformation

00:10:17: deiner Meinung nach besonders zu beachten?

00:10:21: Das Wichtigste ist sicher, diese Kompetenzen zu schärfen und ich glaube,

00:10:24: das ist nicht nur die KI-Kompetenz, wie können solche Systeme funktionieren,

00:10:28: sondern eben auch in die ethische Kompetenz, in das kritische Denken zu investieren.

00:10:33: Das zeigen euch auch ganz viele verschiedene Studien, dass das eine Zukunftskompetenz

00:10:38: ist und das braucht auch Zeit, um eben bei Projekten wirklich zu reflektieren,

00:10:42: was sind die Chancen, was sind die Risiken,

00:10:44: wie können wir die Risiken minimieren oder braucht es vielleicht KI gar nicht,

00:10:48: um ein Ziel zu erreichen.

00:10:50: Ganz wichtig finde ich auch die Führungskräfte, die sind Vorbilder.

00:10:54: Und das fehlt im Moment zum Teil. Also Mitarbeitende kritisieren manchmal,

00:10:59: dass Führungskräfte einfach überhöhte Erwartungen an sich stellen und man wie

00:11:03: das Gefühl hat, sie predigen das eine, aber sie machen etwas anderes.

00:11:07: Ich glaube, diese KI-Projekte sind wahnsinnig auf den Kunden ausgerichtet.

00:11:11: Das ist sicher nicht falsch.

00:11:13: Aber was man vergisst, ist eben diese Veränderung der Arbeitsplätze.

00:11:17: Also dass einfach die Tätigkeiten ändern. Ich glaube, weniger,

00:11:20: dass das ganze Jobs abbauen wird, sondern die Jobprofile werden sich verändern.

00:11:25: Und da, glaube ich, ist es wichtig,

00:11:26: dass einfach die Unternehmen diese Veränderung etwas antizipieren.

00:11:30: Also, wenn Mitarbeitende gehen, dass man sich überlegt, was verändert sich,

00:11:34: bevor man diese Stelle wieder besetzt.

00:11:36: Es gibt immer auch wieder neue Jobprofile für Lernende, dass man da eben auch

00:11:40: neuen Jobprofilen eine Chance gibt. Dieses Vorausschauen machen viele Unternehmen

00:11:46: nicht, weil sie nur auf Produkte gegenüber den Kunden fokussieren.

00:11:50: Ich denke, wir sind mitten in einer Meinungsbildung, was heute vielleicht zum

00:11:54: Teil nicht akzeptiert wird, ist vielleicht in ein paar Jahren kein Problem mehr.

00:11:59: Und deshalb eben diese Transparenz und Wahlmöglichkeit ist extrem wichtig.

00:12:03: Oder eben auch einfach Feedback einzuholen von Kunden, weil ich glaube,

00:12:07: wir sind alle wirklich mitten in einem Lernprozess. Also das Thema Lernprozess

00:12:12: kann man, glaube ich, nur unterstreichen auf beiden Seiten.

00:12:15: Ich finde, du hast gerade einen ganz spannenden Aspekt eben vor dem Hintergrund

00:12:18: der Frage kultureller Wandel und Transformation gebracht.

00:12:21: Dass neue Kompetenzen am Ende auch veränderte Jobprofile erfordern werden.

00:12:27: Hast du da einen Tipp für unsere Hörerinnen und Hörer, wie man sich jetzt mit

00:12:32: dem Thema Jobprofil beschäftigt?

00:12:33: Auseinandersetzen sollte und Kompetenzwandel? Ich glaube, es gibt gute Weiterbildungsmöglichkeiten

00:12:39: von eintägigen Veranstaltungen und Seminaren bis hin zu ganzen CAS.

00:12:44: Es gibt auch sehr gute Bücher oder natürlich auch Videos. Vielleicht kann man

00:12:48: sich auch etwas inspirieren lassen von der Schule, denn die Schule setzt sich

00:12:51: auch sehr stark damit auseinander, was müssen wir verändern,

00:12:55: um die nächste Generation fit für die Zukunft zu machen.

00:12:58: Also die haben auch so Frameworks, was verschiedene Kompetenzen angeht,

00:13:02: unter anderem eben auch Ethik und KI-Kompetenz.

00:13:05: Die Parallele, die du da ziehst, finde ich ganz spannend. Mein Sohn ist jetzt

00:13:09: zehn Jahre alt und gerade auf die weiterführende Schule gekommen.

00:13:12: Dort gibt es auf einmal Fächer, die nennen sich Lernen-Lernen.

00:13:16: Etwas, was ich früher nicht gelernt habe.

00:13:18: Geht das in diese Richtung? Lernen-Lernen oder den Einsatz von KI-Lernen?

00:13:22: Kann durchaus in diese Richtung gehen, weil bei KI in der Schule geht es zum

00:13:26: Beispiel darum, dass ich die Technologie verstehe, dass ich sie anwenden kann

00:13:30: und dass ich mir aber auch den Folgen davon bewusst bin.

00:13:34: Also was bedeutet das für unsere Gesellschaft oder für neue Möglichkeiten, aber auch Risiken?

00:13:40: Wenn ich Referate halte oder wenn ich in der Schule doziere.

00:13:43: Nehme ich immer sehr häufig Fälle, beschreibe den Fall und lasse sie dann reflektieren.

00:13:48: Weil ich glaube, in letzter Zeit hat das kommerzielle Denken wahnsinnig überhand

00:13:53: genommen und die Zeit, um einfach mal zu reflektieren, und zwar wirklich nicht

00:13:57: nur an die direkt Betroffenen, sondern auch etwas breiter.

00:14:01: Wir nehmen uns dafür viel zu wenig Zeit und das wird immer, immer wichtiger.

00:14:05: Das finde ich einen super spannenden Aspekt.

00:14:07: Wenn wir bei BSI KI-Projekte einführen oder eben unsere Customer Agents,

00:14:11: haben wir sogenannte Ethics Enabler mit auf den Projekten sitzen,

00:14:15: die neben den technologischen Möglichkeiten eben genau das analysieren,

00:14:19: was gibt es an Ethik zu beachten bei der Einführung.

00:14:22: Und ich glaube, Cornelia, da warst du nicht ganz unbeteiligt dran, dass wir solche Rollen,

00:14:26: mit vorgesehen haben. Ja, ich finde, ihr seid da wirklich vorbildlich.

00:14:30: Ich durfte einfach bei der Ausbildung dieser Ethics Enabler mitarbeiten,

00:14:35: aber das Konzept ist wirklich von euch.

00:14:37: Ich denke, das passt zu eurer Kultur und ihr macht das eben super,

00:14:40: weil ihr gebt ihnen Raum.

00:14:42: Wenn man nicht explizit sagt, ihr dürft jetzt breit denken, dann passiert es

00:14:46: eben nicht. Also ihr seid da sehr, sehr vorbildlich unterwegs.

00:14:50: Also herzliche Gratulation zu diesem Konzept der Ethics Enabler.

00:14:53: Und danke dir für die Kompetenz, die du damit eingebracht hast.

00:14:57: Da kommen wir gleich zu unserem Abschlussstatement nach diesen drei Fragen.

00:15:01: Liebe Cornelia, um den richtigen Kurs für den Einsatz von AI zu setzen,

00:15:05: müssen Unternehmen jetzt … Sie müssen unbedingt in ihre Mitarbeitenden und Führungskräfte

00:15:11: investieren und sie zu Beteiligten machen und im Hinblick auf KI-Projekte unbedingt

00:15:18: die Unternehmenswerte und die Kundenbedürfnisse als Kompass nutzen.

00:15:22: Wunderbar. Herzlichen Dank für dieses knackige Statement, das natürlich auch

00:15:27: hier von deiner Expertise geprägt ist.

00:15:29: Liebe Cornelia, herzlichen Dank für deine Zeit und ich freue mich auf die vielen

00:15:33: Followerinnen und Follower, die du sicherlich gewinnen wirst auf LinkedIn nach

00:15:37: der Veröffentlichung unseres BSI Software Shortcasts.

00:15:40: Herzlichen Dank. Ganz herzlichen Dank dir.