AI Act ignorieren, bis es knallt? Das kommt jetzt auf Unternehmen zu

00:00:03: Und damit herzlich willkommen zu einer neuen Folge von Wissen Kompakt.

00:00:19: Schön, dass ihr wieder dabei seid!

00:00:21: In dieser Folge spreche ich mit Robert Deis Wirtschaftsjourist mit Fokus auf KI über den EUAI-Akt.

00:00:27: Wie lief die Einführung und Wie reagieren die Unternehmen seit der Einführung?

00:00:33: und vor allem, was kommt als nächstes auf Unternehmen zu?

00:00:36: Darüber sprechen wir in dieser Folge.

00:00:38: Und damit los geht's!

00:00:42: Hinweise wie erstellt mit KI oder dieses Bild wurde mit KI generiert begegnen uns inzwischen immer häufiger – auf Websites, Newslettern, sozialen Medien.

00:00:52: unter hinter steckt u.a.

00:00:54: die europäische KI-Verordnung besser bekannt als EU AI Act.

00:00:58: Seit dem zweiten August, ist die Transparenzpflicht des AI-Aggs.

00:01:03: Darunter die Kennzeichnungspflicht bestimmter KI Generator Inhalte.

00:01:07: Für viele Unternehmen heißt das jetzt?

00:01:10: Was müssen wir eigentlich beachten und was kommen noch danach auf uns zu?

00:01:14: Und gerade weil KI im Arbeitsalltag längst angekommen ist – zum Beispiel beim Texten bei Bildern im Kundenservice betrifft das Thema nicht mehr nur die Rechtsabteilungen sondern auch ganze Teams und eben auch ganze Bereiche von Unternehmen!

00:01:27: Und bei so einem neuen Regelwerk bleiben natürlich Fragen offen.

00:01:30: Manchmal aber auch ein bisschen Verunsicherung und genau darüber sprechen wir heute.

00:01:35: Heute geht es aber weniger um die Paragrafen, sondern viel mehr um eine Einschätzung aus der Praxis.

00:01:41: Wir haben Unternehmen unter Markt auf den AI reagiert und wie lief dir einen Führung aus Experten Sicht?

00:01:47: Dazu habe ich mir heute wie immer ein Gast eingeladen nämlich Robert Deis.

00:01:51: Er ist Wirtschaftsjurist mit Fokus auf KI und beschäftigt sich intensiv mit dem EU-AI-Akt und dem Umgang der Unternehmen damit.

00:01:58: Und damit herzlich willkommen, Robert!

00:01:59: Schön, dass du da bist.

00:02:00: Danke, dass ich da sein darf.

00:02:04: Zu Beginn eines jeden Interviews stelle ich jedem Gast die gleiche Frage.

00:02:08: Wir sind ja hier bei einem Weiterbildungs-Podcast.

00:02:10: Deswegen frage ich dich Wie lernst Du persönlich am besten?

00:02:13: Gerade so bei Themen wie KI, die sich so schnell weiterentwickeln?

00:02:17: Was hast Du dazu für Lernstrategien entwickelt?

00:02:21: Also ich lerne in der Zwischenzeit vor allem mit einem Sparing-Partner, einem Agent den ich mir selber gebaut habe und sehr viel Audiovisuell.

00:02:29: Ich bin nicht der Typ, der jetzt alles durchliest auch wenn ich gerne selber schreibe aber doch ist der audiovisuelle Zugang für mich der Beste.

00:02:37: Audiovisuel heißt du versuchst dir das nochmal in Grafiken darstellen zu lassen oder?

00:02:42: Bildlich grafiken... Das ist mein Ansatz als Jurist weil es ja oft zu trocken ist dem Menschen Bildlich darzustellen, dass es eben nicht so ein trockenes Brot ist.

00:02:52: Total spannend!

00:02:53: Ich glaube viele sind da so'n bisschen visueller angelegt.

00:02:59: Deswegen gibt's ja glaub ich auch viel... Ja, viele Versuchessachen in Grafiken einfacher darzustellend damit man's so'nn bisschen runterbrechen kann und da is'k glaub ich so'nen bildlichen aber gleich gar nicht mal so schlecht.

00:03:13: Aber lass uns mal direkt ins Thema starten.

00:03:16: Vielleicht fangen wir mit der kurzen Erinnerung an für alle, die noch nicht so drin sind im Thema AI-Akt.

00:03:23: Magst du vielleicht in wenigen Sätzen erklären worum es beim EU-AI-Ak im Kern geht?

00:03:29: Also im Kern ist das ähnlich wie bei der DSGVO ein Risiko passiert das.

00:03:34: Viele sagen ja noch Gesetz aber es ist kein Gesetz, sondern eine Verordnung.

00:03:39: Es geht im Endeffekt darum, KI-Systeme in erster Linie einzuordnen.

00:03:43: Welche KI- Systeme nutze ich?

00:03:45: Die haben bestimmte Risiken und auf die müssen wir eben achten.

00:03:50: was wir damit verpflichten haben das ist die eine Einordnung.

00:03:53: und dann gibt es noch für die großen Modelle also wir haben jetzt von system gesprochen von Modellen auch noch zusätzliche Pflichten die aber deutlich weniger Unternehmen betreffen werden.

00:04:04: Insgesamt geht es hier um eine Unternehmensverordnung, also das geht nicht um Privatpersonen.

00:04:10: Das heißt auch die Regulierungen und die Haftungen beziehen sich nur auf Unternehmen?

00:04:15: Richtig!

00:04:16: Wir wollen uns heute ein bisschen intensiver mit dem ersten Teil der eingeführt wurde beschäftigen nämlich die Einführung der Kennzeichnungspflicht gerade weil KI schon so enorm einzug in unseren Arbeitsalltag genommen hat.

00:04:30: Wie hast du die Einführung für dich wahrgenommen?

00:04:33: oder kannst du vielleicht ein bisschen aus deiner Erfahrung als Experte in der Beratung berichten, wie andere Unternehmen da rangegangen sind?

00:04:41: Jetzt speziell auf die Kennzeichnungspflicht?

00:04:45: Machen wir es erstmal ein bisschen allgemeiner auf den EUAI-Ekt, also so.

00:04:52: Auf

00:04:53: die ersten Pflichten sozusagen?

00:04:55: Ja, also die erste große Pflichtwelle kam ja letztes Jahr mit der KI-Kompetenz und da gab es dann die ersten Expertinnen, die dann angefangen haben zu sagen ihr müsst alle geschult werden und sonst drohen Bußgeld und so.

00:05:06: Also vorne weg das ist eine Entmystifizierung.

00:05:09: Es gibt kein direktes Buß Geld.

00:05:10: Das kommt meistens über andere Bereiche Denn wer seine Mitarbeiter nicht schuld Der hat dann eben Probleme weil sie dann andere Dinge machen wie zum Beispiel DSGVO-Pflichten verletzten bezogene Daten irgendwo reinschmeißen oder ähnliches.

00:05:23: Oder jetzt durch die Transparenzpflicht, die wissen das nicht dass man irgendwas kennzeichnen muss und dadurch dann eben das zurückfällt.

00:05:31: Und dann kommen Themen wie Innen- und Außenhaftung dazu, um zur Weitensfort.

00:05:34: Also es ist viel das Problemes, es gibt vor allem eine große Rechtsunsicherheit von Anfang an.

00:05:39: Es war sehr schwierig das Einzuschätzen in.

00:05:41: die KI-Verordnung ist sehr, sehr waageformuliert.

00:05:44: Die ist nicht so typisch wie Gesetze sonst oder auch Normen wo man ganz genau weiß okay so ist das gemeint.

00:05:50: Das gibt Definitionen dazu.

00:05:52: Man kann sich auf was stützen sondern es ist sehr offen und das führt eben dazu dass es auch uns Juristen oft schwerfällt das einzuschätzen und es gibt keine Rechtsprechung oder nur wenig, mir ist nicht viel bekannt dazu.

00:06:04: Und dementsprechend ist es in Unternehmen eben auch sehr viele Fragezeichen warum sie ja auch dann irgendwann auf Druck der Industrie den digitalen Omnibus gab, der noch mal einiges verändert hat in der KI-Verordnung.

00:06:16: einfach weil dieser Anlauf so war.

00:06:18: wo sollen wir anfangen?

00:06:19: Wo sollen wir aufhören?

00:06:20: Du hast es ja... angesprochen, dass so viel Unsicherheit aufgetreten ist gerade weil der EU-AI Act so vageformuliert wurde.

00:06:29: Meinst du das war mit Absicht damals gewesen?

00:06:33: Weil man noch nicht wusste wie sich alles weiterentwickeln würde?

00:06:36: Definitiv, also natürlich ich bin kein Insider.

00:06:38: Ich kann es nicht hundert Prozent sagen aber die Wahrscheinlichkeit ist groß dass man den Spielraum hat da auch noch weiter zu gehen weil jeder weiß die KI entwickelt sich enorm schnell.

00:06:49: und jetzt haben wir noch die agentische KI.

00:06:50: die ist eigentlich in der KI-Verordnung gar nicht wirklich berücksichtigt und um diesen Platz zu lassen, hat man das so Waage gemacht.

00:06:57: Aber das Problem daran ist – ich kann es schon nachvollziehen – dass es dann solche Begriffe gibt.

00:07:03: Ich versuche sie mal bildlich darzustellen.

00:07:05: Solche Sachen wie angemessen Schulen oder solche Sachen.

00:07:09: Und wenn man sich das jetzt überlegt, man lädt Freunde ein zum Pizza essen und da hat er einen Rezept und da steht angemessene Backen.

00:07:17: Dann sagt der eine kriegt den Herzinfarkt gefühlt, ist, weil sie schon zu dunkel ist.

00:07:23: Der Nächste sagt die muss fast schwarz sein und das sieht man angemessen ist so ein Begriff nicht zweifels um nichts ganzes?

00:07:29: und dass es eben bei der KI-Verordnung sehr sehr häufig der Fall und das macht's eben schwierig, weil man eben noch nicht wirklich Präzidenz verliert, die mir bekannt sind und dementsprechend kann man sich auch nicht wirklich darauf verlassen und kann deshalb natürlich auch nur Waage formulieren.

00:07:45: Und wie ist es konkret gesprochen bei der Kennzeichnungspflicht?

00:07:48: Wie hast du das wahrgenommen?

00:07:49: wir haben Unternehmen Reagiert?

00:07:52: Also die Kennzeichnungspflicht war zwar auch erst mal schwierig.

00:07:56: Wir hatten zum Beispiel einen Fall bei den Öffentlichen, die habe ich zwar nicht beraten aber sonst hätten sie es anders gemacht.

00:08:02: Aber da kam ja genau dieser Fall vor Dieser Skandal das ein öffentlich-rechtlicher Sender Videos oder Bilder generiert hat und nicht gekennzeichnet hat.

00:08:10: Das Problem ist wir haben da in der Zwischenzeit eigentlich ganz gute Leitlinien wo man nachgucken kann als Orientierungshilfe Bei den Transparenzpflichten veröffentlicht Auch mit Beispiel.

00:08:21: Das Problem ist eher, dass viele nicht richtig wissen was sie kennzeichnen und deshalb ist man alles kennzeichnet.

00:08:28: Was auch nicht richtig ist oder das Sie gar nicht so richtig unterscheiden können.

00:08:32: Was ist damit gemeint?

00:08:33: Denn die Kennzeichnungspflicht bedeutet an sich, dass man Dinge kennzeichne soll, die real sein könnten.

00:08:41: Viele denken nämlich so naja Die Person gibt es ja nicht, die ich da generiert habe.

00:08:45: Die ist zwar fotorealistischer, die gibt's nicht also muss ich auch nicht kennzeichen doch In dem Fall schon.

00:08:50: Das Problem ist, hier ist eben der genaue Unterschied auf die anderen Seite wenn ich jetzt ein Bild von mir auf einem Drachen mache, der dann irgendwo durch die Gegend fliegt, dann ist das wieder der gesunde Menschenverstand wo man sagt naja das kann jeder wissen dass es Drachen leider nicht gibt und dementsprechend muss man das auch nicht kennzeichen.

00:09:05: aber so muss man sich den Thema annähern und das wenn man das den Unternehmen klar macht oder wenn sie wissen wo sie Beispiele nachschauen können, dann klappt das eigentlich ganz gut.

00:09:16: Aber du hast gerade gesagt Es gibt auch viele Unternehmen, die einen großen Panik laufen und am besten alles kennzeichnen wollen.

00:09:23: Und du meintest eben gerade das ist auch nicht richtig!

00:09:26: Wie meinst du das?

00:09:27: Ja, also der Punkt ist ja der.

00:09:30: Die Personen die damit in Kontakt kommen sollen ja informiert werden ob das jetzt zum Beispiel ein Deep Fake ist.

00:09:36: Ein Deep Fake muss man kennzeichnen und es ist an sich einfach nur wenn man etwas generiert was echt sein könnte.

00:09:41: Also ich hatte heute Morgen das Beispiel im Schulungsfall so einen Taxi Teller muss ich ja so an die Gourmet Sachen von NRW gewöhnt und dementsprechend so ein Taxi-Teller.

00:09:52: und da haben auch viele gesagt es muss ja nicht kennzeichnet.

00:09:54: doch Doch, weil der sieht echt aus und es könnte jemand darüber täuschen dass das auch echt ist.

00:10:00: Und das sind eben die Punkte wo man dann auch gucken muss naja... Man soll schon schauen, dass es nicht überproportional gemacht wird.

00:10:08: Weil was ist dann die Kehrseite?

00:10:09: Dass dann irgendwann man dieses AI-Zeichen gar nicht mehr wahrnimmt und dann merkt man gar nichts mehr von der Kennzeichnungspflicht sondern da ist es schon wichtig das man weiß erstens wie kennzeichnet also jetzt auch nicht irgendwie im Pressum versteckt auf den kamen auch schon Menschen sondern dass wir uns wirklich beim ersten Kontakt sofort weiß.

00:10:26: Aha, das ist jetzt mit KI ein Deepfake.

00:10:29: Auch wenn es total horrormäßig klingt... ...das ist einfach nur ein Deep fake, wenn es eben futurrealistisch zum Beispiel dargestellt ist.

00:10:35: Konkret heißt das mit einem Label?

00:10:37: Genau!

00:10:38: Da hat auch die Kommission einige Beispiele gezeigt.

00:10:41: da gibt's dieses typische schwarz-weiß AI Zeichen.

00:10:44: man kann aber auch ein eigenes nehmen also mit Blümchen oder wie mans Alter auch will.

00:10:47: Aber das ist einem überlassen so lang.

00:10:49: jeder sieht sofort dass es KI generiert.

00:10:52: Ja, ich hatte letztens eine Werbeanzeige gesehen.

00:10:55: Ich weiß nicht mal welches Unternehmen es war.

00:10:56: aber die hatten auch eine KI-Kennzeichnung und die hieß dann mit Liebe und KI generiert was ich sehr schön fand weil es noch ein bisschen so diese menschliche Ader drinnen hat wenn man nicht automatisch denkt okay das ist einfach ein KI-generiertes Bild sondern da war auch ein Grafik dahinter der sich Gedanken gemacht hat wie es eingebaut werden könnte Die KI-Kennzeichnungspflicht für bestimmte KI-generierte Inhalte.

00:11:21: Jetzt haben wir so ein bisschen nochmal ausgeführt, wie Sachen zu behandeln sind.

00:11:27: Für viele ist das ja der erste spürbare Berührungspunkt mit dem AI-Akt.

00:11:33: Wie bewertest du denn, wie Unternehmen bisher damit umgehen?

00:11:37: Hast du das Gefühl dass viele sich jetzt denken die Kennzeichnungspflicht ist der größte Meilenstein oder hast du schon das Gefühl, dass sie das noch weiterdenken?

00:11:46: Naja, also in erster Linie ist es leider so dass viele Unternehmen überhaupt etwas umsetzen was Bußgeld bewährt ist.

00:11:54: Und jetzt zum Beispiel bei der KI-Verordnung eher bei der AI-Kompetenzpflicht da haben viele gesagt machen wir nicht weil die AI Kompetenz ist nicht direkt Buß Geld bewährt über Umwege dann eben Weil und da denken die halt nicht mit, wenn ich eine Schulung nicht mitmache.

00:12:10: Ja dann kann natürlich der Mitarbeitende auch Fehler machen.

00:12:13: Wenn das dann schwerwiegender Fehler ist zum Beispiel dass man die Transparenzpflicht nicht kennt Und dann halt zum Beispiel meint auf link denn was für ein Unternehmen zu generieren was eigentlich ein deep fake ist?

00:12:23: Dann fällt es zurück und dann gibt's über den Weg sehr wohl Bußgeld oder über die DSGVO, wenn man personenbezogene Daten trainiert.

00:12:32: Und das ist eben so eher das Problem, dass es eigentlich bei den Unternehmen eher den Trend gibt, dass sie sagen sollen ich das überhaupt machen?

00:12:39: Ja, wie hoch ist denn mein Risiko überhaupt das zu machen?

00:12:43: Und dadurch dass es jetzt auch noch nicht wirklich richtige Fälle gibt wo man sagen kann da gab's jetzt ein Bußgeld von fünfzehn Millionen oder sowas.

00:12:50: Ist es halt auch so dass dann viele sagen ja das ist doch egal Es gab ja auch noch keine Bußgelder und darf aber nicht vergessen dass die Beschwerdebehörden zur erst Zeit Juli diesen Jahres gibt.

00:13:00: Das heißt, es ist noch gar keine Zeit und man wirklich sagen kann da konnte schon viel passieren.

00:13:05: Sie sich darauf auszuruhen das passiert halt leider schon weil jetzt gab's ja durch den Omnibus auch wieder die Fristenversetzung weil das bestimmte Pflichten zum Beispiel gerade für Hochrisiko auf zwei siebenundzwanzig und zwei achtenzwanzigt versetzt worden sind und dann viele sich zurücklehnen und sagen ich habe ja noch Zeit.

00:13:23: Wenn jetzt aber jemand da draußen schon mal zum Beispiel so eine SIEMEN-ZWAN-SICH-NUL-UNZ gemacht hat, so ein Managementsystem oder einen neuen Null-Nul-Unzel-Qualitätsmanagement System weiß man dass das halt nicht mehr in fünf Tagen gemacht ist und die Pflichten, die ab zwei SIEMMEN-zwanzig und zwei ACHTEN zwanzig kommen für manche Unternehmen.

00:13:41: Das ist so viel, dass es eigentlich gar nicht früh genug sein kann, dass man anfängt sich dem zu stellen, aber das ist eben immer dieses Ignorieren bis es knallt.

00:13:51: Das war auch meine Wahrnehmung und die Kennzeichnungspflicht, dass vieles darüber wir gesprochen haben.

00:13:57: Dass auf einmal viele angefangen haben einfach alles zu kennzeichnen, obwohl beispielsweise bei Texten man ja immer noch mal im besten Fall redaktionell drüber schaut und dann die Kennzeichnung eigentlich wegfallen könnte.

00:14:10: Das wäre jetzt ein Beispiel aus meiner Berufserfahrung.

00:14:13: aber ich habe das Gefühl gehabt, dass seit der Einführung dann auf einmal so eine große Schockwelle kam hoch der AI, das ist da die Kennzeichnungspflicht.

00:14:20: Wie müssen wir das jetzt machen?

00:14:22: Welche Werbeinhalte, welche Bilder?

00:14:24: müssen wir jetzt unseren Newsletter auch, den wir im Vorhör mal Co-Pilot gepromptet haben generieren.

00:14:30: Das war so meine Wahrnehmung davon.

00:14:34: Jetzt hast du schon Hochrisikounternehmen angesprochen.

00:14:38: Könntest du mal ein Beispiel nennen von Ja, einer KI-Anwendung in einem Arbeitsalltag wo es dann doch vielleicht kritisch werden könnte wenn genau so was nicht beachtet wird.

00:14:50: Also wie gesagt solange die Pflichten noch nicht da sind kann auch erst mal noch nichts passieren.

00:14:54: das ist erstmal wichtig.

00:14:55: also wenn ich das jetzt sage nicht dass dann irgendwo Schnappatmungen entstehen.

00:15:00: verbote ja das gilt schon das gilt seit längerem Aber Hochrisiko eben noch nicht.

00:15:06: Aber zum Beispiel gerade im Personalbereich, also wenn man jetzt z.B.

00:15:09: an Recruiting denkt und jetzt hat man dann so ein System das Profiling macht, sprich ich habe eine Vorauswahl die ich über bei Personalbeschaffung mache wenig zum Bewerbungsgespräch einladen.

00:15:22: Ich tue es auswertend lassen, schaue natürlich selber noch drüber aber schon Eichen anhang drei und das ist der Anwendungsbereich von Hochrisiko, der nächstes Jahr dann zur Geltung kommt.

00:15:35: Und da ist es eben genauso dass, dass der Personalbereich darunter fällt und dann ist man schnell im Hochrisikobereich.

00:15:42: Profiling ist keine Ausnahme, man kann nämlich manche Sachen in Hochrisika auch ausnahm nehmen Ja, das ist da aber nicht der Fall.

00:15:49: Das heißt man muss sich dem stellen.

00:15:51: Jetzt gibt es auch immer wieder solche Fälle in der Praxis wo jemand meint ah ich habe eine coole Idee gerade bei Unternehmensberatung oder so, wo man das so kennt dass man die Bewerber ganz stresst zu gucken wie reagieren sie unter Stress und macht richtig hohen Druck.

00:16:07: Und dann komme ich auf die Idee so ein Emotionserkennungstool mitzube nutzen das feststellt, okay die Person ist gerade im Stress.

00:16:15: Wenn ihr das und das machst dann wird er noch gestresster

00:16:17: so.".

00:16:18: Und dann bewegen wir uns in verbotenden Bereich denn dass es eben genau nicht erlaubt also Emotionserkennung in Verbindung mit Personal ist verboten.

00:16:26: Das heißt man kommt ganz schnell auch mal in den Verbotsbereich rein weil sowas dürfte man nicht machen.

00:16:31: Es hat auch oft mit dem zu tun wenn man sich die Grundrechte anguckt, oder die wir haben also auf europäischer Ebene.

00:16:40: Die Grundrechtekarte und so.

00:16:42: Dann sieht man eigentlich alles was damit nicht vereinbar ist es halt relativ schnell.

00:16:45: Verbot auch wenn's vielleicht für manche schön wäre sowas zu machen geht halt nicht.

00:16:49: aber gerade im Recruiting Bereich wird uns das auf jeden Fall noch oft begegnen.

00:16:53: Gerade Personal weil natürlich viele auch sagen wir kriegen durch KI so viel Bewerbungen.

00:16:58: Wir wollen ihr Vorauswahl treffen.

00:17:00: Und dementsprechend muss man da halt relativ im Hochrisikobereich ist.

00:17:06: Und das hat dann eben einen ziemlichen Pflichtenkatalog zur Folge?

00:17:10: Ja, da muss man echt sich die Karten legen ob man KI mit KI schlagen möchte oder ob es da nicht denn den menschliche Instanz inzwischen braucht.

00:17:20: Für mich persönlich wäre es meine persönliche Hölle so eine Stresssituation durchführen zu lassen und dann eine emotionale Erkennung einmal durchfühlen zu lassen.

00:17:31: Ja, das möchte ich mir nicht ausmachen und schon gar nicht wenn ich da von der KI analysiert werden würde.

00:17:36: Siehst du den Unterschiede von großen Unternehmen gegenüber kleinen Unternehmen im Umgang mit dem AI-Hack?

00:17:44: Das finde ich einen sehr wichtigen Punkt warum man jetzt auch versucht hat zum Beispiel durch den Omnibus Small and Midcaps zur den es zu erleichtern, kurz zur Erklärung diese Mitcaps.

00:17:57: Das sind Schnellwachsen der Unternehmen die trotzdem noch relativ klein sind.

00:18:01: also ich komme jetzt aus dem Schwabenland.

00:18:02: da gibt's im Schwarzwald Black Forest Labs das kennt man ja vielleicht und gerade die die solche Bildgenerierungsprogramme haben mich glaubt sie sitzen in Freiburg mit so dreißig bis vierzig Mitarbeiten sind aber ein Milliardenunternehmen von der Bewertung.

00:18:17: und jetzt müssten sich vorstellen wenn die jemals im Hochrisikobereich wären dass man dann, wenn man das weiter denkt, die diese ganzen Pflichten haben.

00:18:25: Und es sind riesen Riesen-Dinge wie Dokumentationspflichte und was weiß ich?

00:18:29: Was alles.

00:18:30: Ja.

00:18:30: Da hat man halt gesagt solche Kleinwachsen Unternehmen will man ja nicht kaputt machen.

00:18:35: Die haben keine Rechtsabteilung im Normalfall oder nur kleine Rechtsabteilungen.

00:18:39: Wenn die das alles managen sollen diesen ganzen Ratten Schwanz ist es einfach zu schwierig.

00:18:43: Das hat man versucht es zu erleichtern.

00:18:45: aber da komme ich jetzt an den Punkt.

00:18:47: kleinere und mittelständische Unternehmen machen leider viel weniger im Normalfall, weil die gar nicht die Kapazitäten haben.

00:18:56: Und die Großen, die haben gar keine Wahl.

00:18:59: Da scheiden sich die Geister – was ich sehr schade finde, weil kleine und mittelsständige Unternehmen haben riesige Chancen, weil sie nicht wie so ein Kreuzfahrtschiff sozusagen ewig brauchen.

00:19:09: um zu drehen.

00:19:10: Konzerne und große Unternehmen haben einfach oft noch fünf Jahrespläne!

00:19:15: Die kleinen Unternehmen, die es wirklich kapiert haben auch manche Große.

00:19:19: Die haben neunzig Tagespläne bei KI Sachen weil die einfach merken das dauert sonst viel zu lang.

00:19:24: Die Wege sind also eigentlich kürzer und an sich hat erst vor kurzem gesagt dass ist das Zeitalter der ein Mann oder Frau Gesellschaften die zum ersten Mal Milliardäre werden was es früher nicht so gab Weil man einfach die Möglichkeit hat durch Agents und Ähnliches wirklich etwas zu reißen Auch wenn nur wenige Personen Es Und ein Riesenvorteil hat den großen Unternehmen.

00:19:46: Aber was jetzt die Umsetzung angeht, sind die Kleinen natürlich total überfordert.

00:19:50: Die sehe ich gerade so langsam immer mehr kommen, dass sie mal die Standard-Informationssicherheitsgeschichten machen, dass Sie mal einen SIEMENZ-Managementsystem bauen oder so weil sie das müssen, weil es der Kunde verlangt oder die Kundin, dass man so ein Zertifikat hat aber dass die noch alles in der KI-Verordnung umsetzen ist halt oft eher der Punkt.

00:20:12: Ich mache jetzt halt mal und will auch irgendwie mitkommen, aber weiß das vielleicht gar nicht.

00:20:18: Weil um da noch einen Punkt zu sagen die KI-Verordnung ist ja nur ein Teil dieses ganzen Digitalpakts den die EU gemacht hat.

00:20:24: Wenn man sich den anguckt wie viel Gesetzgebung es sind und wieviel sich überschneidet CAA und was es da alles noch so da draußen gibt dann ist es so überfordernd, wenn man dann nicht einen Rechtsanwalt oder einen Jurist oder was auch immer an der Hand hat, der einem da hilft und der auch zahlbar ist.

00:20:42: Dann ist das einfach super, super schwierig!

00:20:44: Dann sind die ein Stück weit verloren und müssen sich entscheiden lasse ich dann KI ganz weg?

00:20:48: Was fatal wäre meiner Meinung nach?

00:20:50: Oder kriege ich einen Zwischenweg?

00:20:54: Ich glaube dass ist oft eine falsche Annahme.

00:21:00: Ich hatte in einer zukünftigen Folge in unserer öffentlichen Reihe ebenfalls über den CAA gesprochen.

00:21:06: Und da war eines der größten Missverständnisse, dass viele Unternehmen darüber nachdenken ich mache erst mal eine Gesetzgebung und versuche da rechtskonform zu sein dann mache ich die nächste und baue dann die nächste auf.

00:21:18: Und NIST II EUAI-Akt ist vielleicht jetzt gerade ganz vorne aber man vergisst vielleicht oft so viele Sachen wie du schon gesagt hast Zusammenhängen.

00:21:26: Siehst du das auch so?

00:21:27: oder wo siehst du die größten Missverständnisse?

00:21:30: Doch, also ich sehe es ganz genau so.

00:21:31: Vor allem gerade... Ich höre das auch oft zu.

00:21:34: Ja, ich habe jetzt ja die KI-Fordnungen gemacht und jetzt bin ich safe.

00:21:37: Und was ist mit der DSGVO, die da oft noch mit reinschlägt?

00:21:40: Die missachtet man dann!

00:21:42: Oder die einen sagen, ich hab doch schon den Datenschützbeauftragten, braucht doch nicht noch mehr.

00:21:46: Also man denkt so silomäßig, was die Gesetze angeht obwohl sich ganz viel überschneidet.

00:21:51: also wenn man an die KI-Verordnung denkt ist oft noch Urheber rechnen.

00:21:54: Thema dann natürlich die ganzen Geschichten wie Sorgfalspflicht in Außenhaftung.

00:21:58: und war es da alles noch auf den Geschäftsführer zukommen?

00:22:01: Die DSGVA hatten wir genannt.

00:22:03: Es gibt unfassbar viele Punkte, die zu beachten sind.

00:22:05: Je komplexer das KI-System ist, desto komplexe natürlich auch der Anwendungsfall.

00:22:09: Wenn man natürlich nur irgendein interaktives KI System in Chatbot oder so hat dann ist es natürlich relativ wenig.

00:22:15: aber wenn man jetzt irgendwas größeres hat dann wird das relativ schnell sehr umfangreich Und je nachdem in welchen Bereichen man unterwegs ist, noch mal mehr.

00:22:24: Ja und das ist eben schade weil ich glaube finde eigentlich nicht dass der die KI-Verordnung was ja viele sagen ein Innovationsbremser ist.

00:22:33: Ich sehe es schon so als wichtig weil ich glaub am Anfang ist man dafür langsamer aber man hat eine Struktur und dann kann man auch langfristig, nachhaltig viel organisierter und auch transparenter was voranbringen und hat auch die Übersicht um die Kontrolle.

00:22:49: Das ist nämlich oft das, was sonst passiert ein Riesenwild wuchs.

00:22:53: man hat überall irgendwas weiß aber eigentlich gar nicht mehr wo was ist und wer war es wie einsetzt.

00:22:58: Und wenn man dann noch ein Konzern ist, noch Silo denken die einen haben das, die anderen nicht und die wiederum das.

00:23:03: Das ist total verrückt.

00:23:05: Genau von da ist es eigentlich gut so etwas zu haben.

00:23:08: Der Punkt ist nur der heutzutage ist schon so überfordert wie schnelllebig alles ist und sagen die nächsten wir brauchen jetzt aber Agents und diesen sind schon da und diese sind schon dort dass man dann lieber einfach mitmacht Einfach kopflos mitrennt und gar nicht merkt, dass die womöglich da voll gegen eine Wand fahren und alles nachholen müssen.

00:23:27: Weil irgendwann kommen die Pflichten und dann muss man den ganzen Mist nachholend anschauen, dass man von vorne rein sagt okay ich bin am Anfang langsamer aber dann ziehe ich den anderen davon weil dann steht alles und kann auch aufbauen.

00:23:40: Aber denkst du nicht, dass da auch eine große Schwierigkeit beim AI-Akt drin ist?

00:23:45: Du hast es ja schon angesprochen.

00:23:47: Agentik AI kam erst nachdem der EU-AI-Aekt so runtergeschrieben wurde wie er es heute ist und was sich innerhalb dieser paar Monate entwickelt hat, ist entsprechend nicht mehr richtig in der Verordnung drinnen.

00:24:01: Und das kann doch auch... überfordern sein, dass man sich immer fragt ist das überhaupt noch aktuell woran ich mich zuhalten habe und wie geht man jetzt mit in diesem Fall jetzt GenTic AI um.

00:24:13: Wie siehst du die Entwicklung der Verordnung?

00:24:16: Meinst du es ist etwas was ich bei immer weiter entwickeln muss oder müssen wir erst mal mit den Grundsätzen anfangen und dann bauen wir's weiter auf

00:24:23: Beides

00:24:25: Immer die Beste an.

00:24:26: Genau, also auf der einen Seite glaube ich kann man relativ viel am Anfang schon machen.

00:24:30: Also ich sage immer am Anfang was man in einer Woche gut machen kann ist erstens sich ein KI-Inventar aufbauen, also schauen was nutze ich dann eigentlich für KI Tools?

00:24:40: Welche habe ich vielleicht auch entwickelt?

00:24:42: In zweiter Hinsicht dann sich die Rollen zu überlegen.

00:24:45: Für jedes einzelne Tool bin ich Anbieter, bin ich Betreiber oder was es noch vor Rollen gibt aber meistens ist Anbieten und Betreber Und dann eben herzugehen und zu sagen, ich nutze jetzt mal eine.

00:24:56: Maßnahme, die ich machen will um mein Team KI-Kompetente zu machen.

00:25:00: Dann hat man so einen ersten Anfang.

00:25:02: darauf kann man aufbauen.

00:25:04: Darauf kann man sagen okay ich baue zum Beispiel Leitlinien im Unternehmen auf.

00:25:08: Ich schaue wie kriege ich das hin dass meine Mitarbeitenden vielleicht irgendwo nachgucken können?

00:25:13: Dass sie Stück für Stück auch sich irgendwo festhalten kann wie sowas funktioniert.

00:25:18: Ich könnte z.B.

00:25:19: was ich in Unternehmen oft feststelle oder sehr smart finde Das ist nur eine Möglichkeit Okay, um Schattenkai zu vermeiden.

00:25:27: Was ist das?

00:25:28: Schatten-Kai... Schatten Kai ist wenn ich jetzt zum Beispiel hergehe und bei meinem Arbeitsplatz merke naja der GPT den die da nutzen sei total schlecht.

00:25:38: Ich hab daheim die richtige Kais sozusagen also sowas wie Klot oder so was.

00:25:42: Und merke durch die Reasoning Modelle.

00:25:44: Also die noch mal nachdenken, die das nochmal überarbeiten.

00:25:46: Es ist viel viel besser das Ergebnis als wenn ich eine Blumpe KI aus dem Unternehmen nehme weil die halt gesichert ist.

00:25:52: Das macht natürlich der Mitarbeitende irgendwann und macht das damit.

00:25:58: ... weil das viel besser geht.

00:26:00: Und das ist ja nur menschlich, wenn ich gewohnt bin mit einem Porsche zu fahren... ... dann will ich danach vielleicht nicht mit einem Punto fahren oder so.

00:26:08: keine Ahnung.

00:26:09: Ich will dir keine Werbung machen!

00:26:10: Also es ist im Endeffekt ja jeden überlassen ne?

00:26:12: Oder sagen wir, wenn ein E-Bike führt, will er vielleicht nicht mehr mit einem normalen Fahrrad.

00:26:16: Wollen ja auch nachhaltig sein.

00:26:18: Aber also wenn man das so sieht und dass es ja logisch, dass sich dann im Unternehmen... Wenn ich merke, das funktioniert nicht so gut und da muss ich wieder promten lernen was ich bei Reasoning Modellen ja nicht mal wirklich können muss weil der das eh noch mal den Master hat, dann ist es klar dass die Leute Schattenkai benutzen.

00:26:34: Was haben also manche Unternehmen gesagt?

00:26:36: Wir wollen unseren Mitarbeitenden vertrauen so!

00:26:39: Wir können es eh nicht verhindern, wenn wir das verbieten.

00:26:41: Das ist bei Schulen genau dasselbe.

00:26:43: da wird's verboten was man die Kinder schreiben alles ab und lernst falsch.

00:26:46: Und das ist bei Unternehmen genauso.

00:26:48: Die nutzen halt alle dann Schatten KI ja ihre eigene KI und machen womöglich ganz viel schaden fürs unternehmen.

00:26:54: Wenn ich jetzt aber hergehe wie das manche Unternehmen machen nachdem sie eine KI Strategie usw.

00:26:58: gemacht haben und hergehen okay?

00:27:00: Wir haben Schulungsmodule.

00:27:01: Modul eins wenn Ich das gemacht habe Dann darf ich die interne GPT benutzen.

00:27:08: Module zwei ist ausführlicher für den Bereich, natürlich individuell rollenspezifisch zugeschnitten.

00:27:14: Wenn ich das geschafft habe darf ich einen besseres Modell benutzten.

00:27:18: Module drei ist Ich darf weil ich so viel jetzt kann und auch unterschrieben hab und gelernt habe wirklich gelernt habe und dafür Ahnung habe.

00:27:25: ich darf jetzt Klot benutzen zum Beispiel oder GPT wie auch immer.

00:27:29: Und wenn ich Module vier geschafft habe, dann hab' ich auch so viel Ahnung dass sich mit Agenten umgehen kann.

00:27:34: Ohne das Unternehmen sich Sorgen machen muss, dass dann Mist passiert ist.

00:27:38: Das finde ich eigentlich sehr smart weil ich glaube wir werden niemals drumherum kommen und lieber weiß ich das dies nutzen und kann damit arbeiten.

00:27:46: aber das is keine juristische Einschätzung ne?

00:27:49: Aber find ich halt einfach war eine sehr intelligente Idee die ich mal bei einem Unternehmen gesehen hat.

00:27:54: Find

00:27:54: ich ja auch sehr smart!

00:27:56: Sehr erfolgreich damit es das so zu machen, weil man eh immer das Risiko hat.

00:28:02: Und es hatten wir auch schon vor KI.

00:28:03: KI zeigt uns nur noch mal schöner auf was wir eigentlich alles verlüggen haben.

00:28:08: aber an sich gab's ist auch schon zu allen anderen Seiten dass halt Fehler passieren.

00:28:12: Wir müssen die Verantwortung übernehmen dafür sind wir dann Geschäftsführer oder Ähnliches und wir müssen damit rechnen dass sowas passiert und da dem müssen wir uns Stellenverbote helfen der meine Meinung nach erst mal gar nichts.

00:28:24: Ich finde es auch sehr smart, da ein gewisses Enablement im Unternehmen einzuführen.

00:28:29: Weil es ja auch im Unternehmen genug Mitarbeitende mit Sicherheit gibt, die sich dafür interessieren und bis zum letzten Punkt bis zum Agentec AI sich vorarbeiten wollen – das ist ja auch nur motivierend!

00:28:43: Sehr cool habe ich bisher noch nicht gehört gehabt.

00:28:45: deswegen... Es

00:28:47: gibt ja auch noch nicht so viele erfolgreiche Unternehmen in dem Bereich und man muss sich das einfach überlegen.

00:28:51: Ich hatte es kürzlich erst mit jemand, der hat mir erzählt dass heutzutage die Chance ist, dass gerade kreative Leute, die eine Idee haben aber was nicht umsetzen können, aber eine andere Sprache sprechen als jetzt zum Beispiel ein Entwickler hergehen können und sagen können ich entwickle das einfach selbst über Vibe Coding nehme dieses Produkt zeigt es meinen Entwicklungen und sagt, guck mal so habe ich's mir vorgestellt.

00:29:12: Und dass die dann aus allen Wolken fallen sagen Boah mega natürlich nicht vom Code da lachen sie drüber.

00:29:17: aber Sie haben das halt was Sie davor gar nicht kapiert haben und können es dann richtig entwickeln.

00:29:23: Das sind eben diese großen Möglichkeiten.

00:29:25: aber dafür müssen die Mitarbeitern auch wissen was sie dürfen oder was sie nicht dürfen.

00:29:29: Aber das ist ja mit allen anderen Sachen auch so.

00:29:31: Ich nehme immer das Beispiel wenn ich jetzt hergehe und sage als Geschäftsführer weil ich Motorsägen toll finde ich schenke jeden Mitarbeiter Motor säge und der darf machen, was er will.

00:29:41: Naja wenn die nicht geschult sind dann kann das nur böse

00:29:43: ausgehen.".

00:29:44: Und so ist es da halt auch.

00:29:45: ich muss halt den Leuten etwas an die Hand geben.

00:29:48: Aber denkst du wir sind bereit?

00:29:49: Also wie schätzt Du die Entwicklung der Unternehmen ein?

00:29:52: werden wir mehr KI vertrauen oder werden wir KI misstrauischer und arbeiten vielleicht noch weniger mit KI?

00:30:01: Also ich glaube schon, dass der Trend der KI-Nutzung zunimmt und zunehmend muss auch.

00:30:08: Weil selbst wenn das Unternehmen sagt nein nicht dann machen es halt die Mitarbeiter.

00:30:12: Die Richtung wird da hingehen.

00:30:14: was das Vertrauen angeht ist sehr ambivalent weil Vertrauen auf der einen Seite sollte man halt nicht drin haben.

00:30:21: Das klingt jetzt ein bisschen komisch weil ich bin jetzt weder Befürworter noch Gegner.

00:30:25: Ich sehe es neutral als Werkzeug.

00:30:26: aber natürlich ist es so, dass ich eher den Trend sehe leider vertrauen und dass immer mehr, da gibt es so einen Begriff.

00:30:34: Ich weiß ihn gerade nicht auswendig der zu so einer Faulheit führt.

00:30:37: also ich ist halt nicht mehr überprüfe weil ich gemerkt habe auch die letzten mal war die Antwort ziemlich cool egal ich lasse das jetzt so das passt schon und dann fängt es eben an schwierig zu werden weil dann denke ich nicht mehr mit dann werde ich denk faul und das passiert zum Beispiel in den Schulen auch ganz viel und weil denen nicht beigebracht wird wie könnte ich KI nutzen dass ich trotzdem noch lerne?

00:30:55: Dann verlerne ich das lernen!

00:30:56: Dann wirds doof und dem Trend gibt's eben immer mehr.

00:30:59: Das Misstrauen braucht es trotzdem.

00:31:01: Das merken wir auch in allen anderen Bereichen, wo wir von KI angegriffen werden.

00:31:06: Also ich gerade mit meinem Unternehmen werde sehr oft angerufen von irgendwelchen KI-Stimmen die mir irgendwas verzerrten wollen und wo dann kurz eine Pause ist und dann kommt kurz danach die KI- Stimme und ich denke mir so ja prima und leg auf.

00:31:17: aber der Punkt ist sowas wird immer mehr kommen und wir sind schon überfordert mit dem Enkeltrick und das kommt dann mehr dazu und das ist eben natürlich ein großes großes Problem dass wir in deren sich trotzdem misstrauisch bleiben müssen.

00:31:29: Es heißt nicht, dass wir KI ablehnen aber das wir natürlich den Output immer angucken und überlegen müssen mit unserer Expertise.

00:31:36: Deshalb rate ich auch nur dort KI zu benutzen wo man noch Ahnung hat dann zu sagen jetzt prüfe ich es nochmal weil der Punkt ist der KI nimmt uns sehr viel anfangs die Hürde und die Schwellen ab Aber später denken müssen trotzdem noch wir sonst wird's schwierig.

00:31:53: absolut ja Robert.

00:31:55: Ich würde langsam zum Abschluss des Interviewes kommen.

00:31:59: Auch wenn wir jetzt sehr misstrauisch gegenüber KI geendet sind, wir sind ja noch nicht am Ende, würde ich vielleicht nochmal mit einer etwas positiveren Note das Interview beenden.

00:32:12: Was für Handlungsempfehlungen würdest du den Unternehmen geben?

00:32:15: Wenn die sich leider verspätet aber es kann immer mal sein sich erst mit dem AI-Eck auseinandersetzen was wären so die drei ersten Eckpunkte die du angehen würdest?

00:32:26: Also, wie ich es gerade vorhin schon angerissen habe.

00:32:29: Ich würde auf jeden Fall erst mal ein Status quo machen indem ich einfach mal hergehe und so einen Inventar stelle was hab ich denn eigentlich für KI Tools im Einsatz?

00:32:39: Und dann die Rollen checken?

00:32:41: biete ich die an, betreibe ich sie nur in eigener Verantwortung?

00:32:45: und dann eben wie gesagt auf die KI-Kompetenzen gucken.

00:32:49: Wie kann ich die vermitteln schulig oder welche Maßnahmen ergreife ich?

00:32:52: Das halte ich vor am wichtigsten.

00:32:54: wenn ich dazu aber noch eine Sache sagen will wie man einfach grundsätzlich daran gehen sollte ist dass man den ersten Schritt geht.

00:33:01: Ich finde es ganz ganz wichtig jetzt nicht den ganzen Berg zu sehen der da kommt zum Beispiel gibt's ja solche Isos wie die forty nine eins also KI Management Systeme Und da nicht herzugehen und zu sagen, ich setze das jetzt alles um, sondern mich daran zu orientieren.

00:33:16: Einfach mal was rauspicken und anfangen!

00:33:19: Denn der erste Schritt ist wie bei allem der Schwerste.

00:33:22: Wenn ich loslege und sage okay, ich weiß schonmal welche KI-Tools sich habe und ich weiß welche Rolle ich da einnehme und welche Pflichten das womöglich hat und mein Unternehmen die ersten Maßnahme greife dann wird der Rest von selbst kommen.

00:33:36: Dann kann man mit der Norm wachsen weil... Norm wird wachsen, wenn wir schon mitwachsen ist es in der Zukunft deutlich leichter dem zu begegnen.

00:33:44: Das glaube ich das wichtigste.

00:33:46: Wo man jetzt genau anfängt, ist jedem selbst überlassen aber ich glaube dass es so ein Grundbereich der einfach wichtig ist um dann anschließend auch eine KI-Strategie zu machen und wirklich mit interdisziplinären Teams das anzugehen.

00:33:59: Vielen Dank für deine Insights und fürs Gespräch.

00:34:01: Sehr sehr gerne Danke daß ich hier sein dürfte.

00:34:04: Was aus dieser Folge bleibt also hängen?

00:34:08: ist also keine reine Rechtsfrage und war es auch nie.

00:34:12: Die Einführung zeigt, wie unterschiedliche Unternehmen mit neuen Regulierungen umgehen zwischen Gelassenheit, Erschrecken, Abwarten oder Verunsicherung.

00:34:21: Wer sich jetzt einen Überblick verschafft welche Pflichten für das eigene Unternehmen relevant sind und sich darüber informiert was noch folgen wird der wird deutlich entspannter in die nächsten Monate gehen Und vielleicht liegt darin sogar die Chance.

00:34:34: Transparenz im Umgang mit KI schafft Vertrauen Nicht nur bei einem selbst, bei seiner eigenen Anwendung sondern auch bei Kundinnen und Kunden.

00:34:42: Bei Mitarbeitenden und vor allem auch bei Geschäftspartnern!

00:34:46: Und wenn ihr jetzt tiefer einsteigen wollt in das Thema Künstliche Intelligenz und die rechtlichen Rahmenbedingungen dann schaut gerne unseren Workshop vorbei.

00:34:53: dort findet ihr alle passenden Weiterbildungen der TÜV-Nordakademie denn link dazu packen wir euch wie immer in die Shownutz Und damit danke fürs Zuhören!

00:35:01: Wenn euch diese Folge gefallen hat, dann abonniert doch gerne auch den Podcast.

00:35:04: Alle zwei Wochen gibt es eine neue Folge über die verschiedensten Themen rund um Sicherheit, Management und Regulierungen.

00:35:11: Und wenn ihr ja auch schon beim Folgen seid, dann folgt auch gerne mal unseren Social Media Kanälen.

00:35:15: wir sind auf Instagram und LinkedIn zu finden und auch da packen wir euch alle Infos in die Shownotes.

00:35:19: Und damit bis zur nächsten Folge von Bisschen.

00:35:21: Kompakt und wie immer bleibt neugierig, bleibt kritisch und bleibt sicher.