054: Künstliche Intelligenz - Nutzen, Chancen und Risiken aus Sicht von Dr. Ines Schönlein (DATEV eG)

00:00:00: Blue Screen, der Tech-Podcast. Hallo zusammen. Schön, dass ihr auch heute wieder zugeschaltet habt in unseren Podcast

00:00:12: bei Blue Screen. Ich habe heute ein spannendes Thema für euch mitgebracht. Wir haben ja

00:00:18: dieses Jahr schon ein-, zweimal über das ganze Thema rund um künstliche Intelligenz

00:00:22: gesprochen. Und ja, wie es der Zufall so will, habe ich in meinem Freundeskreis jemanden,

00:00:27: sich damit beruflich beschäftigen darf. Wir haben heute die Dr. Ines Schönlein zu Gast bei uns,

00:00:33: die Ines und ich, wir kennen uns schon einige Jährchen. Wir zusammengekommen sind wir,

00:00:39: weil sie einen meiner besten Freunde geheiratet hat. Die Ines habe ich mal gefragt, ob sie denn

00:00:45: nicht Lust hätte, mal über das Thema KI bei uns auch im Podcast zu sprechen. Damit übergebe ich

00:00:51: auch direkt an dich, Ines. Stell dich doch mal ganz kurz vor. Wer bist du und was machst du?

00:00:56: Ja, hallo, ich bin Ines, Ines Schönlein. Ich leite das AI-Office hier bei der DATEV-EG in

00:01:01: Nürnberg und unser Auftrag oder unsere Aufgabe ist, die Potenziale, die KI bietet,

00:01:06: auch wirklich in die Praxis umsetzen zu können.

00:01:09: Okay, das klingt nach einer großen Aufgabe, gerade bei einem Unternehmen wie der DATEV.

00:01:13: Da arbeiten ja doch ein paar Leute. Wie viel, weißt du es auswendig, wie viele Mitarbeiter habt ihr?

00:01:18: Deutschlandweit arbeiten etwa 8.500 Mitarbeiter bei DATEV und hier in Nürnberg in der Hauptzentrale

00:01:24: sind es circa 6.500. Okay, wow. Und warum beschäftigt sich jetzt die DATEV mit künstlicher

00:01:30: Intelligenz? Ich meine, ich verstehe, dass das natürlich aktuell überhaupt über allen Thema

00:01:34: ist, aber was macht die DATEV explizit in dem Bereich?

00:01:40: Vielleicht noch, um kurz auszuholen, also DATEV ist eine Genossenschaft, gegründet von den Steuerberatern, Wirtschaftsprüfern und Rechtsanwälten hier in Deutschland und unser Auftrag ist es, Software für genau diese Berufsträger zur Verfügung zu stellen.

00:01:53: Das reicht von Kanzlei-Verwaltungssoftware bis hin zu Accounting-Software bis hin zu Wirtschaftsprüfungssoftware und etc.

00:02:01: Und diese Berufsstände sind heutzutage, wie alle anderen auch, stark auch vom Fachkräftemangel betroffen.

00:02:07: Das heißt, es ist unheimlich schwer, Steuerfachangestellte zu bekommen.

00:02:11: Gleichzeitig ist die Tätigkeit teilweise stark repetitiv.

00:02:15: Das heißt, es gibt viele Tätigkeiten, die sich stark wiederholen, beispielsweise das Erfassen eines Buchungssatzes.

00:02:21: Und genau da ist das große Potenzial von KI, wenn es sich um sich wiederholende, immer wiederkehrende Tätigkeiten handelt,

00:02:28: dort auch das zu automatisieren.

00:02:31: Konkret haben wir einige Services im Bereich KI auch schon auf dem Markt.

00:02:35: Eben angesprochene Accounting Service in Rechnungen, wo eben genau aus einer digitalisierten Rechnung

00:02:40: ein Buchungsvorschlag im Buchungssystem erzeugt wird.

00:02:43: Und das kommt sehr gut an am Markt. Wir kriegen auch die Kundenstimmen zurück, dass dort große Potenziale auch liegen

00:02:50: und die Prozesse einfach schneller und effizienter ablaufen.

00:02:53: Okay. Ja, wie viele Leute beschäftigen sich denn außer dir bei der DATEV noch mit dem Thema KI?

00:03:00: Ich versuche es mal zusammenzufassen. Also bei mir in meiner Einheit im AI-Office, wir sind neun Data-Scientisten und wir gehen quasi als In-House-Consulting-Einheit in die Workstreams, das sind die Einheiten, die die Produkte entwickeln, hinein und helfen ihnen dabei, die Potenziale, die KI bietet, auch umzusetzen.

00:03:19: Wir verwenden dabei Plattformen, Infrastruktur und Self-Services von unserer Nachbareinheit, der AI-Factory,

00:03:25: die für den gesamten MLOps-Prozess die Voraussetzungen schafft und die Self-Services auch zur Verfügung stellt.

00:03:31: Wir haben einige Workstreams, die auch schon eigene Produkte im KI-Bereich entwickelt haben.

00:03:38: Das ist im Bereich Accounting beispielsweise, und da müsste ich jetzt mal erzählen, wie viel das sind.

00:03:42: Das ist schwierig eine Zahl zu nennen.

00:03:45: KI ist eine interdisziplinär zu lösende Herausforderung und in vielen Einheiten,

00:03:49: auch jetzt ausgelöst durch den aktuellen Hype, beschäftigen sich unheimlich viele Menschen mit

00:03:53: dem Thema. Also angefangen beispielsweise bei uns im HA-Bereich, da gibt es eine große Learning

00:03:58: Community, die das hausinterne Lernen fördert, die stark KI-Verfahren einsetzen. Wir haben die AI

00:04:03: Factory, die Plattform Infrastruktur und Self-Services für den kompletten MLOps-Prozess

00:04:08: zur Verfügung gestellt. Deren Services nutzen wir auch. Wir selbst als Einheit bestehen aus

00:04:13: neuen Data Scientisten, die als quasi In-House-Consulting in die Workstreams, das sind die Einheiten,

00:04:19: die die Produkte entwickeln, gehen und dort die KI-Features gemeinsam mit dem Workstream

00:04:23: entwickeln und ausrollen. Und im Bereich Forschung, technologische Innovationen, gibt es viele

00:04:29: Forschungsprojekte, mit denen wir uns im Bereich KI beschäftigen. Und wenn ich jetzt von den

00:04:34: 8000 Menschen überlege, wie viele beschäftigen sich mehr oder minder mit KI, hoffe ich, dass

00:04:39: mehr als tausend sind. Ich gehe mal davon aus.

00:04:43: Wow, das ist eine ganz schöne Menge Menschen, die sich damit auseinandersetzen.

00:04:48: Finde ich aber auch wirklich sehr spannend, dass das Thema so schnell,

00:04:52: oder wahrscheinlich ist es gar nicht, es ist nur aus meiner Wahrnehmung so schnell,

00:04:56: aber dass das so zügig dann auch zu einer Adaption führt.

00:05:01: Wie lange beschäftigt ihr euch denn da schon mit?

00:05:03: Weil nach meinem Empfinden spielt das irgendwie erst seit letzten Jahren eine Rolle.

00:05:07: Ja, also Adaption ist jetzt ein bisschen weit gegriffen. Ich habe jetzt vor allem die gemeint,

00:05:13: die sich jetzt wirklich mindestens ein bisschen damit beschäftigen. Und jetzt gerade durch den

00:05:16: Hype hat halt wirklich jeder angefangen, da mal ein bisschen rumzuprobieren. Ich werde oft gefragt,

00:05:20: ja warum ist das jetzt der Hype? Weil die Konzepte hinter der Technologie sind nicht

00:05:26: neu. Die sind alle 50 Jahre alt. Da ist wirklich nichts Neues dabei und nichts Überraschendes.

00:05:30: Aber der Hype wurde ja vor allem deswegen ausgelöst, weil es halt so niederschwellig

00:05:34: für jeden nutzbar ist. Also ich muss mir keinen Data Scientist holen und sagen, bitte erklär mir das

00:05:39: mal, sondern ich kann es einfach selbst ausprobieren. Und das führt, glaube ich, zu dem Gefühl, dass KI

00:05:45: quasi erst seit letztem Jahr existiert, was aber natürlich nicht der Wirklichkeit entspricht.

00:05:50: Bei DataTiff, wir beschäftigen uns seit 2015 mit dem Thema, damals noch unter dem Begriff

00:05:56: Big Data und AI, und haben dann auch angefangen, die ersten Potenziale, die KI bietet, in die

00:06:02: Realität umzusetzen. Angefangen mit dem großen Thema Accounting Solutions oder

00:06:07: wie es im Accounting Service Rechnungen heißt, ist das korrekt. Das ist ein Service im

00:06:11: Bereich der Buchführung, den ich vorhin schon mal erklärt habe, bei dem aus

00:06:15: digitalisierten Rechnungsbildern Buchungsvorschläge erzeugt werden.

00:06:19: Das ist eigentlich unser größtes Projekt, was auch sehr gut ankommt am Markt.

00:06:23: Ja, danke dir. Ja, ich gebe dir komplett recht, es ist jetzt halt greifbar geworden. Auf der anderen Seite natürlich, was glaube ich dem Konzept der künstlichen Intelligenz, wie du richtig sagst, das ist ja wirklich alt.

00:06:35: Mittlerweile natürlich gut unterfüttert ist halt jetzt die Menge an Daten, die wir jetzt auf einmal haben, weil theoretisch neuronale Netze und so weiter, schön und gut, aber wenn du halt keine Daten hast, mit denen du arbeiten kannst, dann kann natürlich die Karriere auch nicht lernen.

00:06:49: Und mittlerweile, wir leben in einer Zeit, wo jeder permanent Daten irgendwo hochlädt.

00:06:53: Und damit habe ich natürlich auch eine wesentlich bessere Lernquote.

00:06:57: Wir sehen das zum Beispiel auch bei verschiedenen Produkten, die wir für unsere Kunden zur Verfügung stellen.

00:07:02: Sei es jetzt im Bereich Awareness-Training oder auch solche Sachen wie KI-gestützte Analyse von einer Mail.

00:07:10: Bevor die überhaupt rausgeht, ist es okay, was da drin steht?

00:07:13: Sind da vielleicht sensible Informationen drin? auch der Ton, der dort angeschlagen wird in der Mail zu der Person, an die ich das

00:07:19: Ganze schicke. Und das sind halt alles Sachen, die, wie du richtig sagst, heute verfügbarer

00:07:24: geworden sind. Und ich sehe es auch in meiner eigenen Rolle jetzt hier rund um den Podcast.

00:07:29: Es ist mittlerweile die Cover, die Texte, die Ideen, die Vorschläge, die teilweise drinstecken.

00:07:36: Da steckt auch überall ein kleines Stückchen von irgendeiner KI mit drin, weil man muss sich

00:07:41: das Leben nicht unnötig schwer machen und wenn es das schon gibt, Sachen wie eben mit Journey oder

00:07:45: Chat-GPT, ist halt mein Standardwerkzeug jetzt gerade in diesem ganzen Bereich rund um Podcasts

00:07:51: und Social Media geworden.

00:07:53: Wo siehst du denn so allgemein mal abseits von der DATEV die großen Vorteile, aber auch vielleicht Nachteile bei der aktuellen Entwicklung von KI?

00:08:02: Das ist ein philosophisches Thema. Die großen Vorteile liegen natürlich in der Arbeiterleichterung.

00:08:10: Und die Arbeitswelt ist im Wandel. Die ist auch in den letzten 50 Jahren im Wandel gewesen.

00:08:14: Also man kann einen Beruf von vor 50 Jahren nicht mehr mit dem gleichen Beruf heutzutage vergleichen.

00:08:19: Die Digitalisierung nimmt zu und ich denke, auch KI wird da ihren Beitrag dazu leisten,

00:08:24: dass sich die Berufe weiter wandeln und auch effizienter ein ganzes Stück werden. Also,

00:08:29: die großen Vorteile von KI sind Effizienz, Automatisierung, etc. Also, das ist unbestritten.

00:08:35: Die Nachteile sind vielschichtig. Wenn man gerade ChatGBT anschaut, diese Mengen an Daten

00:08:43: erfordern natürlich auch intensive Rechenkapazitäten. Die Rechenkapazitäten verwenden Rohstoffe,

00:08:49: die unter teils menschenunwürdigen Verhältnissen am anderen Ende der Welt abgebaut werden. Das

00:08:56: ist der eine Punkt. Der zweite Punkt ist, dass Human Feedback beispielsweise, was für

00:09:01: Chatterbitty verwendet wurde. Es wurde auch in Niedriglohnländern wurden Menschen dafür

00:09:07: eingesetzt, sich wirklich schlimme Passagen anschauen zu müssen und die psychische Belastung

00:09:11: Belastung möchte ich davon auch nicht messen, aber es ist eine gewisse Gefahr und insgesamt

00:09:17: scheint KI einfach die Teilung der Welt in extrem reich und extrem arm zu unterstützen,

00:09:24: was ich so auf der Negativ-Seite sehen würde.

00:09:27: Bis hin natürlich auch die Qualität der Daten. Ich war kürzlich in Singapur, wo Chat-GPT übrigens kein Thema ist, weil es einfach schon längst da ist.

00:09:36: Also diese Technologie, Sprachtechnologie ist schon längst existent. Und wir haben aber auch dort festgestellt, also es steht und fällt mit den Daten, also die Daten, die Datenqualität.

00:09:45: Also zum Beispiel Technologie so wie Alexa oder Siri ist in Singapur nicht anwendbar, weil es ist auf amerikanische Akzente trainiert, vielleicht noch britisch, schottisch oder sowas in der Richtung.

00:09:55: Aber jetzt mit Singlish, wie man in Singapur spricht, ist das Produkt dort einfach nicht

00:09:59: anwendbar. Es gibt so viele Data Gaps oder man muss so viel aufpassen, welche Daten man

00:10:04: wirklich verwendet, weil einfach manche Bevölkerungsgruppen zum Beispiel in den

00:10:07: Daten gar nicht vorkommen. Das kann dazu führen, dass KI auch einseitig, also das rassistische

00:10:12: Züge zeigt beispielsweise, Frauen sind in großen Teilen der Datensätze systematisch nicht vertreten,

00:10:18: beispielsweise in medizinischen Datensätzen. Und Frauen sind nun mal nicht kleine Männer,

00:10:22: sondern der Organismus funktioniert ganz anders. Und wenn das in den Daten nicht berücksichtigt

00:10:27: ist, dann führt das halt zu Verzerrungen, die wir als Menschen vermutlich nicht wahrnehmen,

00:10:31: wenn wir die KI unbedarft anwenden. Und das sehe ich auch noch als eine der Gefahren.

00:10:36: Ja, dass das in anderen Ländern, vor allem in China, eine ganz andere Hausnummer schon ist,

00:10:42: das habe ich selber letztens lernen dürfen, und zwar im Podcast IT ist alles. Die Kollegen hatten

00:10:48: die Frau Dr. Diana Kisrow-Warnecke zu Gast. Da ging es auch ganz viel um das Thema China und

00:10:55: vor allem gerade jetzt bei der Nutzung von WeChat zum Beispiel, wie integriert das mittlerweile ist

00:11:00: und wie akzeptiert das einfach auch dort verwendet wird. Also fragt auch keiner mehr irgendwie groß

00:11:05: oder denkt groß drüber nach. Das ist halt so. Hier gehst du jetzt irgendwo hin, kaufst dir auf

00:11:10: der Straße irgendwas zu essen und dann ist es komplett normal, dass du mit WeChat Pay bezahlst,

00:11:15: nicht mehr mit Bargeld. Und das ist halt eine ganz andere Messlatte, die dort natürlich schon anliegt.

00:11:21: Das gleiche in Singapur. Es ist ein systemisches Thema. Also so wie die Gesellschaft funktioniert, so funktioniert auch die Anwendung von KI.

00:11:29: Bringt mich aber direkt zur nächsten Frage. Kann KI denn überhaupt demokratisch und inklusiv genutzt werden oder hängen wir mit der aktuellen Marschrichtung und dem, was da so dahinter steckt, noch mehr Teile der Bevölkerung ab?

00:11:41: Weil wenn ich jetzt mal so gucke, gerade alte Menschen zum Beispiel, für die war damals auch schon die Umstellung auf IBAN und BIC ein Riesenproblem,

00:11:49: weil vorher hattest du halt vielleicht eine sechsstellige Kontonummer und die Bankleitzahl hast du auch auswendig gekannt.

00:11:54: Ja, heute mit Überweisungsträger wird es schon interessant. Leute ohne Internet oder Smartphone sind komplett außen vor und ja, es ist die Frage.

00:12:04: Das ist auch ein großes philosophisches Thema. In Singapur haben wir es auch gesehen. Ich denke, es kommt darauf an, wie man damit umgeht.

00:12:12: In Singapur hat man positive Beispiele davon gesehen. Also da gibt es Gemeindezentren,

00:12:16: wo Menschen, die vielleicht hierzulande abgehängt werden, weil sie einfach keinen Zugang zu der Technologie haben,

00:12:23: Unterstützung dabei bekommen und so niederschwellig wie möglich auch KI-Technologie nutzen können,

00:12:28: indem sie beispielsweise, wenn sie kein Handy haben, einfach nur ein Token in die Hand gedrückt bekommen und sagen,

00:12:32: damit können sie sich überall ausweisen beispielsweise, was andere mit dem Handy machen.

00:12:36: Die Gefahr besteht, das sehe ich auch, und das ist auch das, was ich vorhin gesagt habe,

00:12:40: es wird sowohl national als auch global, wird einfach die Schere weiter auseinanderklaffen.

00:12:46: Und wenn es Initiativen gibt, da wirklich jeden mitzunehmen, müssen die wohl überlegt sein.

00:12:51: Aber ich denke, unmöglich ist es nicht.

00:12:54: Ja. Verlieren wir denn nicht aber auch vielleicht durch die aktuelle Entwicklung endgültig die Kontrolle über unsere Daten?

00:13:01: Ich meine, klar, wenn man es mal nach Darwin sieht, Survival of the Fittest, am Ende überlebt der, der sich halt am besten anpassen kann.

00:13:09: Da ist halt natürlich auch wieder die Frage, ist es nicht eine Art Zwangsdigitalisierung und damit einhergehend auch eine Art von Überwachung?

00:13:17: Die KI an sich ist ja nicht böse, sondern das, was man damit macht. Und wer ist dieser Mann?

00:13:23: Ja, ich sehe das Thema und es gibt ja auch Bestrebungen, die Datenschutz-Grundverordnung

00:13:28: beispielsweise oder der European AI Act, die auch dahin gehen, datenschutzkonforme KI-Anwendungen sicherzustellen.

00:13:34: Und ich denke, das ist auch genau der richtige Weg.

00:13:38: Ich denke, wir müssen uns aber auch an einen neuen Umgang mit unseren Daten gewöhnen einfach.

00:13:43: Und wir können die Entwicklung nicht aufhalten hier in Europa.

00:13:47: Das ist nicht möglich und der Rest der Welt geht einfach weiter.

00:13:51: Wir müssen einfach dranbleiben am Ball. müssen uns mit diesen Technologien auseinandersetzen, denn die KI ist nicht böse, sondern das, was man

00:13:57: damit tut. Die KI-Algorithmen können ja auch sehr gut zu Cyberangriffen verwendet werden und

00:14:02: spätestens davor müssen wir uns auch schützen können. Und ich denke, es erfordert einen neuen

00:14:08: Umgang mit den Daten und auch mit dem Datenschutz. Und auch das in anderen Teilen der Welt funktioniert

00:14:12: das ganz anders. Da ist ein ganz, ganz großes Vertrauen daran, die Daten der eigenen Regierung

00:14:17: zur Verfügung zu stellen. Und da müssen wir uns in Deutschland noch dran gewöhnen, an dieses Vertrauen.

00:14:22: Ja, da stehen wir grundsätzlich ja gerne mal auf der Bremse, was dieses Thema angeht.

00:14:28: Ich habe es letztens in einer anderen Folge gesagt, jetzt darf man ja neuerdings mit den

00:14:34: USA auch wieder ganz offiziell Daten austauschen und ich warte auf die nächste Klage.

00:14:39: Also das kann nur eine Frage der Zeit sein. Vielleicht, wenn die Folge erscheint in einem guten Monat, ist es vielleicht schon wieder

00:14:46: soweit.

00:14:47: Ich weiß es nicht. Aber ja, da kann man im Prinzip darauf warten.

00:14:50: Das führt natürlich auch wieder ein gutes Stück dazu, was wir jetzt in anderen Bereichen

00:14:54: auch sehen, dass der Wirtschaftsstandort Deutschland halt dann irgendwann einfach ein Stückchen

00:14:59: uninteressant wird, weil man halt einfach weiß, so wie auch mit der Steuergesetzgebung

00:15:04: in anderen Ländern, warum sind die großen Konzerne in Irland mittlerweile für den europäischen Markt.

00:15:10: So ist es dann auch, so wo du dir dann halt vielleicht überlegst, naja, mache ich wirklich

00:15:14: noch einen Standort in Deutschland auf, betreibe ich den weiter oder gehe ich vielleicht einfach

00:15:18: ein Häuschen weiter, weil in anderen Ländern Europas funktioniert es einfach anders oder sogar besser.

00:15:25: Ich habe das von Flüchtlingen letztes Jahr mitbekommen, die aus der Ukraine gekommen sind.

00:15:30: Die haben da halt ihre fertigen Apps von ihrer Regierung, von ihrem Staat und da sind alle Daten drin.

00:15:36: Und als sie dann hier den Antrag gestellt haben in Deutschland auf Bezuschussung und

00:15:40: Wohnung und so weiter, mussten die unglaublich viel Papier ausfüllen.

00:15:43: Die waren komplett geflasht, die haben gesagt, wir haben gedacht, in Deutschland funktioniert

00:15:47: ist besser als in der Ukraine. Aber hier ist wirklich noch Papier in vielen Situationen

00:15:52: und in vielen Organisationen, das was zählt. Und ja, du brauchst ja auch nur nach Schweden

00:15:58: gucken. In Schweden funktioniert Digitalisierung schon seit Jahren besser als bei uns.

00:16:02: Also das sehe ich auch die Gefahr für Deutschland, ja. Definitiv, ja. Mal die Frage, wann DATEV sich dann irgendwann aus Deutschland verabschiedet,

00:16:10: was ich nicht hoffen will. Nein, das glaube ich nicht.

00:16:14: Ja gut, jetzt haben wir ja gerade schon auch das Thema DSGVO und EU-Datenschutzverordnung angesprochen.

00:16:22: Wie sollte denn deiner Meinung nach oder wie könnte man denn sinnvollerweise KI, AI regulieren?

00:16:28: Es gibt ja schon Vorschläge für KI-Richtlinien, manche Unternehmen haben sowas ja auch schon, ihr bestimmt auch.

00:16:34: Wie könnte man es denn sinnvoll regulieren?

00:16:36: Wir verfolgen natürlich den European AI Act intensiv und beteiligen uns da auch an den Feedback-Verfahren.

00:16:42: Und die KI ist ja nicht böse, sondern das, was man damit macht, und das finde ich den richtigen Weg,

00:16:46: der dort gegangen wird, dass der Zweck der Anwendung reguliert wird, aber nicht das KI-Verfahren selbst.

00:16:51: Ich denke, das ist ein guter Weg. Wir als DATEV haben uns eine Datenethikleitlinie gesetzt und

00:16:59: wir wollen mit den Daten, die uns anvertraut werden, die ja natürlich auch hochsensibel sind,

00:17:03: ethisch und sicher umgehen. Wir haben verschiedene Schutzmechanismen für die Daten und ich denke,

00:17:10: das ist der Hauptweg. Die KI an sich würde ich immer vom konkreten Use Case abhängig

00:17:16: regulieren oder halt auch nutzen. Und die Use Cases, die wir als Daten verfolgen,

00:17:20: fallen einerseits nicht unter die risikoreichen Anwendungen des European AI Act. Und insofern

00:17:26: können wir uns voll auf die Potenziale fokussieren. Wir gehen mit den Daten ethisch um und wollen

00:17:31: einfach Mehrwerte für unsere Kunden damit schaffen. Und das sollte der Hauptfokus sein.

00:17:35: Ich sehe es halt bei manchen Kunden von uns, die halt auch schon sich damit auseinandergesetzt haben, die haben dann irgendwann gesagt, wir verbieten jetzt Dinge, was natürlich schwierig ist.

00:17:47: Also ein Verbot führt dann auch natürlich ganz häufig dazu, dass die Leute auf einmal sehr kreativ werden.

00:17:53: Oft ist es so, überspitzt gesagt, manche Leute wissen nicht, wie sie irgendwas auf einem anderen Drucker ausdrucken können als der, der halt immer hinterlegt ist.

00:18:02: Aber wenn es darum geht, eine Richtlinie oder ein Verbot zu umgehen, dann werden die Leute sehr

00:18:06: häufig sehr kreativ. Ich bin der Meinung, Verbote bringen eigentlich gar nichts, weil da haben wir

00:18:13: sonst natürlich die Situation, ich habe dann wieder eine Schatten-IT, die sich auf einmal

00:18:17: entwickelt. Wenn von meinem Firmencomputer Chat-GPT nicht funktioniert, weil es halt an

00:18:22: irgendeiner Stelle technisch blockiert wird, dann nehme ich halt meinen privaten Rechner und schmeiß

00:18:27: dann da halt sensible Informationen in die KI rein und lasst die dort verarbeiten und am besten dann

00:18:32: mit dem USB-Stick noch die Sachen hin und her zwischen den Geräten. Also ich bin kein Fan von

00:18:36: Verboten. Dieses Thema Ethikrichtlinie finde ich persönlich ziemlich cool. Wir sind selber

00:18:41: auch an dem Punkt dran, dass wir sagen, wir machen kein explizites Blacklisting,

00:18:47: sondern wir sprechen halt Empfehlungen aus.

00:18:51: Ähnlich wie wir es auch in dem Rahmen der ganzen großen Digitalisierung getan haben während der Pandemie,

00:18:56: dass wir gesagt haben, wenn du mit jemandem Videokonferenz machen möchtest, dann empfehlen wir Teams zu benutzen,

00:19:02: aber man darf zum Beispiel auch oder man könnte auch zum Beispiel Zoom oder Webex oder was anderes verwenden.

00:19:07: Was natürlich wichtig ist, und das hast du gerade auch gesagt, die Art von Information, die dort verarbeitet wird, spielt natürlich eine ganz große Rolle.

00:19:15: Große Rolle, weil wenn ich mir jetzt nur den Einleitungstext für unseren Podcast jetzt

00:19:20: heute von der KI generieren lasse, indem ich ein paar Stichpunkte gebe, dann einen schönen

00:19:25: Text kriege, den schiebe ich danach noch vielleicht durch DeepL durch und dann schaut es auch

00:19:29: von der Rechtschreibung her sauber aus.

00:19:31: Das ist eine Sache.

00:19:32: Wenn ich einen kompletten Datensatz an Kundeninformationen, die unter die DSGVO fallen, in die KI reinschmeiße,

00:19:40: dann ist das natürlich keine gute Idee. Aber so was würde man auch bei Google normalerweise nicht.

00:19:44: Muss es trotzdem, glaube ich, dazu sagen, diese Art von Daten okay, eine andere Art von Daten eben

00:19:48: nicht okay. Speziell auch für die Nutzung von Chat-GPT gibt es noch andere Empfehlungen bei

00:19:54: uns hausintern, unter denen halt die Benutzung ermöglicht wird. Das finde ich auch den deutlich

00:20:00: geschickteren Weg, als zu sagen, nein, wir verbieten das alles und niemand soll das nutzen.

00:20:04: Der wichtige Hinweis ist immer, welche Daten gebe ich ein in das System und da muss man sehr stark

00:20:09: aufpassen. Der zweite Punkt ist natürlich auch immer, dass man das, was ChatGPT dir

00:20:13: erzeugt, dass du das auch natürlich nochmal sorgfältig prüfen musst mit einer fachlichen

00:20:17: Brille. Denn wir wissen schon, dass es unter Umständen halluzinierende Texte hervorbringt,

00:20:23: die zwar super plausibel klingen, aber fachlich völlig falsch sind. Also man sollte es als

00:20:27: Unterstützung verwenden.

00:20:29: Ja, da erlebe ich auch immer wieder Dinge. Neulich auch bei einem Kunden. Da meinte dann

00:20:36: einer der Admins. Er hat sich jetzt da irgendwie ein riesiges PowerShell-Skript bauen lassen und

00:20:41: er traut sich es nicht, es auszuführen. Und dann sage ich, ja, verstehst du denn, was das Skript

00:20:45: tut? Nee, aber es ist Chatshippity, sage ich. Ja, dann würde ich es nicht ausführen, weil wenn ich

00:20:49: nicht verstehe, was das tut und am Ende ist dann meine Datenbank gelöscht oder noch irgendwas

00:20:54: Schlimmeres, dann sollte man es halt nicht tun. Also auch ganz wichtig, man muss schon interpretieren

00:21:00: können, was man da an Output bekommt, bin ich komplett bei dir. Was ja natürlich jetzt mal

00:21:06: abseits von den Halluzinationen, die dort entstehen können, unter anderem eben auch,

00:21:11: wie gesagt, gefährlich werden kann, wenn man sich Code produzieren lässt. Wie ist das eigentlich?

00:21:16: Verwendet die DATEV sowas wie GitHub Copilot auch in der Softwareentwicklung?

00:21:22: Wir sind gerade dabei, das zu evaluieren, also jetzt konkret GitHub Copilot.

00:21:26: Es wird auch testweise in einem Projekt schon eingesetzt, und wir versprechen uns da große Potenziale.

00:21:33: Wir sind gerade dabei, unser komplettes Portfolio auf online umzustellen,

00:21:37: und der Bedarf natürlich an neuen Programmiersprachen steigt dadurch,

00:21:40: und deswegen sehen wir da große, große Potenziale drin in GitHub Copilot.

00:21:44: Ich persönlich finde es noch interessant, dass die Softwareentwickler,

00:21:48: die natürlich schon Erfahrung in der Online-Entwicklung haben,

00:21:50: haben, dass denen natürlich diese fachliche Prüfung des Outputs, also lass ich mir jetzt

00:21:54: mal einen Code generieren, unheimlich leicht fällt. Aber die Erfahrung wiederum, um das

00:21:58: Ergebnis von ChatGPT überprüfen zu können, kommt ja erst daher, dass man das jahrelang

00:22:03: ohne ChatGPT gemacht hat. Also das wird in der Zukunft noch zu Herausforderungen führen,

00:22:07: denke ich.

00:22:09: Ja, auf jeden Fall. Es macht aber auch einem den Job an manchen Stellen wesentlich leichter,

00:22:13: gerade wenn ich zum Beispiel Code von Kollegen übernehme, die vielleicht nicht mehr da sind

00:22:17: jetzt in einen anderen Fachbereich gewechselt haben. Ich muss halt nicht den Kollegen mir

00:22:22: schnappen und mir den Code erklären lassen, der dort produziert wurde, sondern ich kann mir halt

00:22:26: von Copilot zeigen lassen, was tut denn dieser Code eigentlich. Und das macht es auch tatsächlich

00:22:32: schneller, gerade wenn jemand sehr abstrakt programmiert und sehr weit halt auch in die

00:22:39: Tiefen reingeht und vielleicht mit vielen Aliasen arbeitet und so weiter. Und dann ist es halt erst

00:22:45: mal super schwierig zu lesen. Und allein dafür nehme ich das zum Beispiel auch her, um einfach

00:22:50: Code-Interpreter zu haben, der mir sagt, was passiert denn da eigentlich, wo greift dieser

00:22:56: Code denn entsprechend ein. Wie schaut es denn dann mit Nachweisen aus? Gibt es da auch irgendwie

00:23:02: eine Regelung? Weil wir zum Beispiel haben uns jetzt auch auf die Fahne geschrieben, dass wir

00:23:05: in Zukunft bei KI-generierten Bildern dazuschreiben, wo es herkommt. Also gerne auch intern, mit welchem

00:23:12: prompt das ganze produziert wurde, aber bei Code ist es ja ein bisschen schwieriger,

00:23:16: weil das verwischt sich ja unter Umständen. Möglicherweise habe ich ja einen Teil von

00:23:20: meinem Code genommen und habe mir den dann durch Copilot ergänzen oder erweitern lassen.

00:23:25: Gibt es da eine Kennzeichnungspflicht oder wie geht ihr damit um?

00:23:30: Also ist mir nichts bekannt, weil wir generative KI jetzt in der Breite auch noch nicht einsetzen, ne?

00:23:35: Was ich im privaten Umfeld erlebt habe, also wie es andere machen, also oft so bei Newsartikeln,

00:23:40: da steht dann sowas dabei, wie dieser Text wurde KI-basiert erzeugt und von einem Redakteur fachlich dann nochmal geprüft.

00:23:47: Ja, wir machen es, wie gesagt, bei Bildern vor allem auch so, dass wir gesagt haben,

00:23:50: in Zukunft müssen wir das einfach häufiger tun, weil, na klar, es ist praktisch.

00:23:55: Ich habe kein Copyright-Problem, zumindest momentan nicht, auch da, wir werden sehen, was da noch passiert.

00:24:01: Wer dem Podcast schon länger folgt, der wird mit Sicherheit auch das Interview mit dem Jörg Heidrich vom Heise-Verlag gehört haben, was ich mit ihm gemacht habe.

00:24:09: Der ja auch sagt, momentan ist der Output einer KI nicht schützenswert, sondern maximal der Prompt.

00:24:15: Wir werden sehen, wo es in der Richtung noch hingeht, weil das andere ist ja, wenn ich jetzt den Prompt von jemand anderem verwende,

00:24:22: kommt nicht exakt das gleiche nochmal raus, was vorher schon mal passiert ist.

00:24:27: Insofern gerade jetzt eben bei bildgenerierenden KIs, wo man sich ja sehr, sehr tief mit Angabe von Kameramodell und Linse und so weiter

00:24:36: und auch welche Lichteffekte verwendet werden, da kann man sich ja schon verausgaben mit den Prompts.

00:24:41: Insofern ja, verstehe ich, dass man sagt, gut, da hat sich jemand Gedanken und Mühe gemacht, um irgendwo was einzugeben

00:24:48: und das kann man sich unter Umständen schützen lassen.

00:24:50: Aber da, wie gesagt, wir werden sehen, was da noch entsprechend auf uns zukommt.

00:24:54: Das heißt, zusammengefasst, Regulierung im Sinne von Empfehlung und Ethik, ja, Verbote

00:25:01: bringen vermutlich gar nichts, eine Art von KI-Richtlinie macht aber auf jeden Fall Sinn,

00:25:06: glaube ich, kann man so zusammenfassen.

00:25:07: Das ist ein schönes Fazit, kann man gut zusammenfassen.

00:25:11: Was glaubst du denn mal so mit Blick in die Glaskugel, wie wird sich denn unsere Arbeits-

00:25:17: oder auch die IT-Welt verändern durch die künstliche Intelligenz.

00:25:21: Was siehst du für Potenzial bzw. was könntest du dir vorstellen,

00:25:25: passiert innerhalb der nächsten fünf oder vielleicht auch der nächsten zehn Jahre noch.

00:25:29: Das ist wirklich ein Blick in die Glaskugel. Ich glaube, da sind unheimlich viele Szenarien denkbar.

00:25:37: Ich war letzte Woche auf der Big Data & AI Summit, da wurde die These vertreten,

00:25:42: dass es 2040 kein Softwareentwicklungsunternehmen mehr geben wird,

00:25:47: was die AI Adoption nicht erfolgreich hinter sich gebracht hat.

00:25:51: Oder umgekehrt, alle, die es nicht geschafft haben, wird es 2040 nicht mehr geben.

00:25:55: Also das Potenzial besteht auf jeden Fall, dass durch KI sich unser Leben drastisch verändert,

00:26:00: unser Arbeitsleben zumindest. Die Tätigkeiten werden sich verändern, also es wird nicht mehr

00:26:05: so viel wiederkehrenden Tätigkeiten geben, aber dafür werden andere Tätigkeiten in den

00:26:10: Vordergrund kommen, also siehe wirklich den tiefen fachlichen Input. Und ganz komplexe,

00:26:15: also fachlich komplexe Aufgaben, denke ich, werden wir auch in zehn Jahren noch nicht

00:26:19: komplett an KI entgeben können. Ansonsten gibt es ja verschiedene Thesen, welche Berufe wegfallen

00:26:26: beziehungsweise welche neuen Berufe entstehen. Und wir vertreten Stand heute die Meinung,

00:26:31: dass die Tätigkeit des Steuerberates auf jeden Fall stark verändern wird. Einerseits durch die

00:26:36: viele Automatisierung, die möglich ist, dass es sich der Tätigkeitsschwerpunkt weg von der

00:26:42: Deklaration hin zur Beratung stärker entwickeln wird. Und das ist halt durch eine KI zwar

00:26:47: unterstützbar, aber nicht ersetzbar. Und ich denke, das ist auch so mein Fazit. Es wird sich wandeln,

00:26:52: aber dass wirklich viele Berufe in der Masse überflüssig werden, glaube ich ehrlich gesagt

00:26:57: Ja, es wird halt eine Art von Adaption auch da entsprechend.

00:27:01: Damit einhergehen müssen denke ich auch die große angst vor neuen dingen das ist ja ein komplett menschliches ding und dass man dann glaubte wie früher dass die jetzt in zukunft einem die roboter die arbeitsplätze wegnehmen ja in manchen

00:27:17: ist das so. Gerade in der Produktion ist viel Automatisierung drin. Jetzt in dem Bereich,

00:27:23: was KI angeht, klar, kann man sich jetzt sagen, ich bin aber jetzt Texter. Ich habe irgendwas

00:27:29: studiert und ich arbeite im Marketing, im Medienbereich und mein Job ist es zu texten.

00:27:35: Aber da muss ich sagen, auch da, man muss halt vielleicht einfach auch sich angucken,

00:27:39: wie muss ich mich vielleicht denn einfach anpassen an das, was da passiert ist. Weil

00:27:42: gerade so klassische Jobs wie den Setzer oder den Katalog-Layouter, die noch an einem echten

00:27:49: Leuchttisch arbeiten, das gibt's ja auch nicht mehr. Die gibt's ja schon lange nicht mehr,

00:27:52: diese Jobs. Also zumindest nicht in der Papierform, wo man sich was ausschneidet

00:27:56: und nebeneinander legt. Genau, Weiterbildung ist, glaube ich, der Dreh- und Angelpunkt dafür.

00:28:02: Weiterbildung ist der Dreh- und Angelpunkt der Zukunft, also die eigenen Skills kontinuierlich

00:28:07: weiterzuentwickeln. Aber das zeigt auch schon die Entwicklung ohne KI der vergangenen Jahre,

00:28:11: Also den gleichen Beruf, den ich vor 20 Jahren mal gelernt habe, übe ich heute nicht mehr in der

00:28:16: gleichen Form aus, auch ohne KI, weil sich alles eigentlich einfach weiterentwickelt stets. Und

00:28:20: ich denke, das lebenslange Lernen ist eines der größten Erfolgsfaktoren für die Zukunft. Und

00:28:26: ich denke, Berufsbereiche werden überflüssig werden, so wie du es gerade ausgeführt hast,

00:28:29: mit dem ich arbeite mit Papier und klebe das zusammen. Aber Sätze an sich wird es vielleicht

00:28:34: auch noch geben, aber halt in einer anderen Form.

00:28:37: Ganz genau. Das bringt uns dann auch direkt zur nächsten Frage. Weiterbildung. Wie bildest du dich denn selber weiter?

00:28:43: Ich lese sehr viel auf den eingängigen Seiten, das hast ja auch schon einige genannt, Heise und Newsletter.

00:28:50: Was wir von Dativ noch gemacht haben, das war sehr, sehr interessant, vor kurzem eine Study-Tour nach Singapur,

00:28:55: um nochmal so wirklich komplett ein anderes System, eine andere Denkweise, eine andere Handlungsweise nochmal zu erleben

00:29:03: und dann von solchen Study-Tours auch wirklich Impulse für die eigene Einheit, für das eigene Unternehmen,

00:29:09: für das eigene Arbeiten ableiten zu können.

00:29:11: Konferenzbesuche finde ich auch noch sehr wichtig. Ich war letzte Woche auf der Big Data und AI Summit von Bitkom in Berlin,

00:29:18: die einfach auch nochmal den Blick über den Tellerrand ermöglichen und auch zeigen,

00:29:21: was geht gerade in anderen Unternehmen, womit beschäftigen sich andere Firmen

00:29:25: und immer mit der Frage, was können wir davon auch für uns ableiten.

00:29:29: Ja, danke dir. Was machst du denn, wenn du nicht arbeitest? Weil ich weiß, du hast immer sehr, sehr viel zu tun.

00:29:37: Du bist wirklich gut beschäftigt. Das weißt du.

00:29:40: Ja, das erzählst du zumindest immer wieder.

00:29:45: Was machst du denn, wenn du nicht arbeitest? Wie kommst du zur Ruhe?

00:29:48: Wie kannst du entspannen?

00:29:50: Neben der Arbeit habe ich natürlich noch ein zweites Leben, was nicht weniger aufregend ist.

00:29:55: Wir haben zwei Kinder mit sechs und sieben Jahren, die nochmal einen Gut erden

00:30:00: und auch nochmal die wirklichen Prioritäten im Leben unterstreichen.

00:30:06: Und die Welt durch Kinderaugen zu erleben, ist sehr, sehr bereichernd und dadurch auch ausbalancierend.

00:30:11: Ich jetzt für mich, um zur Ruhe zu kommen, denn mit Kindern kommt man selten zur Ruhe,

00:30:15: übe ich mich in Achtsamkeit und Meditation und das ist für mich wirklich noch mal eine gute Erdung,

00:30:20: immer noch nach der ganzen Hektik im Alltag. Das mache ich gern so in der Mittagspause

00:30:25: und das bringt mir persönlich sehr viel.

00:30:27: Dankeschön. Gut, hättest du dann noch, wenn du sagst Achtsamkeit und so,

00:30:33: das könnte vielleicht in die Richtung dann gehen. Hättest du denn noch eine Nachricht

00:30:37: oder eine Botschaft, die du unseren Hörerinnen und Hörern auf den Weg mitgeben möchtest

00:30:42: oder mitgeben würdest, jetzt gerade mal im Hinblick vielleicht auch auf die ganze wahnsinnig

00:30:47: schnelle Entwicklung, in der wir alle leben.

00:30:49: Also ich würde KI wirklich als Chance begreifen. Also das ist meine Botschaft. KI als Chance für uns alle, für uns als Gesellschaft, aber auch für einen persönlich, für die eigene Weiterentwicklung beispielsweise des eigenen Berufs.

00:31:01: Und ja, es gibt Gefahren, aber ich denke vordergründig muss man auch die Potenziale und die Chancen im Auge behalten und sich denen halt nicht zu verwehren.

00:31:10: Okay, danke dir. Das hört sich gut an und ja, werde ich mir auch selber auf die Fahne schreiben.

00:31:15: Bei mir geht es auch manchmal so, auch wenn ich täglich damit arbeite, aber ich fühle mich auch

00:31:20: manchmal etwas überfahren von dem, was da gerade so passiert und definitiv mit Augenmaß und

00:31:25: entsprechendem Weitblick an das Ganze rangehen. Ja, super, Ines, vielen Dank, dass du dir heute

00:31:30: die Zeit genommen hast für das Interview. War wirklich sehr spannend, da mal einen Einblick

00:31:36: zu bekommen, wie die DATEV damit umgeht und auch du dich selber damit auch beschäftigst.

00:31:42: Und ja, wenn ihr jetzt sagt, Mensch, da würde ich gerne noch mehr darüber wissen, dann ja,

00:31:50: die einschlägigen Kanäle haben wir gerade schon gesagt. Ihr könnt natürlich mich auch jederzeit

00:31:55: gerne ansprechen. Ich werde natürlich auch euch dann nach wie vor die Möglichkeit zur Verfügung

00:32:00: stellen, mit mir in Kontakt zu treten. Ihr habt unten in den Show Notes die Möglichkeiten per

00:32:05: E-Mail oder auch mit einer Terminreservierung mal bei mir einfach einen Termin zu machen und

00:32:10: wer möchte, dem vermittle ich dann auch auf Nachfrage natürlich gern den Kontakt zu Ines,

00:32:15: die findet man aber ansonsten natürlich auch auf den einschlägigen Business Social Media Kanälen.

00:32:20: Ja und in diesem Sinne würde ich sagen, mach mal für heute den Laden zu, war wirklich super und

00:32:28: ja dann sagen wir uns einfach zur nächsten Folge wieder. Ines, ich danke dir ganz herzlich,

00:32:33: hat Spaß gemacht und wir sehen uns dann ja demnächst sowieso wahrscheinlich im Privaten wieder.

00:32:39: Ich danke dir auch für die Einladung.

00:32:42: Music.