101: Technologie 2025 - Zwischen Vertrauen, Kontrolle und Chaos. Mit Joshua Tree!

Speaker0: Hi und herzlich willkommen zu einer weiteren Folge von Blue Screen,

Speaker0: eurem Lieblingstech-Podcast. Ich habe heute ein kleines Special für euch dabei.

Speaker0: Das ist für Leute, die uns schon länger zuhören, vielleicht nichts Neues.

Speaker0: Wir haben das gerne um den Sommer herum, dass wir Joshua Tree als Gast bei uns hier einladen.

Speaker0: Und so auch heute darf ich Joshua bei uns im Studio begrüßen.

Speaker0: Thema der heutigen Folge wird sein Zwischenvertrauen, Kontrolle und Chaos.

Speaker0: Und ja, da gucken wir mal, wie denn so der Stand rund um die technologische

Speaker0: Entwicklung ist. Ich wünsche euch viel Spaß bei dieser Folge.

Speaker0: Blue Screen, der Tech-Podcast. Ja, und Joshua, freut mich unglaublich,

Speaker0: dass du dir die Zeit nimmst, mal wieder hier zu Gast zu sein.

Speaker0: Du bist ja mittlerweile Stammgast.

Speaker0: Ich glaube, keiner war so oft bei uns hier im Podcast wie du. Wie geht's dir?

Speaker1: Ja, ich fühle mich geehrt. Ich fühle mich sehr gut. Wir sind gerade auf Reisen,

Speaker1: fahren gerade von Kreta nach Deutschland, um unseren Camper abzuholen.

Speaker1: Und extra für dich habe ich hier mein Mikrofon eingepackt. Das freut mich.

Speaker1: Ich bin jetzt hier aus der Unterkunft auf einer kleinen Insel mit Draht-Internet

Speaker1: und das scheint ganz gut zu funktionieren.

Speaker0: Ja, ich hatte ein bisschen Sorge, als du geschrieben hattest,

Speaker0: so, naja, mal gucken, wie das Internet hier ist. Aber das funktioniert gut.

Speaker0: Also ich sehe dich gut und ich kann dich gut hören. Also das passt.

Speaker1: Ja, 2025, da geht das auch hier auf der kleinsten griechischen Insel schon.

Speaker0: Ja, Joshua, zwischen Vertrauen, Kontrolle und Chaos, wir schreiben uns ja doch

Speaker0: regelmäßig auch bei Discord.

Speaker0: Ich schicke dir immer wieder mal solche Headlines, die mir gerade so einfach

Speaker0: durchrutschen in den verschiedenen Nachrichtenplattformen.

Speaker0: Und es ist tatsächlich, wenn man mal überlegt, wo wir herkommen,

Speaker0: unser erstes Gespräch, da meintest du noch so, ja, die künstliche Intelligenz,

Speaker0: die war vor zwei oder drei Jahren,

Speaker0: wie lange es her ist, gerade so im Jugendalter irgendwie angekommen.

Speaker0: Mittlerweile, es ist halt wirklich, wie man so schön sagt, batshit crazy,

Speaker0: was da draußen so tatsächlich passiert.

Speaker0: Ich hatte dir neulich geschickt, dass die Vereinigten Arabischen Emirate das erste Land werden,

Speaker0: die AI in der Politik einsetzen, das heißt in Zukunft schreiben dort scheinbar

Speaker0: generative KIs oder Agenten die Gesetze und sind halt Teil der Regierung und das ist ja nichts,

Speaker0: was man wirklich gedacht hätte, dass das so schnell kommt. Das kenne ich nur aus deinen Büchern.

Speaker0: Und ja, wie siehst du das? Also jetzt mal aus deiner Autorenbrille betrachtet, was ist da los?

Speaker1: Ganz gruselig. Also ich habe ja, als du mir diesen Artikel geschickt hattest

Speaker1: mit den Vereinigten Arabischen Emiraten, war es glaube ich, habe ich dir ja

Speaker1: schon meine fünf Cent dazu geschrieben.

Speaker1: Da sieht man, dass KI auf jeden Fall ein Tool wird, also ein gesinnungsfreies

Speaker1: Tool für Menschen mit Gesinnung.

Speaker1: Und das ist das, was mir am meisten Sorgen macht, dass wir am Ende hinter so

Speaker1: einem Silicon Curtain-Leben, wie Harari das nennt,

Speaker1: dass wir unterschiedliche KI-Netzwerke haben, die ganz unterschiedlich in Anführungsstrichen denken.

Speaker1: Jetzt mit der KI, die die Gesetze schreiben soll in den Emiraten,

Speaker1: habe ich ja schon gesagt, wie wenig

Speaker1: ich von den patriarchalischen und frauenfeindlichen Strukturen da halte.

Speaker1: Das spreche ich auch ganz klar an, weil das sind Sachen, die machen mir Sorgen.

Speaker1: Und da ist nicht die KI das Gruselige, sondern diejenigen, die der KI sagen, was sie machen sollen.

Speaker1: Und das ist auch tatsächlich das, wovor ich am meisten Angst habe,

Speaker1: dass wir eine eigentlich tolle Entwicklung mit viel Potenzial,

Speaker1: anders ausgedrückt, dass wir anorganische Intelligenz für organische Intelligenz

Speaker1: einsetzen und dass wir die damit über einen Äquator ziehen, wo sie eigentlich

Speaker1: nicht rüberkommen sollte.

Speaker1: Weil das ist ein sehr, sehr potentes Tool, das sehr, sehr viele Türen öffnen

Speaker1: wird, die wir wahrscheinlich gar nicht öffnen wollen und die auf eine ganz,

Speaker1: ganz andere Weise intelligent ist, als wir das sind.

Speaker1: Und ich könnte mir gut vorstellen, dass wir in 10, 15 Jahren

Speaker1: so einen Silicon Curtain haben zwischen Ost und West oder wie auch immer dann

Speaker1: die Blöcke aussehen werden.

Speaker1: Und das sehen wir jetzt schon, dass Leute in China, also User in China,

Speaker1: komplett andere App-Welten haben, in denen sie leben, als wir im Westen.

Speaker1: Und wenn wir das jetzt auf die Spitze treiben und der Totalitarismus,

Speaker1: der ja bisher super erfolgreich war unter Stalin, also auf extrem schlimme Art erfolgreich war,

Speaker1: Was denen gefehlt hat, war noch mehr Kontrollmöglichkeiten zur Herstellung maximaler Ordnung.

Speaker1: Und das sieht heute viel, viel düsterer aus.

Speaker1: Und ich glaube, wenn Stalin KI-Tools gehabt hätte wie Xi Jinping,

Speaker1: dann wäre das ganze System vielleicht gar nicht zusammengebrochen.

Speaker1: Weil wir dürfen uns nicht der Illusion hingeben, dass in Anführungsstrichen

Speaker1: böse Systeme immer zum Scheitern verurteilt sind.

Speaker1: Das ist halt Denken organischer Intelligenzen, dass alles irgendwie so eine

Speaker1: ausgleichende Gerechtigkeit gibt oder sowas, aber dem ist nicht so.

Speaker1: Das sind alles Systeme zur Herstellung von Ordnung und die funktionieren halt

Speaker1: in dem Maß, wie es Tools gibt, um diese Ordnung aufrechtzuerhalten.

Speaker1: Und das macht mir sehr, sehr große Sorgen, weil wenn wir das auf die Spitze

Speaker1: treiben, mit jetzt heute in Ost und West, mit diesen komplett anderen App-Welten

Speaker1: und komplett anderen Inhalten, mit anderen generativen KIs, die halt andere Beschränkungen haben,

Speaker1: dann wird ein Chinese in 20 Jahren so fundamental anders auf die Welt blicken als du und ich,

Speaker1: dass wir vielleicht uns gar nicht mehr verständigen können.

Speaker1: Also gar keine gemeinsamen Werte mehr haben, gar kein gemeinsames Erleben des

Speaker1: Lebens, also keine geteilte Lebenswirklichkeit mehr.

Speaker1: Und das ist richtig gruselig, weil dann werden Mitmenschen für uns wie Außerirdische.

Speaker1: Und was das dann an Konfliktpotenzial hat, das will ich mir gar nicht ausmalen.

Speaker0: Naja, das Ganze geht ja jetzt eigentlich schon los.

Speaker0: Du musst halt mal sehen, wir sind alle in dem Mindset aufgewachsen,

Speaker0: dass Amerika das Land der unbegrenzten Möglichkeiten ist.

Speaker0: Unsere gesamte Medienwelt, alles, was wir so konsumiert haben als Kinder,

Speaker0: als Jugendliche, kam überwiegend aus Amerika.

Speaker0: Und jetzt, ich sage mal ein halbes Jahr, nachdem Trump halt jetzt dran ist,

Speaker0: bröckelt da so viel und es passiert so viel, wo man sich wirklich denkt,

Speaker0: was zum Geier ist da drüben los?

Speaker0: Ich persönlich muss sagen, mich erschüttert es schon in meinen Grundfesten,

Speaker0: weil man eben mit diesem Mindset aufgewachsen ist, dass das,

Speaker0: was eben über den großen Teich zu uns rüberschwappt, eigentlich immer das Richtige war.

Speaker0: Aber wenn man sieht mit noch relativ vergleichbar kleinem Aufwand,

Speaker0: wie schnell sich da auch Dinge ändern und das Ganze noch unterfüttert mit Technologie,

Speaker0: mit künstlicher Intelligenz,

Speaker0: mit einer Entwicklung, auch gerade im Bereich Quantencomputing.

Speaker0: Ja, Willow ist jetzt ein Quantencomputer-Chip, der wirklich eine Größe hat,

Speaker0: wo das Ding langsam dann auch wirklich in tragbare Geräte eingebaut werden kann

Speaker0: und so weiter und so fort. Und selbst unsere Politiker nehmen gerne natürlich solche Dinge an.

Speaker0: Wenn man sich nur mal anschaut, das ganze Thema Überwachung,

Speaker0: Massendatenspeicherung, Massendatenerfassung zu irgendeinem abstrusen Zwecke,

Speaker0: der uns dann da als notwendiges Übel quasi verkauft wird.

Speaker0: Wir bewegen uns hier gerade, glaube ich, ganz stark einfach in eine sehr,

Speaker0: sehr gefährliche Richtung, die am Ende des Tages wahrscheinlich den meisten

Speaker0: Bürgern einfach egal sein wird, weil sie es gar nicht greifen können.

Speaker0: Aber für Leute, die halt entweder, weil sie sich wie du eben für Bücher und

Speaker0: allgemein halt auch für ein allgemeines Weltinteresse damit beschäftigen und für mich als jemanden,

Speaker0: der sich halt sehr viel mit Technologie

Speaker0: beschäftigt, ist das verdammt gruselig, was da gerade passiert.

Speaker1: Ja, vor allem, wir müssen uns vor Augen halten, wie schnell das Ganze geht.

Speaker1: Ich habe vor kurzem die Serie The Last Chip nochmal angeschaut.

Speaker1: Ich weiß nicht, ob du die kennst, du nix.

Speaker1: Weil also eins meiner Skripte liegt gerade in Hollywood und einer der Produzenten

Speaker1: von The Last Chip ist halt der, der gerade versucht, das umzusetzen.

Speaker1: Und dann habe ich gedacht, ach komm, das hast du damals mal eingeguckt, guckst du nochmal,

Speaker1: wie das war und ich fand das immer noch super launig und trashig gleichzeitig,

Speaker1: also eigentlich eine Kombination, die mir gut gefällt und da habe ich gedacht,

Speaker1: krass, die Serie ist von 2016

Speaker1: und zeigt halt das Selbstverständnis Amerikas von 2016, also vor neun Jahren

Speaker1: und das war eine eher konservative Serie,

Speaker1: darf man nicht vergessen und da war, die Werte waren ganz klar,

Speaker1: niemand Man wird zurückgelassen. Wir setzen uns für die Schwachen ein.

Speaker1: Unterdrücker werden aufgehalten, auch um den Preis unseres eigenen Lebens.

Speaker1: Es wird immer das Richtige getan. Und wenn wir Befehle kriegen,

Speaker1: die irgendwie menschenverachtend sind, dann setzen wir die nicht um.

Speaker1: Die kleine Randnotiz, alle streiten sich um die Impfung für die Pandemie,

Speaker1: die es in der Serie gibt, lange vor Covid.

Speaker1: In der Realität gab es dann riesen Ärger um Impfungen.

Speaker1: Da sieht man, wie schnell sich so ein Wertekanon,

Speaker1: auch wandeln kann und da müssen wir einfach sehen, dass KI auch aus dem Grund,

Speaker1: dass sie unsere Lebenswelt so stark ändert, dass wir teilweise nicht mehr hinterherkommen,

Speaker1: ein Brandbeschleuniger ist für Populismus.

Speaker1: Und ich habe so ein bisschen Sorge, dass die Leute sich von diesem Narrativ

Speaker1: einnehmen lassen, dass Europa jetzt so der Hort der Hoffnung wäre,

Speaker1: Weil, also wir entkoppeln uns zwar gerade ein bisschen von den USA,

Speaker1: aber ich glaube, diese alte Regel, alles was in den USA passiert,

Speaker1: ist zehn Jahre später bei uns der Fall.

Speaker1: Ich glaube, das ist genauso, weil wir sehen im Prinzip die Anfänge des Ganzen bei uns auch.

Speaker1: Also Bulgarien, Rumänien zeigen das ja schon, dass da Rechtspopulisten ganz

Speaker1: oben sind. Wir haben es in Holland mit Gerd Wilders.

Speaker1: Wir haben bei der nächsten Wahl

Speaker1: in Frankreich auf jeden Fall Rassemblement National als stärkste Kraft.

Speaker1: Also waren sie ja, glaube ich, letztes Mal schon stärkste Kraft.

Speaker1: Aber die werden wir in der Regierung sehen.

Speaker1: Und was mit der AfD passiert in Deutschland, das sehen ja alle selber.

Speaker1: Und Italien hat in Anführungsstrichen Glück gehabt, weil sie mit Meloni noch

Speaker1: eine halbwegs vernünftige Rechtskonservative haben,

Speaker1: die jetzt nicht das Land aus der EU rausgeholt hat und die ganzen schlimmen

Speaker1: Sachen und auch nicht an Russland gebracht hat und wo sich jetzt die meisten

Speaker1: einig sind, okay, die macht einen ganz, ganz guten Job,

Speaker1: statt das Land irgendwie kaputt zu machen, aber da brauchen wir nicht glauben,

Speaker1: dass das bei uns dann auch der Fall ist,

Speaker1: Weil das sehe ich halt nicht.

Speaker1: Ich glaube, in Europa gehen wir ganz genau in das gleiche Messer rein.

Speaker1: Und das macht mir große Sorgen, weil wenn wir jetzt so Möchtegern-Dispoten haben,

Speaker1: die starken Männer in Anführungsstrichen,

Speaker1: die die Tools zur Verfügung haben, die ein Xi Jinping hat,

Speaker1: mache ich mir schon Sorgen, ob Demokratie dann noch eine Zukunft hat,

Speaker1: zumal Demokratie halt super anfällig ist für KI-Narrative, für KI,

Speaker1: die missbraucht wird, siehe Facebook-Algorithmus.

Speaker1: Und das ist ja nun hinlänglich schon erklärt worden, wie Algorithmen den eingeben wird,

Speaker1: für mehr Engagement zu sorgen, also mit einer positiven Absicht dafür sorgen,

Speaker1: dass wir uns entzweien, immer mehr Hass haben und einfach unsere öffentliche

Speaker1: Debatte vergiften und uns die Hoheit über die Wahrheit wegnehmen.

Speaker1: Keiner kann sich mehr auf eine objektive Wahrheit einigen und das ist,

Speaker1: glaube ich, absolutes Gift für jede Demokratie.

Speaker0: Ja, das glaube ich auch. Und das Schlimme ist,

Speaker0: man sollte eigentlich ja davon ausgehen, dass die Menschheit irgendwas gelernt

Speaker0: hat aus dem, was in den letzten 80 Jahren oder vor 80 Jahren halt auch passiert

Speaker0: ist und auch die Entwicklung der verschiedenen Regime, die seitdem halt auch stattgefunden hat.

Speaker0: Auf der anderen Seite sieht man aber trotz allem, was zum Beispiel halt auch

Speaker0: gerade rund um Elon Musk so schiefläuft, wie er sich verhält mit einer Kettensäge

Speaker0: auf der Bühne oder mit einem Pizza Hut und diesen ganzen Sachen.

Speaker0: Also wirklich, ich habe es jetzt in letzter Zeit oft gesagt,

Speaker0: aber Idiocracy war keine Vorlage. Es sollte eigentlich eine Warnung sein.

Speaker0: Trotzdem wählen die Leute, also auch hier, das ist einfach abstrus,

Speaker0: in Texas wurden die Leute gefragt, möchtet ihr gerne eine eigene Stadt?

Speaker0: Soll die Starbase, also die Weltraumfirma von Elon Musk, eine eigene Stadt werden.

Speaker0: Und die haben dafür gestimmt und sagen, jawohl, hurra, das hätten wir gerne.

Speaker0: Und eine große Elon-Musk-Büste wird über sie dann entsprechend wachen.

Speaker0: Und ich denke mir halt wirklich, sag mal, das kann doch eigentlich gar nicht sein.

Speaker0: Aber wenn man da ein Stück weiter denkt, irgendjemand hat ja Donald Trump gewählt.

Speaker0: Und es waren genügend Leute. Also irgendwo kann das eben dann doch sein,

Speaker0: weil eben die Leute ja anscheinend das gut finden, was da passiert.

Speaker0: Und das sind jetzt mit Sicherheit nicht nur die verblendeten Rednecks irgendwo

Speaker0: aus den Südstaaten, sondern da sind mit Sicherheit ganz viele Leute in der Bevölkerung,

Speaker0: die das halt total begrüßen und halt auch wirklich super finden.

Speaker0: Und wir als Europäer, ich pauschalisiere jetzt mal ganz bewusst,

Speaker0: rennen dem halt einfach blind hinterher, was da drüben so passiert.

Speaker0: Und ja, es wird am Ende des Tages, ich habe es gerade schon gesagt,

Speaker0: die wenigsten Leute wirklich interessieren, weil die gehen halt dem Hype nach

Speaker0: und finden das halt super, was da gerade so stattfindet.

Speaker0: Die Weltbilder, die Feindbilder lassen sich natürlich durch generative KI noch

Speaker0: wesentlich besser jetzt den Leuten auf Social Media und so weiter aufs Auge

Speaker0: drücken. Man kann, du hast es gerade ja schon erwähnt, man kann nichts mehr

Speaker0: glauben einfach mittlerweile.

Speaker0: Man muss prinzipiell alles permanent hinterfragen, bis man halt aufhört,

Speaker0: es zu hinterfragen und halt einfach sich diesen Brei einfach reinzieht.

Speaker0: Also wie es TikTok macht.

Speaker0: TikTok ist bewusst dafür ja gebaut worden, um die Leute halt einfach mit Müll

Speaker0: zu überfluten, damit sie einfach aufhören zu denken.

Speaker0: Und das ist leider ein riesengroßes Problem unserer aktuellen Gesellschaft.

Speaker1: Ja, und das Problem ist auch, dass es nicht nur, man kann nichts mehr glauben,

Speaker1: die Leute wollen nichts mehr glauben.

Speaker1: Das ist dann dieses Jahr, deine Wahrheit ist nicht meine Wahrheit, wo ich immer denke, hä?

Speaker1: Also können wir uns noch darauf einigen, dass es bestimmte objektive Fakten gibt?

Speaker1: Also wir können uns ja auch einigen, ob jetzt der Blitz dem Donner fällt oder

Speaker1: umgekehrt, das ist ja keine Diskussion.

Speaker1: Also es gibt ja schon beobachtbare Wahrheiten. Natürlich gibt es intersubjektive

Speaker1: Wahrheiten. Das ist gar keine Frage.

Speaker1: Also alles, alle Fakten beruhen immer auch auf Interpretationen und Lebenswirklichkeiten,

Speaker1: die halt komplett anders interpretiert werden, je nachdem, wo ich aufgewachsen

Speaker1: bin und welche Symbole für mich welche Bedeutung haben.

Speaker1: Das stelle ich gar nicht in Abrede. Aber dass man bestimmte Fakten nicht mehr

Speaker1: diskutieren kann und dann sagt, okay, das ist jetzt ein Fakt,

Speaker1: und dann sagt Person B, ah, okay, wusste ich nicht.

Speaker1: Oder danke, dass du mich darauf hingewiesen hast. Oder ja, dann ändere ich meine

Speaker1: Meinung, weil ich meine, war auf falschen Fakten, also falsche Fakten gibt es

Speaker1: ja nicht, aber auf falschen Informationen basiert.

Speaker1: Nö, da kommt dann halt eine Pressesprecherin von Trump und sagt,

Speaker1: das sind alternative Fakten. Und es war ja schon in der letzten Amtszeit.

Speaker1: Und das ist so gruselig, weil das zeigt einfach ein Weltbild,

Speaker1: was mir ganz, ganz große Sorgen macht und unterstreicht so ein bisschen,

Speaker1: das habe ich vor, ich glaube, vor drei Jahren auf der Leipziger Buchmesse bei

Speaker1: einem Panel gesagt, dass ich glaube, dass wir längst in der KI-Apokalypse leben.

Speaker1: Und die hat angefangen mit den Social Media Algorithmen,

Speaker1: weil der Entzug der Wahrheit ist die beste Methode, um uns langsam wie den Boiling

Speaker1: Frog zu kochen und uns ein Ende zu bereiten,

Speaker1: weil ohne eine Diskussion und eine Orientierung an der Wahrheit ist Demokratie

Speaker1: nicht möglich, in meinen Augen.

Speaker1: Und wenn Demokratie nicht möglich ist, dann enden wir halt in totalitären Regimen,

Speaker1: die uns vorgeben, was wir denken, fühlen und tun.

Speaker1: Und sobald uns vorgegeben wird, was wir denken, fühlen und tun,

Speaker1: verlieren wir im Prinzip unser Menschsein, weil dann werden wir zu Ameisen.

Speaker1: Und man hat das ja damals im Stalinismus schon gesehen, was das dann für Blüten getrieben hat.

Speaker1: Die Leute wurden immer unproduktiver, die ganze Kreativbranche war im Prinzip weg.

Speaker1: Und das ganze Land, also die ganze Sowjetunion ist im Prinzip vor den Augen,

Speaker1: also nicht vor den Augen der Welt, aber weil es war ja abgeschottet.

Speaker1: Aber vor den Augen der Führung verwelkt.

Speaker1: Und da war es ja auch, es war ja auch normal, dass Kinder zum Beispiel lernen,

Speaker1: dass ihr Vater Stalin ist.

Speaker1: Und der steht als Vater an erster Stelle. Deswegen auch Paternalismus.

Speaker1: Und nicht die Eltern. Und deswegen haben Zehntausende von Kindern in der Sowjetunion

Speaker1: ihre Eltern denunziert, die dann teilweise noch vor deren Augen erschossen wurden zu Hause.

Speaker1: Und das fanden die Kinder okay, weil sie haben ja Vater Stalin die Wahrheit

Speaker1: gesagt, weil die Eltern haben am Tisch was Schlechtes über ihn gesagt.

Speaker1: Das ist super gruselig und wir müssen uns daran erinnern, das ist halt wichtig

Speaker1: von Geschichte zu lernen in meinen Augen,

Speaker1: dass das alles damals geklappt hat mit den Anfängen der Massenmedien,

Speaker1: aber ohne Tools wie heute, wo KIs alles über uns lernen können,

Speaker1: weil sie durch unsere Smartphones, durch unser Verhalten im Internet im Prinzip

Speaker1: alles über uns lernen können. uns wissen.

Speaker1: Also unser Smartphone weiß ja heute mehr über uns als unsere Eltern. Das ist einfach Fakt.

Speaker0: Ja, die KI auch.

Speaker1: Genau.

Speaker0: Die KI weiß verdammt viel und du musst dir mal, du musst mal nur die Frage stellen

Speaker0: an deine KI, mit der du halt so überwiegend arbeitest, wie sie dich selbst beschreiben würde.

Speaker0: Also die sollen ein Bild von dir erstellen und das ist wirklich verdammt gruselig.

Speaker0: Ich habe das letztens mal ausprobiert und das kommt sehr nah an das ran,

Speaker0: was tatsächlich, was ich bin, dieses Bild und die Beschreibung von meinem Charakter

Speaker0: und so weiter und so fort, weil ich halt sehr viel eben mit künstlichen Intelligenzen

Speaker0: auch zu tun habe und das macht schon,

Speaker0: also mich zumindest nachdenklich, aber für die normalen meisten Leute,

Speaker0: die werden sagen, ja, ist doch super,

Speaker0: ist doch praktisch, dann muss ich hier schon mal nichts mehr erzählen.

Speaker1: Ja, es könnte tatsächlich sein, dass in Zukunft keine Datenspur zu hinterlassen

Speaker1: ein Überlebensvorteil ist.

Speaker1: Das glaube ich wirklich, weil also ich überlege auch schon die ganze Zeit rum,

Speaker1: ob ich mir ein Android-Smartphone kaufe mit Graphene OS,

Speaker1: um einfach so wenig Daten zu hinterlassen, wie es geht, so viel Privatsphäre

Speaker1: zu haben, wie es geht. Ähm,

Speaker1: Und die ganze, auch mit dem Laptop das umzustellen, auf Linux zu gehen,

Speaker1: da gibt es ja, du kennst ja viel besser aus als ich, aber ich glaube, das macht total Sinn,

Speaker1: weil aktuell sind wir halt der größte Wirtschaftsmotor, weil wir unsere Daten hergeben,

Speaker1: aus denen dann auch noch komplexe Profile für uns angestellt werden,

Speaker1: die uns halt super leicht steuerbar machen.

Speaker1: Und ich sehe eine große, große Gefahr, dass wir in Zukunft KIs anbeten,

Speaker1: weil die alles über uns wissen, generell alles über das Universum wissen.

Speaker1: Und wenn wir zu den Beten also Fragen stellen, die halt auch antworten, anders als Gott.

Speaker1: Und das ist, glaube ich, ein riesen Verkaufsvorteil für jede KI,

Speaker1: gegenüber den herkömmlichen Religionen und damit auch Gemeinschaften.

Speaker1: Weil Religionen sind ja nichts anderes als Gemeinschaften. Wie Precht,

Speaker1: man meinte, die Kirche ist eigentlich ein Männerverein, der 2000 Jahre alt ist.

Speaker1: Hat aber den Vorteil, dass es Menschen in eine Gemeinschaft bringt,

Speaker1: die bestimmten Regeln folgt und für die Gemeinschaft arbeitet.

Speaker1: Und wenn uns das verloren geht, das ist richtig gruselig.

Speaker1: Das wird natürlich dem ganzen Transhumanismus Aufschub leisten,

Speaker1: weil wir sind ja schon einer hyperindividualisierten Welt im Westen.

Speaker1: Es geht ja immer nur um die eigenen Befindlichkeiten und den eigenen Werdegang,

Speaker1: Selbstoptimierung und Gemeinschaft. Also so wie das wächst, die Selbstoptimierung,

Speaker1: wächst ja auch die Einsamkeit, nachweisbar.

Speaker1: Und ich glaube, das treibt uns total in diese Richtung Transhumanismus.

Speaker1: Ein neuer Mensch, der dann vielleicht gar nichts mehr mit uns gemein hat.

Speaker1: Und das macht mir große Sorgen. Also da würde ich, glaube ich,

Speaker1: auch lieber nicht den Versprechungen der rosigen KI-Zukunft glauben,

Speaker1: sondern lieber mich abschotten, keine Daten hinterlassen und viel, viel einfacher leben.

Speaker1: Irgendwo am Ende der Welt oder so, wo mich das Ganze in Ruhe lässt,

Speaker1: weil ich dann lieber lebe und sterbe wie ein Mensch 1.0, weil mich das dann doch sehr gruselt.

Speaker1: Und die Verlockungen sind natürlich groß, also mehr Produktivität durch KI-Tools.

Speaker1: Und alles geht viel schneller.

Speaker1: Ich kann im Prinzip jedes Business mittlerweile mit einem KI-Agenten selber aufziehen.

Speaker1: Und bis zu einem gewissen Maßstab brauche ich da auch keinen mehr,

Speaker1: wenn ich mich da selber reinfuchse.

Speaker1: Und das geht ja, wie du es schon eingangs gesagt hast, so schnell in der Entwicklung,

Speaker1: dass, also wenn ich mir heute einen KI-Agenten mit Cloud bastle,

Speaker1: dann habe ich in vier Wochen wieder eine E-Mail im Podcast und sagst,

Speaker1: ja, jetzt hier die und die neuen Funktionen und das und das mehr,

Speaker1: jetzt kannst du auch das.

Speaker1: Und dann, ja, total irre.

Speaker1: Das geht immer schneller. Und wir müssen uns bald alle die Fragen stellen,

Speaker1: die für uns zentral sein werden zum Überleben.

Speaker1: Wie viel Macht wollen wir KIs geben?

Speaker1: Welche Bedeutung haben unsere Daten? Und fordern wir Souveränität über diese Daten ein oder nicht?

Speaker1: Also ich wüsste nicht, in welchem Wirtschaftszweig es das jemals gab,

Speaker1: dass wir freiwillig für einen großen Konzern seine Ware produziert haben,

Speaker1: ohne was dafür zu bekommen.

Speaker1: Das muss man sich einfach überlegen.

Speaker0: Richtig, ja. Also das, was du gerade sagst, ist tatsächlich jetzt Gott sei Dank

Speaker0: mittlerweile durchaus ein Thema auch in Deutschland geworden,

Speaker0: dass man eben über das Thema Souveränität nachdenkt.

Speaker0: Und wie du gerade schon meintest auch, es gibt natürlich Lösungen,

Speaker0: es gibt Alternativen, aber aus einer betriebswirtschaftlichen Brille mal das

Speaker0: Ganze betrachtet und beleuchtet, muss man halt einfach auch sagen,

Speaker0: das Narrativ ist halt aktuell,

Speaker0: wenn du nicht in die KI investierst, bist du in Zeitraum, hier bitte einsetzen,

Speaker0: halt nicht mehr auf dem Markt. So, weil dein Mitbewerber wird es tun.

Speaker0: Dein Mitbewerber nutzt diese ganzen Sachen schon. Also du musst jetzt unbedingt

Speaker0: KI machen, weil sonst hast du halt einfach verloren. Das ist die eine Sache.

Speaker0: Dann natürlich das Thema KI im privaten Umfeld hat sich wesentlich schneller

Speaker0: durchgesetzt als alles andere, was an Technologie vorher da gewesen ist.

Speaker0: Also wenn man sich mal anschaut, der Zeitraum, es gibt so diese 100 Millionen

Speaker0: Benutzerkontakt, Quote, das ist so ein guter Messpunkt, das hat beim Internet

Speaker0: noch zwölf Jahre gedauert, bis wir so viele Benutzer hatten.

Speaker0: Bei ChatGPT hat es drei Monate gedauert und das zieht sich halt durch,

Speaker0: weil jeder drückt dir halt seine KI-Lösung aufs Auge, ob du jetzt WhatsApp benutzt,

Speaker0: da ist auf einmal dieser Meta-Agent auf einmal drin,

Speaker0: ungefragt und ich kann ihn auch nicht ausschalten und hey, cool,

Speaker0: ich habe jetzt auch KI, das kann ich jetzt ja mal benutzen.

Speaker0: Oder Microsoft, die halt jetzt trotzdem Recall ausgerollt haben,

Speaker0: wo halt alle paar Sekunden ein Screenshot von deinem Betriebssystem erstellt

Speaker0: wird, um dir natürlich zu helfen.

Speaker0: Aber ob das dann halt wirklich die Hilfe ist, ist halt die andere Frage. Gott sei Dank.

Speaker1: Gibt es da noch einen Opt-out.

Speaker0: Ja, genau. Und das ist halt einfach das Problem.

Speaker0: Und im Kleinen kann man natürlich adaptieren. Man kann versuchen,

Speaker0: halt seine Brotkrumen wesentlich weniger zu verteilen. und du hast gerade Linux

Speaker0: gesagt, es gibt genügend Derivate, wie zum Beispiel halt Ubuntu oder Arch oder Fedora.

Speaker0: Das funktioniert für einen Einzelnen, der Lust hat, sich damit zu beschäftigen mit Sicherheit.

Speaker0: Es gibt auch anonyme Browser, es gibt VPNs, es gibt ganz viele solcher Möglichkeiten.

Speaker0: Aber übertrag mal dieses Konzept auf einen Mittelständler mit 400, 500 Mitarbeitern.

Speaker0: Wie soll das funktionieren, dass ich sage, okay, wir hatten jetzt vorher Microsoft

Speaker0: 365, wir machen das jetzt wieder auf eigenen Servern.

Speaker0: Ja, auf welchen Servern denn? Wir haben ja gar kein Geld, uns welche zu kaufen,

Speaker0: also gehen wir wieder zu irgendeinem Hoster.

Speaker0: Und die Mitarbeiter arbeiten jetzt ab Montag dann alle mit Fedora und da gibt

Speaker0: es dann halt nur noch den und den Browser und ach ja, unsere Business Applications

Speaker0: funktionieren ja da gar nicht drauf.

Speaker0: Also es ist halt auch eine Art von Mürbemachen, was halt über die letzten Jahre

Speaker0: einfach passiert ist, die Preise.

Speaker0: Die Situation ist natürlich gerade bei den großen Cloud-Anbietern wie bei Microsoft

Speaker0: für den Mittelstand immer noch ein absolut schlagendes Argument,

Speaker0: weil du halt für 20 Euro im Monat alles bekommst, was du brauchst, sei es jetzt E-Mail,

Speaker0: Kommunikation, Kollaboration und so weiter und so fort. Das kommt halt alles aus einer Hand.

Speaker0: Und ja, auch wenn ich das jetzt hier so gerade darstelle, auch wir machen das

Speaker0: natürlich für unsere Kunden, weil es halt vom Effizienzfaktor her das ist,

Speaker0: was du halt im Mittelstand dir gerade noch leisten kannst.

Speaker0: Alles andere selber bauen und betreiben bedeutet natürlich auch,

Speaker0: du hast entweder Kosten beim Dienstleister, der es für dich tut,

Speaker0: oder du musst Leute finden, die es aktuell halt auch auf dem Markt kaum gibt,

Speaker0: die dann das ganze System für dich am Leben halten.

Speaker0: Und aus der Situation heraus ist natürlich das schon nachvollziehbar,

Speaker0: dass ein Unternehmen sagt, hey, Microsoft hat jetzt den Co-Pilot,

Speaker0: der kann auch viele Dinge und warum nutzen wir das nicht einfach?

Speaker0: Also ich glaube, man kann den Leuten kaum wirklich einen Vorwurf draus machen,

Speaker0: dass das so stattfindet.

Speaker0: Es gäbe Alternativen, aber die Hürde dorthin ist, glaube ich,

Speaker0: für ein Unternehmen, egal wo, ob jetzt in Deutschland, in Europa oder sonst

Speaker0: wo, einfach viel zu hoch, um da

Speaker0: wirklich hinzuwechseln, gerade wenn das alteingesessene Unternehmen sind.

Speaker0: Bei einem Startup ist das eine andere Nummer. Da kommen meistens halt junge

Speaker0: Leute, die halt auch das Mindset mitbringen.

Speaker0: Die wollen wahrscheinlich gar kein Windows, sondern die sagen von sich aus direkt,

Speaker0: nee, ich will hier irgendeinen Linux-Laptop, am liebsten schraube ich mir die

Speaker0: Komponenten selbst zusammen, weil dann weiß ich, was ich habe.

Speaker0: Aber für die Masse der Menschen ist das halt leider nicht das Richtige.

Speaker1: Ja, das ist ja, also das habe ich auch damals bei diesem besagten Panel auf

Speaker1: der LBM vor drei Jahren gesagt, also alles, was auf uns zukommt mit KI, wird kommen,

Speaker1: weil wir definitiv das nicht aufhalten werden und du sagst es,

Speaker1: hast es jetzt ja sehr schön beschrieben, wie das in der Wirtschaft ist,

Speaker1: natürlich musst du mitmachen, sonst bist du weg.

Speaker1: Und wenn du weg bist, sind auch die Mitarbeiter weg. Und das ist natürlich das große Dilemma.

Speaker1: Keiner wird zurückstecken. Das war mit den Atombomben nicht so.

Speaker1: Das war klar. Also als die erste gefallen ist, jeder will das haben.

Speaker1: Und es wird nicht die vernünftige Lösung sein, dass sie sagen,

Speaker1: ja krass, wir haben jetzt eine Waffe geschaffen, die unsere komplette Biosphäre vernichten kann.

Speaker1: Dann hören wir mal ganz schnell damit auf und wir sind alle vernünftig. Nee.

Speaker1: Du hast halt immer diese endlose Zweifelskette. Wenn ich jetzt aufhöre,

Speaker1: hört der andere dann auch auf oder nicht?

Speaker1: Und da du diese Zweifelskette nicht auflösen kannst, hörst du natürlich nicht auf.

Speaker1: Und genauso war das auch mit Smartphones. Das war sehr früh ersichtlich,

Speaker1: dass die süchtig machen.

Speaker1: Trotzdem haben wir die immer noch. Dann kamen ganz früh diese Studien,

Speaker1: dass die Leute nicht produktiver, sondern unproduktiver werden.

Speaker1: Ja, super. Was ist? Jeder hat ein Smartphone.

Speaker1: Social Media, wir wissen super lange schon, dass das unsere Gesellschaft zerlegt.

Speaker1: Heute haben wir die Turbo Social Medias erst mit Instagram, was dann im Prinzip

Speaker1: so ein Dumpdown Facebook wurde zu Instagram, dann haben wir ein Dumpdown Instagram,

Speaker1: das ist dann TikTok und das wird alles dümmer, schneller und noch süchtiger machend

Speaker1: und es gibt halt überhaupt kein Einsehen, deswegen wusste ich auch sofort und

Speaker1: das ist jetzt nicht, dass ich ein tolles Orakel wäre, überhaupt nicht,

Speaker1: da gibt es viel klügere Leute als mich, das ist einfach ultra offensichtlich,

Speaker1: dass dann niemals der gesunde Menschenverstand

Speaker1: Siegen wird,

Speaker1: den es nämlich, glaube ich, auch gar nicht gibt als Gesellschaft.

Speaker1: Der wird ja immer so gerne zitiert, aber ich glaube, gesunder Menschenverstand,

Speaker1: den gibt es tatsächlich bei gesunden Menschen, das heißt Menschen,

Speaker1: die in kleinen Gruppen zusammenleben, so wie wir ursprünglich gelebt haben.

Speaker1: Weil unsere soziale Gruppe können wir ganz gut wahrnehmen, da kennen wir die

Speaker1: Namen, wir kennen die Gesichter, wir kennen die Funktionen, wir kennen die Beziehung zueinander.

Speaker1: Und das ist ja ganz interessant, in kleinen Gruppen von 50 Leuten oder im eigenen

Speaker1: Dorf meinetwegen noch, da funktioniert alles, weil die Leute verstehen, was da abgeht.

Speaker1: Aber im gesellschaftlichen Kontext, wo das alles größer ist,

Speaker1: auf einer größeren Ebene, funktioniert das eben nicht.

Speaker1: Und ich glaube, wie die Leute auf Social Media reagieren, wie die auch zur Wahlurne

Speaker1: gehen, das würden die niemals machen, wenn das alles sich im eigenen Dorf abspielen

Speaker1: würde, weil es nicht so abstrakt ist.

Speaker1: Und sobald es abstrakt ist und nichts mehr mit der direkten Lebenswirklichkeit

Speaker1: zu tun hat, gibt es keinen gesunden Menschenverstand mehr.

Speaker1: Da werden dann emotionale Entscheidungen getroffen, da ist man anfällig für

Speaker1: Fake News, da echauffiert man sich super schnell und da ist es auch ganz,

Speaker1: ganz leicht, die bösen anderen zu sehen, anstatt wenn man den Leuten ins Gesicht

Speaker1: gucken würde und weiß, okay,

Speaker1: Erika hat das und das zu Helga gesagt, weil wir wissen ja, im letzten Jahr hat

Speaker1: die das und das über ihr Kind gesagt oder was auch immer.

Speaker1: Wo wir noch nachvollziehen können, wie die zwischenmenschliche Beziehung aussieht

Speaker1: und wo unsere intersubjektive Wirklichkeit greifbar ist.

Speaker1: Und diese Intersubjektivität, die gibt es halt nur auf einem abstrakten Level

Speaker1: in der Gesellschaft und das ist absolut zersetzend.

Speaker1: Und deswegen weiß ich, es geht ja um KI in unserem Podcast, die Katze ist aus

Speaker1: dem Sack und jetzt ist nur noch gucken, was passiert.

Speaker1: Weil das KI Arms Race, das war zu erwarten, dass wir das haben werden,

Speaker1: weil China sagt nicht, oh ja, dann hören wir jetzt mal auf, damit sich das nicht

Speaker1: ins Schlimmste hier verkehrt und wir uns alle gegenseitig kaputt machen.

Speaker1: Und das die Amerikaner natürlich auch nicht. Jeder will einfach der Erste sein

Speaker1: und die mächtigere KI haben.

Speaker1: Und ja, in Zukunft haben wir dann

Speaker1: halt diesen Silicon Curtain und haben vielleicht den Weltkrieg der KIs.

Speaker1: Und das ist richtig gruselig. Aber keiner von uns weiß, wie es aussehen wird,

Speaker1: weil keiner von uns KIs wirklich versteht.

Speaker1: Also von allem, was ich mit KI-Experten, und ich kenne ein paar,

Speaker1: gesprochen habe, ist, dass wir im Prinzip die Hoheit gar nicht mehr haben.

Speaker1: Also klar, noch könnten wir Weichen stellen, weil KI halt immer noch in einem

Speaker1: digitalen Umfeld lebt und keine großen Hardware-Komponenten hat,

Speaker1: die die Welt manipulieren könnten, so wie unsere Hände.

Speaker1: Aber das ist ja vor der Haustür, sage ich mal.

Speaker1: Und also mit der Roboterrevolution, die vor der Tür steht, und das ist ganz nah vor der Tür.

Speaker1: Ich habe ja immer noch die Theorie, dass bei dem Nvidia-Call Ende des Monats

Speaker1: deren Human-Robot-Programm enthüllt wird.

Speaker1: Und Nvidia ist ganz, ganz vorne dabei. Darf man nicht vergessen.

Speaker1: Das ist, glaube ich, der nächste heiße Shit. Und dann haben wir halt diese Brücke

Speaker1: auch geschlagen. und dann ist

Speaker1: es halt einfach vorbei. Dann müssen wir halt einfach gucken, wie es wird.

Speaker0: Ja, es ist eine fatalistische Folge schon mittlerweile. Ich merke schon.

Speaker1: Es kann ja auch gut werden. Wir werden es sehen.

Speaker1: Es kann auch gut sein. Wir wissen es einfach nicht. Fakt ist, es kommt.

Speaker1: Und es wird kommen, wie es kommt, weil wir halt diesen gesunden Menschenverstand

Speaker1: als Gesellschaft nicht haben.

Speaker1: Deswegen, ja, nice to be along for the ride.

Speaker0: Wie gut du wirklich deine prophetischen Fähigkeiten auslebst,

Speaker0: das werden unsere Zuhörer jetzt bei dieser Folge dann feststellen können,

Speaker0: weil wir nehmen heute am 5. Mai auf, ich muss das vielleicht dazu sagen.

Speaker0: Die Folge kommt aber ein bisschen später raus, also definitiv nach dem Nvidia Call.

Speaker0: Wir werden sehen, ob du recht gehabt hast. Vielleicht wirst du dann für nächstes

Speaker0: Jahr das nächste WM-Orakel, wer weiß.

Speaker0: Ja, aber es ist tatsächlich wirklich schlimm, was da so passiert und das Thema

Speaker0: zieht sich auch natürlich in die Kinderzimmer mittlerweile durch.

Speaker0: Wir beraten eine Grundschule mittlerweile pro bono zum Thema Medienkompetenz.

Speaker0: Und wenn man da hört, dass da auf dem Schulhof von Zweitklässlern schon mit

Speaker0: Handys dauernd nur noch rumhantiert wird und dass auch Szenen aus Medien,

Speaker0: die wir eigentlich eher als Erwachsene konsumieren,

Speaker0: wie Squid Game und so, halt Szenen von Zweitklässlern auf dem Schulhof nachgespielt

Speaker0: werden, inklusive Erschießen bei Rotes Licht, Grünes Licht.

Speaker0: Das ist halt schon wirklich absoluter Wahnsinn und für die Leute,

Speaker0: sei es jetzt die KI oder sei es das Smartphone oder die jeweilige App,

Speaker0: das Thema, du hast gerade gesagt, die Leute beten das Ding an,

Speaker0: sie beten zur KI, da habe ich sofort Depeche Mode mit Personal Jesus einfach

Speaker0: im Ohr, weil genau das genau so eben passiert.

Speaker0: Und man kann im Grunde genommen einfach immer nur aufklären. Es ist sehr mühsam.

Speaker0: Ich komme mir da teilweise auch in meinen Vorträgen, wenn es um das Thema Cyber

Speaker0: Security und Resilienz geht, immer wieder ein bisschen vor wie dieser Junge

Speaker0: in Holland, der halt Hände und Füße im Deich schon drinstecken hat.

Speaker0: Es ist halt relativ anstrengend und meistens auch mit wenig Erfolg gekürt, das Ganze.

Speaker0: Aber man muss es einfach immer wiederholen. Und das ist genau eben auch ein

Speaker0: Grund, warum es den Podcast hier gibt. Darf ich mal ganz kurz einhaken?

Speaker1: Es tut mir leid, dich zu unterbrechen. Aber zu diesem Punkt,

Speaker1: also man muss das immer wieder ansprechen. Ich glaube, man muss es verbieten.

Speaker1: Also ich glaube, wir sind jenseits von das Ansprechen, weil,

Speaker1: was ich schon meinte, diesen gesunden Menschenverstand, den gibt es halt in dem Fall nicht.

Speaker1: Und es ist genau wie mit allen Sachen, die süchtig machen, sei es Fentanyl oder

Speaker1: Alkohol oder Zigaretten. Es geht halt nur mit Verboten.

Speaker1: Und das ist gar nicht lange her, da habe ich auf Facebook eine Petition geteilt,

Speaker1: dass doch bitte Social Media unter 18 verboten wird.

Speaker1: Und wir haben, also Australien hat es ja gemacht.

Speaker1: Und das funktioniert gut, weil das, also man sieht das Ganze mit dem Sicherheitsgurten im Auto.

Speaker1: Da gab es einen riesen Shitstorm damals, Bevormundung, bla bla bla,

Speaker1: aber die Verkehrstoten sind halt massiv runtergegangen.

Speaker1: Und gerade auch die Sterblichkeit bei Kindern im Autoverkehr.

Speaker1: Und das sind doch alles Sachen, die wir wollen, da können wir uns doch auch

Speaker1: auf einigen. Und keiner will doch handysüchtige Kinder haben,

Speaker1: die sich so kranken Scheiß angucken in einem Alter, wo die das psychisch krank macht.

Speaker1: Und deswegen müssen halt solche Verbote ja aber auch da auf Facebook.

Speaker1: Dann kam sofort, ja, das ist doch Bevormundung und ich als Eltern kann doch

Speaker1: selber das für meine Kinder vorgeben. Nee, könnt ihr eben nicht.

Speaker1: Könnt ihr eben nicht. Aber wenn wir dafür sorgen, dass niemand unter 18 überhaupt

Speaker1: einen Account erstellen kann.

Speaker1: Und ich werde nicht sagen, dass es nicht Lücken gibt und die irgendwelche Wege

Speaker1: finden, aber wenn man das groß schon mal runterkriegt, das ist doch einfach ein Vorteil.

Speaker1: Und wir können nicht immer davon ausgehen, dass wenn man nur gut zuredet und

Speaker1: es versucht, den Leuten klarzumachen, dass das dann funktioniert.

Speaker1: Also natürlich ist es richtig, das zu tun, weil wir haben ja noch kein Verbot.

Speaker1: Deswegen finde ich super, dass sie sowas auch macht.

Speaker1: Aber langfristig müssen wir doch darüber reden, sowas zu verbieten.

Speaker1: Und das ist halt nicht die Bevormundung des bösen Staates, wie immer gleich

Speaker1: gesagt. Es ist ja sofort dieser Beißreflex.

Speaker1: Der Staat will mir was sagen.

Speaker1: Nee, der Staat ist ein ordnendes Organ, das wir gewählt haben,

Speaker1: um Ordnung in unseren Haufen zu schaffen.

Speaker1: Genau wie Bürokraten nicht das Teufelswerk sind.

Speaker1: Es kann vielleicht ausufernd sein, gar keine Frage. Und wir können darüber reden,

Speaker1: ob wir das einschränken.

Speaker1: Aber Bürokratie ist halt auch dafür da, um Willkür zu vermeiden und Ordnung

Speaker1: zu schaffen, die für alle verständlich ist.

Speaker1: Aber das kannst du ja heute nicht mehr sagen, weil durch diese angeheizte Stimmung

Speaker1: ist alles immer eine Bevormundung und alles ist immer böse.

Speaker1: Und niemand soll mir in meinem Hyperindividualismus vorschreiben, was ich zu tun habe.

Speaker0: Ich zitiere da mal dich selbst. Du hast bei unserem ersten Interview gesagt,

Speaker0: Es bräuchte Regulierung. Da gebe ich dir auch vollkommen recht.

Speaker0: Aber du hast damals auch gesagt, das wird wahrscheinlich lange Zeit dauern,

Speaker0: siehe das Thema Social Media, das bis heute unreguliert ist.

Speaker0: Jetzt sehen wir halt Gesetzesinitiativen wie

Speaker0: den EU-AI-Act oder auch diese USKI-Regulierungsthemen so langsam sprießen.

Speaker0: Aber unterm Strich, bis da wirklich mal was passiert.

Speaker0: In Australien ist natürlich überraschend gewesen, dass es etwas so schnell geht.

Speaker0: Also für mich war das überraschend, weil wir es halt von unserer Denke in Europa nicht kennen.

Speaker0: Aber bis da wirklich mal was passiert, auch jetzt das Thema Pflichtschulung

Speaker0: für Mitarbeitende im Unternehmen, die mit KI arbeiten.

Speaker0: Diese Pflichtschulung, das ist eine Unterweisung von ein oder zwei Stunden.

Speaker0: Was soll ich den Leuten da bitte in der Zeit Großes erzählen?

Speaker0: Du kannst eigentlich nur zwei Stunden Sachen sagen, wie tust nicht oder wenn

Speaker0: du es tust, dann bitte keine personenbezogenen Daten da rein.

Speaker0: Aber am Ende des Tages weißt du nicht, ob die Leute das dann auch wirklich befolgen.

Speaker0: Also da gehört halt so viel Grundlagenarbeit einfach mit rein.

Speaker0: Und das wollte ich vorhin eben sagen, das ist der Grund, warum wir diesen Podcast

Speaker0: unter anderem machen, weil es halt die mittlerweile fast 1000 Hörer jeden Monat

Speaker0: hoffentlich irgendwann für sich selber auch umsetzen und diese Botschaft halt

Speaker0: auch in ihr eigenes Umfeld weitertragen,

Speaker0: weil es halt einfach das wirklich das größte Problem ist, meiner Meinung nach, was wir aktuell haben.

Speaker0: Einerseits die fehlende Unabhängigkeit von großen Cloud-Anbietern und auf der

Speaker0: anderen Seite eben auch die Durchdringung dieser ganzen Medien bis runter in die Kinder.

Speaker1: Ja, sorry nochmal, dass ich dich unterbrochen habe.

Speaker0: Alles gut.

Speaker1: Aber das ist so ein Thema, das liegt mir wirklich am Herzen,

Speaker1: weil ich sehe ja immer, was da passiert.

Speaker1: Also, dass junge Leute heute nicht mehr telefonieren wollen,

Speaker1: weil ihnen das irgendwie zu nah ist und dann schämen die sich oder so.

Speaker1: Das ist wirklich krank und das hat wirklich einen Krankheitswert in meinen Augen.

Speaker1: Und da müssen wir einfach, finde ich, auf uns aufpassen und halt auf unsere

Speaker1: Kinder und die Jugend, damit wir nicht eine Generation erziehen,

Speaker1: die nicht mehr lebensfähig ist in einer Gesellschaft.

Speaker1: Und auch die ganze Zunahme von psychischen Erkrankungen, das geht ja alles Hand in Hand.

Speaker1: Und da mache ich mir einfach große Sorgen und da muss einfach viel passieren.

Speaker1: Also wir können ja nicht Alkoholikern den Auftrag geben, ein Programm für Alkoholentzug zu schaffen.

Speaker1: Sorry, aber das geht halt einfach nicht. Das sind alles Menschen, die Hilfe brauchen.

Speaker1: Und die Hilfe muss man ihnen geben von außen.

Speaker1: Und wenn das dann halt mal, ich weiß nicht, wie das man auf Deutsch sagt,

Speaker1: Guardrails, also Geländer geben, an dem sie sich langhangeln können.

Speaker0: Ja, Leitplanken.

Speaker1: Leitplanken, dankeschön. Das ist halt einfach wichtig und dafür ist ein Staat

Speaker1: als ordnendes Organ da und wir sind aber in der Verantwortung,

Speaker1: den Staat dazu zu bringen, weil der Staat sind ja im Prinzip wir.

Speaker1: Und da ist halt wirklich jeder gefragt, sich darüber Gedanken zu machen und

Speaker1: sich dafür einzusetzen.

Speaker1: Und dann kann es halt auch schnell gehen. Und Europa ist ja gar nicht so schlecht.

Speaker1: Also auch DSGVO ist auch wieder so eine Sache.

Speaker1: Also da war ja ein Shitstorm nach dem anderen durch die Social-Media-Welten getrieben worden.

Speaker1: Natürlich auch durch die Social-Media-Konzerne, die ein Interesse daran haben,

Speaker1: dass das Ganze nicht stattfindet.

Speaker1: Und also da muss man jetzt nicht glauben, dass der Algorithmus jetzt darauf

Speaker1: geachtet hätte, dass diese Posts, die dagegen aufbegehren, nicht gepusht werden.

Speaker1: Das ist am Ende halt doch gar nicht so schlecht. Natürlich haben sich alle aufgeregt,

Speaker1: dass es halt mehr Aufwand ist und so weiter und so fort, aber die Stoßrichtung

Speaker1: war ja nicht verkehrt und ist es immer noch nicht. Da kann man sich dann über

Speaker1: das Wie gerne austauschen, gar keine Frage.

Speaker1: Aber grundsätzlich ist die Stoßrichtung in meinen Augen genau die richtige.

Speaker1: Wir müssen mehr auf Datensicherheit, mehr auf Sicherheit personenbezogener Daten

Speaker1: achten und generell auf Datenschutz.

Speaker1: Ich glaube, Datenschutz ist halt das Riesenthema.

Speaker1: Eigentlich schon seit zehn Jahren, aber besonders auch noch für die nächsten zehn Jahre.

Speaker0: Ja, und solche Gesetze wie die

Speaker0: DSGVO würde es nicht geben, wenn es keine Notwendigkeit dafür geben würde.

Speaker0: Das muss man halt auch mal sagen und das habe ich hier im Podcast schon mehrfach

Speaker0: gesagt, weil sich jetzt auch viele über diese NES2, also Netzwerk-Informationssicherheitsgesetz

Speaker0: Version 2.0 beziehungsweise BSI-Gesetz aufregen.

Speaker0: Ja, natürlich kostet es Geld, natürlich ist es wieder ein Aufwand und man hat

Speaker0: eh schon zu wenig Personal und man verdient vielleicht weniger am Produkt und

Speaker0: jetzt soll man sich um das auch noch kümmern.

Speaker0: Aber auf der anderen Seite, wir sehen halt als Ersthelfer und als Vorfallexperten

Speaker0: auch für das BSI in Deutschland, was passiert, wenn du es nicht regulierst,

Speaker0: wenn du dich nicht kümmerst.

Speaker0: Und am Ende des Tages sage ich halt auch immer, du zahlst das Geld so oder so.

Speaker0: Entweder jetzt in präventive Maßnahmen oder hinterher, wenn es dann halt wirklich

Speaker0: geknallt hat und du halt dann in der Wiederaufbereitung und Wiederaufbau deiner

Speaker0: eigenen Infrastruktur beschäftigt bist, wenn es überhaupt noch was zum Wiederherstellen gibt.

Speaker0: Also ganz häufig endet sowas halt auch einfach in der Insolvenz.

Speaker1: Ja, glaube ich.

Speaker0: Und das ist halt genau der Punkt. Und ja, bleibt auf jeden Fall an dem Thema

Speaker0: dran und kümmert euch darum.

Speaker0: Das ist wirklich ein ganz wichtiger Aspekt. Und vor allem erzählt es auch bitte

Speaker0: euren Kindern, euren Nachbarn.

Speaker0: Wenn auch immer ihr irgendwelche Fotos von Kindern auf WhatsApp im Status seht,

Speaker0: schreibt halt den Leuten bitte mal, Kinder haben im Internet nichts zu suchen.

Speaker0: Bitte tut das nicht. Ihr trainiert damit Modelle,

Speaker0: ihr trainiert damit Probleme eurer Kinder, die sie vielleicht in zehn Jahren

Speaker0: dann büßen müssen, weil ihr halt gedacht habt, das ist ein super Foto,

Speaker0: das Bild von der kleinen Erika von ihrem dritten Geburtstag da jetzt in irgendeine

Speaker0: Social-Media-Plattform reinzubringen.

Speaker1: Ja,

Speaker1: und eure Freunde, also eure wichtigen Freunde sind halt die,

Speaker1: die ihr auch persönlich seht.

Speaker1: Zeigt's denen doch dann. Warum muss eine Riesengruppe an anonymen Leuten das sehen?

Speaker0: Die man gar nicht kennt.

Speaker1: Genau. Die man gar nicht kennt, ja. Und das ist halt auch wieder das Dilemma dabei.

Speaker1: Also die Menschen sehen sich ja nach Gemeinschaft und Nähe und Freunden und alles.

Speaker1: Aber sie haben eine viel höhere Reichweite, aber Leuten, die gar keine Rolle

Speaker1: spielen im alltäglichen Leben.

Speaker1: Und das ist ja das Dilemma des Ganzen. Das schafft dann so eine Pseudo-Verbindung

Speaker1: nach außen, die es aber gar nicht gibt.

Speaker1: Und je einsamer die Leute werden, desto mehr posten sie. Gibt es ja auch genug Studien drüber.

Speaker1: Das beschleunigt sich also selbst Das ist wirklich Ganz, ganz,

Speaker1: ganz gruselig Und ich glaube, das größte Problem dabei ist Dass wir so komfortsüchtig

Speaker1: sind Alle Funktionen, die es gibt, die das Ganze einfacher machen Die wollen wir immer haben

Speaker1: Und Das ist aber gar nicht gut Da gibt es auch Da gibt es so einen Haufen an

Speaker1: Untersuchungen drüber Dass Komfort eine Falle sein kann Und dass schwierige

Speaker1: Dinge Die wir überwinden, uns glücklich machen

Speaker1: Komfort macht uns nicht glücklich. Bis zu einem gewissen Punkt, klar.

Speaker1: Also wenn ich nicht den ganzen Tag damit verbringen muss, irgendwie Essen zu

Speaker1: sammeln und Holz zu schlagen, natürlich hat das einen Vorteil für mich.

Speaker1: Aber jetzt sind wir also an einem so kleinteiligen Punkt angekommen,

Speaker1: für immer mehr Komfort, dass wir gar nicht mehr klarkommen.

Speaker1: Also allein als ich mir angeguckt habe, wie viele heute durch die Führerscheinprüfung

Speaker1: fallen. Das ist ja vollkommen irre.

Speaker1: Irgendwie jetzt bei 40 Prozent oder so habe ich gelesen. Das ist ja absurd.

Speaker1: Aber dann denke ich mir ja klar, Also wenn du nichts mehr lernen musst,

Speaker1: also wenn ich jetzt meinen Sohn angucke, der ist noch nicht mal ein Jahr alt,

Speaker1: wenn der im Alter ist, wo er einen Führerschein kriegen müsste,

Speaker1: das wird wahrscheinlich gar kein Thema mehr sein, weil dann sowieso schon längst

Speaker1: autonomes Fahren ist oder was auch immer, aber der würde diese Skills gar nicht

Speaker1: mehr haben und würde denken,

Speaker1: boah krass, du bist damals Auto gefahren und das hatte gar keine Assistenzsysteme?

Speaker1: Da musst du dann alles selber machen, irgendwie den Verkehr beobachten,

Speaker1: blinken, Spur wechseln, Gas geben und dann selber die Gänge reinlegen und dann

Speaker1: musst du nach Gehör gucken, wie weit der dreht und dass du dann runterschaltest.

Speaker1: Das ist ja total irre, das sind ja tausend Sachen, die du gleichzeitig machen musstest.

Speaker0: Ja, das stimmt. Du mal eine andere Frage. Du bist ja in Portugal normalerweise

Speaker0: ansässig. Wart ihr von diesem großen Stromausfall auch betroffen?

Speaker1: Nee, wir waren das letzte Mal in Portugal Ende November. Seitdem sind wir tatsächlich auf Reise.

Speaker0: Mich hätte mal interessiert, ob die Leute dann, wie nichts mehr funktioniert

Speaker0: hat, auf einmal dann wie so abgeschaltete Zombies irgendwie nur noch dastanden,

Speaker0: weil es ging ja nichts mehr.

Speaker1: Was soll ich jetzt machen?

Speaker0: Das hätte mich ja interessiert. Ich weiß nicht, ob du Pulse von Stephen King

Speaker0: kennst, wo alle, die gerade ein Gerät benutzen, auf einmal so ein bisschen wie

Speaker0: bei Alice in Borderland auf einmal komplett hohl drehen und zu so einer Art

Speaker0: Zombie sich verwandeln.

Speaker0: Da musste ich kurz dran denken, als ich das gehört habe mit dem großen Stromausfall.

Speaker0: Da habe ich mir gedacht, oh, jetzt sind die Leute alle deaktiviert,

Speaker0: bis dann der Strom wiederkommt. Das wäre interessant gewesen.

Speaker1: Das war mit einem Augenzeugenbericht. Wenn die zu Zombies wären,

Speaker1: dass es dann weniger Plünderungen gibt.

Speaker1: Früher hatte man ja die Angst, dass dann alle ausrasten und auf die Straße gehen,

Speaker1: plündern und Leute totschlagen.

Speaker1: Aber man hat ja gesehen, das war ja gar nicht der Fall.

Speaker1: Wahrscheinlich sind Leute zu lazy oder zu ängstlich. Weiß ich nicht.

Speaker1: Wenn man schon Angst hat zu telefonieren, dann geht man wahrscheinlich auch

Speaker1: nicht raus, wenn der Strom aus ist.

Speaker0: Sind instant eingeschlafen. Keine Zerstreuung mehr. Jetzt muss schlafen.

Speaker0: Aber das ist auch ein gewaltiges Problem. Ich habe letztens in meinem anderen

Speaker0: Podcast mit dem lieben Pascal, schöne Grüße, auch über das Thema von virtuellen

Speaker0: Realitäten gesprochen, in der Folge zum Thema Ready Player One.

Speaker0: Und da haben wir auch gesagt, also das, was du bei Ready Player One siehst,

Speaker0: das ist ja eine Vision, die durchaus schon auf der Buchvorlage etwas älter ist.

Speaker0: Aber auch das gibt es ja mittlerweile. Also ich habe selber eine Quest 3 zu

Speaker0: Hause und es ist doch durchaus sehr oft, dass da irgendwelche Kinder,

Speaker0: die ihr Mikro sogar anhaben, in irgendwelchen

Speaker0: Horror-VR-Simulationen sich rumtreiben, die weinen teilweise.

Speaker0: Und ich denke mal auch, welcher Idiot setzt dieses Kind jetzt bitte mit dieser

Speaker0: Brille irgendwo in die Ecke?

Speaker0: Und du kannst ja gar nicht sehen, was das Kind sieht.

Speaker0: Du bist ja noch ein Level weiter weg von dem. Wenn es der Fernseher oder das

Speaker0: Handy ist, kriegst du es ja möglicherweise noch mit als Eltern.

Speaker0: Aber setz denen die VR-Brille auf und die sind ja komplett isoliert da drin.

Speaker0: Und das ist einfach nur noch kompletter Wahnsinn.

Speaker1: Ja, und die Leute müssen dran denken, wir haben Spiegelneurone in unserem Gehirn,

Speaker1: die all diese Sachen, die wir sehen, nie vergessen. Nie.

Speaker1: Die bleiben alle im Gehirn und das Gehirn kann ja nicht sehen, ist das echt oder nicht.

Speaker1: Deswegen können wir auch so krasse Reaktionen haben. Du guckst einen Horrorfilm

Speaker1: und kriegst einen Adrenalinschub.

Speaker1: Klar, das ist, weil dein Körper denkt, du bist in Lebensgefahr.

Speaker1: Da müssen wir uns fragen, wollen wir das wirklich? Wollen wir wirklich,

Speaker1: dass unser Körper denkt, erst in Lebensgefahr?

Speaker1: Ich zum Beispiel als jemand, der wirklich nie Horrorfilme guckt oder Horrorspiele

Speaker1: oder sonst was, das meide ich wie der Teufel das Weihwasser.

Speaker1: Ich komme halt nicht auf die Idee, dass wenn ich nachts durch den Wald gehe, ich mich total fürchte.

Speaker1: Aber für meine Frau, die das viel geguckt hat, ist das total absurd.

Speaker1: Die sagt, kannst du nicht nachts durch den Wald gehen? Das ist doch ultra schrüsselig.

Speaker1: Aber für mich ist das halt gar nicht so, weil ich diese inneren Bilder nicht habe.

Speaker1: Und wir müssen uns halt wirklich angucken, was wir an Medien rezipieren und

Speaker1: vor allem bei Kindern, vor allem bei Kindern, weil die haben halt diese Funktion

Speaker1: noch nicht, darüber nachzudenken, was wirklich gut für sie ist.

Speaker1: Die wissen nicht, was ein Spiegelneuron ist.

Speaker1: Aber wir müssen denen halt helfen und das heißt halt auch in dem Fall,

Speaker1: wie du das schon richtig sagst oder angedeutet hast, das dürfen die dann halt

Speaker1: einfach im Zweifel nicht.

Speaker1: Fertig. Und da muss man sich auch fragen, will ich wirklich Kinder haben,

Speaker1: wenn ich mein einjähriges Kind vor ein iPad setze, damit ich in Ruhe meine Fernsehsendung

Speaker1: gucken kann oder XY machen kann. Einfach nur, damit es ruhig ist.

Speaker1: Weil ich sehe das ja auch mit unserem. Wir halten wirklich jedes Display von dem fern.

Speaker1: Also sogar wenn irgendwie der Opa oder die Oma anrufen, dann halten wir dem

Speaker1: nicht das Display mit ihrem Gesicht hin, sondern nur die andere Seite mit der Kamera.

Speaker1: Weil wenn der einmal ein Display sieht, das ist wirklich irre. Das ist wie gebannt.

Speaker1: Und das schon in so einem Alter. Der startet dann nur noch darauf und ist total

Speaker1: fixiert. Das ist wirklich gruselig.

Speaker0: Traurige Entwicklung auf jeden Fall und auch das ist ein Ding,

Speaker0: was wir bei dieser Schule als Aufschlag tatsächlich bekommen hatten,

Speaker0: dass es da irgendwelche Kinder gibt, die anderen Kindern halt bilden.

Speaker0: Ich weiß nicht, ob dieses Momo-Face, ob dir das was sagt, da hatte man in Japan

Speaker0: oder Asien irgendwo mal den Versuch gestartet, das möglichst hässliche,

Speaker0: menschliche Gesicht zu designen, was man sich nur vorstellen kann.

Speaker0: Wer nichts damit anfangen kann, Ich empfehle euch, googelt es nicht.

Speaker0: Das ist nur ein Bild, aber auch das brennt sich wirklich schnell in den Kopf ein.

Speaker0: Und das ging halt auf dem Schulhof rum. Und dann hast du halt auf einmal traumatisierte

Speaker0: Kinder beim Vertrauenslehrer sitzen, die halt mit solchen Medien vorher noch nie Kontakt hatten.

Speaker0: Und auf einmal hat es dieses Bild halt geschafft bis in den Kopf.

Speaker0: Die können nicht mehr schlafen und so weiter und so fort. Und genau da haben

Speaker0: wir halt gesagt, also wir unterstützen so viel wir können eben bei diesem Thema,

Speaker0: auch das ganze Thema eben Aufklärung für die Eltern zu fördern,

Speaker0: weil das halt einfach so schnell einfach geht.

Speaker0: Und ich schließe mich da selber nicht aus. Wir haben auch früher,

Speaker0: als es das Internet noch in den Kinderschuhen steckte, ich habe mit einem Freund

Speaker0: sehr viel Zeit bei Rotten.com verbracht.

Speaker0: Und ich habe da auch viele Dinge gesehen, die ich am liebsten nicht gesehen

Speaker0: hätte und die man auch heute nicht mehr aus dem Kopf bringt.

Speaker1: Ja, ja, ja, das stimmt. Rotten.com, da erinnere ich mich, die Anfänge des Internets, ja.

Speaker1: Und es gab auch, also irre, wenn ich mich daran zurückerinnere,

Speaker1: was so an den frühen Internetzeiten

Speaker1: Eigentlich müsste man ja sagen, die frühen Browserzeiten, um genauer zu sein,

Speaker1: da gab es ja Sachen, die heute sowas von illegal wären, also wie BAM-Files,

Speaker1: ich weiß nicht, ob du die noch kennst, wo die irgendwie Obdachlose gefilmt haben,

Speaker1: die sich gegenseitig kaputt prügeln.

Speaker1: Richtig übel, das gab es ja ganz normal frei im Internet, konntest du dir immer angucken. Richtig.

Speaker1: Also richtig, richtig gruselig. Und wo du das schon mit dem Schulhof wieder

Speaker1: sagst, das ist ja oft so ein Argument, wenn ich sage, ja, Social Media muss

Speaker1: verboten werden unter 18. Ja, aber in der Schule sehen die alles.

Speaker1: Ja, man kann es aber machen, wie in, ich weiß nicht, ob es jetzt Estland oder

Speaker1: Lettland war, wo Smartphones in der Schule komplett verboten sind.

Speaker1: Die kannst du halt gar nicht mitnehmen. Dann kannst du es auch nicht den anderen

Speaker1: zeigen. Es gibt solche Möglichkeiten.

Speaker0: Frankreich hat das jetzt auch gemacht.

Speaker1: Frankreich auch, ja, das stimmt. Da müssen wir halt hin, ist doch ganz klar.

Speaker1: Und ich glaube, da würden 90 Prozent der Leute auch zustimmen,

Speaker1: dass das eine gute Sache ist.

Speaker1: Aber es muss halt auf der Agenda von den Wählern ganz oben sein.

Speaker0: So, da sind wir wieder, jetzt in Teams, weil irgendwie Riverside uns nicht mehr mochte.

Speaker0: Deswegen, falls ihr jetzt eine andere Audioqualität habt, dann liegt das an

Speaker0: Microsoft. Danke, Microsoft.

Speaker0: Ja, ich weiß nicht, wie viel in der Aufnahme tatsächlich noch drin ist von deinen

Speaker0: letzten Sätzen, aber ich glaube, unterm Strich können wir hier an dem Kapitel

Speaker0: auch erstmal einen Haken ran machen.

Speaker0: Also Konsequenz wäre aus dem Ganzen, kümmert euch darum und setzt euren Kindern

Speaker0: nicht diesen Medien aus, solange es geht und kümmert euch darum,

Speaker0: wenn eure Kinder Medien benutzen, dass die da auch entsprechend sorgsam und

Speaker0: verantwortungsbewusst mit umzugehen lernen von euch oder von uns zum Beispiel.

Speaker0: Also das wäre definitiv eine gute Botschaft.

Speaker0: Wenn man mal sich einfach KI nochmal in gesellschaftlicher Form vornehmen möchte,

Speaker0: gab es ja eine Zeit lang das Thema, KI ist ein Jobvernichter.

Speaker0: Ich habe dann mir damals schon gedacht, ich weiß nicht, ob das tatsächlich so stattfindet.

Speaker0: Wir haben dann zwischendurch auch auf einmal neue Berufe gesehen,

Speaker0: sowas wie den Prompt Engineer. Da stellt sich jetzt aus, aufgrund von KI-Agentenlösungen

Speaker0: braucht es den Prompt-Engineer nicht mehr, weil die KI schreibt sich die Prompts

Speaker0: halt einfach selbst anhand eben von Agentensystemen.

Speaker0: Was glaubst du denn aus deiner Perspektive?

Speaker0: Ist das ein Thema, womit man sich jetzt heute noch weiter beschäftigen muss

Speaker0: oder wird das Ganze eher eine Art von Hand in Hand werden, dass die Leute und

Speaker0: die Unternehmen eben, wie wir es jetzt auch schon sehr ausgiebig diskutiert haben,

Speaker0: diese Dinge halt einfach nutzen, weil sie da sind, weil sie auch müssen.

Speaker0: Und am Ende des Tages muss man sich halt dann ein Stück weit drauf einfach verlassen

Speaker0: können, dass das passt und funktioniert, so wie auch der Titel der Folge ja

Speaker0: sagt, zwischen Vertrauen und Kontrolle.

Speaker1: Ja, also ich glaube, dass wir mittelfristig, also dass es kurzfristig schon

Speaker1: losgeht und mittelfristig wird es so sein, dass die,

Speaker1: also der ganz, ganz, ganz, ganz größte Teil der Wertschöpfung unserer Wirtschaft

Speaker1: wird, glaube ich, über KI-Agenten gemacht werden oder was auch immer danach

Speaker1: kommt. Also ich schätze mal, das ist wie mit allen Produkten.

Speaker1: Die Early Adopter werden sich jetzt in KI-Agenten reinfuchsen,

Speaker1: wie man das macht. Das ist für die meisten noch ein bisschen zu kompliziert.

Speaker1: Und später wird das alles einfache Lösungen geben, wo man das halt ganz,

Speaker1: ganz leicht auf dem Smartphone mit einer App sich seinen Agenten konfigurieren kann und dann loslegen.

Speaker1: Und ich glaube, dass ein Großteil der Wirtschaft dann mittelfristig nur noch

Speaker1: unter KIs ausgehandelt werden wird.

Speaker1: Und wir ein paar Ultra-Reiche haben, die diese Grundsysteme steuern,

Speaker1: die über Private Equity beteiligt sind, an den Rechenzentren und der digitalen Infrastruktur.

Speaker1: Und dass die Menschen, die selber noch einen Job haben wollen und nicht nur

Speaker1: aufs Universal Basic Income angewiesen sind, dass das halt Berufe sein werden

Speaker1: wie Handwerker, Pflegekräfte, Coaches,

Speaker1: Geschichtenerzähler wahrscheinlich auch nicht mehr, aber alles,

Speaker1: was mit Persönlichkeit zu tun hat und Gemeinschaft.

Speaker1: Ich glaube, das sind alles Berufe, die eine Zukunft haben werden.

Speaker1: Und ich glaube, KI-Agenten sind der erste Fingerzeig, wohin die Wirtschaft gehen wird.

Speaker1: Das wird alles im KI-Netzwerk unter sich ausgehandelt werden.

Speaker0: Ja, das glaube ich auch. Tatsächlich, dass das so passieren wird.

Speaker0: Was mich ein bisschen überrascht hat, war die Meldung zuletzt,

Speaker0: dass Warren Buffett sich von Berkshire Hathaway herauszieht als CEO.

Speaker0: Der ist jetzt mittlerweile 94.

Speaker0: Aber die Frage ist, ist er jetzt einfach nur zu alt?

Speaker0: Oder sagt er mittlerweile auch, na, wir haben jetzt halt den Zenit überschritten

Speaker0: und alles, was jetzt noch kommt, natürlich auch in Kombination mit der Zollpolitik

Speaker0: und so weiter, kann uns einfach vielleicht mehr schaden, als das gut ist.

Speaker0: Und man wartet halt einfach mal, was jetzt passiert innerhalb der nächsten drei Jahre.

Speaker1: Ja, also ich könnte mir schon vorstellen, also es war ja abzusehen,

Speaker1: dass der sich rauszieht und hat ja gute Nachfolge auch aufgebaut, muss man sagen.

Speaker1: Aber ich könnte mir schon vorstellen, dass jemand wie Warren Buffett die Wirtschaft

Speaker1: jetzt vielleicht noch versteht, aber in ein paar Jahren nicht mehr.

Speaker1: Also es gibt ja auch von dem Fink, von BlackRock die Aussage,

Speaker1: dass es vielleicht nie wieder eine Rezession geben würde, weil die Bewertungen

Speaker1: immer abstruser werden können von Unternehmen und die normalen Marktmechanismen

Speaker1: gar nicht mehr stattfinden.

Speaker1: Weil, um jetzt ein schwarzer Schwan-Szenario, ein weißer Schwan-Szenario zu

Speaker1: haben, braucht es halt diese äußeren Einflüsse.

Speaker1: Wie jetzt meinetwegen ein Krieg oder eine Seuche oder sonst was.

Speaker1: Aber wenn wir immer mehr digitale Produkte haben und wir persönlich eigentlich

Speaker1: das Produkt sind, ist die Frage, ob diese ganzen Marktmechanismen überhaupt noch anwendbar sind.

Speaker1: Und ich könnte mir schon vorstellen, dass Warren Buffett, der ja solche Sachen

Speaker1: liebt wie Occidental, Petroleum und Coca-Cola und McDonald's,

Speaker1: dass der da einfach nicht mehr mitkommt und das auch nicht mehr versteht,

Speaker1: weil das halt nach anderen Mechanismen funktioniert,

Speaker1: als denen, die halt in den letzten 70, 80 Jahren in der von den USA geschaffenen

Speaker1: Weltordnung und Weltwirtschaftsordnung etablierten Gesetzen,

Speaker1: dass der die einfach heute nicht mehr versteht. Könnte ich mir gut vorstellen.

Speaker0: Ja, das wäre dann das Chaos als drittes Wort aus unserem Titel.

Speaker0: Es ist halt tatsächlich sehr disruptiv geworden,

Speaker0: was da in der Entwicklung alles so stattfindet, weil das, was man halt einfach

Speaker0: als das Ding immer betrachtet hatte, so nach der Henry Ford,

Speaker0: denke eben auch, wie halt Wirtschaft und Industrie funktioniert.

Speaker0: Das hast du ja gerade auch gesagt, das gibt es eigentlich so in der Form in

Speaker0: vielen Bereichen unserer Welt mittlerweile nicht mehr.

Speaker0: Und ja, das könnte natürlich durchaus sein, dass es in der Richtung sich dann weiterentwickelt.

Speaker0: Also es wird auf jeden Fall spannend bleiben, was da die Zukunft alles noch so bringt.

Speaker0: Einerseits als Science-Fiction-Leser ist das für mich natürlich sehr häufig

Speaker0: ein Punkt, wo man sagt, ach, da schau her, sind wir doch schon an dem Punkt angekommen.

Speaker0: Aber als Mensch ist es trotzdem immer wieder, wenn man mal ein bisschen genauer

Speaker0: und länger darüber nachdenkt, ganz schön erschreckend, in welcher Geschwindigkeit das Ganze stattfindet.

Speaker0: Und ich meine, Nvidia hat das Mursche Gesetz mittlerweile auch schon widerlegt.

Speaker0: Und das ist vielleicht auch ein Zeichen dafür, dass die Welt sich halt einfach massiv verändert hat.

Speaker1: Ja, und die Zuhörerinnen und Zuhörer müssen sich darauf einstellen,

Speaker1: dass das massive Veränderungen bringen wird und das geht los.

Speaker1: Also ich glaube, wir haben das ja jetzt schon, dass große Betriebe viele Leute

Speaker1: entlassen und das immer mehr werden wird.

Speaker1: Und das sind halt einfach Jobs, die wegfallen durch Automatisierung,

Speaker1: die auch nicht wiederkommen.

Speaker1: Und da werden sich viele Teile der Gesellschaft mit dem Gedanken einfreunden

Speaker1: müssen, dass sie vielleicht in ein, zwei Jahren keinen Job mehr haben.

Speaker1: Und auch es nicht so ist, dass irgendwie Betriebsschließung und sie gehen dann

Speaker1: zu wem anders, sondern es gibt den Job einfach nicht mehr.

Speaker1: Und das scheint mir, wenn ich mir so die politischen Debatten anschaue,

Speaker1: irgendwie so ein Szenario zu sein, was die meisten sich nicht vorstellen können

Speaker1: oder halt nicht vorstellen wollen.

Speaker1: Das steht aber wirklich vor der Haustür.

Speaker1: Ganz viele Jobs werden einfach zu Ende sein. Und wenn ich mir jetzt angucke,

Speaker1: die nächste Technikrevolution, die humanoiden Roboter,

Speaker1: Also man mag ja von Maske halten, was er will, aber als er meinte,

Speaker1: dass 2040 vielleicht 10 Milliarden Roboter auf dem Planeten rumlaufen,

Speaker1: ist vielleicht vom Zeitplan wieder ein bisschen optimistisch,

Speaker1: aber muss es auch nicht unbedingt sein, weil keiner von uns kann sagen,

Speaker1: wie diese technologische Beschleunigung wirklich aussehen wird,

Speaker1: weil niemand hat auch mit einem Chat-GBT

Speaker1: und der LLM-Revolution gerechnet und wie schnell das Ganze jetzt geht.

Speaker1: Insofern wäre ich da ganz, ganz vorsichtig zu sagen, ach, das ist viel zu früh

Speaker1: und das ist erst was fürs nächste Jahrhundert, so nach dem Motto.

Speaker1: Da müssen wir uns wirklich fragen, wo ist da noch mein Platz in der Gesellschaft

Speaker1: und worauf fokussiere ich mich jetzt?

Speaker1: Und ich könnte mir vorstellen, dass Dinge wie sich ein gutes soziales Umfeld

Speaker1: zu schaffen, wieder Sachen zu lernen,

Speaker1: Die in meinem direkten Leben wichtiger sind also,

Speaker1: dass ich vielleicht selber mein Haus reparieren kann oder dass ich vielleicht

Speaker1: nicht ein Fahrzeug habe wo ich gar nichts mehr machen kann also,

Speaker1: dass ich wieder so ein bisschen mehr auf mich selbst besinne meinen Freundeskreis, meine Familie,

Speaker1: mein Umfeld Sachen, die ich verstehe in einer Welt, die ich nicht mehr verstehe

Speaker1: ich glaube, das wird ein zentraler Punkt sein weil wir dürfen nicht vergessen

Speaker1: dass, also Revolution neue Weltordnung wie die industrielle Revolution,

Speaker1: was mir jetzt einbildet als das letzte richtig große Event, hat halt,

Speaker1: ich weiß nicht, das haben mehrere vorgerechnet, aber zig Millionen,

Speaker1: also 50, 60 Millionen Todesopfer oder so, die direkt darauf zurückzuführen sind.

Speaker1: Leute, die ihren Job verloren haben, Jobs, die nie wiedergekommen sind.

Speaker1: Und es ist auch nicht so, es wird ja immer gesagt von den Leuten,

Speaker1: die die Technologie so hypen, ja, Job fällt weg, aber dafür entstehen ganz,

Speaker1: ganz viele neue. Ja, das stimmt, aber nicht für alle.

Speaker1: Und also die Leute, die halt früher, keine Ahnung, Handtücher genäht haben oder

Speaker1: sowas, die waren halt weg vom Fenster.

Speaker1: Und Kutschführer waren auch weg vom Fenster. Und da muss nicht jeder glauben,

Speaker1: dass jeder Kutschfahrer dann Taxifahrer geworden ist sofort,

Speaker1: weil die Nummer mit den Taxis, das gab es erst viel, viel später in der Breite.

Speaker1: Und das wird auf ganz, ganz viele zukommen und jeder muss sich,

Speaker1: glaube ich, fragen, wo er da steht und wie er als Persönlichkeit aufgestellt

Speaker1: ist, weil ich glaube, Resilienz wird ein ganz, ganz, ganz großes Thema sein.

Speaker1: Und jeder sagt immer, ja, Geld ist nicht nur wichtig, sondern die inneren Werte

Speaker1: zählen, das Wohlbefinden, das soziale Umfeld.

Speaker1: Ja, das ist richtig, aber wir müssen lernen, dass das nicht nur Lippenbekenntnisse

Speaker1: sind, sondern ganz konkret super wichtig für uns sein wird in naher Zukunft.

Speaker1: Und das wird, glaube ich, dann ein Überlebensvorteil sein von Menschen,

Speaker1: die das wirklich verinnerlicht haben und verstehen, dass es was anderes gibt,

Speaker1: worauf man sich konzentrieren sollte, als nur den monetären Erfolg in einer

Speaker1: immer schnelleren und immer unübersichtlicheren Gesellschaft.

Speaker0: Also dann doch vielleicht mal auch beim Gedanken an die Zukunft an Luke Skywalker

Speaker0: denken und sich vielleicht auf einen zurückgezogenen Ort,

Speaker0: jetzt vielleicht nicht auf den Planeten Akto zurückziehen, aber zumindest irgendwo

Speaker0: vielleicht, wie Joshua gerade gesagt hat, sich mit den ursprünglichen Werten

Speaker0: beschäftigen, um halt ein bisschen weniger abhängig zu sein.

Speaker0: Wir können zwar keine Porks züchten, aber wir können vielleicht Tomaten anpflanzen,

Speaker0: das würde vielleicht auch schon mal helfen.

Speaker1: Ja, oder auch einfach irgendwie weniger Fernsehen. Also ich gucke so gut wie

Speaker1: gar kein Fernsehen mehr und lese jetzt einfach super viel.

Speaker1: Und das Smartphone einfach mal wegzulegen, keine Nachrichten mehr zu lesen oder

Speaker1: zumindest weniger und dann vielleicht noch die Überschriften,

Speaker1: um sich aus diesem hyperschnellen,

Speaker1: unübersichtlichen, krass großen Leben, das eigentlich in dem direkten Lebensumfeld

Speaker1: keine Rolle spielt, rauszuziehen.

Speaker1: Ich glaube, das ist super gesund. Und das kann uns auch helfen,

Speaker1: uns ein bisschen mehr auf das zu besinnen, was uns wirklich wichtig ist.

Speaker1: Weil das Ganze, worüber wir hier sprechen, die ganzen technologischen Revolutionen,

Speaker1: das ist halt alles die große Welt im Außen, die sich beschleunigt,

Speaker1: die wir nicht verstehen.

Speaker1: Da können wir auch ganz lange drüber reden, wie scheußlich alles ist oder wie gruselig oder wie toll.

Speaker1: Am Ende müssen wir uns fragen, was zählt für die Zeit, die ich auf diesem Planeten noch habe?

Speaker1: Und das ist bei mir jetzt statistisch noch vier Jahrzehnte.

Speaker1: Das ist relativ überschaubar. Und sich öfter die Frage zu stellen,

Speaker1: mit was will ich das eigentlich füllen?

Speaker1: Und das kann einem dann glaube ich schon dabei helfen, den Konsum von Dingen,

Speaker1: die einem gut tun oder nicht gut tun, in die Bahnen zu lenken, die gut für einen sind.

Speaker0: Ja, das glaube ich, kann man so komplett unterschreiben und unterstützen und

Speaker0: da gehe ich auf jeden Fall mit.

Speaker0: Ja, jetzt hast du gerade gesagt, du liest sehr viel.

Speaker0: Ich gehe davon aus, dass du vorher auch schon nicht wenig gelesen hast.

Speaker0: Du bist immerhin Autor und ich habe gesehen, und das hat mich sehr gefreut,

Speaker0: in deinem letzten Newsletter hast du geschrieben,

Speaker0: dass du an die letzte Flotte an deine Buchreihe nochmal angeknüpft hast,

Speaker0: beziehungsweise dazu geschrieben hast, nämlich mit dem Buch Schlachtschiff Oberon.

Speaker0: Das wird wohl ein Dreiteiler, was du in dem Newsletter so geschrieben hast.

Speaker0: Hat mich sehr gefreut, also ich unterstütze das auch absolut,

Speaker0: dass deine Fans gesagt haben, mach mehr mit dem, weil das hat wirklich Spaß

Speaker0: gemacht damals zu lesen.

Speaker0: Aber erzähl doch mal, was ist denn Schlachtschiff Obera und wann spielt das

Speaker0: denn in dem ganzen Zeitstrahl?

Speaker1: Ja, also ich habe eine kleine Korrektur, das ist quasi eine Fortsetzung von

Speaker1: Das letzte Schlachtschiff. Nicht die letzte Worte, aber die Namen liegen ja nah beieinander.

Speaker0: Stimmt.

Speaker1: Das war halt der Fanwunsch und dann habe ich gesagt, okay, wie kann ich das jetzt machen?

Speaker1: Weil, also ich will jetzt nicht das letzte Schlachtschiff spoilern für die Leute,

Speaker1: die es noch nicht gelesen haben.

Speaker1: Aber ich habe das Ganze verlegt in das Ziel der Oberon, als sie am Ende von

Speaker1: das letzte Schlachtschiff wegfliegt mit der Begleitflotte

Speaker1: und habe mir dann überlegt, okay, was könnte an ihrem Zielpunkt passieren?

Speaker1: Weil das war ja im Prinzip so, dass das Ende sie reiten in den Sonnenuntergang.

Speaker1: Und dachte ich erst, ach nee, das führst du jetzt nicht weiter,

Speaker1: weil das ist ja eigentlich ein schönes Ende und so. Und was ist dann hinter dem Sonnenuntergang?

Speaker1: Aber ja, dann hatte ich eine ganz coole Idee, wie sich das Ganze entwickeln kann.

Speaker1: Und es gibt einen großen Zeitsprung,

Speaker1: zwischen den Geschichten. Und trotzdem habe ich es geschafft,

Speaker1: dass die Oberon und ihre Crew vorkommen und die Besatzung der Quantum Bitch,

Speaker1: die ja so ein bisschen der Fanliebling geworden sind in der letzten Reihe,

Speaker1: dass die immer noch eine prominente Rolle spielen.

Speaker1: Und da habe ich jetzt erstmal drei Teile gemacht und gucke mal,

Speaker1: wie das angenommen wird von den Lesern und Lesern und dann schaue ich mal,

Speaker1: ob ich das dann noch weiterführe oder nicht.

Speaker1: Das Problem ist, dass ich immer so viele Ideen habe Auch für so Sachen mit aktuellen

Speaker1: Technologien und gesellschaftlichen Entwicklungen, die ich dann weiterführen will.

Speaker1: Insofern ist es für mich immer schwierig, mich so ganz lange auf eine Sache zu konzentrieren.

Speaker0: Sehr gut, du hast nach wie vor einen sehr irrsinnigen Thruport,

Speaker0: was du an Büchern veröffentlichst.

Speaker0: Also ich habe zuletzt das Zeitparadox gelesen von dir und es ist schon nach

Speaker0: wie vor wirklich stark, wie in welcher Frequenz du Bücher veröffentlichst.

Speaker0: Also da komme ich teilweise nicht mehr nach.

Speaker1: Ja, das glaube ich. Es ist halt dieser Ideenstau, dass die Ideen müssen raus.

Speaker1: Deswegen bin ich auch froh, dass ich schnell schreiben kann.

Speaker0: Ja, nee, aber freut mich auf jeden Fall, dass es in Richtung Space Opera bei

Speaker0: dir gerade weitergeht, weil die anderen Bücher sind auch cool von dir,

Speaker0: aber ich mag einfach Space Opera sehr gerne, auch wenn es vielleicht nicht mehr

Speaker0: Trend ist aktuell in der Richtung.

Speaker0: Also ich finde immer weniger Space Opera Bücher tatsächlich.

Speaker0: Es gibt ein paar Serien, die ich tatsächlich noch lese, aber umso mehr freut

Speaker0: es mich natürlich hier Altbekannte wiederzusehen.

Speaker1: Gern geschehen.

Speaker0: Dankeschön. Ja, an was arbeitest du sonst noch?

Speaker1: Momentan bin ich an einer Hard-Sense-Fiction-Idee dran, wo es um holographische Projektionen geht.

Speaker1: Mehr kann ich dazu nicht sagen, sonst würde ich spoilern.

Speaker0: Okay. Und kannst du denn sagen, zu welchem Buch oder zu welchem Text das vorhin

Speaker0: anfangs schon mal erwähnte Thema in Hollywood liegt?

Speaker1: Das ist das Fossil.

Speaker0: Oh, okay. Ich bin gespannt.

Speaker1: Ich auch.

Speaker0: Das wäre deine erste Verfilmung dann, oder?

Speaker1: Das wäre meine erste Verfilmung, ja, ja. Ich glaube, da wäre ich auch der

Speaker1: erste deutsche Autor, wo es eine internationale Verfilmung wäre.

Speaker1: Von Schätzing gab es ja dieses ZDF-Ding, was er so gehasst hat.

Speaker1: Von Fitzec gab es ein paar Fernsehsachen. Gab es ein oder zwei Fernsehsachen?

Speaker1: Ja, das wäre, also Was ich damit sagen will, ist, es ist ultraschwer.

Speaker1: Es ist ultraschwer und ein ultralanger Weg zur Verfilmung.

Speaker1: Also selbst wenn der Produktionsvertrag unterschrieben ist, muss es noch lange nichts heißen.

Speaker1: Und selbst wenn es fertig produziert ist, muss es nicht heißen, dass es erscheint.

Speaker1: Es ist irre, wie viele fertig produzierte Sachen im Mülleimer landen.

Speaker0: Ja, schon verrückt, ja. Aber kann man sich als Außenstehender kaum vorstellen,

Speaker0: weil das hat ja auch Geld gekostet.

Speaker0: Es gibt ja diese Sportabschreibung ja ja stimmt das ist.

Speaker1: Für Konzerne sehr wichtig

Speaker0: Richtig ja na also ich bin auf jeden Fall schwer gespannt was das wohl wird

Speaker0: und das würde mich natürlich sehr freuen wenn es da eine Verfilmung zu geben

Speaker0: würde weil auch das Buch war wirklich fantastisch.

Speaker1: Danke.

Speaker0: Ja.

Speaker0: Jetzt so ein bisschen mit Blick auf deine Zeit und meine Zeit würde ich sagen,

Speaker0: hast du denn noch ein Schlusswort, was du unseren Zuhörerinnen und Zuhörern

Speaker0: mit auf den Weg geben würdest?

Speaker1: Ja, kümmert euch um das Thema KI und Daten, eure Daten.

Speaker1: Also eure Daten sind ein Schatz, das ist ein Datenschatz, mit dem andere viel,

Speaker1: viel, viel Geld verdienen. Und es gibt Profile über euch, das würde wahrscheinlich

Speaker1: euch entsetzen, wenn ihr das wüsstet.

Speaker1: Und es liegt aber in der Verantwortung eines jeden, sich das bewusst zu machen

Speaker1: und zu versuchen, die eigene Datenspur einzuschränken.

Speaker1: Und da würde ich einfach alle einladen, sich mit dem Gedanken anzufreunden,

Speaker1: einfach auf ein bisschen Komfort zu verzichten und Lösungen für mehr Datenschutz,

Speaker1: Datensicherheit, Datensparsamkeit zu finden.

Speaker1: Und ja, ich denke mal, du, ihr habt da bestimmt gute Tipps, wie man das machen kann.

Speaker1: Das ist einfach ein Thema, was sich lohnt für die Zukunft, um zukunftssicher

Speaker1: zu werden, sich damit wirklich viel und ausreichend zu beschäftigen und nicht zu sagen, ach,

Speaker1: habe ich keine Lust zu oder ich will mein Easy-Smartphone, wo ich einfach auf

Speaker1: was draufklicke und alles machen kann, was ich will.

Speaker1: Euer Smartphone hört immer mit und guckt euch an. Ich glaube,

Speaker1: wenn das Smartphone ein Mensch wäre, dann würde einem das richtig gruseln.

Speaker1: Aber so haben wir uns irgendwie daran gewöhnt macht euch darum Gedanken und

Speaker1: versucht da was zu ändern wie gesagt, ich habe es schon Graphene OS auch angesprochen

Speaker1: es gibt die Lösung, es gibt sie und das funktioniert

Speaker0: Ja, absolut. Und auch danke nochmal für den Hinweis. Ja, da kann man bei uns

Speaker0: natürlich sehr viel drüber lernen.

Speaker0: Wenn ihr jetzt den Podcast nur als Podcast bisher konsumiert habt,

Speaker0: dann empfehle ich euch auf jeden Fall mal einen Blick auf unseren YouTube-Kanal,

Speaker0: weil da gibt es zusätzlich zum Podcast jede Menge Videos.

Speaker0: Ich glaube, es sind mittlerweile über 200, wo wir uns eben auch mit solchen

Speaker0: Themen wie Datensicherheit und so weiter beschäftigen. Guckt da einfach mal rein.

Speaker0: Da findet sich mit Sicherheit was, unter anderem auch eine Reihe zum Thema Medienkompetenz

Speaker0: im digitalen Zeitalter.

Speaker0: Diese Reihe habe ich bewusst eben für Eltern produziert, damit man sich da vielleicht

Speaker0: auch mal ein bisschen aufschlauen kann,

Speaker0: um auch nicht nur über die Risiken, sondern auch um mögliche Lösungen zur Datensparsamkeit

Speaker0: und vor allem rund um den Kinderschutz sich einfach mal zu informieren.

Speaker0: Joshua, ich danke dir ganz herzlich für deinen wie immer scharfsinnigen Blick

Speaker0: und aber auch deine kritischen Gedanken natürlich.

Speaker0: Und natürlich danke ich dir auch für diesen kleinen literarischen Ausblick am Ende.

Speaker0: Sci-Fi und KI gehört ja irgendwie immer mehr, immer mehr zusammen.

Speaker0: Und wer weiß, vielleicht unterhalten wir uns ja nächstes Jahr dann schon über

Speaker0: das Thema AGI auf dem Mars. Wer weiß.

Speaker1: Wahrscheinlich, ja. Vielen Dank, hat viel Spaß gemacht, wie immer.

Speaker0: Die letzten Worte, wie immer, ihr kennt das mittlerweile. Wenn ihr es noch nicht

Speaker0: tut, folgt uns, wo man uns folgen kann.

Speaker0: Lasst uns gerne auch einen Kommentar da. Man kann uns auf jeder Plattform Kommentare schicken.

Speaker0: Ihr könnt uns auch eine Sprachnachricht über den Dienst Speakpipe zur Verfügung

Speaker0: stellen. Ihr müsst da weder euren Namen noch eure Daten eingeben.

Speaker0: Drückt einfach auf Rekord und sprecht das, was ihr uns mitteilen möchtet.

Speaker0: Und ansonsten, falls ihr uns auf YouTube jetzt gehört haben solltet,

Speaker0: vergesst nicht, dem Kanal zu folgen und die Glocke zu abonnieren.

Speaker0: Joshua, ich wünsche dir noch einen wunderschönen Tag. War mir wie immer ein

Speaker0: großes Vergnügen und dann bis zum nächsten Mal.

Speaker1: Das wünsche ich dir auch. Ciao.

Music: