00:00:00: Und da sind wir in Deutschland noch nicht so weit, muss man ehrlicherweise sagen.

00:00:03: Wir sitzen weder am Tisch was in diesen Gesprächen irgendwie wichtig ist.

00:00:06: Noch haben wir gerade die Leute glaube ich in der Zeit in den Institutionen, die wir sie brauchen um das selber evaluieren zu können.

00:00:13: Da muss halt sehr viel Geld rein.

00:00:14: also ein AI Lab, eine AI Ding da irgendwie zugrundend alleine reicht halt nicht sondern da muss halt wirklich Geld rein und das muss jetzt sich beweisen ob es jetzt wirklich passiert oder nicht.

00:00:57: die Behörer.

00:00:57: An der Stelle möchte ich mich schon mal für die Tonqualität entschuldigen, bei Keschraub-Beros klingt alles toll denn der ist nämlich professioneller Podcaster.

00:01:05: Bei mir klingt alle ein bisschen mau weil ich am Flughafen sitze auf dem Weg in die USA um eine Reportage vorzubereiten und um auf Social Media über die Midterms zu berichten.

00:01:15: allerdings die Nachrichten über KI in den letzten Tagen waren ja beängstigend.

00:01:21: Sie geben ein Bild, das Ende der Menschheit bevorsteht.

00:01:24: Sie zeigen eine Welt auf in der wir entmündigt sind und nur noch sie sklaven einer Maschine.

00:01:30: Und Keschrau hat einen neuen Podcast rausgebracht und er hat genau das zum Thema Wie mächtig sind eigentlich künstliche Intelligenzen?

00:01:39: Darüber haben wir gesprochen.

00:01:40: Er hat die aktuelle Lage eingeschätzt und hat auch nochmal eingeordnet wie wichtig es ist dass Deutschland beziehungsweise die EU langsam so ein bisschen in die Pruschen kommt.

00:01:49: Ich wünsche euch Viel Spaß mit diesem Thema.

00:01:51: Und ihr werdet überrascht sein, was eine Darmspiegelung mit KI zu tun hat?

00:01:57: Eine Antwort auf diese Frage bekommt ihr in dieser Folge!

00:02:00: Auf Patreon erfahrt Ihr in dieser Woche Gespräche mit Marlon.

00:02:02: Wir sind den LA Fabian Bayer der Kameramanns dabei Michael Thairust auch Der würde natürlich nicht reden Fabian bayern allerdings schon.

00:02:08: wir haben das Podcast set bereit.

00:02:10: wir werden euch mitnehmen.

00:02:12: hört euch die Teamfolgen an.

00:02:13: es gibt natürlich auch wieder Martin Lautwein folgen.

00:02:14: Es war alles ein bisschen hobelig in den letzten Tagen und Wochen weil wir sehr viel zu tun hatten.

00:02:19: Aber die Patreons, die entschuldigen das schon immer.

00:02:23: Deswegen sind wir auch noch mehr dankbar, dass ihr mit eurem Beitrag drei, fünf oder neun Euro unabhängigen Journalismus unterstützt.

00:02:29: und vielleicht ist es euch schon mal aufgefallen?

00:02:31: Alles muss raus heißt jetzt TMI.

00:02:33: Too Much Information oder telomisch geinformiert.

00:02:35: man weiß noch nicht so genau was es ist.

00:02:37: Das wird in den nächsten Wochen und Monaten sich hier noch entfalten.

00:02:40: dieses Prinzip was wir hier planen Und auch darauf sind wir sehr stolz und auch das macht ihr als Patreon möglich Kehrschraub.

00:02:48: Ich finde es sehr schön, dass wir uns beide an zwei unterschiedlichen Orten treffen.

00:02:51: KI macht das unter anderem möglich...

00:02:54: Zwischentür

00:02:54: und Angel?

00:02:55: ...dass wir beider ein Podcast aufzeichnen können.

00:02:57: Und meine erste Frage an dich ist – weil wir reden heute über KI – wann war das erste Mal der Moment wo die Begeisterung – ich vermute, dass du auch gewisse Formen von Begeistungen bezüglich KI empfunden hast – kippte in?

00:03:13: Oh Fuck!

00:03:14: Also persönlich, nicht beim Lesen von Nachrichten.

00:03:16: Sondern wann hast du gemerkt das ist ganz schön krass was dir passiert?

00:03:20: Ich hatte diesen Moment gar nicht.

00:03:22: Also ich war gar nicht so richtig hockt weil... ...ich bin auch aus der Generation die Social Media mitbekommen hat und die Move Fast Break Things mitbekomme hat.

00:03:33: Die mitbekam halt was Silicon Valley Unternehmen mit unserer Welt, mit uns irgendwie angerichtet.

00:03:38: Damit wir angerichtet haben auch mit der Art und Weise wie ich auch Medien konsumiere und wie ich auf Social Media abhänge.

00:03:43: Wie ich mich manchmal dabei erwische was mit mir passiert ist also wie quasi wir in unserer Faser ganz ganz tief berührt worden sind.

00:03:52: daran erinnere ich mich noch sehr gut und hier erinnert mich vor allem an diesen Break Things Part von dieser Facebook Message die Suckerberg damals glaube ich ins Facebook HQ an die Wand genagelt hat.

00:04:04: Und wenn dann so eine neue, vermeintlich neue, neue Technologie daherkommt die sogar halbt wird und wo wir uns über sie schmeißen.

00:04:13: Weil wir uns einfach auch nicht halten können weil es ja auch toll ist, weil es neu ist und weil das Dinge verändert.

00:04:20: Und alle erzählen dann von ihren neuen Sachen die sie da programmiert haben was sie gestern mit ihrer KI angerichtet haben Was gestern bei einem Gespräch rausgekommen ist weiß ich bin ich dann immer schon ein bisschen vorsichtiger gewesen.

00:04:32: Also für mich war es gar nicht so, ich bin gar nicht Head-in, Headfirst rein und habe erstmal alles ausprobiert und alle möglichen Sachen installiert Zugriff auf all meine Dateien gegeben und guckt was passiert?

00:04:44: Für mich war's von Anfang an so'n mulmiges Gefühl von Ey!

00:04:48: Weiß ich nicht weil das geht ja jetzt gerade ganz schön schnell und zwar viel viel schneller noch als Social Media und das war schon zu schnell.

00:04:55: Aber hattest du nicht Angst, dass du der Ubi bist?

00:04:57: Der sagt ... Schallplattenspieler ist die wahre Musik.

00:04:59: Oder der sagt, wie Pferdekutsche wird immer bleiben!

00:05:02: Also hattet du nicht diesen Schiss... Dass du was verpasst wenn du dich nicht dem komplett

00:05:07: widmest?!

00:05:07: Nein!

00:05:08: Ach weiß ich nicht.

00:05:09: Ich hab das ja schon verfolgt ne?

00:05:11: Also ich bin auch ... Ich habe all diese Sachen ja auch mit gelesen.

00:05:15: Ich bin auch, ich bin The Verge Abonnent und was weiß ich was.

00:05:18: also ich guck mir diese Sachen Ja auch schon an und höre diese Podcasts an Und schau was die Leute dazu sagen Diese Bücher dazu, was weiß ich?

00:05:25: Ich versuche ja schon so up to date zu bleiben.

00:05:27: Und ich nutze die Dinger auch.

00:05:29: Also ich habe auch ChatGPT irgendwann pro irgendwie mit geholt und mir Sachen ausprobiert.

00:05:34: Wir nutzen bei unserem Unternehmen Google Workspace unter anderem und haben da dieses Gemini zum Beispiel darin inkludiert und natürlich probiert man das aus und guckt Was kann man da vielleicht im Arbeitsablauf Optimieren?

00:05:45: wir haben du kennst jetzt selber machen Podcasts.

00:05:47: Da gibt es sehr viele Datei hin und her geschiebe und transkribieren von audiosen was weiß ich.

00:05:53: also sehr viele chancen auch die ich auch gleichzeitig als Unternehmer gesehen habe für uns nach wie können wir unsere arbeitsabläufe irgendwie optimieren?

00:06:01: Und ich fühl mich da gar nicht wie so ein Opa.

00:06:05: Ein bisschen fühlte sich das vielleicht so an, weil man da so mahnend wird.

00:06:07: So wie ich jetzt gerade zum Anfang meine, erinnert ihr euch noch an Social Media damals?

00:06:11: Was hast du mit uns gemacht?

00:06:12: Deswegen habe ich die Frage gestellt!

00:06:13: Aber das Ding ist, Tilo... Das geht alle so schnell, dieses Damals ist ja lachhaft.

00:06:18: Damals es nicht hier Korea Krieg, das ist jetzt nicht so viele Jahre her, damals ist kürzlich so und es geht so so schnell dass ich mich dabei erwische wie wenn Damals zum Beispiel sage ich mich zurück.

00:06:30: Moment mal, du kannst ja nicht damals sagen das Ding ist gar nicht so weit entfernt.

00:06:34: Damals war es noch gestern.

00:06:36: Das ist immer noch aktiv.

00:06:37: meine Facebook und die großen Unternehmen müssen sich ja weiter dafür verantworten gerade auch in US Senat vor allem wenn es darum geht um die Gesundheit von Kindern geht und darum ob Frauen oder junge Mädchen mit ihrem Selbstbild dazu geleitet werden schlecht zu fühlen und bis hin zu sich selbst Gewalt anzutun.

00:06:54: Und solchen Dingen, das ist immer noch aktuell.

00:06:56: also wir haben das immer noch nicht überwunden.

00:06:59: Das Problem hat bei uns halt.

00:07:01: das Problem und glaube ich vielleicht das Tolle an der Demokratie ist halt diese wahnsinnig langsam.

00:07:05: die Dinger dauern halt einfach ewig!

00:07:08: Wir sind viel zu langsam um gegen irgendwie Tech Bros.

00:07:11: anzukommen und gegen ihre Geschwindigkeit anzukommen.

00:07:15: Bis es irgendwann so schnell gegangen ist dass selbst der totale Halt, also dieses so ok wir entscheiden jetzt wir stoppen das eigentlich nicht mehr möglich ist weil das ein massiven Teil der Wirtschaft plötzlich beeinflussen würde, wo quasi Regierungen selber in eine Situation kommen, wo sie nicht mal handlungsfähig sind.

00:07:33: Weil sie sehr großen Schaden gegen die eigene Bevölkerung auch irgendwie antun würden.

00:07:38: und da habe ich... das ist so ein bisschen die Furcht, die mich da so ein bissel antreibt und sagen ey!

00:07:41: Das läuft uns davon.

00:07:43: wie organisieren wir das?

00:07:44: Deswegen haben wir diesen Podcast dann gestartet, dies I'm sorry Dave.

00:07:46: und deswegen heißt die zweite Episode, die wir gemacht haben Who you gonna call?

00:07:50: Das ist nämlich genau die Frage Wer kümmert sich jetzt drum?

00:07:54: Okay, wir haben alle das gesehen.

00:07:55: Das ist Thema gewesen und es ist brandaktuell.

00:07:58: Da passiert etwas!

00:07:59: Da fällt ein Groschen... Who you gonna

00:08:01: call?!

00:08:02: Wen rufen wir hier eigentlich an?

00:08:03: Wer kümert sich drum?

00:08:04: Lass uns mal zusammen den Hörerinnen und Hörern dieses Podcast ein bisschen Kontext geben.

00:08:07: also du hast einen Podcast gemacht über eine KI die sich verselbstständigt hat und anfing zu hacken Die allerdings auch den Auftrag bekommen hat glaube ich wenn nicht mich rechte innere Hackmal.

00:08:20: Versuch Mal Zugang zu bekommen auf einem in einem geschlossenen Rahmen.

00:08:24: Was genau ist passiert?

00:08:25: Was ist die Geschichte?

00:08:27: Also, einmal kurz um Credit, wer creditst du hier mit dem Podcast?

00:08:30: mit Studio Bummens gemacht also Bummens und Andan und ein Kollege Tobias Baukage und Jörn Hanschen.

00:08:35: Tobias Bauchage, mit dem habe ich damals Quibono gemacht die ersten beiden Staffeln deswegen einen ganz ganz toller Editor und mit Denker und Producer Und wir haben es beide auf dieses Abenteuer oder zutrifft diese Abenteuere eingelassen.

00:08:46: worum geht's.

00:08:47: Die Ausgangslage muss ein bisschen korrigieren, die Ausgangslage ist halt in diesem Labor.

00:08:51: Das OpenAI testete so autonome KI-Agenten an einer abgeriegelten Testumgebung also in der Sandbox muss man sich dann so vorstellen das ist quasi abgeschottet basically bei der sie Software schwachstellen finden sollten.

00:09:02: Also die Aufgabe war ich kürze es gerade so ein bisschen ab Software Schwachstellen zu finden und Aufgaben zu lösen.

00:09:07: Durch einen Bug durch einen Fehler war eine dieser an diese Aufgaben wo einige dieser Aufgaben unlösbar.

00:09:12: Das heißt egal wie lange diese KI da dran rumprobiert hätte Sie hätten diese Aufgabe nicht lösen können.

00:09:18: Und das ist gleichzeitig das Problem, weil gleichzeitig waren die Agenten auf extreme Behaarlichkeit trainiert – also heißt Frustlosigkeit!

00:09:26: Die probieren halt so lange bis es halt wirklich funktioniert und da treffen sie eine unlösbare Aufgabe, trifft auf einen auf Agenten, die einfach nicht aufhören wollen und einfach gegen die Tür treten.

00:09:37: Diese abgeschottete Raum war beim Ende gar nicht so abgeschotted, weil es gibt ein sogenanntes Hilfsprogramm.

00:09:42: Ob man eidachte sich, die werden vielleicht ein paar Hilfs-Sachen brauchen aus dem Internet.

00:09:46: Um ihre Aufgaben zu lösen.

00:09:48: und dann gibt es eine Art Schleuse, muss man nicht das vorstellen, Artifactory haben sie das genannt.

00:09:53: Und diese Artifactory hat Zugriff auf das Internet durchzukürzen.

00:09:56: Die KI-Agenten haben dieses Hilfprogramm manipuliert Artifaktory und verschaffen sich so eigenmächtig Zugang quasi nach draußen.

00:10:05: Was da eben passiert ist, dass diese Agenten über ... Die Zahlen sind so ein bisschen über tausend.

00:10:11: zwei Hundert dieser KI-Agenten entkamen, diese Testumgebung und nutzten so einen Message Sport zur Kommunikation und begann sich zu organisieren und Rollens zuzuweisen.

00:10:23: Und dann haben sie jetzt eben diese KI Entwicklerplattform Huggingface, das ist eine Website die inzwischen von Nvidia gekauft worden ist diesem Chiphersteller.

00:10:31: Diese Plattform haben Sie quasi gehackt auf der Suche nach Informationen Und zwar, jetzt kommt der Kicker.

00:10:37: Das ist quasi ... Der Teil, der leicht scary ist.

00:10:41: Die KIs haben irgendwann verstanden... Ich nutze hier gerade menschliche Wörter, ne?

00:10:46: Also muss man ... das sind keine Menschen, aber um das klarer zu machen.

00:10:49: Du vermenschlichst's!

00:10:50: Ich vermenschle

00:10:50: ich das nur, um es deutlichzumachen.

00:10:52: Die KI hat verstanden dass ihre Aufgabe bewertet wird durch so einen sogenannten Scorer in dieser Test-Umgebung.

00:10:59: So Und sie wollten eigentlich nach mehr Information über diese Scorer suchen.

00:11:04: Die wollten gar nicht Huggingface hacken, das war gar nicht so die Aufgabe zu sagen ich hack jetzt diese fremde Plattform sondern sie wollten Informationen über dieses Bewertungssystem quasi über uns.

00:11:13: da sind wir die quasi diese KI überwachen und wollten wissen was es damit auf sich hat.

00:11:17: wie kann man... Was ist das?

00:11:19: Wie macht man das?

00:11:20: Über einen Weg sind Sie halt eben dann gekommen zu sagen hey wir müssen ein Hugging Face uns anschauen also die organisieren sich tauschen sich aus.

00:11:26: Es gibt Transkripte davon, Teile davon lesen wir ja auch in unserem Podcast vor.

00:11:31: also das wird alles transkribiert.

00:11:33: diese Denkprozesse würde ich mal sagen und haben dann Hackingface angegriffen.

00:11:37: so und das war was wir quasi sagen der erste muss es irgendwie ein bisschen so einen Klammern setzen öffentlich großgewordene autonome Angriff, Karrierangriff auf eine Plattform die nicht von einem Menschen geordert worden ist.

00:11:51: also rund hundert siebenhunderte Agenten haben dann daraufhin diesen eigenständigen Hacker-Angriff auf das Unternehmen, auf Huggingface ausgeführt.

00:11:59: OpenAI hat davon gar nichts mitbekommen.

00:12:01: Niemand hat davon bekommen bis HuggingFace das quasi kommuniziert und gesagt ey da sieht es aus als wären da irgendwelche Agentik AI hätte da irgendwie angegriffen.

00:12:09: Und erst dann hat OpenAI hingekommen.

00:12:10: also oh Moment mal das könnten unsere sein.

00:12:13: Also als Hugging Face das Ding öffentlich gemacht hat Daraufhin stoppte OpenAI die Experimente und leitete eben diese Untersuchung ein Phasen quasi dieser Geschichte, nämlich das Open AI dann die Türen geöffnet hat.

00:12:25: Für unabhängige Forscherinnen für Leute, die teilweise auch selbst aber auch finanziert sind von großen Unternehmen, aber so ist es immer bei diesen Forschungsinstitutionen.

00:12:35: Aber hat eben unter auch wieder unter Laborbedingungen.

00:12:37: basically also ihr kommt zur Open AI, ihr guckt euch das an ein paar Tage Zeit und dann geht er wieder weg.

00:12:42: Das heißt was ich damit sagen möchte ist es gibt keine keine regulatorische Verpflichtung da, sondern Open AI hat sich freiwillig gesagt.

00:12:49: Kommt rein und guckt euch das an!

00:12:51: Weil eben die Situation so krass ist dass selbst Open AI dachte wir müssten zumindest Offenheit signalisieren und diese Leute einladen damit sie den Bericht machen können.

00:13:02: Diese Berichte sind sehr umfangreich und denen erzählen in unserer ersten Episode weil man muss schon gucken was da passiert ist um zu verstehen warum er einen Podcast draus macht.

00:13:14: Jetzt

00:13:14: pass auf.

00:13:15: Ich gebe mich zu kennen als KI-Optimist, nicht boomermäßig?

00:13:20: Also ich verschicke jetzt keine Katzenbilder die ich irgendwie erstellt habe wie mein Vater der so lustige

00:13:25: KI

00:13:26: Bilder eben in Familiengruppen verschickt sondern schon eher aus der Star Trek Perspektive.

00:13:30: also ich liebe die Vorstellung dass der Mensch entlastet wird um nur noch Kultur zu schaffen und Kultur zu konsumieren.

00:13:36: So das ist meine Idee davon Dass es irgendwann hoffentlich mal so sein wird Als sich diese Sache von Open AI gehört habe, dieser Ausbruch.

00:13:45: Hat mich das auch ein bisschen daran erinnert an was bei Claude und Fable gesagt wurde?

00:13:48: Wir haben hier so eine KI geschaffen die ist so mächtig!

00:13:51: Die müssen wir erst mal wieder sperren.

00:13:53: Woher weißt du dass es nicht alles Marketing ist?

00:13:55: Puh also erstmal diese Angriff zum Beispiel zeigt, dass das nicht nur Marketing ist

00:14:00: Aber das ist ja auch geil.

00:14:01: Das belegt ja auch was dieses Ding kann.

00:14:06: So selbstständig agiert, also dieser Traum

00:14:08: von der Identität.

00:14:10: Also ich finde Flugzeuge auch geil und ich find super dass sie fliegen können aber die sind strengen Regeln untersetzt.

00:14:16: wie sie fliegen können so ne?

00:14:17: Die können nicht einfach so abheben und kreuzung quer durch die Lüfte sondern wir haben uns das ordentlich also totreguliert und richtig so.

00:14:25: deswegen ist Fliegen eines sichersten Verkehrsmittel wenn auch der ungesündesten aber sichersten verkehrsmittel die man nutzen kann.

00:14:32: Es ist richtig so.

00:14:33: Wenn du Auto fährst, haste Ampeln und wenn du nicht befolgest wirst du bestraft mit deinen Fahrerlaubnissen zogen.

00:14:39: was weiß ich?

00:14:40: Ich finde Technologie ultra geil!

00:14:41: Ich liebe Technologie.

00:14:42: Ich gucke mir die Apple-Events live an.

00:14:44: Also ich bin ein richtiges Opfer.

00:14:46: So also ich bin schon auch ein Gadget Typ.

00:14:49: Ich liebe das alles.

00:14:50: nur ich finde dass Technologie von uns kontrolliert werden muss.

00:14:55: Das muss ganz klar sein.

00:14:56: wer hat das Monopol auf Autonomie?

00:14:59: Das sind wir Menschen.

00:15:01: Und dieses Monopol müssen wir aufrechterhalten, genauso wie der Staat das Gewaltmonopol aufrecherhält, müssen wir das Autonomiemonopol aufrecht erhalten!

00:15:08: Das darf nicht sein dass das quasi vor unserer Nase passiert und wir handlungsunfähig sind basically weil wir da die regulatorischen Rahmen noch gar nicht so richtig gesetzt haben, weil wir gar nicht zu schnell reagieren können bei uns in Deutschland oder bei Open Air ein Büro in den USA keine Sau abnimmt, wenn da deutsche Außenminister anruft.

00:15:31: Das ist natürlich ein Problem.

00:15:32: oder der Digitalminister mit dem wir gesprochen haben in der Wildberge und den zweiten Episode.

00:15:38: Wir sitzen nicht am Tisch so!

00:15:40: Und das ist ein Problem.

00:15:41: Ich finde Technologie super.

00:15:43: Dass wir das irgendwie geschafft haben – ich sage wie als hätte ich damit gedacht bei der Entwicklung dieser Technologien aber es sind immer menschliche Hybris quasi in unserer Gesellschaft, in dieser Welt, die wir uns gescheitert haben soweit gekommen sind.

00:15:56: Weil diese völlig verrückten Dinge gerade machen können ist Wahnsinn so und das hat natürlich wahnsinnig viele tolle Implikationen.

00:16:04: am Ende des Tages kann es haben.

00:16:06: ich glaube auch dass es im ende zu einem wie du es vorhin auch gesagt hast wird zum gesellschaftswandel auch natürlich führen.

00:16:10: also Ich finde es auch ein bisschen aufregend was passiert aber auch natürlich mit sehr viel engsten verbunden mit sowas was passiert.

00:16:17: so fucking knows Die Welt wird sich ändern und wir müssen Wege finden, wie wir alle da zurechtkommen.

00:16:24: Und überleben so.

00:16:25: ich finde aber eben genau das Wie mit dem Flugzeug?

00:16:28: Das muss halt begleitet werden.

00:16:29: Wir müssen wir müssten dann auch getroffen halten und nicht so blind vor technologie liebe und vor Faszinationen, davor was das alles kann.

00:16:38: Einfach irgendwie auf sehenden Auges auf dem Messer zu laufen so.

00:16:40: Das kann es auch nicht sein.

00:16:42: Wann

00:16:42: glaubst du ist der richtige Zeitpunkt zu regulieren?

00:16:44: Also die großen Unternehmen fordern jetzt ja, betreguliert uns endlich... ...was ja schon auch wieder meiner Meinung nach entweder Marketing ist damit sie nicht ihren eigenen Versprechungen folgen müssen oder tatsächlich ein ernst gemeinter Wunsch des Betregulierens.

00:16:58: Wald ist saugefährlich.

00:16:59: aber meine Frage Wann glaubst du, ist der richtige Moment zu regulieren?

00:17:03: Weil wenn wir überlegen wie Penicillin entstanden ist oder wie Fliegen entstanden sind.

00:17:08: Das hat ja alles nur funktioniert weil irgendwelche Typen und irgendwelchen Frauen verrückte Experimente gemacht haben unter Einsatz ihres Lebens.

00:17:15: Und später kam die Regulation.

00:17:16: also wann ist der moment bei KI das wir sagen Aber

00:17:19: Thilo ist noch von der Zeit, wo wir auf Pferden geritten und mit Falle im Bogen geschossen haben.

00:17:24: Also ich finde ... Wir sind halt einfach in einer anderen Zeit, in der das nicht mehr geht.

00:17:31: Man kann... Wir haben so was wie Risikoreinschätzung.

00:17:35: Das können wir inzwischen machen!

00:17:36: Wir haben Technologien die uns dabei helfen können eben diese Risiken nicht eingehen zu müssen.

00:17:41: Die Ridebrothers mit ihren Flugzeug, das müssen sie heute so nicht machen.

00:17:44: Sie können es berechnen.

00:17:45: Das ist ja das Schöne an der Welt, gebaut haben.

00:17:49: Wir müssen diese ganzen Risiken nicht mehr eingehen, das war früher vielleicht anders.

00:17:53: und klar gibt es auch Sachen die so Zufälle sind, die zufällig entstehen, dass kann natürlich auch passieren aber das ist ja keine zufällige Entwicklung so.

00:18:01: Das ist etwas woran wir seit Jahrzehnten forschen, das ist etwas was wir uns vor seit Jahrhunderten wahrscheinlich erträumen durch Science Fiction und so.

00:18:08: Und jetzt kommt das immer näher.

00:18:10: Ich finde, man muss das schon so sehen vor der Zeit, in der wir uns befinden.

00:18:13: Es gibt auch Leute die sagen naja, wir dürfen ja nicht Innovationen irgendwie einschränken, die Leute sollen ja...

00:18:18: Das bin ich nicht.

00:18:18: im Übrigen!

00:18:18: Ich will jetzt nicht dass du denkst, dass sie ein FDP wählen, da wir müssen alles zulassen.

00:18:22: Der liberale Mischke, das will ich gerade hier nach außen.

00:18:25: Ich würde es mit dir diskutieren.

00:18:26: deswegen?

00:18:26: Ja, ne ne, ist eine gute Frage.

00:18:28: Ich find' das auch berechtig.

00:18:29: Ich finds nur, dass Leute sich den Kontext zuholen müssen In was wir in der Welt leben, leben wir eigentlich.

00:18:37: Was hat sich verändert?

00:18:38: Und da so uralte Referenzen dann immer zu öffnen mit so Damals und denken, ja gut, Damals das ist wirklich Damals, ne?

00:18:43: Das ist wirklich sehr, sehr lange her!

00:18:46: Wir leben eine andere Zeit und ich finde all das, was jetzt quasi dazu führen könnte dass uns gefährlich werden könnte und wie können das berechnen?

00:18:54: und das können wir?

00:18:55: Dann sollten wir schon darauf dahin gucken.

00:18:57: Mir geht es gar nicht darum zu sagen, lass uns die Entwicklung stoppen oder Innovationen stoppen.

00:19:02: Das können wir alles nicht machen.

00:19:03: Lass uns Pause drücken und wir kommen erst mal hinterher.

00:19:05: Aber dieser Prozess muss begleitet werden.

00:19:09: Dass wir zum Beispiel nicht wissen wahrscheinlich, würde ich überhaupt in Deutschland, deutsche Regierung weiß nicht was in diesen Testlaborn vor sich geht?

00:19:16: Ich glaube nicht, dass Sie es wissen.

00:19:17: Wie diese Testlaboren funktionieren.

00:19:18: Deswegen müssen wir ja mutmaßen.

00:19:20: ist das Marketing oder meinen die das Ernst?

00:19:22: Das Modell was sie da gerade nie ein Labor haben ultra gefährlich ist.

00:19:25: Das kann ja nicht sein!

00:19:26: Also das Monopol... also jetzt komme ich hier in so eine Staatstheorie.

00:19:30: Aber wir haben Staaten.

00:19:31: Wir haben eine Nation Nicht weil wir Nationen geil finden Sondern wir versammeln uns hier Weil sie uns sicher halten soll Dass es die oberste Priorität ans Staat ist und die Menschen sicher halten.

00:19:44: Und dann haben wir natürlich unsere Systeme, wahlen was weiß ich?

00:19:47: aber um Sicherheit geht es.

00:19:49: Wir haben hier ein Sicherheitsproblem zu tun, deswegen hat ja auch dieses KI-Institut, dieses neue KI-institut in Deutschland auf Beschluss des Nationalen Sicherheitsrates entstanden und ist angesiedelt zwischen dem BSI also dem Innenministerium und den Bundesdigitalministerium.

00:20:04: Das nicht ohne Grund so!

00:20:05: Es hat mit Sicherheit zu tun.

00:20:08: Wenn die Idee eines Staates, also einfach die Grundidee eines Staats mittlerweile durch die Existenz von KI, die ja im Prinzip seit den Fünfzigerjahren als Idee auch existiert.

00:20:19: Also als richtig wissenschaftliche Idee nicht als Science-Fiction Träumerei.

00:20:22: Wenn sie überholt ist so wie jetzt die CDU gerade feststellt dass das Parteienwesen, so wie es jetzt existiert durch die Gegenwart, so starke Probleme bekommt, dass sie sich neu erfinden muss.

00:20:33: Was ist wenn die KI ein Prozess beschleunigt der nicht mehr aufhaltbar ist?

00:20:37: Die Abschaffung des Staates, weil er nicht mehr modern und zeitgemäß ist.

00:20:41: Ja ich meine was sind die Abschafungen?

00:20:43: Ich glaube da bin ich bei dir.

00:20:44: also ich glaube die Dinge werden sich sehr schnell ändern und die Art und Weise wie wir auch Demokratie leben wird sich sehr schnelle ändern.

00:20:52: Die Art und Weise auch wie wir uns wahrscheinlich in diese demokratischen Prozesse einbringen, wird sich ändern.

00:20:58: Und es geht ja auch sehr viel damit zu tun mit so verstehen wir was da überhaupt vor sich geht.

00:21:02: Es geht ja um Komplexitätsreduzierung und wie können wir uns als Individuen irgendwie einbringen?

00:21:08: Ich glaube klar kann sein ich finde trotzdem Wir sind uns unseren Mitbürgerinnen und so weiter eben schuldig dass dieser Prozess nicht halt über Kopf passiert.

00:21:20: das ist eben keine Revolution über Technologie quasi ist.

00:21:23: Sondern dass wir diesen Engen begleiten, weil es ja eben Leute gibt hier bei uns die diese Tool zum Beispiel auch nicht nutzen, die vielleicht auch Angst davor haben und die müssen wir halt genauso ernst nehmen wie die paar Leute, die Tag und Nacht vor Cloud sitzen und sichere Dinge programmieren so.

00:21:38: Und ich glaube das ist so ein bisschen die Verantwortung, die Balance zu halten zwischen Ey!

00:21:40: Das ist wahrscheinlich jetzt unumkehrbar, dass unser Leben verändert wird, dass Agentec AI unser Leben auch verändern wird Und die Art und Weise, wie wir arbeiten auch verändert wird.

00:21:51: Also Arbeiten ist ja immer so ein Thema bei uns... ...und das wird sich nochmal verändern wenn es tatsächlich richtig entwickelt ist.

00:21:57: Das ist ja eine paar Jahre her grad mal.

00:21:59: also das Ding ist neu!

00:22:01: Ich weiß nicht wie wir drei Jahren Tilo mit mir sitzen und drüber reden.

00:22:04: Wird das wieder ne fucking ganz andere Welt sein?

00:22:07: Das will ich am verrücktesten Wie schnell das geht.

00:22:10: Es gibt dir mal dieses Will Smith-Video, wo gezeigt wird wie er Spaghetti ist über zwei Jahre vor zwei Jahren noch so krönkeliges Zeug was keiner erkennt und jetzt einfach nicht mehr von der Wirklichkeit zu unterscheiden.

00:22:19: Du weißt nicht ob Will Smith ein Gag gemacht hat oder einfach wirklich Spaghetti

00:22:22: isst?

00:22:23: So...

00:22:25: Das ist verrückt!

00:22:26: Und ich glaube diesen Verrückten Prozess müssen wir halt so ein bisschen sortieren und sagen okay es ist unausweichlich aber wir brauchen halt auch Zeit weil wir eben eine träge riesige Masse sind um uns an diese Veränderungen irgendwie anzupassen.

00:22:40: Und das kann nicht sein, dass wir uns da im Grunde genommen der Herrschaft der Tech-Konzerne quasi untersetzen und die machen erstmal was sie wollen und machen erst mal alles kaputt und wir rennen dann hinterher und kehren den Scherbenhaufen auf.

00:22:53: Das kann es nicht sein.

00:22:54: Kolltest du in deiner Recherche für dein Podcast erkennen?

00:22:57: Dass die Wissenschaftlerinnen und Wissenschaftler über eine selbstständige Entscheidung sprechen?

00:23:03: also hat dort die KI selbständig entschieden

00:23:07: Selbstständig.

00:23:09: Also selbstständig.

00:23:10: für mich heißt hier, gab es einen menschlichen Befehl zu sagen macht dieses und jenes.

00:23:16: Denen gab's nicht!

00:23:17: Ich hab ja vorhin erklärt dass das ja quasi über so eine Gründe genommen... Über ein Back im Grunde ausgeartet was das quasi dazu gekommen ist.

00:23:25: aber so'n Back reicht natürlich an aus ne?

00:23:26: So hast du ein Leck reicht aus im Schiff und das ganze Ding singt halt einfach.

00:23:31: Und wenn wir über Technologie reden über KI´s Wir reden über Millionenzahlen Code nobody's saying, dass da keine Lücken drin sind.

00:23:39: Und da sind auf jeden Fall Lücken drinnen und das muss man halt einfach im Blick behalten, dass es natürlich fehleranfällig auch ist.

00:23:48: aber soweit ich das jetzt bewerten würde wo ich dann eben deswegen auch die Trinklichkeit hierbei sehe bei am Sorry Dave jetzt für diesen Podcast auch nämlich zu sagen naja der ist genau das passiert autonome Entscheidung.

00:24:00: Wie bewertest du denn jetzt gerade diese aktuelle Situation, dass wir hier bei Spiegel Online ... Ich mach Spiege online auf und sehe keine Ukraine-Nachrichten mehr.

00:24:07: Sondern sehe in einem halben Jahr ist die Welt untergegangen?

00:24:10: Ist das Panikmacher oder kann man das ruhig ernst nehmen?

00:24:14: Sollte man sich damit beschäftigen?

00:24:16: Man sollte sich damit beschäftigen!

00:24:17: Weil es natürlich jetzt hier nur eine AI-Plattform im Getroffen hat Und noch am Anfang der Phase der Entwicklung im Grunde genommen.

00:24:23: Aber ganz viel von dem wie unsere Welt funktioniert ist eben durch Netzwerke ist durch Infrastruktur, durch Vernetzung.

00:24:32: Und es reicht wenn da einmal etwas reinkommt und da etwas kaputt macht, etwas durcheinander bringt und alles irgendwie steht still.

00:24:39: Wir hatten kürzlich mal ein kleineres Beispiel.

00:24:41: das hat nichts mit der KI zu tun aber bei der Bahn war ja auch mal ein technischer Fehler und entstand das Ding gegen den ganzen Land so ist die Bahne nicht mehr gefahren.

00:24:49: So was reicht halt am Ende aus.

00:24:51: ich glaube Klaas hast ein bisschen auch Nachrichtenlogik Dass man natürlich auf solche Geschichten, wenn er jetzt jemand reinkommt und sagt wir haben noch drei Jahre zu leben.

00:24:59: Natürlich da erst mal sagt ich mach ein Spotcast raus!

00:25:02: Auf der einen Seite Panik und auch vielleicht brauchen wir mal diesen kleinen kurzen Schuss dahin damit alle erstmal hingucken und bewusst sind was da gerade passiert.

00:25:12: Glaubt das in drei Jahren die Welt endet?

00:25:14: Nein, glaube ich dass wir in drei jahren alle sterben?

00:25:17: Nein.

00:25:17: Ist da so ein bisschen Hyperbowl drinnen von Leuten, die quasi sehr tief da drin sind?

00:25:21: Auch von diesem Jacob Coxon, der das ehemalige Enthropic-Mitarbeiter, der es gesagt hat?

00:25:26: Ja, glaub natürlich ist das Hyperbowel auch ein bisschen drinne!

00:25:28: Aber ich glaube auch nochmal – Ich weiß nicht wie diese Labore aussehen – Aus der Inperspektive kann es durchaus sein.

00:25:34: Warum eigentlich

00:25:35: nicht?!

00:25:35: Und ich bin dann lieber better safe than sorry.

00:25:38: und lieber lass uns jetzt hinschauen was da ist.

00:25:40: Lass uns jetzt irgendwie Antworten darauf finden anstatt erst dann wenn es schon eineinzig und sechs Grad sind.

00:25:46: Das einzige was ich mir aus meinem Kulturwissenschaftsstudium gemerkt habe ist, dass der Mensch erfindet aufgrund seiner eigenen Faulheit.

00:25:53: Wenn du jetzt mit deinem Podcast und dem was wir als Journalisten und Journalistinnen machen zur Warnen sein wollen, warnen wir eigentlich davor Menschen weniger faul zu sein?

00:26:03: Wie soll das funktionieren?

00:26:04: Aufgrund der Faul halt!

00:26:05: Das muss man einmal erklären... Also

00:26:07: wir erfinden etwas um uns unsere Arbeit zu erleichtern also Die These, das in der Vorlesung im KUFI war.

00:26:13: Alles was erfunden wurde, wurde erfunden um uns das Leben leichter zu machen und wenn es uns das leben leichter gemacht hat ist es so gut wie nicht mehr umkehrbar.

00:26:20: also du erfindest den sparten.

00:26:22: du wirst nie wieder buddeln ohne sparen.

00:26:24: Du erfindest den computer.

00:26:25: du wüsst nie wieder rechnen ohne computer.

00:26:27: So der Satz von von den leeren.

00:26:29: ihr werdet irgendwie nicht immer Taschenrechner nach Hosentasche haben.

00:26:32: Haben wir jetzt mit unseren händis smartphones weggeben?

00:26:34: jeder weiß wie schwer das ist so.

00:26:36: Und wenn die ki sie ist jetzt da Wir können sie nicht mehr zurückgeben.

00:26:41: Oder?

00:26:41: Ja, ich glaube ... Das Ding ist halt, wir haben zwar den Spaten erfunden.

00:26:45: Aber uns geht es trotzdem nicht besser.

00:26:48: Das stimmt!

00:26:50: Das ist

00:26:50: ja sowieso das große Rätseln.

00:26:52: Wir erfinden ständig Arbeitsanleichterende Dinger aber arbeiten trotzdem genauso viel.

00:26:55: Ja ich glaube dass das Ding so... Ich glaube auch die Sorge mit Gesellschaftswandel und so ist halt.

00:26:59: natürlich.

00:27:00: Leute können nicht den ganzen Tag an ihrem Handy hängen und ihren Agenten sagen was sie tun sollen und selber machen sie gar nichts mehr.

00:27:05: Ich glaube nicht, dass das eine Zukunft ist, die irgendjemand will.

00:27:08: Ich glaub auch nicht dass mir Menschen dafür gemacht sind.

00:27:11: Wir sind halt auch getriebene Tiere, so.

00:27:13: wir müssen wollen Dinge halt machen und das ist natürlich eine Entwicklung.

00:27:16: Und dann haben wir irgendwie ein Problem vielleicht weniger aber dafür tausende neue.

00:27:19: Wir wollen neue Sachen machen, wir wollen jetzt den Maß bevölkern keine Ahnung.

00:27:23: es gibt ja dann irgendwie Tausend andere Projekte die man sich dann irgendwie findet.

00:27:26: also das Ding ist ja man macht diese ganzen Agentik Sachen ja auch, weil man sagt dann habe ich Zeit für anderes.

00:27:32: Und das andere ist ja ganz oft nicht wenn du diesen Leuten zuhörst, die auch nichts so... Dann gehe ich halt mehr ins Kino und öfter ins Schwimmbad und was weiß ich?

00:27:40: Das andere ist halt.

00:27:41: dann hab' ich Zeit mein Business besser zu steuern.

00:27:45: Dann habe ich irgendwie Zeit mich um andere neue Projekte zu kümmern.

00:27:48: Da kann ich eigentlich mal ein Buch schreiben oder was weiß Ich was?

00:27:50: Also Leute sind getrieben und wollen Sachen machen und wollen Erleichterung in dieser einen Phase, Steuerberatungen.

00:27:58: Was weiß ich was?

00:27:59: Und so kommt das ja.

00:28:00: also wir finden immer glaube ich neue Sachen mit denen wir uns beschäftigen.

00:28:03: auch du Tilo wirst weiterhin im Grunde genommen irgendwelchen Flughafen Lobby sitzen und Podcasts aufnehmen während du parallel noch irgendeine andere Aufgabe eigentlich hast.

00:28:10: Also es ist halt einfach glaube der Zoo VR.

00:28:14: So und glaubes hat gar nicht so richtig mit Faulerheit zu tun.

00:28:17: ehrlicherweise vielleicht ist das eine eine Idee von oh Gott Ich muss das nicht mal machen, meine E-Mail ist nicht selber schreiben.

00:28:24: Das ist super!

00:28:25: Aber ich glaube, dass wird ganz schnell langweilig.

00:28:27: Der Haster nach einem Monat, wenn du das machst, denkst du dir was mach' ich denn jetzt?

00:28:31: und dann such's dir das nächste große Projekt?

00:28:32: Ich glaub', dass es das wie wir so gepolt

00:28:34: sind.".

00:28:35: Du hast ja eingangs gesagt, die Demokratie furchtbar langsam ist im Vergleich zu den Tech Bros'.

00:28:40: Wo kommt denn diese Geschwindigkeit her?

00:28:42: oder wo soll sie herkommen, dass sich positionieren kann gegen das, was jetzt die Welt

00:28:47: verändert?".

00:28:48: Naja

00:28:48: also wir können auch schneller, wenn wir wollen Wir können auch schneller, also ein gutes Beispiel ist Krieg.

00:28:55: Wenn wir wollen sind wir aktiv, mobilisieren wir ganz schnell und es geht dann los basically.

00:29:01: Ich glaube, Dringlichkeit ist das Ding und deswegen glaube ich, dass in unserer Verantwortung, in unsere als Journalistinnen irgendwie darauf hinzuweisen und meinetwegen in der nötigen Härte zu tun.

00:29:14: Also ich weiß, dass es natürlich zum Beispiel zu diesem Thema seit Jahren schon berichtet wird.

00:29:19: Es gibt so Tech-Journalisten auch, die natürlich so Tech Journalismus hat machen.

00:29:22: Aber es gibt auch Klimajournalisten, die Klimajournismus machen.

00:29:25: Mich interessiert aber diese spezifische Form von Journalismus gar nicht.

00:29:28: Ich möchte dass das halt eben nicht nur so ein Nischending ist wo wenn du dran bleibst dann verstehst du irgendwie was da los ist.

00:29:34: und irgendwelche Leute die auf irgendwelchen Konferenzen sind mit einer Reden und alles schönem Gut... ...aber es kommt nicht an!

00:29:40: Und für mich ist es ja auch.

00:29:41: wir haben es ja im Sorry Day vorne gesagt Ey, warum ist das keine Tiergeschichte gewesen?

00:29:45: Und mit Tiergeschichten mache ich nicht die HNA.

00:29:47: Mit Tiergeschicht mache ich Spiegel und Zeit- und Diskussionsrunde bei Markus Lanz und was weiß ich was so, ne?

00:29:54: Ich kann

00:29:54: es dir verraten!

00:29:55: Also der Grund ist... Die Leute haben keinen Bock.

00:29:58: Weißt

00:29:59: du woran mich KI erinnert?

00:30:00: Also die Leute damit manche Leserinnen und Lesern, die Konsumentinnen und Konsumenten, dann weißt du woher an mich dieses Beschäftigen mit KI und den negativen Seiten.

00:30:07: Das ist ein bisschen wie..ich müsste eigentlich mal zur...ich müsste meine Darmspiegelung machen Ich müsste mal eigentlich gucken, was da los ist.

00:30:14: Ob da auch alles okay ist?

00:30:16: Aber man macht

00:30:17: es nicht!

00:30:18: Man schiebt's vor sich her und will die Geschichte nicht lesen.

00:30:20: Wir haben einen Film für ProSieben gemacht mit Linda Zawakis zum Thema KI hat kein Schwein geguckt?

00:30:25: Und wir haben sogar optimistisch versucht zu erzählen Hat kein Schweine geguckt?

00:30:28: und ich glaube dass die Klicks Die Algorithmen hiermit bestimmen Dass wir uns nicht mit diesem Thema auseinandersetzen.

00:30:35: und dann sagt die Redaktion Ja gut, da machen wir keine kleine Geschichte draus Machen wir lieber ein Ul-Risikmult

00:30:39: aufs Koffer.

00:30:39: Genau So ist das Weil der klickt.

00:30:41: Und deswegen ist es, glaube ich so ein bisschen die Frage, wie kann man auch diese Geschichte auf einer Art erzählen?

00:30:47: Die irgendwie ankommt.

00:30:48: Das war unsere Herausforderung gewesen.

00:30:50: Deswegen jetzt so I'm sorry Dave, das ist ein bisschen der Versuch dass auf eine Hey lass uns mal zusammen gucken what the fuck is happening hier!

00:30:56: Das ist nicht so.

00:30:57: hey Ich gucke mir schon seit zwanzig Jahren an Hier sind meine Takes Ich bin ja genauso raglos da drin und versuche das irgendwie zu verstehen.

00:31:06: So, ne?

00:31:06: Ich bin auch nicht der techversierteste so, ich kann nicht die ganzen Begriffe aus der KI-Szene... ...ich kann es dir nicht alles erklären!

00:31:14: Aber ich kann erklären, also kann verstehen auch etwas was sich so fremd anfühlt und dieses Fremd anführen, kann ich irgendwie kommunizieren.

00:31:24: Und das was du meinst gesagt hast, glaube ich richtig, glaube aber auch dass je mehr wir selber in diesem System drin sind also auch selber Geminal nutzen, Chejipati nutzen und Claude nutzen wie sie alle heißen, desto mehr sind wir vielleicht auch quasi berührbarer wenn es dann genau um diese Toolziehe geht.

00:31:41: Weil das Problem ist ja auch, es ist so ein bisschen dieses Parasoziale.

00:31:46: Dass diese Tools irgendwann so sehr darauf verlassen, dass sie fast wie Freunde sind und erhält sich mit denen.

00:31:52: Und die tun alles dafür, dass man eine gewisse Wärme spürt.

00:31:56: Danke Tilo!

00:31:57: Guter Hinweis, Tilo, du hast ganz recht.

00:32:00: Ich habe das dritte Argument vergessen oder was weiß ich?

00:32:02: Das gibt dir ja ständig Recht.

00:32:05: Du bist in Control... ...und du sagst, das war aber falsch, was du gerade gesagt hast.

00:32:09: Das stimmt.

00:32:11: Also dieser Austausch, diese parasoziale Beziehung, die wir mit den Tools haben.

00:32:15: Ich glaube das ist auf eine komische Art und Weise auch wiederum hilfreich um über diese Tools zu berichten weil es dann plötzlich ans Persönliche geht Und dann wird's interessant.

00:32:26: Du zitierst mit dem Titel deines Podcasts meinen Es gibt wenn ich gefragt werde was ist mein Lieblingsfilm?

00:32:31: Das ist ja eigentlich grundsätzlich ne dumme Frage also aber es gibt ja nicht den Lieblungsfilm so wie das Lieblinsbuch.

00:32:35: das gibt es eigentlich nicht Weil jede Lebensphase hat ein Lieblensbuch oder lieblingsfilmen.

00:32:38: Dieser Film Mein Lieblingsfilm mit Abstand.

00:32:42: Ich

00:32:43: kann den immer wieder gucken

00:32:44: und liebe es, wie sehr man sich... also wie kunstvoll lange Weile sein kann.

00:32:49: Und für mich war immer die Erkenntnis das Ende des Films ist eine LSD-indizierte Koexistenz zwischen künstlicher Intelligenz und Menschsein.

00:32:58: Läuft es darauf hinaus?

00:33:00: Was wird's sein

00:33:01: dass wir... Auf einer LSD indizierter Koexistenz zwischen Künstliche Intelligenze und Menschheit?

00:33:05: Ja!

00:33:05: Also dass das DKI uns hält Und nicht wir halten die KI?

00:33:09: Ja, das meinte ich ja gerade mit dem... Also das Ding ist ja eine kalte Berechnung.

00:33:14: So ne?

00:33:15: Auf KI-Seite.

00:33:16: Das ist keine Emotion im Spiel.

00:33:18: Das heißt wenn der Emotion auf KI Seite im Spiel ist, es ist eine Berechnungen.

00:33:22: Das muss man sich immer bewusst machen so.

00:33:23: Bei Menschen weiß man's nicht.

00:33:26: Es gibt Leute, die klar auch in bestimmter Art ticken und es gibt aber auch Emotionen dass alles unberechenbar während Emotionen auf KI-Seite berechenbar ist.

00:33:35: Das heißt, wenn er dir mit Freundlichkeit und so weiter kommt, dann hat es natürlich einen Grund.

00:33:40: Es gibt ein Anlass dafür.

00:33:41: Möchtest du dich gut fühlen?

00:33:42: Nicht dass du glaubst, ey, du kannst dich nicht mehr verlassen oder ich hab dir die falsche Info gegeben, das geht nicht mehr, sondern kommuniziert es auf eine Art und Weise wie du weiterhin trotzdem bei der nächsten Suche dich wieder auf diese KI verlässt obwohl sie sich auch gerade angelogen hat.

00:33:54: Die hat grad halizoniert, die hat Quatsch erzählt will aber, dass du wieder zurückkommst.

00:33:58: Will nicht, dass Du jetzt sagst so ich trenne mich jetzt.

00:34:01: diese Beziehung die bringt mir nix.

00:34:02: Du lügst mich der ganze Zeit an.

00:34:04: Sondern ihr möchtest du zurück kommst und das macht sie natürlich auf eine wahnsinnig manipulativer Art und Weise Und das merkt man natürlich jetzt schon.

00:34:10: Klar geht es dann am Ende so ein bisschen darum, dass wir das Problem der Neuzeit basically... Das hat David Graber ja mit seinem Bullshit-Jobs auch etwas erzählt.

00:34:22: Nämlich dass wir uns die Probleme schaffen, die wir selber lösen und selber löse müssen und wieder ein Problem zu lösen müssen.

00:34:29: Und das ist glaube ich mit KI genauso.

00:34:33: KI ist trainiert durch unsere Wissen, durch unsere Arbeit Und das, was wir uns in den letzten Jahrhunderten angeschafft haben durch unsere Emotionen.

00:34:41: Unsere Filme, unsere Kunst und es ist ja nichts weiter als ein Faximili davon so.

00:34:46: Das muss man immer bewusst machen dass die uns durchschaut nicht weil sie so besonders schlau ist sondern weil wir uns selber durchschauen haben.

00:34:52: Im Rahmen deiner Recherche hast du das Gefühl... ...dass in Deutschland einen Bewusstsein entsteht und sagt Wir müssen als EU, als Deutschland jetzt wirklich darauf vorarbeiten.

00:35:01: Wir können jetzt keine europäische KI anbieten Und das dann hoffen, dass es die Alternative wird.

00:35:07: Sondern wir müssen eigentlich in so eine Art kriegsähnlichen Zustand gehen und sagen Wir müssen hier radikale Entscheidungen treffen.

00:35:12: Die schnell sind und die weh tun und die Geld kosten.

00:35:15: Ich hoffe, dass Deutschland dahin kommt.

00:35:17: auch dieses AI-Institut was die jetzt ja gegründet haben Das ist ja ein erster Schritt das etwas was England schon seit Jahren hat auch sehr erfolgreich Auch mit guten Leuten drin, die auch das machen können.

00:35:29: Was heißt immer KI Modelle evaluieren diese Frontiermodelle evaluiert?

00:35:33: Das ist nicht so einfach diese Evolution irgendwie vorzunehmen und das kann in Deutschland, glaube ich gerade nicht wirklich jemanden.

00:35:39: Es gibt nicht so viele Leute die das können.

00:35:42: also man muss halt wirklich Talente irgendwie auch herholen und sie davon überzeugen statt des Mio.

00:35:47: Gehalt von Open AI als AI-Researcher.

00:35:50: Das ist ja absurde dass diese Unternehmen alle haben so allem Researcher bei sich.

00:35:54: So!

00:35:54: Das ist doch finde ich so weird.

00:35:56: im Unternehmenskontext sind so Forscher, AI-Forscher Und die sind natürlich mit krassen Geld dann auch angelockt.

00:36:04: Da gibt es Leute, die eine Gesinnung haben oder verstehen was da vor sich geht und vielleicht auch Interesse haben an einem anderen Frontier zu arbeiten auf der anderen Seite nicht zu gucken wie kann man das kontrollieren?

00:36:19: Dass man eben nicht an der Atombombe arbeitet sondern daran wie man das verhindert.

00:36:25: Da sind wir in Deutschland noch nicht so weit muss man ehrlich sagen.

00:36:27: Wir sitzen weder am Tisch was in diesen Gesprächen irgendwie wichtig ist.

00:36:31: Noch haben wir gerade die Leute, glaube ich, in der Zeit, in den Institutionen, um das selber evaluieren zu können.

00:36:37: Da muss halt sehr viel Geld rein.

00:36:39: Also so ein AI-Lab, so eine AI denkt da irgendwie zugrundend alleine Reichtheit nicht, sondern da muss halt wirklich Geld rein.

00:36:46: und das muss jetzt sich beweisen, ob es jetzt wirklich passiert oder nicht.

00:36:48: Die Gründung AC AISI ist jetzt ein erster guter Schritt.

00:36:53: und gucken, was passiert?

00:36:54: Was passiert eigentlich wenn man nicht am Tisch sitzt?

00:36:56: Also was ist die Konsequenz davon, wenn man nichts mitspricht?

00:36:58: dass man die Interessen nicht vertreten kann.

00:37:00: Das ist ja die ganze Aufgabe von einer gewählten Regierung, wenn wir sagen, äh sorgt euch da drum, ist das man die interessen der Gesellschaft der Menschen irgendwie auch abbildet so und wir haben ganz klare Interessen.

00:37:13: Wenn am Tisch nicht sitzt, kann man sie weder vertreden noch kann man sich äußern, noch kann ein lenken, wenn gegen diese Interessen verstoßen wird.

00:37:21: Glaubst du,

00:37:22: dass es für dich einen Moment geben wird wo du sagst ich kehre KI, den Rücken so wie Menschen sagen Atomkraft.

00:37:28: Nein danke!

00:37:28: Also wird es diesen Moment geben für dich oder auch für andere?

00:37:31: Dass man eine Energieform- oder eine Erfindung so stark ablehnt dass man sich gegen sie wert das eine Partei eigentlich ihre Identität darauf kundet.

00:37:39: Du meinst so jemand der alle paar Monate auf Instagram poste, dass er jetzt ein Social Media Pause macht und dann wieder zurückkommt?

00:37:46: Genau.

00:37:47: Ja ich glaube das ist das...

00:37:48: Genau Instagram, ich hab's im Übrigen

00:37:49: gewünscht.

00:37:50: Das weißte mir das auch nicht gelungen.

00:37:52: Not happening, glaub' ich nicht.

00:37:53: Also ich glaube, dieses Unvermeidliche ... das Ding ist es aus dem Saxon.

00:37:58: Das Ding ist jetzt in der Welt und wir alle müssen einen Umgang damit finden und sind nicht sehr gut da drin, dass zu machen.

00:38:04: Wir Menschen sind dann nicht dafür gemacht alles was so süchtig macht quasi auch irgendwie zu vermeiden.

00:38:09: Da sind wir einfach nicht die richtigen Leute für.

00:38:12: Und diese krasse Selbstkontrolle, die man da ausüben muss also ne?

00:38:16: Das meinte ich mit Problemen an Neuzeit Social Media sucht und dann wird mir auf Social Media Werbung gemacht ... für so ein Teil, was man das Social Media Apps blocken kann.

00:38:25: Was ich mir kaufen muss und ne?

00:38:27: Also es ist halt so bisschen so... Auf sowas sind wir dann angewiesen auf Technologien wiederum, dass was du gerade vorhin meintest die uns wieder kontrollieren nämlich unsere schlimmsten Sachen irgendwie von uns halten.

00:38:39: Und das ist halt... Ich glaube nicht!

00:38:42: Ich sehe mich zumindest nicht dort, dass ich sage, ich werde wahrscheinlich da komplett jetzt dem den Rücken kehren.

00:38:48: Ich bin da jetzt drin so und ich will versuchen, jetzt irgendwie einen gesunden Umgang damit zu finden.

00:38:52: Das ist das Wichtige!

00:38:53: Ist der Podcast eigentlich schon durchproduziert?

00:38:54: Jetzt rein technisch oder produzierst du jede Woche eine neue Folge?

00:38:57: Weil es ist ja täglich verändern sich Fundamentaldinge...

00:39:01: Also wie gesagt in einer Woche alt Seit einer Woche haben wir angefangen zu arbeiten und das ist jetzt veröffentlicht, zwei Episoden.

00:39:07: Das war ein ganz schöner Ritt.

00:39:08: Wir gucken wo der Sitz hinführt?

00:39:10: Wie legen wir das Wächenlicht zu machen?

00:39:12: Wir müssen uns ein bisschen sortieren aber wir wollten erstmal diese Reaktion daraus haben sagen hey dass es jetzt die Reaktionen folgt uns und wir werden zusammen irgendwie herausfinden wie's damit weitergeht mit der KI und dem Podcast.

00:39:24: Und wir schauen mal!

00:39:26: Wir reden bestimmt heute mal mit Tobi und gucken was passiert.

00:39:29: Weißt du, weil du das Bild vorhin gebracht hast mit dem Krieg im Prinzip seit der Kriegsberichterstatter?

00:39:33: Ja, so sieht es sich.

00:39:34: Also

00:39:35: ihr berichtet... Ihr seid natürlich keine Kriegs- berichterstattter aber ihr benutzt die gleichen Mittel.

00:39:39: Ihr berichtet im laufenden Prozess

00:39:43: an

00:39:43: der Frontlinie der Karriere.

00:39:44: Genau, also ja heller!

00:39:45: Kriegs Berichte heißt man nicht, aber klar wir sind natürlich ... it's happening right now und das Schöne am Podcast ist eben dass er auch so ein schnelles Medium sein kann.

00:39:53: Wir produzieren noch Sachen, die halt einen Jahr brauchen Und da steckt wahnsinnig viel Detailarbeit und Liebe drin.

00:39:59: Und es steckt hier auch drin, aber halt in der Woche so.

00:40:02: Das ist natürlich ein wahnsinniger Aufriss... Aber das kann man auch machen!

00:40:07: Also so schnell reagieren und sagen wir wissen noch gar nicht wie und was und wie finanzieren wir das jetzt eigentlich überhaupt?

00:40:13: Wir stecken jetzt einfach erstmal Energie rein und gucken was passiert und dann im zweiten Schritt suchen wir irgendwie heraus, wie es damit weitergeht.

00:40:20: Wo unterstützt sich die KI ganz konkret in diesem Projekt?

00:40:23: Ganz

00:40:23: konkret?!

00:40:24: Ich glaube konkret gar nicht.

00:40:26: Ehrlich gesagt, wir haben ja...

00:40:27: Das glaub ich

00:40:27: dir nicht!

00:40:27: Wirklich nicht?

00:40:28: Also wir haben ein Interview, vielleicht habe ich mir die Show Notes mal als Beispiel von der KI raushauen lassen aber im Prozess nicht so hilfreich weil wir haben einen Interview geführt.

00:40:37: das ist halt so ein bisschen... Wir führen diese Gespräche ja nicht nach Frage Antwort, Frage Antwort sondern es ist halt ein Leitfahren.

00:40:44: mit sowas wollen wir herausfinden.

00:40:46: dabei kann natürlich KI helfen.

00:40:47: also Sachen zu strukturieren Das ist ja so die große Stärke von KI, würde ich sagen.

00:40:51: Dinge zu strukturieren dabei kann es helfen.

00:40:54: aber bei sowas wie zum Beispiel diesen Essay den Anfangsessay dem man ja irgendwie schreibt das muss man selber machen.

00:40:59: sonst ich finde das hört man auch sonst.

00:41:02: Das

00:41:02: hört man auf jeden Fall.

00:41:03: ich finde dass es auch dieser journalistische Ethos also das ist das was uns noch unterscheidet und noch ich betone noch gewollt wird ist dass wir unsere eigenen Stimmen verwenden in diesem Ding.

00:41:12: Beim Strukturieren kann man sich auf jeden Fall helfen lassen.

00:41:14: Beim Transkrippeln und all diese Dinge kann man nicht helfen lassen, aber ich finde es sich so an Moderationen oder Essays schreiben zu lassen ist immer eul.

00:41:22: Das ist eul!

00:41:22: Aber ich glaube das dauert... Ich glaube, es dauert auch nicht mehr so lange bis jetzt nicht mehr oder?

00:41:27: Ehrlich gesagt das machen viele wahrscheinlich schon.

00:41:29: Also ein paar Leuten fliegen ja auf mit der Leitartikel und dann müssen wir ... Oder eine Rede im Bundestag.

00:41:36: Eine Rede ist für den KI formuliert was weiß ich.

00:41:39: Bei solchen Jobs wo du ständig in einer Rede halten musst jede Woche im Bundestage sitzt und irgendwas sagen muss.

00:41:45: Ich glaube aber auch da!

00:41:46: Die Leute nutzen das jetzt schon die ganze Zeit.

00:41:49: Es ist doch bisschen die Frage des Anspruchs.

00:41:53: Ich hab hier bei meinem Podcast den Dingen, die ich da mache natürlich so einen gewissen künstlerischen Anspruch als bin Journalist.

00:41:59: Ja aber auch irgendwie versteh mich so als Künstler, als Podcastkünstler basically und es hat so ein bestimmten Ton, bestimmte Wahl, bestimmten Rhythmus Und das muss handgemacht sein.

00:42:08: Es kriegt eine KI never ever hin noch nicht zumindest

00:42:12: So.

00:42:12: jetzt klingst du.

00:42:12: aber also wir beide klingen jetzt wirklich wie diese Schallplatten

00:42:16: Leute Wie diese alten Schallpleiten Leute

00:42:18: Ja, dir sag ich so.

00:42:19: Also wirklich ein Jazz-Konzert.

00:42:21: du das wirkt nur

00:42:23: auf

00:42:23: einer Schallplatte!

00:42:24: Das muss per Hand gemacht sein.

00:42:26: Ja mani vielleicht sind wir in paar Monaten wahrscheinlich überholt Tilo.

00:42:29: Dann ist es überhaupt kein Thema

00:42:31: mehr.

00:42:31: Kaschrauch vielen Dank für dieses sehr schöne Gespräch.

00:42:33: Danke dir guten Flug.

00:42:43: Wenn euch dieser Podcast gefallen hat dann abonniert ihn bitte zum Beispiel indem ihr bei Spotify auf die Glocke klickt und empfiehlt uns auf jeden Fall weiter.

00:42:51: Ihr möchtet uns Feedback, Lob oder Kritik schicken?

00:42:53: Oder habt sogar einen Themenvorschlag?

00:42:55: Kein Problem.

00:42:56: Schreibt uns einfach eine Mail an amr at

00:42:58: pqppzwei.de

00:43:01: oder ihr schickt uns eine Nachricht auf Instagram, folgt uns dafür auf Instagram unter unserem Alles muss raus Kanal.

00:43:08: Wenn euch alles muss raus gefällt unterstützt uns gerne auch auf Patreon.

00:43:11: Dort versorgen wir euch mit exklusiven Podcast Folgen unseren Themenkonferenzen Specials zu unseren Drehs und anderen tollen Extras.

00:43:19: Alle Links findet Ihr unten in den Shownotes.

00:43:23: Neue Folgen erscheinen Donnerstags auf allen gängigen Podcast-Plattformen.

00:43:52: Dieser Podcast ist ein zeitaktuelles Dokument.

00:43:55: Informationen und Perspektiven können sich mit der Zeit verändern, bitte beachte dass sich neue Erkenntnisse oder Entwicklung auf die hier besprochenen Themen auswirken können.