Ich bin doch selber nur Software
Ijoma Mangold, Lars Weisbrod
Die Folge widmet sich dem großen KI-Hype um ChatGPT und der Frage, wie künstlich diese Intelligenz eigentlich ist — und wie politisch. Lars gibt zu, nachts wach gelegen zu haben, weil ihm die philosophischen Probleme des Themas keine Ruhe ließen, und beide nähern sich als selbsterklärte Hobbyphilosophen den dicken Brettern von Bewusstsein, Sprache und Maschine. Im Gegenwartscheck geht es außerdem um die Spendensammler am Berliner Hauptbahnhof und das Phänomen der Empathie als Erpressungshaltung.
„Auch an einer begrifflichen Klärung zu scheitern kann für Zuhörerinnen und Zuhörer ein interessantes Schauspiel sein.“
Erwähnte Medien (18)
The White Lotus
Mike White · 2021
The White Lotus folgt dem Aufenthalt verschiedener Gäste in exklusiven Resorts der fiktiven Hotelkette "The White Lotus". Jede Staffel spielt an einem anderen Ort und begleitet eine Woche im Leben der Hotelgäste und des Personals – von der Ankunft bis zu einem meist tragischen Ende. Hinter der glamourösen Fassade entspinnen sich persönliche Dramen, zwischenmenschliche Konflikte und gesellschaftliche Spannungen, die langsam eskalieren.
🗣 Lars Weisbrod empfiehlt aktiv bei ⏱ 00:13:35 „Dann habe ich noch einen schnellen am Schluss. Und zwar habe ich endlich die Serie The White Lotus oder Lotus, oder wie man das auf Englisch sagen müsste, gesehen, die insgesamt sehr gegenwärtig ist.“
Lars erzählt, dass er die Serie gesehen hat, und beschreibt eine Szene mit einem Zahnseidestick als Beispiel für Gegenwärtigkeit
Dexter
· 2006
Dexter Morgan, Blutanalyst bei der Polizei von Miami, geht nachts einer etwas anderen Tätigkeit nach. Er streift als Serienkiller durch die Nacht und tötet Menschen, die ihrerseits bereits gemordet haben. Gleichzeitig versucht er, sein Berufs- und Privatleben mit seiner ungewöhnlichen nächtlichen Aktivität in Einklang zu bringen.
🗣 Lars Weisbrod referenziert bei ⏱ 00:14:49 „Es gibt in dem Vorspann der berühmten Serie Dexter wird das so ganz im Detail mal gezeigt, weil das ja sehr brutal aussieht im Detail.“
Lars vergleicht die Zahnseide-Szene in The White Lotus mit dem Vorspann von Dexter, in dem Zahnseide detailliert gezeigt wird
Natural Born Killers
Oliver Stone · 1994
Das psychotische Pärchen Mickey und Mallory Knox zieht durch die Wüste von New Mexico und tötet aus purer Mordlust innerhalb von drei Wochen 52 Menschen. Bei den Massakern hinterlassen Sie jeweils eine lebende Person, die ihre Geschichte erzählen soll. Während die sensationslüsternen Medien die "M&M Murders" zu regelrechten Stars befördern, hängt sich der nicht weniger wahnsinnige Cop Scagnetti an ihre Fersen, der sie schließlich fassen kann.
🗣 Ijoma Mangold referenziert bei ⏱ 00:16:12 „Hast du Natural Born Killers gesehen? Ja. Ich habe den damals gesehen, als er rauskam, da war ich ja noch ganz jung. Es ist ja so toll, was man über die Welt und das Leben alles nicht weiß. Und ich weiß, ich war damals so irritiert. Ich glaube, da gibt es so einen Journalisten und bevor der vor die Kamera tritt, geht der irgendwo im Hotel oder so auf so eine öffentliche Toilette vor den Spiegel raus.“
Ijoma Mangold erinnert sich an eine Szene aus Natural Born Killers, in der ein Journalist sich vor dem Kameraauftritt die Nasenhaare rasiert. Damals fand er das absurd und neurotisch, heute findet er es völlig nachvollziehbar – eine persönliche Anekdote darüber, wie sich die eigene Wahrnehmung von Körperpflege über die Jahre verändert hat.
Jeopardy!
· 1984
Der Artikel beschreibt IBMs Watson-Auftritt bei der amerikanischen Quizshow Jeopardy! 2011, bei dem die KI gegen die besten menschlichen Kandidaten antrat. Das Material zeigt anhand konkreter Beispiele, wie Watson Sprache verarbeitete und wo die Maschine anders dachte als Menschen – etwa bei logischen Sprüngen, die für Menschen intuitive sind. Dieses Ereignis ist ein wichtiger Meilenstein in der KI-Geschichte und direkter Vorläufer moderner Sprachmodelle wie ChatGPT.
🗣 Lars Weisbrod referenziert bei ⏱ 00:18:19 „Und um zu zeigen, wie toll sie das schon kann, hat sie 2011 bei einer amerikanischen Quizshow teilgenommen. Gegen die besten Kandidaten, die sonst immer diese Quizshow gewinnen.“
Lars Weisbrod erzählt ausführlich von IBMs Watson-Auftritt bei der amerikanischen Quizshow Jeopardy! im Jahr 2011 als Vorgeschichte zu ChatGPT. Er analysiert anhand konkreter Fragen und Antworten, wie Watson Sprache verarbeitete und wo die Maschine anders 'dachte' als Menschen – etwa als Watson auf eine Frage über eine Krimi-Schriftstellerin 'Syrien' als drittwahrscheinlichste Antwort ausgab.
The End of Theory
Chris Anderson
Illustration: Marian Bantjes “All models are wrong, but some are useful.” So proclaimed statistician George Box 30 years ago, and he was right. But what choice did we have? Only models, from cosmological equations to theories of human behavior, seemed to be able to consistently, if imperfectly, explain the world around us. Until now. Today companies \[…\]
🗣 Lars Weisbrod referenziert bei ⏱ 00:27:23 „Ein paar Jahre bevor ich da Watson gesehen habe bei diesem Quiz, gab es einen ganz wichtigen Text in der amerikanischen Zeitschrift Wired von Chris Anderson, dem Chefredakteur, glaube ich damals, so ein Netzvordenker. Ich weiß nicht, ob du dich an das Schlagwort erinnerst, das hieß The End of Theory.“
Lars Weisbrod ordnet die aktuelle KI-Debatte historisch ein und verweist auf Chris Andersons einflussreichen Wired-Artikel, der das Ende theoriegeleiteter Forschung ausrief. Anderson argumentierte, dass reine Statistik auf großen Datenmengen Kausalmodelle und Theorien überflüssig mache – genau das Paradigma, in dem Deep Learning und heutige KI operieren.
Computing Machinery and Intelligence
Alan Turing · 2021
Alan M. Turing war der Erste, der die Frage stellte, ob Maschinen denken können. Damit stieß er die Tür für das Zeitalter moderner Computer auf. Seine bahnbrechende Arbeit sollte jeder kennen, der an der Philosophie des Geistes und der Kognition, Psychologie oder allgemein an den Entwicklungen Künstlicher Intelligenz (KI) interessiert ist. Das für diese Neuauflage überarbeitete Nachwort diskutiert die Rolle moderner Chatbots.
🗣 Ijoma Mangold referenziert bei ⏱ 00:39:50 „Der hat den sogenannten Turing-Test aufgesetzt. Diese Frage nämlich, wann handelt es sich um vollgültige künstliche Intelligenz? Dann, wenn der Output eines Computers von dem Output eines Menschen nicht mehr unterscheidbar ist.“
Ijoma Mangold erläutert im Kontext der Debatte über künstliche Intelligenz und Bewusstsein das berühmte Gedankenexperiment von Alan Turing aus dessen Paper von 1950. Er beschreibt, wie der Turing-Test als Maßstab für KI dient und wie die Grenze zwischen Mensch und Maschine in den letzten Jahren rasend schnell kollabiert.
Minds, Brains, and Programs
John Searle
Searles Essay argumentiert, dass die Simulation kognitiver Prozesse auf Computern kein echtes Bewusstsein erzeugt. Das Gedankenexperiment des Chinesischen Zimmers zeigt: wie ein simulierter Tropensturm kein echtes Haus wegweht, erzeugt Computer-Simulation von Kognition keinen echten Verstand. Der Essay widerlegt die Annahme, dass komplexe Computermodellierung zu echter mentaler Aktivität führt.
🗣 Lars Weisbrod referenziert bei ⏱ 00:41:29 „Das ist ja was wirklich ein anderer berühmter Philosoph, John Searle, in seinem anderes berühmtes Gedankengang, das chinesische Zimmer, in seinem Chinese Room Artikel auch gesagt hat. Er sagt da auch, was ist das überhaupt für eine irre Vorstellung zu denken, die Simulation von kognitiven Prozessen auf einem Computer seien Geist. Wir würden doch auch nicht denken, dass die Simulation eines Tropensturms auf einem Computer unser Haus wegweht.“
Lars Weisbrod zitiert John Searles berühmtes Gedankenexperiment des chinesischen Zimmers, um die Frage zu illustrieren, ob Simulation von Kognition echten Geist erzeugt. Er greift Searles Analogie auf: So wie ein simulierter Tropensturm kein Haus wegweht, erzeugt eine Simulation kognitiver Prozesse kein Bewusstsein. Die ausführliche Besprechung wird auf eine Folgefolge vertagt.
De Anima
Aristoteles
Klassische Abhandlung über die Natur der Seele und ihr Verhältnis zum Körper. De Anima formuliert das fundamentale Leib-Seele-Problem, das die Philosophiegeschichte seit 2500 Jahren durchzieht und jede technologische Epoche neu belebt.
🗣 Ijoma Mangold referenziert bei ⏱ 00:41:44 „Wir spielen ja in gewisser Weise einen alten Streit nach, den die Philosophie seit Aristoteles, De Anima, seit 2500 Jahren durchspielt. Das ist das Leib-Seele-Problem.“
Ijoma Mangold ordnet die KI-Debatte über Bewusstsein und Geist in die philosophische Tradition ein und verweist auf Aristoteles' Schrift De Anima als Ausgangspunkt des Leib-Seele-Problems. Er argumentiert, dass jede technologische Epoche – vom Uhrwerk über Software bis zur KI – diesen uralten Streit neu belebt.
Monadologie (Mühlengleichnis)
Gottfried Wilhelm Leibniz
Leibniz' Gedankenexperiment über die Unmöglichkeit, Bewusstsein in einer Maschine zu finden. Das Mühlengleichnis gilt als historischer Vorläufer zu Searles Chinesischem Zimmer und illustriert, warum physische Mechanismen allein Geist nicht erklären können.
🗣 Lars Weisbrod referenziert bei ⏱ 00:42:45 „das sogenannte Mühlengleichnis von Leibniz. Das gilt immer so als der Vorläufer davon.“
Lars führt Leibniz' Mühlengleichnis als historischen Vorläufer von Searles Chinesischem Zimmer an, um zu zeigen, dass man Geist nicht in einer Maschine finden kann
Mühlengleichnis (aus: Monadologie)
Gottfried Wilhelm Leibniz · 2014
Die zweisprachige Ausgabe »Monadologie und andere metaphysische Schriften« ermöglicht ein genaues Studium der Leibnizschen Metaphysik von der Mitte der 1680er Jahre, als die »Metaphysische Abhandlung« entstand, bis zum Ende seines Lebens dreißig Jahre später, als Leibniz seine Monadenlehre entwickelte. Seine drei längeren Abhandlungen zur Metaphysik hat Gottfried Wilhelm Leibniz (1646-1716) selbst nicht veröffentlicht, sie haben aber seit dem 18.
🗣 Lars Weisbrod referenziert bei ⏱ 00:44:34 „Man kann das chinesische Zimmer auf ein viel einfaches historisches Beispiel bringen, noch historischeres Beispiel, nämlich das sogenannte Mühlengleichnis von Leibniz. Das gilt immer so als der Vorläufer davon. Stellen wir uns vor, es gäbe sozusagen eine denkende Maschine und das sei eine riesige Mühle und in die könnte ich reingehen. Aber da würde ich ja das Denken nie irgendwo finden in dieser Mühle.“
Lars Weisbrod führt Leibniz' Mühlengleichnis als historischen Vorläufer von Searles chinesischem Zimmer an. Das Gedankenexperiment besagt: Selbst wenn man eine riesige denkende Maschine betreten könnte, würde man darin nur Zahnräder und Bretter finden, aber niemals den Geist selbst – ein Argument dafür, dass Bewusstsein nicht auf mechanische Prozesse reduzierbar ist.
Porträt einer Linguistin (Kritikerin von OpenAI)
Porträt der Linguistin Emily Bender, die zu den prominentesten Kritikerinnen von ChatGPT und OpenAI zählt. Der Artikel behandelt ihre Perspektive auf die Grenzen großer Sprachmodelle und ihr Konzept des "stochastischen Papageis", das die grundlegenden Unterschiede zwischen KI-Systemen und menschlicher Sprache verdeutlicht. Bender argumentiert kritisch gegen die Überschätzung dieser Technologien.
🗣 Lars Weisbrod referenziert bei ⏱ 00:46:08 „Es gibt ein Stück, das müssen wir unten verlinken, aus dem von mir ja sehr geschätzten New York Magazine, die ja auch in solchen Fragen immer einen sehr am Puls der zeitmäßigen Journalismus machen. Die haben ein Porträt einer Linguistin geschrieben, die sozusagen zu den Chefkritikern dieser neuen Silicon Valley künstlichen Intelligenz und von OpenAI spezifisch dieser Firma gehört“
Lars verweist auf einen Artikel im New York Magazine über eine Linguistin, die ChatGPT und OpenAI kritisiert und den Begriff des stochastischen Papageis geprägt hat
On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
Emily Bender, Timnit Gebru et al.
Einflussreiche Forschungsarbeit zur Kritik an großen Sprachmodellen wie ChatGPT. Die Autoren argumentieren, dass solche Modelle lediglich statistische Muster reproduzieren (Stochastische Papageien), ohne echtes Verständnis zu besitzen. Sie warnen vor den Gefahren unkritischer Skalierung und fehlender Transparenz bei der Entwicklung von KI-Systemen.
🗣 Ijoma Mangold referenziert bei ⏱ 00:48:21 „Du hast ja gerade diese Linguistin angesprochen, die den Begriff des stochastischen Papageis genannt hat. Oh ja, den müssen wir nennen. Das ist sozusagen das Schimpfwort.“
Ijoma Mangold greift den von einer Linguistin geprägten Begriff des 'stochastischen Papageis' auf, um die Funktionsweise von ChatGPT zu beschreiben: eine statistische Auswertung großer Datensätze. Der Begriff wird als zentrales Schimpfwort der KI-Kritik eingeordnet, das Mangold allerdings differenziert betrachtet.
Podcast des Karlsruher Zentrums für Künstliche Intelligenzforschung
Podcast-Zyklus des Karlsruher Zentrums für Künstliche Intelligenzforschung mit Interviews und Diskussionen zu philosophischen Fragen der KI-Forschung. Thematisiert unter anderem die These, dass echter Geist existiert, aber nicht über algorithmische Wege reproduziert werden kann.
🗣 Ijoma Mangold empfiehlt aktiv bei ⏱ 00:50:09 „Ich habe einen Professor in Ulm gehört in einem interessanten Podcast, der vom Karlsruher Zentrum für Künstliche Intelligenzforschung oder so, die haben so einen wahnsinnig langen Podcast-Zyklus, in den reinzuhören sich sehr lohnt.“
Mangold empfiehlt einen Podcast-Zyklus des Karlsruher KI-Zentrums, in dem der Ulmer Professor Ralf Otte auftritt. Otte vertritt dort die These, dass echter Geist existiert, aber nicht über den aktuellen algorithmischen Weg der KI-Forschung reproduziert werden kann – eine Position, die Mangold als Gegenargument in der Debatte anführt.
Noam Chomsky über ChatGPT (New York Times)
Noam Chomsky
Noam Chomsky und weitere Autoren argumentieren in diesem New York Times-Beitrag gegen die unbegrenzten Möglichkeiten von ChatGPT. Sie kritisieren, dass künstliche Intelligenz ohne ein echtes Verständnis von Kausalität ihre Grenzen erreicht und nicht zu echtem kognitiven Fortschritt fähig ist. Der Text setzt sich kritisch mit den aktuellen Fähigkeiten und Limitierungen von Sprachmodellen auseinander.
🗣 Lars Weisbrod referenziert bei ⏱ 00:52:21 „Chomsky hat in der New York Times auch mit anderen zusammen über ChatGPT geschrieben.“
Lars verweist auf Chomskys Beitrag in der New York Times, in dem dieser argumentiert, dass KI ohne Kausalitätsverständnis nicht weiterkommen wird
New York Magazine-Artikel über ChatGPT
Der Artikel behandelt die praktischen Auswirkungen und realen Anwendungen von ChatGPT jenseits des Hypes. Er untersucht, wie die KI-Technologie konkret Gesellschaft und Arbeitswelt beeinflusst und wird häufig zusammen mit kritischen Perspektiven auf KI-Entwicklung diskutiert. Der Text bietet eine differenzierte Einordnung von ChatGPTs Fähigkeiten und Grenzen.
🗣 Unbekannt erwähnt beiläufig bei ⏱ 00:52:35 „Und das können wir auch unten verlinken, zusammen mit diesem New York Magazine Text.“
Der Sprecher erwähnt beiläufig einen Text im New York Magazine zum Thema ChatGPT, der zusammen mit Chomskys NYT-Artikel in den Shownotes verlinkt werden soll. Der genaue Titel und Autor werden nicht genannt.
The False Promise of ChatGPT
Noam Chomsky
Noam Chomsky und Co-Autoren kritisieren in diesem New York Times-Artikel den rein datengetriebenen Ansatz moderner KI wie ChatGPT. Sie argumentieren, dass dieser Ansatz fundamentale Fragen nach echten Kausalzusammenhängen vernachlässigt und stattdessen nur Datenmuster extrahiert, ohne echtes Verständnis zu schaffen.
🗣 Unbekannt empfiehlt aktiv bei ⏱ 00:52:51 „Chomsky hat in der New York Times auch mit anderen zusammen über ChatGPT geschrieben. Der macht den Punkt stark, dass eben dieses End of Theory, über das wir am Anfang geredet haben, dieser Versuch, einfach nur noch zu sagen, wir haben Daten und mit denen machen wir ein bisschen.“
Der Sprecher verweist auf Chomskys Artikel in der New York Times (zusammen mit Co-Autoren), in dem Chomsky argumentiert, dass der rein datengetriebene Ansatz der KI-Forschung die Warum-Frage und echte Kausalität vernachlässigt. Der Artikel wird als wichtige Kritiklinie eingeordnet, die der Sprecher teilt.
Consciousness Explained
Daniel Dennett · 1993
In Consciousness Explained, Daniel C. Dennett reveals the secrets of one of the last remaining mysteries of the universe: the human brain. Daniel C. Dennett's now-classic book blends philosophy, psychology and neuroscience - with the aid of numerous examples and thought-experiments - to explore how consciousness has evolved, and how a modern understanding of the human mind is radically different from conventional explanations of consciousness.
🗣 Ijoma Mangold referenziert bei ⏱ 00:55:34 „Daniel Dennett, der ein ganz scharfer Monist ist oder Physikalist ist, also er meint, es gibt überhaupt nichts wie Geist, es gibt nur physikalische Vorgänge. Und da sagt er, ja, weil sie nur eine Illusion ist. Das Bewusstsein ist nur ein Epiphänomen.“
Ijoma Mangold stellt am Ende der Folge Daniel Dennetts philosophische Position ausführlich dar – Bewusstsein als Illusion, als Benutzeroberfläche ähnlich einem iPhone. Diese Thesen stammen aus Dennetts Hauptwerk 'Consciousness Explained' (1991), das namentlich nicht genannt, aber inhaltlich detailliert referiert wird.
Her
Spike Jonze · 2013
In was verliebt man sich bei seinem Gegenüber zuerst? Die Augen, das Gesicht, die Hände, die Stimme? Im Falle von Theodore Twombly ist es die Stimme. Ihm bleibt auch nichts anderes als die Stimme, denn Samantha ist körperlos. Sie ist die Stimme von Theodores neuem Betriebssystem, das über eine künstliche Intelligenz verfügt – und anscheinend auch über Emotionen.
🗣 Ijoma Mangold referenziert bei ⏱ 00:58:25 „Weil die nun endlich einen dauerhaft verlässlichen Ansprechpartner haben werden, so wie in dem berühmten Film Her mit der schönen Stimme von Johansson.“
Mangold stellt eine Prognosefrage zur Zukunft der Einsamkeit und verweist auf den Film 'Her' als Referenzpunkt: Könnten KI-Bots mit perfekter Empathiefähigkeit bis 2030 die Einsamkeit der Menschen verringern – so wie die KI-Partnerin mit Scarlett Johanssons Stimme im Film?