EPISODE · Dec 10, 2025 · 32 MIN
#38: Warum KI vielleicht doch länger braucht - Exponentiell vs. Normal
from Co-Intelligence – Der KI-Lernpodcast · host Benjamin Wüstenhagen und Moritz Heininger
Willkommen zu Episode 38 von Co-Intelligence, eurem KI-Lern-Podcast mit Moritz Heininger und Benjamin Wüstenhagen.In dieser Folge diskutieren wir zwei radikal unterschiedliche Visionen für die Zukunft der KI. Auf der einen Seite steht das vieldiskutierte "AI 2027"-Papier (Leopold Aschenbrenner), das eine explosive Transformation und Super-Intelligenz bis Ende des Jahrzehnts vorhersagt. Auf der anderen Seite stehen die "Normalos" (Princeton-Forscher Narayanan & Kapoor), die argumentieren, dass KI wie jede andere Technologie (z.B. Elektrizität oder Internet) ist: Die Verbreitung dauert aufgrund gesellschaftlicher Trägheit viel länger als gedacht.Wir analysieren nicht nur die Unterschiede, sondern vor allem die überraschenden Gemeinsamkeiten beider Lager: Vom ungelösten "Alignment Problem" (Stichwort: Büroklammern) bis zur Gefahr einer geheimen Intelligenz-Explosion in einem abgeschotteten Labor.TIMESTAMPS:00:00 Intro: Normalität vs. Transformation00:18 Das "AI 2027"-Papier: Super-Intelligenz bis Ende der 20er?01:34 Die Gegenposition: Die "Normalos" aus Princeton03:51 Das Argument der Exponential-Kurve (Daten & Energie)06:00 Warum es länger dauert: Gesellschaftliche Trägheit & "Data Readiness"09:35 Konsens 1: Bis zur AGI ist KI eine "normale" Technologie10:43 Konsens 2: "Strong AGI" wäre eine Zäsur der Evolution11:56 Konsens 3: Warum heutige Benchmarks versagen14:29 Konsens 4: Das "Alignment Problem" (Paperclip Maximizer)16:17 Konsens 5: Keine autonomen Entscheidungen in kritischen Systemen20:04 Die Gefahr der "geheimen Intelligenz-Explosion" (Life 3.0 Szenario)22:45 Fazit: Mehr Miteinander statt Lagerbildung24:00 Unsere Meinung: Verliert Europa den Anschluss?LINKS & MENTIONS:Leopold Aschenbrenner (Situational Awareness / "AI 2027"): https://situational-awareness.ai/Arvind Narayanan & Sayash Kapoor (Princeton / AI Snake Oil): https://www.aisnakeoil.com/OpenAI (Sam Altman): https://openai.com/Andreessen Horowitz / a16z (Marc Andreessen): https://a16z.com/The Economist: https://www.economist.com/Harvard Business Review: https://hbr.org/
What this episode covers
Willkommen zu Episode 38 von Co-Intelligence, eurem KI-Lern-Podcast mit Moritz Heininger und Benjamin Wüstenhagen.In dieser Folge diskutieren wir zwei radikal unterschiedliche Visionen für die Zukunft der KI. Auf der einen Seite steht das vieldiskutierte "AI 2027"-Papier (Leopold Aschenbrenner), das eine explosive Transformation und Super-Intelligenz bis Ende des Jahrzehnts vorhersagt. Auf der anderen Seite stehen die "Normalos" (Princeton-Forscher Narayanan & Kapoor), die argumentieren, dass KI wie jede andere Technologie (z.B. Elektrizität oder Internet) ist: Die Verbreitung dauert aufgrund gesellschaftlicher Trägheit viel länger als gedacht.Wir analysieren nicht nur die Unterschiede, sondern vor allem die überraschenden Gemeinsamkeiten beider Lager: Vom ungelösten "Alignment Problem" (Stichwort: Büroklammern) bis zur Gefahr einer geheimen Intelligenz-Explosion in einem abgeschotteten Labor.TIMESTAMPS:00:00 Intro: Normalität vs. Transformation00:18 Das "AI 2027"-Papier: Super-Intelligenz bis Ende der 20er?01:34 Die Gegenposition: Die "Normalos" aus Princeton03:51 Das Argument der Exponential-Kurve (Daten & Energie)06:00 Warum es länger dauert: Gesellschaftliche Trägheit & "Data Readiness"09:35 Konsens 1: Bis zur AGI ist KI eine "normale" Technologie10:43 Konsens 2: "Strong AGI" wäre eine Zäsur der Evolution11:56 Konsens 3: Warum heutige Benchmarks versagen14:29 Konsens 4: Das "Alignment Problem" (Paperclip Maximizer)16:17 Konsens 5: Keine autonomen Entscheidungen in kritischen Systemen20:04 Die Gefahr der "geheimen Intelligenz-Explosion" (Life 3.0 Szenario)22:45 Fazit: Mehr Miteinander statt Lagerbildung24:00 Unsere Meinung: Verliert Europa den Anschluss?LINKS & MENTIONS:Leopold Aschenbrenner (Situational Awareness / "AI 2027"): https://situational-awareness.ai/Arvind Narayanan & Sayash Kapoor (Princeton / AI Snake Oil): https://www.aisnakeoil.com/OpenAI (Sam Altman): https://openai.com/Andreessen Horowitz / a16z (Marc Andreessen): https://a16z.com/The Economist: https://www.economist.com/Harvard Business Review: https://hbr.org/
NOW PLAYING
#38: Warum KI vielleicht doch länger braucht - Exponentiell vs. Normal
No transcript for this episode yet
Similar Episodes
No similar episodes found.
Similar Podcasts
No similar podcasts found.