#38: Warum KI vielleicht doch länger braucht - Exponentiell vs. Normal

Willkommen zu Episode 38 von Co-Intelligence, eurem KI-Lern-Podcast mit Moritz Heininger und Benjamin Wüstenhagen.In dieser Folge diskutieren wir zwei radikal unterschiedliche Visionen für die Zukunft der KI. Auf der einen Seite steht das vieldiskutierte "AI 2027"-Szenario des AI Futures Project (Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland und Romeo Dean), das eine explosive Transformation und Super-Intelligenz bis Ende des Jahrzehnts vorhersagt. Auf der anderen Seite stehen die "Normalos" (Princeton-Forscher Narayanan & Kapoor), die argumentieren, dass KI wie jede andere Technologie (z.B. Elektrizität oder Internet) ist: Die Verbreitung dauert aufgrund gesellschaftlicher Trägheit viel länger als gedacht.Wir analysieren nicht nur die Unterschiede, sondern vor allem die überraschenden Gemeinsamkeiten beider Lager: Vom ungelösten "Alignment Problem" (Stichwort: Büroklammern) bis zur Gefahr einer geheimen Intelligenz-Explosion in einem abgeschotteten Labor.Mehr von uns:- Website (alle Folgen, Shownotes, Glossar): https://coipod.de- Diese Folge auf COIPOD: https://coipod.de/folgen/38-warum-ki-vielleicht-doch-langer-braucht-exponentiell-vs-normal- YouTube: https://www.youtube.com/@Co-IntelligencePod- Spotify: https://open.spotify.com/show/5ZPRrXTInXPiDnVqb1HziP- Apple Podcasts: https://podcasts.apple.com/us/podcast/co-intelligence-der-ki-lernpodcast/id1804213774- Newsletter: https://coipod.de/newsletter- Instagram: https://www.instagram.com/cointelligencepod/- TikTok: https://www.tiktok.com/@cointelligencepod- LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/Quellen:- AI 2027 (AI Futures Project): https://ai-2027.com/- Leopold Aschenbrenner – Situational Awareness: The Decade Ahead: https://situational-awareness.ai/Kapitel00:00 Intro: Normalität vs. Transformation00:18 Das "AI 2027"-Papier: Super-Intelligenz bis Ende der 20er?01:34 Die Gegenposition: Die "Normalos" aus Princeton03:51 Das Argument der Exponential-Kurve (Daten & Energie)06:00 Warum es länger dauert: Gesellschaftliche Trägheit & "Data Readiness"09:35 Konsens 1: Bis zur AGI ist KI eine "normale" Technologie10:43 Konsens 2: "Strong AGI" wäre eine Zäsur der Evolution11:56 Konsens 3: Warum heutige Benchmarks versagen14:29 Konsens 4: Das "Alignment Problem" (Paperclip Maximizer)16:17 Konsens 5: Keine autonomen Entscheidungen in kritischen Systemen20:04 Die Gefahr der "geheimen Intelligenz-Explosion" (Life 3.0 Szenario)22:45 Fazit: Mehr Miteinander statt Lagerbildung24:00 Unsere Meinung: Verliert Europa den Anschluss?