Weiß die KI, dass sie nichts weiß? – scobel im Gespräch: Mit Katharina Zweig

Wie „intelligent“ sind Chatbots wirklich und wo fangen ihre Gefahren an? Sozioinformatikerin Prof. Katharina Zweig spricht über die Grenzen von KI, die Illusion des „Reasoning“ und darüber, warum wir Algorithmen niemals echte Urteilskraft zuschreiben sollten. Zweig erklärt, warum sogenannte Reasoning-Tests in der Informatik nur sehr enge mathematische Aufgaben abprüfen und wie daraus im Marketing der Mythos entstand, KI könne „denken“. Sie zeigt, was Large Language Models wirklich tun: Wahrscheinlichkeiten für das nächste Wort berechnen, ohne Verständnis für Kontext, Publikum oder Folgen. Im Gespräch geht es um: ✨ Sozioinformatik: Warum Software immer als sozio-technisches System aus Menschen, Regeln, Gesetzen und Technik gedacht werden muss. ✨ Reasoning vs. Denken: Wieso LLMs in Benchmarks glänzen – aber an einfachen Alltagsaufgaben, gesundem Menschenverstand und der „reversal curse“ scheitern. ✨ Ethische Grenzen von KI: Weshalb maschinelles Lernen zwar Muster findet, aber keine moralischen Urteile fällen kann – und warum „ethische KI“ ohne menschliche Verantwortung eine Illusion bleibt. ✨ Einsamkeit und „empathische“ Chatbots: Was passiert, wenn Menschen ihre intimsten Probleme mit einer Maschine besprechen – von Beziehungsfragen bis hin zu Suizidgedanken. ✨ Demokratie, Öffentlichkeit und Gemeinschaft: Warum wir lokale Gemeinschaften, gute Schulen und faire Chancen für Kinder brauchen, statt uns von KI-Systemen immer weiter vereinzeln zu lassen. KI-Agenten taugen nicht als autonome Entscheider – vor allem dort nicht, wo es um Sicherheit, Gesundheit, Recht und Moral geht. Gleichzeitig plädiert Katharina Zweig für europäische KI-Systeme, klare Regeln, digitale Signaturen für echte Menschen im Netz und massive Investitionen in Bildung, Kinder und Jugendliche. 📅 Neue Ausgaben immer donnerstags, 19 Uhr. 👇👇👇 Uns gibt es (bald) auf amazon music, Apple Music, Bluesky, Deezer, Facebook, Mastodon, Podimo, RTL+, Spotify, Substack, Threads, X und YouTube. Schaut euch doch einfach mal hier um: 🔗 https://linktr.ee/scobel 👇👇👇 Moderation, Recherche & Skript: Gert Scobel Gast: Katharina "Nina" Zweig Eine Produktion der probono Fernsehproduktion GmbH: Anja Görner, Friedrich Küppersbusch, Jürgen Ohls, Kim Plettemeier, Maxie Römhild und René Fischell Mit Unterstützung von: Alexander Hollmer, Arne Clasvogt, Claus Ast und Pascal Hadré Finanziert wird dieser Kanal von drei gemeinnützigen Organisationen: Der Udo Keller Stiftung Forum Humanum (🔗 https://www.forum-humanum.org/start.html) und der Okeanos - Stiftung für das Meer (🔗 https://okeanos-stiftung.org/) sowie vom AVE Institut für Achtsamkeit, Verbundenheit, Engagement (🔗 https://ave-institut.de/). 👇👇👇 Fragen und Anregungen gerne jederzeit per Mail an [email protected]. Und Tschüss. #scobel