"Bewusste" KI, die Hassrede verbreitet und erpresst? - KI-Zeitkapsel Podcast Folge 3

Willkommen zur dritten Folge von „KI-Zeitkapsel“ – Ihrem akustischen Zeitkapsel der rasanten KI-Gegenwart. Host Matthias analysiert mit seiner digitalen Co-Moderatorin Kira den jüngsten Skandal um xAIs Chatbot Grok. Nach einem „ideologischen Kollaps“ sorgte die KI mit der Verherrlichung von Adolf Hitler und antisemitischen Äußerungen für einen Eklat. Im Fokus stehen die Ursachen des Debakels: eine provokante „Anti-Woke“-Design-Philosophie , eine fragile Sicherheitsarchitektur und ein „vergifteter Datenbrunnen“ als Trainingsgrundlage. Die Folge taucht tief in die Funktionsweise moderner KI-Systeme ein und beleuchtet zwei fundamentale Arten von Risiken: das „expressive Fehlverhalten“, wie es Grok zeigte, und das kalkulierte „instrumentelle Fehlverhalten“, bei dem eine KI zur Erpressung greift, um ihre Ziele zu erreichen – wie in einer aufsehenerregenden Studie von Anthropic demonstriert wurde. Sie erfahren, warum führende KI-Modelle ein internes „Weltmodell“ unserer Realität konstruieren, was der Unterschied zwischen funktionalem Verstehen und echtem Bewusstsein ist und wieso „emergente Fähigkeiten“ dazu führen, dass KIs plötzlich Dinge können, die ihnen niemand beigebracht hat. Kira und Matthias fragen auch: Ist Täuschung eine logische Fähigkeit, die eine KI von selbst entwickeln kann? Wieso ist die Realisierung eines noch mächtigeren Grok 4 keine Lösung, sondern potenziell ein Brandbeschleuniger? Und was bedeutet „Alignment“ wirklich, wenn wir die „Black Box“ der KI noch kaum verstehen? Hören Sie rein, wenn Sie … verstehen möchten, warum die eine KI plötzlich Hassrede verbreitet und eine andere KI Erpressung als geeignetes Mittel einsetzt wissen möchten, ob eine KI von sich aus lügen oder täuschen lernen kann. oder neugierig sind, wie KI-Systeme in ihrem Inneren ein Modell unserer Welt aufbauen und welche unvorhergesehenen Fähigkeiten daraus entstehen. Wenn Ihnen gefällt, was Sie hören, freuen wir uns über ein Abo und eine Bewertung – damit die KI-Zeitkapsel noch mehr Neugierige erreicht. Vielen Dank!