Gut gemeint, aber gefährlich - wird die Regulierung von KI zum Werkzeug für Zensur?

Sichere KI wollen die meisten - eine KI, die nicht Falschinformationen verbreitet, sich an ethische Standards hält, keine Anleitungen zum Suizid verbreitet und sich von Straftaten fernhält. Aber was, wenn genau die Methoden, die KI sicher machen sollen, das perfekte Werkzeug für Zensur sind? KI wird zum ersten Kontaktpunkt für fast alles: für Kinder statt Google, für Unternehmen, als Ersatz für den Arztbesuch, im politischen Wahlkampf. Wer entscheidet, was diese Modelle sagen dürfen – und was nicht –, entscheidet damit über den Informationsraum einer ganzen Gesellschaft. Und diese Entscheidungen treffen heute erstaunlich wenige Menschen: eine Handvoll Mitarbeiter der KI-Anbieter aus den USA und China sowie die Staaten, die sie regulieren. Was verschweigen uns die KI-Modelle, ohne dass uns dies bewusst ist? Ein echtes Dilemma also, mit dem unsere beiden Studiogäste auf der renommierten internationalen Konferenz für Machine Learning ICML in Südkorea für großes Aufsehen gesorgt haben - inklusive interessanter Reaktionen der chinesischen Konferenzteilnehmer. Sarah Ball forscht an der LMU München zu AI Safety und Alignment, Phil Hackemann ist Politikwissenschaftler. Für ihr gemeinsames Paper „The Alignment Community is Unintentionally Building a Censor's Toolkit" wurden sie auf der ICML 2026 in Südkorea ausgezeichnet. Sie erklären uns, an welchen drei Stellen ein Modell überhaupt gesteuert wird, warum Elon Musks Grok zum Lehrstück für Manipulation wurde und wieso ein chinesisches Open-Weights-Modell im eigenen Rechenzentrum kein Souveränitätsgewinn ist. Und wir fragen nach, was passiert, wenn Modelle anfangen, über sich selbst nachzudenken. Falls ihr wissen wollt, welche Antwort Sarah und Phil auf das Problem des zweischneidigen Schwertes der KI-Regulierung vorschlagen, dann hört in diese spannende Folge von #digdeep rein. Und die Antwort ist übrigens nicht "mehr Regulierung"... --- Das Paper findet ihr hier: 🌐 Paper-Website: https://s-ball-10.github.io/censors-toolkit/ 📄 Paper (arXiv): https://arxiv.org/html/2608.12346