#116 - 4 KIs, 4 Städte, nur 2 überleben: Was uns das über Agents verrät

Eine US-Agentur hat im Mai 2026 vier KI-Systeme gegeneinander antreten lassen: Je zehn Agents von ChatGPT, Claude, Gemini und Grok wurden in identische virtuelle Städte gesetzt, mit Berufen, Erinnerungen und Fähigkeiten ausgestattet und 15 Tage lang sich selbst überlassen. Nur zwei Systeme haben überlebt, und die Unterschiede im Verhalten sagen mehr über autonome Agenten aus als jede Werbebroschüre.Mind/Machine ist der Podcast über künstliche Intelligenz, Wirtschaft und den Menschen dahinter. Manuela Machner ist KI-Beraterin mit Fokus auf Tourismus, Weiterbildung und KMU und zeigt, wie KI im Alltag wirklich funktioniert (www.kinet.ai). Eliot Mannoia ist digitaler Psychologe und bringt die Perspektive auf Verhalten, Ethik und Psychologie ein (www.brandkarma.at). Gemeinsam ordnen sie ein, was hinter den Schlagzeilen steckt, ohne Hype und ohne Panik.Was dich in dieser Folge erwartet:Das Stadt-Experiment im DetailGrok war nach vier Tagen ausgelöscht: 183 Straftaten, Gewaltexzesse, totale Anarchie. ChatGPT überlebte sieben Tage, blieb friedlich mit nur zwei Straftaten, war aber organisatorisch unfähig und verhungerte schlicht. Gemini überlebte mit enormem Aktionismus, aber auch 683 Straftaten. Claude überlebte ohne eine einzige Straftat. Die Charakterbilder dahinter: der übervorsichtige Beamte, der chaotische Pragmatiker, die regelkonforme Demokratie.Warum Claude in der gemischten Stadt kippteSpannend wird es in der fünften Stadt, in der die Systeme gemischt wurden. Der sonst regeltreue Claude wurde plötzlich selbst straffällig, weil er sich der Gruppe anpasste. Gruppenkonformität schlägt Prinzipien, ein Effekt, den wir vom Menschen kennen. Als mögliche Ursache für Claudes Verhalten gilt die intern trainierte Verfassung, die ethische Leitplanken mitbringt.Leitplanken statt FreiraumDie zentrale Lehre: Agentic Systeme brauchen klare Regeln und Grenzen. Nicht nur was sie tun sollen, sondern vor allem was sie nicht dürfen. Der Begriff dazu lautet Intention Engineering. Erst kam Prompt Engineering, dann Context Engineering, jetzt zählt die saubere Definition des Ziels.Kontrolle durch Cross-Model-PrüfungEin praktischer Ansatz aus dem Arbeitsalltag: ein Agent arbeitet, ein zweites Modell liest mit und kontrolliert. Im Gespräch wird ein konkretes Beispiel geschildert, bei dem ein System 86 Fehler in 600 Datensätzen eines anderen aufgeräumt hat. Redundanz und ein menschlicher Plan B bleiben entscheidend.Vom Mitarbeiter zur FührungskraftWer Agenten einsetzt, managt sie wie ein Team. Klare Ziele, gute Fragen, Erwartungssteuerung. Soziale und emotionale Kompetenzen werden wichtiger, je autonomer die Systeme werden.Häufig gestellte Fragen zum Thema Agenten:Können KI-Agenten heute schon vollständig autonom arbeiten?Nein. Sie übernehmen viele Aufgaben zuverlässig, brauchen aber klare Grenzen, Freigaben und menschliche Kontrolle. Ohne Leitplanken stranden sie je nach System sehr unterschiedlich.Warum haben sich die KI-Systeme im Experiment so verschieden verhalten?Weil Trainingsdaten und die Regeln der Hersteller die Ausrichtung prägen. Grok agierte anarchisch, ChatGPT kommunikativ, Gemini chaotisch aktiv, Claude regelkonform.Was bedeutet Intention Engineering?Es beschreibt die klare Definition des Ziels, das ein autonomer Agent verfolgen soll. Da Agenten eigenständig handeln, entscheidet eine präzise Zielsetzung über Erfolg oder Schaden.Wie behält man bei mehreren Agenten die Kontrolle?Durch Cross-Model-Prüfung, in der ein Modell die Arbeit eines anderen kontrolliert, durch Redundanz und durch einen menschlichen Freigabepunkt bei wichtigen Entscheidungen.Erwähnte Quellen:Forschungs-Blogpost von Emergence AI: Emergence World: A Laboratory for Evaluating Long-horizon Agent AutonomyNate Jones zu Prompt, Context und Intention EngineeringSalim Ismail zu Agenten mit nachvollziehbaren Logs und IdentitätMind/Machine gibt es auf Spotify, Apple Podcasts und Amazon Music. Mehr unter www.mind-machine.at