AI Alignment: Könnte eine KI uns alle umbringen?

Manche halten es für das größte Risiko der Menschheit: Eine künstliche Super-Intelligenz, die außer Kontrolle gerät und die Menschheit ausrottet. Aber ist wirklich etwas dran an diesem düsteren Szenario? Über die Hosts: Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins. Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa. In dieser Folge: 0:00 Intro 2:30 Die Angst vor dem Paperplic Maximizer 9:10 Was ist "Alignment”? 15:30 Woher kommt die Angst vor der Super-KI? 21:40 Echte Gefahr oder Spinnerei? 28:00 Was haben wir mit KI gemacht? Redaktion und Mitarbeit: David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried Links und Quellen: Asimov und die Robotergesetze https://www.deutschlandfunkkultur.de/100-geburtstag-von-isaac-asimov-als-der-erste-moralkodex-100.html Stephen Hawking über die Gefahr durch eine Super-KI (2014) https://www.bbc.com/news/technology-30290540 "Effective Altruism” und die Angst vor der Super-KI https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/ Alte Geschichten und Ängste: https://www.cbc.ca/radio/tapestry/fear-of-ai-1.7012912 Der KI-Podcast bei der TINCON Berlin 2024 https://tincon.org/event/berlin24/takeover-eine-ki-ubernimmt-den-ki-podcast Open AI veröffentlicht neues Modell GPT-4o https://www.theverge.com/2024/5/13/24155493/openai-gpt-4o-launching-free-for-all-chatgpt-users 27 — Der Podcast zur Europawahl https://1.ard.de/27-podcast?cp=ki Kontakt: Wir freuen uns über Fragen und Kommentare an [email protected]. Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!