EPISODE · Dec 24, 2025 · 26 MIN
Episode 31: Kan AI utslette menneskeheten? Nobelprisvinnere advarer
from AI-Snakk · host Audun Kvitland Røstad
Kan kunstig intelligens faktisk true menneskehetens eksistens? I denne spesialepisoden går vi i dybden på det kanskje viktigste spørsmålet i AI-debatten. Ikke fordi jeg sier det – men fordi nobelprisvinnere og verdens fremste AI-forskere sier det.Geoffrey Hinton, "gudfaren av dyp læring" og nobelprisvinner i fysikk 2024, forlot Google for å kunne advare fritt. Hans estimat? 10-20% sjanse for at AI utsletter menneskeheten innen 30 år. Yoshua Bengio, Turing-prisvinner og verdens mest siterte informatiker, publiserte i februar 2025 en artikkel med 24 andre eksperter som advarer om "irreversibelt tap av kontroll." Og i desember 2025 ga Future of Life Institute alle de største AI-selskapene karakter D i eksistensiell sikkerhet.Dette er ikke science fiction. Dette er arkitektene bak teknologien som advarer om sin egen oppfinnelse.Men det er også håp. Samme eksperter skisserer scenarioer hvor AI kurerer alle sykdommer innen ti år, dobler menneskets levetid og løser klimakrisen. Spørsmålet er hvordan vi maksimerer sjansen for utopia mens vi minimerer risikoen for katastrofe.I denne episoden dekker vi:Hvem som advarer og hvorfor (Hinton, Bengio, Hassabis, Altman, Amodei)Worst case: Fra tap av kontroll til totalitær overvåkningBest case: Alle sykdommer kurert, radikal overflodAI Safety Clock: Nå 20 minutter til midnattLøsninger: Compute governance, Constitutional AIHva skjer i Norge: KI-loven kommer august 2026Konkrete råd: Hva du kan gjøre som enkeltpersonVarselord: Eksistensiell risiko, AI-sikkerhet, dystopi, utopiLes mer:Hinton & Bengio et al. "Managing extreme AI risks amid rapid progress" (2024)Future of Life Institute AI Safety Index Winter 2025AI Safety Clock (IMD, sept 2025)Dario Amodei: "Machines of Loving Grace" (2024)Inga Strümke: "Maskiner som tenker"Regjeringen.no: KI-loven (2025)
What this episode covers
Kan kunstig intelligens faktisk true menneskehetens eksistens? I denne spesialepisoden går vi i dybden på det kanskje viktigste spørsmålet i AI-debatten. Ikke fordi jeg sier det – men fordi nobelprisvinnere og verdens fremste AI-forskere sier det.Geoffrey Hinton, "gudfaren av dyp læring" og nobelprisvinner i fysikk 2024, forlot Google for å kunne advare fritt. Hans estimat? 10-20% sjanse for at AI utsletter menneskeheten innen 30 år. Yoshua Bengio, Turing-prisvinner og verdens mest siterte informatiker, publiserte i februar 2025 en artikkel med 24 andre eksperter som advarer om "irreversibelt tap av kontroll." Og i desember 2025 ga Future of Life Institute alle de største AI-selskapene karakter D i eksistensiell sikkerhet.Dette er ikke science fiction. Dette er arkitektene bak teknologien som advarer om sin egen oppfinnelse.Men det er også håp. Samme eksperter skisserer scenarioer hvor AI kurerer alle sykdommer innen ti år, dobler menneskets levetid og løser klimakrisen. Spørsmålet er hvordan vi maksimerer sjansen for utopia mens vi minimerer risikoen for katastrofe.I denne episoden dekker vi:Hvem som advarer og hvorfor (Hinton, Bengio, Hassabis, Altman, Amodei)Worst case: Fra tap av kontroll til totalitær overvåkningBest case: Alle sykdommer kurert, radikal overflodAI Safety Clock: Nå 20 minutter til midnattLøsninger: Compute governance, Constitutional AIHva skjer i Norge: KI-loven kommer august 2026Konkrete råd: Hva du kan gjøre som enkeltpersonVarselord: Eksistensiell risiko, AI-sikkerhet, dystopi, utopiLes mer:Hinton & Bengio et al. "Managing extreme AI risks amid rapid progress" (2024)Future of Life Institute AI Safety Index Winter 2025AI Safety Clock (IMD, sept 2025)Dario Amodei: "Machines of Loving Grace" (2024)Inga Strümke: "Maskiner som tenker"Regjeringen.no: KI-loven (2025)
NOW PLAYING
Episode 31: Kan AI utslette menneskeheten? Nobelprisvinnere advarer
No transcript for this episode yet