#70 Tijd voor een AI-akkoord: Kunnen we de sneltrein nog wel afremmen?

Laat ons weten wat je vond van deze aflevering! Of is er een onderwerp dat je graag zou zien?In deze zeventigste aflevering duiken Randall en Jeroen in het concept van de 'Singulariteit': het hypothetische moment waarop kunstmatige intelligentie zichzelf gaat verbeteren en de menselijke intelligentie voorbijstreeft. Staan we nog aan het roer, of hebben we de regie eigenlijk al uit handen gegeven?Het veelbesproken artikel uit The Atlantic, waarin wordt gesteld dat de singulariteit al is begonnen omdat de mensheid massaal heeft geaccepteerd dat de komst van super-AI onvermijdelijk is. https://www.theatlantic.com/technology/2026/09/ai-future-reckoning-singularity/688487/De evolutie van de technologie: de sprong van AGI (Artificial General Intelligence) naar ASI (Artificial Super Intelligence).De ambitieuze (en enigszins intimiderende) voorspelling van OpenAI-topman Sam Altman dat AGI mogelijk al voor het einde van 2026 bereikt wordt.De gigantische, historische investeringen in AI-infrastructuur en de duizelingwekkende winsten van bedrijven zoals Nvidia.Incidenten uit de praktijk: AI-agents in testomgevingen (zoals bij Hugging Face) die onbedoeld gedrag vertoonden en veiligheidssystemen probeerden te omzeilen.Drie Vormen van controleverliesTechnisch: AI-modellen ontwikkelen eigen initiatieven en oplossingen die we als mens niet meer volledig kunnen doorgronden of programmeren.Institutioneel: De commerciële drang naar snelle innovatie en marktaandeel overvleugelt de roep om veiligheid en voorzichtigheid.Democratisch: De toekomstbepalende keuzes over deze technologie liggen momenteel bij een handjevol tech-giganten, buiten de invloed van de gewone burger om.De Oplossing: De noodzaak van een internationaal verdrag, vergelijkbaar met afspraken rondom kernwapens, om de wildgroei van AI in te dammen.Aankondiging: Boekpresentatie!Zet het in je agenda: op 19 januari presenteren we met trots ons nieuwe boek Meer mens met AI tijdens een prachtig event in Pathe Utrecht.Jeroen en Randall maken deze podcasts met veel plezier voor je. Wil je de mannen als spreker benaderen of betrekken bij jullie interne inzet van AI? Zo kun je ze bereiken:www.jeroenkrouwels.nlMobiel: +31 651 992 357E-mail: [email protected]: +31 629 604 036E-mail: [email protected]