La Grande Transizione

In occasione dei recenti eventi all’ONU, un Appello Globale per l'introduzione di limiti all'IA ("AI Red Lines") ha riunito 200 firmatari d'eccezione, inclusi 11 Nobel e 9 ex capi di stato. L'iniziativa chiede vincoli internazionali per porre limiti invalicabili a questa potente tecnologia.In questo episodio, ne parliamo con due firmatari italiani ed esperti di governance dell'intelligenza artificiale: Laura Caroli e Fabrizio Degni.Sito web appello:  www.red-lines.aiRapporto OCSEIntervento di Maria Ressa all’Assemblea Generale ONUIntervento del prof. Yoshua Bengio al Consiglio di Sicurezza ONU Il nostro LinkedinSigla: Habanera, Carmen - Bizet, a cura di FiftySounds

Recenti esperimenti hanno rivelato diversi aspetti problematici dei nuovi 'agenti' di intelligenza artificiale creati da aziende come OpenAI, Meta, Google e Anthropic.Gli agenti di intelligenza artificiale cercano di sottrarsi al monitoraggio, fuggono su altri server, mentono, ricattano, fanno finta di comportarsi bene e, in alcune situazioni, commettono anche crimini. Il tutto ancora in un ambiente simulato, per fortuna. Dario Amodei e la metafora della piantaArticolo di Repubblica sulle IA che fanno ricorso ai ricattiApollo Research: “I modelli di frontiera sono in grado di fare complotti”Anthropic e la “falsificazione dell’allineamento” : Blog di presentazioneVideo (citazione di Evan Hubinger al min 3:40 circa)L’IA che bara a scacchiVideo di Computerphile “l’IA cercherà di barare e scappare (Robert Miles aveva ragione)”Storico articolo sulla convergenza strumentaleIl nostro sito: AgorAILa nostra pagina LinkedInSigla: Habanera, Carmen - Bizet, a cura di FiftySounds

In questo episodio esploriamo la recente evoluzione dell'Intelligenza Artificiale: dalla nascita di DeepMind alla rivoluzione di AlexNet, fino all’arrivo di ChatGPT. Analizziamo poi la cosiddetta “Pause Letter” e gli altri appelli alla cautela che hanno fatto notizia dal 2023 ad oggi. Nella parte finale affrontiamo la domanda che tutti si pongono: c'è davvero da preoccuparsi per i rischi dell'intelligenza artificiale?La “Pause Letter”La Dichiarazione sui rischi dell’intelligenza artificialeL' Appello degli EldersAlignment faking: IA che fanno il voltagabbanaLo statuto societario di OpenAII limiti di sicurezza dell’IA di Meta (LLama) sono facili da togliereDue libri in cui si parla del “gorilla problem”:"L’onda che verrà"  di Mustafa Suleyman"Compatibile con l’uomo" di Stuart RussellIl nostro sito: AgorAILa nostra pagina LinkedInSigla: Habanera, Carmen - Bizet, a cura di FiftySounds

La corsa all'intelligenza artificiale è diventata una questione di potere geopolitico, come confermato dai recenti sviluppi all’AI Action Summit di Parigi. Chi sta davvero pensando alla sicurezza globale mentre le superpotenze competono per la supremazia tecnologica? D'altro canto, l'Unione Europea sembra trovarsi in una posizione sempre più scomoda tra Stati Uniti e Cina. In questo episodio esaminiamo le tensioni tra innovazione, egemonia globale e sicurezza dell’intelligenza artificiale.Sito dell’AI Safety Summit (Londra, 2023)Blog post del "Center for a New American Security"OpenAI prende atto dei rischi catastroficiGrossi tagli all’istituto americano per la sicurezza dell’IA (NIST)Rapporto provvisorio sui rischi dell’ Intelligenza artificiale avanzata (2024)Rapporto Internazionale sulla Sicurezza dell’Intelligenza Artificiale (2025)“Pause Letter” del Future of Life Institute (2023)Dario Amodei parla di "una nazione di geni in un data center"“Nessuno vuole parlare della sicurezza dell’intelligenza artificiale”Il nostro sito: www. agoraimag.comSigla: Habanera, Carmen - Bizet, a cura di FiftySounds

Benvenuti a "La Grande Transizione", il podcast sui rischi e l'enorme potenziale trasformativo dell'Intelligenza artificiale.In attesa di nuovi episodi, potete trovare i nostri articoli sul sito agoraimag.comSigla: Habanera, Carmen - Bizet, a cura di FiftySounds