Inferenza europea e zero log | Eugenio Petullà

Inferenza LLM in Europa, zero data retention e open weight: Eugenio Petullà (Regolo.ai) su dove finiscono i tuoi dati quando interroghi un modello di frontiera o open weight.Parliamo con Eugenio Petullà, Chief AI Alchemist di Regolo.ai, provider europeo di inferenza hostato in Italia nel gruppo DHH/Seeweb. Regolo serve modelli open weight a consumo tramite API OpenAI-compatible, con zero data retention: niente log, niente training sui dati dei clienti, tutto dentro un datacenter italiano GDPR-compliant.Nell'intervista: la geopolitica delle GPU e perché l'Europa è schiacciata tra USA e Cina (TSMC, ASML, il collo di bottiglia di Taiwan), il routing dei modelli con brick e il principio "il modello giusto per il task giusto" (non Fable per tradurre un'email), la libreria ai-footprint per misurare CO2 e Watt di ogni chiamata, il sospetto che OpenAI e Anthropic logghino i tuoi prompt, e perché l'Europa ha perso il treno del training ma può ancora vincere su inferenza e robotica.🎓 Capitoli0:00:00 Inferenza europea e i tuoi dati0:06:07 Red Hat, GNOME e l'amore per Linux0:11:00 Professional open source: Mozilla e WordPress0:15:52 Regolo, provider europeo di inferenza0:20:47 GLM, Qwen, Gemma e i small model0:27:56 I tre business model di Regolo0:33:45 Geopolitica GPU: Europa tra USA e Cina0:43:52 Server farm, memoria e impatto ambientale0:56:00 Modelli di frontiera, Mistral e gap europeo1:03:39 Routing e brick: il modello giusto1:12:31 Zero data retention: i tuoi dati su OpenAI1:18:30 Colonia tecnologica e cloud sovrano1:24:59 Il futuro degli open weight1:32:26 AI Act, il treno perso e robotica🔗 Ascolta sull'altra piattaformaSpotify: https://open.spotify.com/episode/4mlKC6SrTiixqdNCVjD75T?utm_source=youtube&utm_medium=description&utm_campaign=petulla_dropSito: https://risorseartificiali.com/?utm_source=youtube&utm_medium=description&utm_campaign=petulla_drop👥 Eugenio PetullàLinkedIn: https://www.linkedin.com/in/eugeniopetullaRegolo.ai: https://regolo.aiSe ti piace il podcast, iscriviti al canale. Si parla di AI Engineering in italiano, tra pari tecnici.